Wohin die Millisekunden wirklich gehen

Latenz ist keine einzelne Zahl, sondern eine Summe aus vier verschiedenen Verzoegerungen, und sie verhalten sich voellig unterschiedlich. Die Ausbreitungsverzoegerung ist die Zeit, die das Signal fuer die Strecke braucht, festgelegt durch die Lichtgeschwindigkeit im Medium. Die Uebertragungsverzoegerung ist die Zeit, um alle Bits eines Pakets auf den Link zu schieben, festgelegt durch die Linkrate und die Paketgroesse. Die Warteschlangenverzoegerung ist die Zeit, die ein Paket in einem Puffer hinter anderen Paketen wartet, festgelegt dadurch, wie ausgelastet das Netz gerade ist. Die Verarbeitungsverzoegerung ist die winzige Zeit, die ein Router damit verbringt, einen Header anzusehen und einen Ausgang zu waehlen. Nur zwei der vier reagieren in offensichtlicher Weise auf Geld, und die groesste reagiert ueberhaupt nicht.

London to New York        5 550 km    one way
speed in fibre           200 000 km/s
one way delay            27.8 ms
minimum round trip       55.5 msDieselbe Rechnung fuer jedes beliebige Staedtepaar: Entfernung, Entfernung, Entfernung.

Licht im Vakuum legt 300 000 km pro Sekunde zurueck. In der Glasfaser hat der Kern eine Brechzahl von etwa 1,47, sodass sich das Signal mit ungefaehr 200 000 km pro Sekunde bewegt, also etwa zwei Dritteln davon. Das ist keine Einschraenkung der Geraete. Es ist eine Eigenschaft des Glases, und keine Ingenieurskunst beseitigt sie. Jeder Kilometer kostet daher etwa 0,005 ms in eine Richtung, und weil ein Gespraech eine Antwort braucht, kostet er etwa 0,01 ms pro Kilometer fuer den Hin- und Rueckweg. Diese Zahl ist die untere Grenze unter jedem Netzwerkentwurf der Welt.

Die Uebertragungsverzoegerung haengt davon ab, wie viele Bits Sie senden und wie schnell der Link ist, und von nichts anderem. Ein Ethernet-Rahmen maximaler Groesse hat 1500 Byte, das sind 12 000 Bits. Auf einem 1-Gbit/s-Link dauert es 0,012 ms, ihn auf die Leitung zu legen, auf einem 100-Mbit/s-Link genau zehnmal so lange. Man beachte, was das bedeutet: Fuer ein einzelnes kleines Paket ist die Linkrate neben einer Ozeanueberquerung von 50 ms nahezu irrelevant. Die Bandbreite entscheidet, wie lange eine grosse Uebertragung dauert; sie entscheidet nicht, wie lange eine einzelne Anfrage dauert.

1500 bytes = 12 000 bits

1 Gbit/s    serialisation  0.012 ms
100 Mbit/s  serialisation  0.120 msZwoelftausend Bits, zwei sehr unterschiedliche Links.

Router schneiden Pakete nicht durch. Ein Router muss das ganze Paket empfangen, es pruefen, entscheiden, wohin es geht, und erst dann beginnen, es auf den naechsten Link zu senden. Die Gesamtzeit ist also eine Summe ueber die Hops, kein Maximum, und jeder Hop fuegt sowohl seine eigene Uebertragungsverzoegerung als auch seine eigene Verarbeitung hinzu. Auf einem Pfad von zwanzig Hops sind das zwanzig kleine Additionen, weshalb ein schnelles lokales Netz ueber eine lange Route trotzdem Dutzende Millisekunden verliert.

Die Warteschlange ist die einzige der vier Verzoegerungen, die wirklich unvorhersehbar ist, und sie ist der Grund, warum zwei identische Anfragen sehr unterschiedlich lange dauern koennen. Wenn ein Link fast untaetig ist, wartet ein Paket auf nichts. Wenn der Link ausgelastet ist, reihen sich Pakete in einem Puffer auf, und diese Wartezeit kann Mikrosekunden oder Hunderte Millisekunden betragen, je nach Verkehr, den Sie nicht kontrollieren. Wenn der Puffer ueberlaeuft, werden Pakete verworfen, was bei TCP eine Neuuebertragung bedeutet, was mindestens einen zusaetzlichen Round Trip bedeutet. Deshalb kann ein Link in einem Test um 3 Uhr morgens schnell wirken und in einem Videoanruf um 20 Uhr langsam.

Was Nutzer spueren, sind Round Trips, nicht die Verzoegerung in eine Richtung, weil fast jedes Protokoll ein Gespraech ist. Eine DNS-Abfrage ist ein Round Trip, das Oeffnen einer TCP-Verbindung ist einer, ein TLS-Handshake auf einer frischen Verbindung sind ein oder zwei weitere, und erst danach reist die Anfrage nach der Seite. Der Aufbau einer Seite mit einer kalten Verbindung bezahlt daher drei oder vier Round Trips, bevor das erste nuetzliche Byte ankommt, und jeder davon kostet die volle Entfernung zum Server und zurueck.

$ curl -w "dns %{time_namelookup} connect %{time_connect} tls %{time_appconnect} total %{time_total}\n" -o /dev/null -s https://example.org
dns 0.004 connect 0.058 tls 0.117 total 0.171

$ curl -o /dev/null -s -w "total %{time_total}\n" https://example.org
$ curl -o /dev/null -s -w "total %{time_total}\n" https://example.org
total 0.171
total 0.062Die Phasen einer echten Anfrage messen und sie dann auf einer wiederverwendeten Verbindung erneut messen.

Deshalb ist die Wiederverwendung von Verbindungen keine Optimierung, sondern die Hauptsache. Eine offen gehaltene Verbindung laesst den Client fuer die naechste Anfrage den TCP- und den TLS-Handshake voellig ueberspringen und macht aus einem Seitenaufbau von 170 ms einen von 60 ms ueber einen Ozean hinweg. Deshalb kostet HTTPS auf einer kalten Verbindung mehr als HTTP und auf einer warmen fast nichts, und deshalb fuehlt sich alles langsamer an, wenn ein Server untaetige Verbindungen zu eifrig schliesst.

Die einzige echte Antwort auf die Ausbreitungsverzoegerung ist, die Entfernung zu verkuerzen. Ein CDN haelt Kopien der Inhalte an vielen Standorten und bedient jeden Nutzer vom naechsten, sodass eine Anfrage, die frueher einen Ozean ueberquerte, jetzt eine Stadt ueberquert. Bei dynamischen Daten, die an einem bestimmten Ort erzeugt werden muessen, hilft das nicht, und die erste Verbindung zu einem kalten Cache wird davon auch nicht schnell. Was es tut, ist ein Physikproblem in ein Logistikproblem zu verwandeln, und Logistik laesst sich loesen.