Am Morgen des 22. September kam torun.ai kaum noch voran. Eine Farm automatisierter Browser, mehr als zweitausend Adressen in einer Dreiviertelstunde, rief unsere öffentlichen Seiten einzeln ab, und in der schlimmsten Minute waren es etwa drei Seiten pro Sekunde. Das sollte eine Website wegstecken. Unsere tat es nicht: Im dichtesten Zeitfenster dauerte mehr als ein Viertel der Anfragen über dreißig Sekunden, und Hunderte Besucher gaben auf, bevor eine Seite ankam.
Nicht die Last, die wir vermuteten
Die naheliegenden Verdächtigen waren der Crawler und der Prozessor. Beide hielten nicht stand. Als wir dieselben drei Seiten pro Sekunde gegen eine Kopie der Website abspielten, hielt sie weniger als eine Minute mit und schloss dann gar nichts mehr ab. Die Prozessorlast fiel von 60 Prozent auf 1, während die Zahl der Threads von 12 auf 166 stieg. Ein überlasteter Server arbeitet mehr; dieser hier wartete.
Ein Umweg für jedes Wort
Den Cache-Server während einer einzigen Seite zu beobachten, zeigte, worauf er wartete. Eine Seite schickte ihm 585 Befehle, und 428 davon waren eine Abfrage und ihre Auffrischung, immer wieder: eine Übersetzungstabelle, die für unsere Website leer ist. Jeder übersetzte Text der Seite, und eine Seite hat Hunderte, fragte sie erneut ab, und jede Abfrage hielt einen Thread fest, bis die Antwort kam. Bei drei Seiten pro Sekunde gingen die Threads aus, und alles stellte sich dahinter an.
Die Korrektur und eine Grenze
Diese Abfragen werden jetzt jeweils eine Minute lang aus dem Speicher beantwortet, beim Ablauf einmal neu geholt und auf dem Server geleert, der eine Übersetzung ändert. Dieselbe Seite schickt jetzt 31 Befehle statt 585. Außerdem haben wir eine Grenze vor das Seitenrendering gesetzt: Eine feste Zahl von Seiten wird gleichzeitig erzeugt, eine kurze Warteschlange wartet, und alles darüber hinaus bekommt sofort ein „Bitte gleich noch einmal versuchen“, statt jede Seite zu bremsen.
In der Produktion gemessen
Nach dem Release am 23. September haben wir die Live-Website erneut gemessen. Die mittlere Seite entsteht in 42 Millisekunden statt 249, die langsamste von zwanzig in 72 Millisekunden statt fast zwei Sekunden. Die Abfrage, die 214-mal pro Seite lief, läuft jetzt einmal.
Die Lehre, die wir festgehalten haben, ist schlicht: Eine Kapazitätsangabe ist eine Messung, kein Glaube. Wir hatten nie getestet, was die öffentliche Website verträgt. Jetzt haben wir es, und wir testen erneut, bevor wir eine Zahl nennen.