På morgonen den 22 september kröp torun.ai fram. En farm av automatiserade webbläsare, över tvåtusen adresser på tre kvart, begärde våra offentliga sidor en i taget, och den värsta minuten handlade det om ungefär tre sidor i sekunden. En webbplats borde klara det utan att märka något. Vår gjorde inte det: i det mest belastade fönstret tog mer än en fjärdedel av förfrågningarna över trettio sekunder, och hundratals besökare gav upp innan sidan kom.
Inte den belastning vi trodde
De självklara misstänkta var sökroboten och processorn. Ingen av dem höll. När vi spelade upp samma tre sidor i sekunden mot en kopia av webbplatsen höll den i mindre än en minut och slutförde sedan ingenting alls. Processoranvändningen föll från 60 procent till 1 medan antalet trådar steg från 12 till 166. En överbelastad server arbetar mer; den här väntade.
En resa fram och tillbaka för varje ord
Att följa cacheservern under en enda sida visade vad den väntade på. En sida skickade 585 kommandon till den, och 428 av dem var ett och samma uppslag och dess förnyelse, om och om igen: en översättningstabell som för vår webbplats är tom. Varje översatt text på sidan, och en sida har hundratals, frågade efter den igen, och varje fråga höll en tråd tills svaret kom tillbaka. Vid tre sidor i sekunden tog trådarna slut, och allt ställde sig i kö bakom dem.
Rättelsen, och en gräns
De uppslagen besvaras nu ur minnet en minut i taget, hämtas en gång när de löper ut och töms på den server som ändrar en översättning. Samma sida skickar nu 31 kommandon i stället för 585. Vi satte också en gräns framför sidgenereringen: ett fast antal sidor genereras samtidigt, en kort kö väntar, och allt utöver det får direkt ett ”försök igen om en stund” i stället för att sakta ner alla sidor.
Uppmätt i produktion
Efter releasen den 23 september mätte vi den levande webbplatsen igen. Mediansidan skapas på 42 millisekunder, tidigare 249, och den långsammaste av tjugo på 72 millisekunder, tidigare nästan två sekunder. Uppslaget som kördes 214 gånger per sida körs nu en gång.
Lärdomen vi skrev ner är enkel: en kapacitetssiffra är en mätning, inte en tro. Vi hade aldrig testat vad den offentliga webbplatsen tålde. Nu har vi det, och vi testar igen innan vi uppger en siffra.