Syyskuun 22. päivän aamuna torun.ai mateli. Automatisoitujen selainten farmi, yli kaksituhatta osoitetta kolmessa vartissa, pyysi julkisia sivujamme yksi kerrallaan, ja pahimpana minuuttina tahti oli noin kolme sivua sekunnissa. Verkkosivuston pitäisi kestää se kuin mitään ei olisi tapahtunut. Meidän ei kestänyt: vilkkaimmassa jaksossa yli neljännes pyynnöistä kesti yli kolmekymmentä sekuntia, ja sadat kävijät luovuttivat ennen kuin sivu saapui.
Ei se kuorma, jota odotimme
Ilmeiset epäillyt olivat indeksointirobotti ja suoritin. Kumpikaan ei pitänyt paikkaansa. Kun toistimme samat kolme sivua sekunnissa sivuston kopiota vastaan, se kesti alle minuutin ja lakkasi sitten viemästä mitään loppuun. Suorittimen käyttö laski 60 prosentista yhteen, kun säikeiden määrä nousi 12:sta 166:een. Ylikuormitettu palvelin tekee enemmän töitä; tämä odotti.
Edestakainen matka jokaisesta sanasta
Välimuistipalvelimen seuraaminen yhden sivun ajan näytti, mitä se odotti. Yksi sivu lähetti sille 585 komentoa, ja niistä 428 oli yksi ja sama haku ja sen päivitys yhä uudelleen: käännöstaulu, joka on sivustollamme tyhjä. Jokainen sivun käännetty teksti, ja sivulla niitä on satoja, pyysi sitä uudelleen, ja jokainen pyyntö piti säiettä varattuna, kunnes vastaus palasi. Kolmen sivun sekuntitahdilla säikeet loppuivat, ja kaikki jonoutui niiden taakse.
Korjaus ja raja
Nämä haut vastataan nyt muistista minuutti kerrallaan, haetaan vanhentuessa vain kerran ja tyhjennetään palvelimella, joka muuttaa käännöstä. Sama sivu lähettää nyt 31 komentoa 585:n sijaan. Asetimme myös rajan sivujen luonnin eteen: kerrallaan luodaan kiinteä määrä sivuja, lyhyt jono odottaa, ja kaikki sen yli saa heti ”yritä hetken päästä uudelleen” sen sijaan, että jokainen sivu hidastuisi.
Mitattu tuotannossa
Syyskuun 23. päivän julkaisun jälkeen mittasimme toiminnassa olevan sivuston uudelleen. Mediaanisivu syntyy 42 millisekunnissa aiemman 249:n sijaan, ja kahdestakymmenestä hitain 72 millisekunnissa lähes kahden sekunnin sijaan. Haku, joka suoritettiin 214 kertaa sivua kohden, suoritetaan nyt kerran.
Kirjaamamme opetus on yksinkertainen: kapasiteettiluku on mittaus, ei uskomus. Emme olleet koskaan testanneet, mitä julkinen sivusto kestää. Nyt olemme, ja testaamme uudelleen ennen kuin kerromme luvun.