Sáng ngày 22 tháng 9, torun.ai chậm như rùa. Một trại trình duyệt tự động, hơn hai nghìn địa chỉ trong bốn mươi lăm phút, yêu cầu từng trang công khai của chúng tôi, và ở phút tệ nhất lên tới khoảng ba trang mỗi giây. Một trang web lẽ ra phải chịu được chuyện đó dễ dàng. Trang của chúng tôi thì không: ở khung giờ đông nhất, hơn một phần tư số yêu cầu mất quá ba mươi giây, và hàng trăm người truy cập đã bỏ đi trước khi trang hiện ra.
Không phải tải mà chúng tôi tưởng
Nghi phạm hiển nhiên là trình thu thập dữ liệu và bộ xử lý. Cả hai đều không đúng. Khi phát lại đúng ba trang mỗi giây trên một bản sao của trang, nó trụ được chưa tới một phút rồi không hoàn thành được gì nữa. Mức dùng bộ xử lý giảm từ 60 phần trăm xuống 1, trong khi số luồng tăng từ 12 lên 166. Một máy chủ quá tải sẽ làm việc nhiều hơn; máy này lại đang chờ.
Một lượt đi về cho mỗi từ
Theo dõi máy chủ bộ nhớ đệm trong lúc tạo một trang đã cho thấy nó chờ gì. Một trang gửi tới nó 585 lệnh, trong đó 428 lệnh là cùng một lượt tra và việc làm mới nó, lặp đi lặp lại: một bảng dịch mà với trang của chúng tôi là trống. Mỗi đoạn văn bản đã dịch trên trang, mà một trang có hàng trăm đoạn, lại hỏi nó lần nữa, và mỗi lần hỏi giữ một luồng cho tới khi có kết quả. Ở mức ba trang mỗi giây, các luồng cạn kiệt và mọi thứ xếp hàng phía sau.
Bản sửa, và một giới hạn
Những lượt tra đó giờ được trả lời từ bộ nhớ trong một phút mỗi lần, lấy lại một lần khi hết hạn và được xóa trên máy chủ thay đổi bản dịch. Cùng một trang giờ chỉ gửi 31 lệnh thay vì 585. Chúng tôi cũng đặt một giới hạn trước khâu tạo trang: mỗi lúc chỉ tạo một số trang cố định, một hàng chờ ngắn đợi, và mọi thứ vượt quá sẽ nhận ngay "vui lòng thử lại sau giây lát" thay vì làm chậm mọi trang.
Đo trên môi trường thật
Sau bản phát hành ngày 23 tháng 9, chúng tôi đo lại trang đang chạy. Trang trung vị được tạo trong 42 mili giây, trước là 249, và trang chậm nhất trong hai mươi trang là 72 mili giây, trước là gần hai giây. Lượt tra từng chạy 214 lần mỗi trang giờ chỉ chạy một lần.
Bài học chúng tôi ghi lại rất đơn giản: con số về sức chịu tải là một phép đo, không phải một niềm tin. Chúng tôi chưa từng thử xem trang công khai chịu được bao nhiêu. Giờ đã thử, và sẽ thử lại trước khi đưa ra một con số.