Vấn đề của lối «cứ dùng GPT-4 là xong»
Phần lớn nền tảng trí tuệ nhân tạo lặng lẽ quyết thay bạn: chọn một mô hình họ ưng, nối mọi thứ vào đó, rồi đi tiếp. Cách ấy chạy được cho tới khi không chạy nữa — cho tới khi mô hình sập, cho tới khi đối thủ tung ra thứ tốt hơn cho một công việc cụ thể, cho tới khi bạn muốn mang khóa API của mình và giữ chi phí trên tài khoản của mình, cho tới khi bạn cần tạo ảnh mà mô hình mặc định không làm được.
Toa thuốc quen thuộc là một danh sách thả xuống. Chọn một mô hình, dùng nó ở mọi nơi, còn những đánh đổi thì tự lo. Đó không phải phân luồng, đó là đẩy việc. ToRun làm một điều khác hẳn về mặt cấu trúc.
Đường lấy năng lực làm gốc
Mỗi yêu cầu trong ToRun đi qua bốn chặng trước khi chạm tới một mô hình.
1. Chế độ xác định mặt sản phẩm. Khi bạn mở một phiên Trò chuyện hay khởi động một tác vụ Nghiên cứu, bạn đang chọn một Chế độ. Chế độ không chỉ là cái nhãn trên giao diện: nó mang theo một tập năng lực bắt buộc và tùy chọn đã định. Một tác vụ Nghiên cứu cần công cụ (tìm kiếm trên mạng), ngữ cảnh dài và đầu ra có cấu trúc. Một phiên trò chuyện thường chỉ cần sinh văn bản theo mặc định.
2. Tập năng lực trở thành bộ lọc. ToRun giữ một danh mục mô hình từ nhiều nhà cung cấp — OpenAI, Anthropic/Claude, Google/Gemini, DeepSeek, xAI/Grok, Mistral và những nhà khác. Mỗi mục mang hợp của những năng lực mà mô hình thật sự hỗ trợ: thị giác, công cụ, chạy mã, tạo ảnh, âm thanh vào, âm thanh ra, tạo video, nhúng, sắp lại thứ tự, truyền theo thời gian thực, suy luận và hơn nữa. Tập ở bước một được đối chiếu với danh mục này. Những mô hình không đáp ứng đủ mọi năng lực bắt buộc thì rớt lại.
3. Thứ tự giá–chất lượng chọn ra người thắng. Trong số các mô hình qua được bộ lọc, ToRun sắp xếp theo việc yêu cầu thật sự là gì. Một câu hỏi ngắn và đơn giản được sắp theo chi phí, nên bạn nhận câu trả lời nhanh và rẻ. Một câu dài hơn hay khó hơn được sắp theo năng lực trên mỗi đơn vị chi phí, với một mức sàn chất lượng. Một lượt mang theo ảnh được sắp theo việc mô hình nhìn tốt tới đâu, chứ không theo suy luận trên mỗi đồng. Bộ chạy luồng công việc chuyển sang ưu tiên chất lượng, bởi một đường tự động chạy khi không ai trông nên nhắm tới kết quả tốt nhất chứ không phải lối tắt rẻ nhất. Người dùng BYOK bước vào việc định giá theo lối khác, vì yêu cầu đi qua tài khoản nhà cung cấp của chính họ.
4. Chuỗi dự phòng hút lấy sự cố của nhà cung cấp. Nếu mô hình được chọn trả về lỗi dịch vụ, cùng đường ấy chạy lại với mô hình đó bị loại. Mô hình phù hợp thứ hai trả lời. Bạn không thấy lỗi nào cả, trừ khi mọi ứng viên khả dụng đều đang gục.
Một ví dụ cụ thể: thị giác cộng công cụ
Giả sử bạn dán một ảnh chụp màn hình và nhờ ToRun tìm trên mạng bối cảnh về những gì nó cho thấy. Yêu cầu ấy chạm tới hai năng lực cùng lúc: thị giác (mô hình phải nhận ảnh làm đầu vào) và công cụ (mô hình phải gọi được hàm tìm kiếm trên mạng).
Với lối một mô hình, bạn kẹt: nền tảng của bạn hoặc hỗ trợ tổ hợp ấy hoặc không. Với phân luồng theo năng lực, ToRun giao cả hai đòi hỏi lại. Chỉ những mô hình có hỗ trợ được xác nhận cho cả thị giác LẪN gọi công cụ mới qua nổi bộ lọc. Từ danh sách ngắn ấy, thứ tự theo giá và chất lượng chọn ra mô hình tốt nhất cho chế độ hiện thời của bạn. Nếu ứng viên chính bị giới hạn hay đang gục, ứng viên kế tiếp xử lý yêu cầu mà bạn chẳng phải làm gì.
Trong thực tế điều này đáng kể: dàn mô hình có thị giác đã đổi nhiều trong năm qua và sẽ còn đổi. Phân luồng theo năng lực khiến ToRun tự động tính đến các mô hình mới thêm ngay khi chúng vào danh mục, không cần bạn cập nhật gì.
Vì sao điều này thắng lối khóa chặt
Một nền tảng một mô hình chỉ có một kế dự phòng: chờ nhà cung cấp sửa xong sự cố. Một nền tảng lấy năng lực làm gốc thì có danh mục. Khi OpenAI gặp sự cố, những yêu cầu mà Anthropic hay Gemini gánh được sẽ được xử lý ở đó. Khi một mô hình Mistral mới cho tỷ lệ giá trên chất lượng tốt hơn ở đầu ra có cấu trúc, nó bước vào thứ tự của các chế độ liên quan mà không cần cuộc di dời ép buộc.
Cùng lối lập luận ấy áp cho BYOK. Khi bạn thêm khóa API của mình cho một nhà cung cấp, thông tin xác thực đó bị giữ kín bên trong tầng phân luồng. Những yêu cầu hợp với các mô hình đủ điều kiện của nhà cung cấp ấy có thể dùng khóa của bạn thay cho tài khoản ToRun, chuyển chi phí sang quan hệ giữa bạn và nhà cung cấp ở bậc tính phí thích hợp. Đường phân luồng không đổi: chỉ đổi việc dùng thông tin xác thực nào tại thời điểm thực thi.
Cái giá phải trả là sự trung thực: ToRun không thể bảo đảm mô hình rẻ nhất sẽ là mô hình thông minh nhất cho công việc của bạn. Thứ tự được phơi ra — bạn thấy cái gì được chọn và vì sao, và bạn có thể ghi đè. Sự minh bạch ấy chính là mục đích. Mỗi yêu cầu ghi một bản ghi tính phí kèm mô hình đã dùng, đơn vị tính giá có hiệu lực lúc thực thi và phần tách chi phí. Bạn có thể kiểm bất kỳ lượt gọi nào sau nhiều tháng, kể cả sau khi nhà cung cấp đổi giá, vì bản chụp đã đóng băng ngay khoảnh khắc yêu cầu chạy.
Một mô hình làm được mọi thứ là một chuyện bịa dễ chịu. Điều bạn thật sự muốn là một nền tảng tìm ra mô hình phù hợp cho từng công việc và làm cho lựa chọn ấy đọc được.