Phần lớn nền tảng trí tuệ nhân tạo bắt vít việc tạo phương tiện vào sau. Một thẻ riêng, một khóa API riêng, một lối tính phí chẳng liên quan gì tới số dư trò chuyện của bạn. ToRun đứng ở chỗ khác: tạo ảnh, video và nhạc đều là những chế độ — cùng một mặt sản phẩm đầy đủ như Trò chuyện hay Mã nguồn — và chúng đi qua đúng cùng lối phân luồng theo năng lực và cùng đường tính phí như bất kỳ lượt gọi nào khác.
Bài này giải thích cơ chế và vì sao nó đáng kể.
Đường phân luồng đối xử với phương tiện ra sao
Mỗi yêu cầu trong ToRun khởi đi từ một chế độ: Trò chuyện, Ảnh, Video, Nhạc, Nghiên cứu và vân vân. Mỗi chế độ khai ra những năng lực nó đòi hỏi. Tạo ảnh đòi năng lực image-gen. Video đòi video-gen. Tổng hợp nhạc và âm thanh đòi audio-out. Một yêu cầu nối trò chuyện với đầu ra là ảnh — chẳng hạn một phác thảo ý tưởng đặt cạnh lời giải thích — đòi cả text lẫn image-gen cùng lúc.
Đường phân luồng nhận tập năng lực ấy, thu hẹp danh mục mô hình xuống những nhà cung cấp đáp ứng đủ, rồi sắp các ứng viên theo giá và chất lượng. Mô hình được chọn không bị đóng đinh ở bất cứ đâu trong luồng của bạn; nếu một nhà cung cấp gục hay chậm, chuỗi dự phòng tự chọn mô hình đủ điều kiện kế tiếp. Bạn không viết mã riêng cho từng nhà cung cấp. Bạn cũng không giữ khóa API riêng theo từng hình thái (trừ khi bạn muốn, qua BYOK).
Điều này đáng kể nhất khi bạn pha trộn các hình thái. Một nút luồng công việc có thể nhờ mô hình văn bản viết mô tả cảnh, chuyển đầu ra ấy cho mô hình tạo ảnh, rồi trao địa chỉ ảnh cho mô hình kéo dài video — tất cả trong cùng một đồ thị, tất cả ghi vào cùng một sổ.
Đơn vị tính giá thật sự khớp với những gì nhà cung cấp thu
Việc tính phí phương tiện xưa nay vẫn mờ mịt vì các đơn vị không ánh xạ sang thẻ. ToRun dùng mười hai đơn vị tính giá chuẩn để phủ chính xác từng hình thái:
- Mỗi ảnh — cho các mô hình khuếch tán và mô hình chữ sang ảnh; giá nắm lấy việc sinh ra, không phải điểm ảnh.
- Mỗi giây âm thanh — cho tổng hợp giọng nói, đầu ra được nói ra và tạo nhạc.
- Mỗi giây video — cho các mô hình tạo video; thời lượng và biến thể độ phân giải nằm trên dòng giá.
- Mỗi ký tự tổng hợp giọng nói — cho các giao diện giọng nói thu theo ký tự.
Bên cạnh đó, các đơn vị thẻ quen thuộc (mỗi triệu thẻ vào, thẻ ra và thẻ từ bộ đệm đầu vào) phủ những mô hình văn bản tham gia vào một đường phương tiện.
Mỗi lượt gọi ghi đúng một bản ghi tính phí. Bản ghi ấy đóng băng giá tại thời điểm thực thi: đơn vị tính giá, mức giá mỗi đơn vị, lượng đã tiêu, số tiền đô la sau phần biên của ToRun, và bản chụp tỷ giá nếu đơn vị tiền của tài khoản bạn không phải đô la. Nếu ngày mai nhà cung cấp đổi giá, hóa đơn hôm nay của bạn vẫn tính lại được trọn vẹn từ sổ. Bạn có thể xuất các mức giá thô ra và soát tới từng xu khi ngoại tuyến.
Ghép việc tạo phương tiện với trò chuyện và luồng công việc
Nơi kiến trúc này đền đáp nhiều nhất là các luồng công việc.
Một nút luồng công việc chỉ đơn giản là một bước khai ra thứ nó cần: một mô hình có những năng lực nhất định, một lược đồ đầu vào và một lược đồ đầu ra. Nút nhạc có thể nhận một lời nhắc văn bản cùng một thời lượng và trả về địa chỉ Bunny CDN của âm thanh đã sinh. Nút ảnh nhận một lời nhắc, một tỷ lệ khung hình và một gợi ý phong cách rồi trả về một địa chỉ ảnh. Những nút này ghép vào như bất kỳ bước nào khác.
Bạn có thể dựng một luồng duy nhất mà:
- Nhận một bản tóm tắt sản phẩm làm đầu vào.
- Gọi mô hình văn bản để sinh năm phương án khẩu hiệu.
- Gọi mô hình ảnh để vẽ một hình chính cho mỗi phương án.
- Gọi mô hình giọng nói để đọc khẩu hiệu đã chọn.
- Trả về một sản phẩm có cấu trúc gồm văn bản, địa chỉ ảnh và âm thanh.
Việc tính phí cho cả lượt chạy ấy chia thành năm bản ghi — mỗi lượt gọi mô hình một bản — tất cả buộc vào cùng một mã định danh lượt chạy của luồng. Bạn thấy phần tách chi phí theo bước. Vì kết quả là điều đáng kể, bộ chạy mặc định lấy mô hình hạng chất lượng; bạn có thể ghi đè theo từng nút.
Cùng lối lập luận ấy áp cho trò chuyện. Nếu cuộc trò chuyện của bạn kích hoạt một lượt gọi tạo ảnh — vì bạn nhờ thẳng, hay vì một luồng đính kèm khởi động nó — lượt gọi đó đi qua đường phân luồng và hiện ra thành một dòng trong khung chi phí phiên của bạn. Không có gì nấp trong một mức phí phẳng. Cũng không có gì trước thì miễn phí sau lại thu tiền.
Hiện đang chạy những gì
Tạo ảnh, tạo video và tạo nhạc hay âm thanh đều đã dùng được ở giai đoạn 1. Chúng đi qua cùng danh mục nhà cung cấp như văn bản, ghi vào cùng một sổ, và ghép trong cùng bộ dựng luồng. Cụ thể những mô hình nào dùng được còn tùy lúc ấy danh mục có những nhà cung cấp nào và họ khai ra những năng lực gì — tầng phân luồng phản ánh điều này theo thời gian thực.
Giá nằm ở /pricing. Có hỗ trợ BYOK nếu bạn muốn phân luồng các lượt gọi phương tiện qua tài khoản nhà cung cấp của chính mình với phí nền tảng thấp hơn.