Çoğu yapay zekâ platformu medya üretimini sonradan eklenmiş bir parça gibi takar. Ayrı bir sekme, farklı bir API anahtarı, sohbet kredilerinizle hiç ilgisi olmayan bir faturalandırma sistemi. ToRun farklı bir konumda duruyor: görsel, video ve müzik üretimi birer moddur — Sohbet ya da Kod ile aynı türden birinci sınıf ürün yüzeyleri — ve diğer her çağrıyla tam olarak aynı yetenek yönlendirmesinden ve faturalandırma hattından geçerler.
Bu yazı düzeneği ve neden önemli olduğunu anlatıyor.
Yönlendirme hattı medyayı nasıl ele alıyor
ToRun'daki her istek bir Modla başlar: Sohbet, Görsel, Video, Müzik, Araştırma vb. Her Mod gerektirdiği Yetenekleri bildirir. Görsel üretimi image-gen yeteneğini gerektirir. Video üretimi video-gen gerektirir. Müzik ve ses sentezi audio-out gerektirir. Sohbeti görsel çıktısıyla birleştiren bir istek — diyelim bir açıklamanın yanında bir kavram görseli istemek — aynı anda hem text hem image-gen gerektirir.
Yönlendirme hattı bu yetenek kümesini alır, model kataloğunu hepsini karşılayan sağlayıcılara süzer, sonra adayları fiyat ve kaliteye göre sıralar. Seçilen model iş akışınızda hiçbir yere gömülü değildir; bir sağlayıcı kapalıysa ya da gecikmesi bozulmuşsa yedek zinciri bir sonraki uygun modeli otomatik seçer. Sağlayıcıya özgü kod yazmazsınız. Modalite başına ayrı API anahtarları yönetmezsiniz (BYOK ile istemiyorsanız).
Bu en çok modaliteleri bir araya getirdiğinizde önem kazanır. Bir iş akışı düğümü bir metin modelini çağırıp sahne tarifi yazdırabilir, bu çıktıyı bir görsel üretim modeline aktarabilir, sonra görsel adresini bir video uzatma modeline geçirebilir — hepsi aynı DAG içinde, hepsi aynı deftere faturalanmış olarak.
Sağlayıcıların gerçekten ücretlendirdiğiyle örtüşen fiyat birimleri
Medya faturalandırması tarihsel olarak bulanıktı, çünkü birimler jetonlarla eşleşmez. ToRun her modaliteyi tam olarak kapsamak için on iki kanonik fiyatlandırma birimi kullanır:
- Görsel başına — difüzyon ve metinden görsele modeller için; fiyat pikselleri değil üretimi kapsar.
- Ses saniyesi başına — yazıdan konuşmaya, konuşma sentezi ve müzik üretimi için.
- Video saniyesi başına — video üretim modelleri için; süre ve çözünürlük çeşidi fiyat satırında yakalanır.
- Seslendirme karakteri başına — karakter üzerinden ücretlendiren konuşma sentezi API'leri için.
Bunların yanında standart jeton birimleri (milyon girdi jetonu başına, milyon çıktı jetonu başına, milyon önbelleğe alınmış girdi jetonu başına) bir medya hattına katılan metin modellerini karşılar.
Her çağrı tam olarak bir BillingRecord yazar. Bu kayıt fiyatı yürütme anında dondurur: fiyatlandırma birimi, birim başına oran, tüketilen miktar, ToRun marjından sonraki USD tutarı ve hesap para biriminiz USD değilse döviz anlık görüntüsü. Bir sağlayıcı yarın oranlarını değiştirirse bugünkü faturanız defterden hâlâ tümüyle yeniden hesaplanabilir. Ham kayıtları dışa aktarıp her kuruşu çevrimdışı doğrulayabilirsiniz.
Medya üretimini sohbet ve iş akışlarıyla birleştirmek
Bu mimarinin en çok karşılığını verdiği yer iş akışlarıdır.
Bir iş akışı düğümü, neye ihtiyaç duyduğunu bildiren bir adımdan ibarettir: belirli yeteneklere sahip bir model, bir girdi şeması ve bir çıktı şeması. Bir müzik düğümü bir metin istemi ile bir süre parametresi alıp üretilen ses dosyası için bir Bunny CDN adresi döndürebilir. Bir görsel düğümü bir istem, bir en-boy oranı ve bir üslup ipucu alıp bir görsel adresi döndürebilir. Bu düğümler diğer adımlar gibi birleşir.
Şunu yapan tek bir iş akışı kurabilirsiniz:
- Girdi olarak bir ürün brifingi alır.
- Beş slogan çeşidi üretmek için bir metin modelini çağırır.
- Her çeşit için bir kahraman görseli işlemek üzere bir görsel modelini çağırır.
- Seçilen sloganı seslendirmek için bir yazıdan konuşmaya modelini çağırır.
- Metin, görsel adresleri ve sesten oluşan yapılandırılmış bir çıktı döndürür.
O çalıştırmanın tamamının faturalandırması beş BillingRecord'a yayılır — model çağrısı başına bir tane — ve hepsi aynı iş akışı yürütme kimliğine bağlıdır. Maliyet dökümünü adım adım görebilirsiniz. Çalıştırıcılar varsayılan olarak kalite katmanındaki modelleri kullanır, çünkü önemli olan çıktıdır; düğüm başına geçersiz kılabilirsiniz.
Aynı mantık Sohbet'te de geçerlidir. Konuşmanız bir görsel üretim çağrısı başlatıyorsa — ister doğrudan istediğiniz için ister ekli bir iş akışı tetiklediği için — o çağrı yönlendirme hattından geçer ve oturum maliyeti görünümünüzde bir satır olarak belirir. Sabit bir ücretin içinde hiçbir şey gizlenmez. Hiçbir şey önce bedava olup sonra birden ücretlenmez.
Şu anda canlı olanlar
Görsel üretimi, video üretimi ve müzik/ses üretiminin hepsi Faz 1'de mevcut. Metinle aynı sağlayıcı kataloğundan yönlenir, aynı defterden faturalanır, aynı iş akışı kurucusunda birleşir. Hangi modellerin mevcut olduğu, hangi sağlayıcıların o an katalogda bulunduğuna ve hangi yetenekleri bildirdiklerine bağlıdır — yönlendirme katmanı bunu gerçek zamanlı gösterir.
Fiyatlandırma /pricing sayfasında. Medya çağrılarını kendi sağlayıcı hesabınız üzerinden düşük platform ücretleriyle yönlendirmek isterseniz BYOK desteği mevcut.