Her yapay zekâ sağlayıcısının kötü dakikaları olur. Bir model aşırı yüklenir, bir bölge takılır, bir uç nokta doksan saniye boyunca hata döner. Bunda olağandışı bir şey yok. Önemli olan, uygulamanın o doksan saniyede ne yaptığı.
Bu haftaya kadar bizimki çoğunlukla pes ediyordu. Görsel, konuşma ve yazıya dökme aylardır kardeş bir modele geçebiliyordu. Metin ise hiçbir yerde geçemiyordu; bu yüzden bir sağlayıcının kötü bir dakikası, bir iş akışını bitirdiği gibi etkileşimli bir cevabı da bitiriyordu.
Aynı soru, başka bir modele
Artık her metin çağrısı, başka bir yere sormayı bilen tek bir yoldan geçiyor: ana sohbet turu ve arkasındaki araç adımları, Devam et, derin araştırma, görsel köprüsü, istem iyileştirme, iş akışının içindeki metin adımı ve müzik üretimleri. Yerine geçen model rastgele seçilmiş ucuz bir model değil; isteğin gerçekten ihtiyaç duyduğu yeteneğe sahip bir kardeş.
Bir durum bilerek dışarıda bırakıldı. Bir yanıt ekranınızda görünmeye başladıysa ona dokunmuyoruz. Başka bir modelde yeniden başlamak, zaten okuduğunuz cümleleri yeniden yazmak ya da onlarla çelişmek demektir; bu da dürüst bir hatadan daha kötüdür.
Cevap veren modelin parası
Bu işin ilginç yarısı fatura. Bir çağrıyı yeniden yönlendirmek kolay; bunu dürüstçe anlatmak değil. Her yönlendirme ilk modelin fiyatlarını koruyordu; yani devreye giren bir çağrı, az önce düşen modelin tarifesiyle faturalanıyordu. Zincir artık gerçekten çalışan modelin bütün anlık görüntüsünü çağırana veriyor: fiyatlar, bağlam penceresi, marj. Böylece fatura geçmişinizdeki satır, işi yapan modeli kendi tarifesiyle yazıyor.
Peki hiçbir şey işe yaramazsa
Devreye alma her zaman mümkün değil. Bir çalıştırma gerçekten başarısız olduğunda, hiçbir şey üretmeyen adımların parası artık alındığı yere geri dönüyor. Bu da haftanın diğer yarısıydı; onun kendi yazısı var.