Špatné minuty má každý poskytovatel AI. Model se přetíží, region zakolísá, koncový bod devadesát sekund odpovídá chybou. Není na tom nic neobvyklého. Záleží na tom, co aplikace dělá během těch devadesáti sekund.
Do tohoto týdne se ta naše většinou vzdala. Obrázky, řeč a přepis přecházely na sourozenecký model už měsíce. Text to nedělal nikde, takže špatná minuta u poskytovatele ukončila interaktivní odpověď stejně jako pracovní postup.
Stejná otázka, položená jinému modelu
Každé textové volání teď prochází jednou cestou, která umí zeptat se jinde: hlavní tah chatu a nástrojové kroky za ním, Pokračovat, hluboký průzkum, most k porozumění obrázkům, vylepšení promptu, textový krok uvnitř pracovního postupu a hudební běhy. Náhrada není náhodný levnější model, ale sourozenec, který má přesně tu schopnost, jakou požadavek potřebuje.
Jeden případ zůstává záměrně stranou. Jakmile se odpověď začne objevovat na vaší obrazovce, necháváme ji být. Začít znovu na jiném modelu by znamenalo přepsat nebo popřít věty, které jste už přečetli, a to je horší než poctivá chyba.
Zaplatit modelu, který odpověděl
Zajímavější polovinou je účet. Přesměrovat volání je snadné; popsat to poctivě ne. Každé přesměrování si drželo ceny prvního modelu, takže přesměrované volání se účtovalo sazbami modelu, který právě spadl. Řetěz teď předává volajícímu celý snímek modelu, který skutečně běžel: ceny, kontextové okno, přirážku. Řádek ve vaší historii plateb tak jmenuje model, který práci udělal, v jeho vlastní sazbě.
A když nefunguje nic
Přepnout jinam nejde vždy. Když běh opravdu selže, peníze za kroky, které nic nevytvořily, se teď vracejí tam, odkud byly vzaty. To byla druhá polovina týdne a má vlastní článek.