Alla AI-leverantörer har dåliga minuter. En modell blir överbelastad, en region hackar, en slutpunkt svarar med ett fel i nittio sekunder. Det är inget ovanligt med det. Det som betyder något är vad appen gör under de nittio sekunderna.
Fram till den här veckan gav vår oftast upp. Bild, tal och transkribering hade bytt till en syskonmodell i månader. Text gjorde det ingenstans, så en dålig minut hos en leverantör avslutade ett interaktivt svar precis som den avslutade en körning.
Samma fråga, ställd till en annan modell
Varje textanrop går nu genom en väg som vet hur man frågar någon annanstans: chattens huvudsvar och verktygsstegen bakom det, Fortsätt, djup research, bryggan till bildförståelse, promptförbättring, textsteget inuti ett workflow, och musikkörningar. Ersättaren är inte en slumpvis billigare modell, utan ett syskon som har den förmåga förfrågan faktiskt behöver.
Ett fall lämnas medvetet utanför. När ett svar har börjat dyka upp på din skärm låter vi det vara. Att starta om på en annan modell skulle innebära att skriva om eller motsäga meningar du redan läst, och det är värre än ett ärligt fel.
Att betala modellen som svarade
Den intressanta halvan är fakturan. Att dirigera om ett anrop är lätt; att beskriva det ärligt är det inte. Varje omdirigering behöll den första modellens priser, så ett omdirigerat anrop debiterades enligt taxan för den modell som just hade fallit. Kedjan lämnar nu över hela ögonblicksbilden av den modell som verkligen kördes: priser, kontextfönster, påslag. Så raden i din faktureringshistorik namnger modellen som gjorde jobbet, till den modellens pris.
Och när ingenting fungerar
Att växla över går inte alltid. När en körning verkligen misslyckas kommer pengarna för stegen som inte producerade något nu tillbaka dit de togs ifrån. Det var veckans andra hälft, och den har ett eget inlägg.