Orice furnizor de IA are minute proaste. Un model se supraîncarcă, o regiune se împiedică, un punct de acces răspunde cu eroare timp de nouăzeci de secunde. Nu e nimic neobișnuit în asta. Contează ce face aplicația în acele nouăzeci de secunde.
Până săptămâna aceasta, a noastră ceda de cele mai multe ori. Imaginea, vocea și transcrierea treceau de luni bune pe un model frate. Textul nu o făcea nicăieri, așa că un minut prost la furnizor încheia un răspuns interactiv exact cum încheia un flux de lucru.
Aceeași întrebare, pusă altui model
Fiecare apel de text trece acum printr-o singură cale care știe să întrebe în altă parte: tura principală a conversației și pașii cu unelte din spatele ei, Continuă, cercetarea aprofundată, puntea spre înțelegerea imaginilor, îmbunătățirea promptului, pasul de text din interiorul unui flux de lucru și randările muzicale. Înlocuitorul nu e un model mai ieftin la întâmplare, ci un frate care are exact capacitatea de care cererea are nevoie.
Un caz rămâne intenționat pe dinafară. Din clipa în care un răspuns începe să apară pe ecranul tău, îl lăsăm în pace. Repornirea pe alt model ar însemna rescrierea sau contrazicerea unor fraze pe care deja le-ai citit, iar asta e mai rău decât o eroare cinstită.
Să plătești modelul care a răspuns
Jumătatea interesantă e factura. Redirecționarea unui apel e ușoară; descrierea ei cinstită nu. Fiecare redirecționare păstra prețurile primului model, așa că un apel redirecționat era taxat la tarifele modelului care tocmai căzuse. Lanțul predă acum apelantului întregul instantaneu al modelului care a rulat cu adevărat: prețuri, fereastră de context, adaos. Astfel rândul din istoricul tău de facturare numește modelul care a făcut treaba, la tariful acelui model.
Iar când nu merge nimic
Comutarea nu e mereu posibilă. Când o rulare chiar eșuează, banii pașilor care n-au produs nimic se întorc acum acolo de unde au fost luați. Aceasta a fost cealaltă jumătate a săptămânii și are articolul ei.