Jaarlijks Betaal jaarlijks en krijg 2 maanden gratis bij elk betaald abonnement. Bekijk abonnementen
Aanmelden Gratis beginnen

Als een model een slechte minuut heeft

Elke AI-aanbieder heeft slechte minuten. Een model raakt overbelast, een regio hapert, een eindpunt antwoordt negentig seconden lang met een fout. Daar is niets ongewoons aan. Wat telt is wat de app in die negentig secon…

Elke AI-aanbieder heeft slechte minuten. Een model raakt overbelast, een regio hapert, een eindpunt antwoordt negentig seconden lang met een fout. Daar is niets ongewoons aan. Wat telt is wat de app in die negentig seconden doet.

Tot deze week gaf de onze het meestal op. Beeld, spraak en transcriptie stapten al maanden over naar een zustermodel. Tekst deed dat nergens, dus een slechte minuut bij een aanbieder beëindigde een interactief antwoord net zo goed als een workflow.

Dezelfde vraag, aan een ander model

Elke tekstaanroep gaat nu via één pad dat weet hoe je elders navraag doet: de hoofdbeurt van de chat en de gereedschapsstappen erachter, Doorgaan, diep onderzoek, de beeldbrug, promptverbetering, de tekststap binnen een workflow, en muziekopnames. De vervanger is geen willekeurig goedkoper model, maar een zusje met precies de vaardigheid die het verzoek nodig heeft.

Eén geval blijft er bewust buiten. Zodra een antwoord op je scherm begint te verschijnen, laten we het met rust. Opnieuw beginnen op een ander model zou betekenen dat zinnen die je al gelezen hebt worden herschreven of tegengesproken, en dat is erger dan een eerlijke fout.

Het model betalen dat antwoordde

De interessante helft is de rekening. Een aanroep omleiden is makkelijk; het eerlijk beschrijven niet. Elke omleiding hield de prijzen van het eerste model aan, dus een omgeleide aanroep werd afgerekend tegen de tarieven van het model dat net was uitgevallen. De keten geeft de aanroeper nu de volledige momentopname van het model dat echt draaide: prijzen, contextvenster, opslag. Zo noemt de regel in je facturen het model dat het werk deed, tegen het tarief van dat model.

En als niets werkt

Omleiden kan niet altijd. Als een run echt mislukt, komt het geld voor de stappen die niets opleverden nu terug waar het vandaan kwam. Dat was de andere helft van de week, en die heeft een eigen bericht.

Delen LinkedIn X E-mail
Probeer het op je eigen werkElk antwoord laat zien wat het kostte. Begin met het gratis abonnement. Gratis beginnen
Krijg productupdates, geen ruis Nieuwe modellen, functies en changelog-hoogtepunten - een korte mail wanneer er echt iets live gaat.
Door je in te schrijven ga je ermee akkoord e-mails van ToRun over productupdates te ontvangen. Je kunt je op elk moment uitschrijven. Privacybeleid