De flesta AI-produkter fallerar i en dimension som inte har något med modellkvalitet att göra. De fallerar i ärlighet — inte i betydelsen öppen lögn utan på de tystare vägarna: att dölja vad ett anrop kostar, att med säkerhet och utan förbehåll påstå strunt, att låta ett tillstånd försvinna som inte går att få tillbaka, och att aldrig lära av den friktion de skapar. De felen är utformningsbeslut, även när de ser ut som förbiseenden.
Nedan följer ramen med fem mönster som vi i ToRun använder internt för att bedöma varje yta vi bygger. Vi påstår inte att vi klarar den alltid. Vi påstår att detta är de rätta frågorna.
Genomskinlighet: att visa verkligt tillstånd och verklig kostnad
Det klassiska oärliga mönstret är ett dimmigt »en del krediter förbrukades«. Genomskinlig fakturering betyder att man kan se på vilket tidigare anrop som helst och exakt återskapa vad som debiterades och varför — leverantör, modell, modalitet, förbrukade enheter, pris i utförandeögonblicket, eventuell valutaomräkning och plattformens marginal. Om något av dessa fält saknas, eller uppskattas i efterhand, är räkningen dikt.
Ett finare genomskinlighetsfel är att dölja modellvalet. Om en produkt tyst sänker din begäran till en billigare modell för att du slog i en mjuk gräns kanske du får ett sämre svar och aldrig får veta. Ärligt är att säga vilken modell som kördes, varför den valdes och vilka ersättarna var. Styrningsbeslutet borde gå att granska, inte vara en svart låda.
Genomskinlighet gäller även tillstånd. Om ett bakgrundsjobb kör åt dig borde gränssnittet säga det och ge dig ett sätt att stoppa det. »Bearbetas«-indikatorer som inte går att avbryta är små lögner.
Återkallbarhet: att låta ångra
Oåterkallelighet är det mest underskattade gränssnittsfelet i AI-produkter. Du ber ett arbetsflöde skicka ett brev eller publicera i en kanal, det avfyras genast, och den enda livlinan är en handskriven ursäkt. Inget mellansteg. Ingen bekräftelse när insatserna är höga. Inget ångra.
Återkallbarhetsmönstret kräver att produkter skiljer läs- från skrivoperationer, visar bekräftelsesteg för åtgärder med följder och håller tillstånd tillräckligt länge för att misstag ska hinna märkas. För innehåll som AI frambringat betyder det att utkast finns före publicering, att frambringade alster går att återställa efter radering och att chattsessioner går att exportera eller förgrena innan du förlorar dem.
Återkallbarhet gäller även inställningar. Om en ändrad inställning får följder längre fram — säg att standardmodellen byts för alla framtida sessioner — borde produkten säga vad som kommer att ändras innan det ändras, inte efteråt.
Förutseende omsorg: att varna före skadan, inte efter
En ärlig produkt säger »detta meddelande kommer att förbruka en märkbar del av ditt saldo« före anropet, inte på ett kvitto efteråt. Den säger »detta arbetsflödessteg saknar felhantering; om verktyget före fallerar stannar körningen tyst« medan du bygger det, inte under ett avbrott klockan två på natten.
Förutseende omsorg betyder att produkten modellerar vad som kan gå fel ur personens synvinkel och visar det vid beslutspunkten. Det är svårare än det låter, eftersom det kräver att produkten förstår avsikt och inte bara utför kommandon. Den som beställer en satsgenerering av 200 bilder vill antagligen veta den uppskattade kostnaden i förväg, även utan en uttrycklig fråga.
Felmönstret här är att stämma av mot omvandling — att undertrycka kostnadsvarningar för att de skapar tvekan. På kort sikt kan det höja aktiveringen. På lång sikt lär det människor att inte lita på dig.
Kunskapsmässig ärlighet: att säga vad man inte vet
AI-modeller hittar på. Det vet varje team som bygger AI-produkter. Det oärliga utformningssvaret är att lägga fram modellens utdata med jämn säkerhet och låta problemet upptäckas senare. Det ärliga svaret är att bygga uttryckliga vägar för att signalera osäkerhet.
Det betyder: när en modell anför källor måste hänvisningarna vara verkliga och möjliga att öppna. När en modell säger »enligt min träningsgräns« måste det förbehållet förbli synligt i gränssnittet och inte klippas bort för prydligare text. När svar med hämtning faller tillbaka på parametrisk kunskap för att inget relevant avsnitt hittades borde svaret säga det i stället för att lägga fram det parametriska svaret som grundat.
Kunskapsmässig ärlighet sträcker sig till produkten själv. »Denna funktion är på försöksstadiet« är ingen varning att gömma — det är den upplysning som behövs för att ställa in tilliten. Finns ett säkerhetsmått och det är lågt, visa det. Vek styrningskedjan av till en sekundär modell för att den primära inte var tillgänglig, säg det i anropets metadata.
Inlärningsslingan: att sluta återkopplingen
Det lömskaste gränssnittsfelet är en produkt som aldrig blir bättre på att tjäna dig eftersom den aldrig iakttar var den retade dig. Att fyra gånger argt trycka på en knapp som ser avstängd ut men inte är det är en signal. Att regelbundet överge en generering halvvägs är en signal. Att skriva samma rättelse efter varje svar är en signal.
En ärlig plattform fångar dessa signaler öppet, använder dem för att förbättra styrning och standardvärden och visar vad den lärt sig. Inte »vi använder dina uppgifter för att förbättra produkten« i en fotnot till villkoren — utan en synlig återkoppling: »vi märkte att du vid koduppgifter ofta byter från den automatiskt valda modellen till en viss; ska vi göra den till din standard?«.
Inlärningsslingan innefattar också att medge när plattformen hade fel. Om en modell frambringade ett sakligt felaktigt svar som någon rättade är den rättelsen värd mer än tusen tummar upp. Att behandla den så är en ärlighetshandling mot personen och mot produktens egen avstämning.
Ribban
Inget av dessa fem mönster är tekniskt svårt. Det svåra är att ge dem företräde, eftersom de ibland sänker kortsiktiga engagemangsmått. Den som ser kostnadsvarningar tvekar. Den som ser osäkerhetsnotiser litar mindre på enskilda svar. Den som kan ångra är mindre bunden.
Den ärliga utformningens vad är att dessa friktioner bygger varaktig tillit, och att varaktig tillit är den enda grund en produkt kan stå på i en så följdrik kategori som AI. De plattformar som hoppar över ärlighetsribban bygger inga relationer — de driver en långsam utvinning. Skillnaden syns i avhoppen, i mängden supportfrågor och i det slags mun-till-mun som verkligen adderas.
Vi bedömer varje ToRun-yta mot dessa fem mönster innan vi släpper den. Vi missar dem ändå. När det händer är granskningsspåret tillräckligt blottat för att man ska kunna säga det till oss.