Većina proizvoda umjetne inteligencije podbacuje u dimenziji koja nema veze s kvalitetom modela. Podbacuju u poštenju — ne u smislu otvorene laži, nego tišim putevima: skrivati koliko poziv stoji, tvrditi besmislice sa sigurnošću i bez ograde, puštati da nestane stanje koje se ne može vratiti, i nikad ne učiti iz trenja koje izazivaju. Ti su propusti nacrtne odluke, čak i kad izgledaju kao previdi.
Niže je okvir od pet obrazaca koji u ToRunu koristimo iznutra za prosudbu svake površine koju gradimo. Ne tvrdimo da je preskačemo uvijek. Tvrdimo da su to prava pitanja.
Prozirnost: pokazati stvarno stanje i stvarni trošak
Klasičan nepošten obrazac maglovito je „potrošeno je nešto kredita". Prozirna naplata znači da se može pogledati bilo koji prošli poziv i točno rekonstruirati što je naplaćeno i zašto — pružatelj, model, modalnost, potrošene jedinice, cijena u trenutku izvršenja, eventualna pretvorba valute i marža platforme. Nedostaje li bilo koje od tih polja, ili je procijenjeno naknadno, račun je izmišljotina.
Suptilniji propust prozirnosti jest skrivati izbor modela. Spusti li proizvod tiho vaš zahtjev na jeftiniji model jer ste naletjeli na meku granicu, možda ćete dobiti lošiji odgovor i nikad to ne saznati. Pošteno je reći koji je model radio, zašto je odabran i koje su bile zamjene. Odluka o usmjeravanju trebala bi biti pregledna, a ne crna kutija.
Prozirnost vrijedi i za stanje. Radi li vam u pozadini zadatak, sučelje bi to trebalo reći i dati način da ga zaustavite. Pokazatelji „obrađuje se" koji se ne mogu poništiti male su laži.
Povratnost: pustiti da se poništi
Nepovratnost je najpodcjenjeniji propust sučelja u proizvodima umjetne inteligencije. Zamolite tijek da pošalje poruku ili objavi u kanalu, on opali odmah, a jedini spas je rukom pisana isprika. Bez međukoraka. Bez potvrde kad je ulog velik. Bez poništenja.
Obrazac povratnosti traži da proizvodi razlikuju radnje čitanja i pisanja, pokazuju korake potvrde za radnje s posljedicama i drže stanje dovoljno dugo da se pogreške mogu opaziti. Za sadržaj stvoren umjetnom inteligencijom to znači da nacrti postoje prije objave, da su stvoreni artefakti nakon brisanja povratni i da se sesije razgovora mogu izvesti ili razgranati prije nego ih izgubite.
Povratnost vrijedi i za postavke. Ima li promjena postavke posljedice dalje — recimo promjena zadanog modela za sve buduće sesije — proizvod bi trebao reći što će se promijeniti prije nego se promijeni, a ne poslije.
Predviđajuća skrb: upozoriti prije štete, a ne poslije
Pošten proizvod kaže „ova će poruka potrošiti znatan dio vašeg salda" prije poziva, a ne na računu poslije. Kaže „ovaj korak tijeka nema obradu pogrešaka; zakaže li prethodni alat, prolaz će se tiho zaustaviti" dok ga gradite, a ne za incidenta u dva ujutro.
Predviđajuća skrb znači da proizvod modelira što bi moglo poći po zlu iz očišta osobe i pokazuje to na mjestu odluke. Teže je nego što zvuči, jer traži da proizvod razumije nakanu, a ne tek izvršava naredbe. Tko naruči skupno stvaranje 200 slika, vjerojatno želi znati procijenjen trošak unaprijed, i bez izričitog pitanja.
Obrazac propusta ovdje jest podešavati na pretvorbu — potisnuti upozorenja o trošku jer izazivaju oklijevanje. Kratkoročno to može dignuti pokretanje. Dugoročno uči ljude da vam ne vjeruju.
Spoznajno poštenje: reći što ne znate
Modeli umjetne inteligencije izmišljaju. Zna to svaki tim koji gradi proizvode umjetne inteligencije. Nepošten nacrtni odgovor jest izlaze modela iznositi s ujednačenom sigurnošću i pustiti da se problem otkrije poslije. Pošten odgovor jest izgraditi izričite puteve za signaliziranje nesigurnosti.
To znači: navodi li model izvore, uputnice moraju biti stvarne i otvorive. Kaže li model „prema datumu završetka moje obuke", ta ograda mora ostati vidljiva u sučelju i ne smije biti izrezana radi urednijeg teksta. Padnu li odgovori s dohvatom natrag na parametarsko znanje jer nije nađen važan odlomak, odgovor bi to trebao reći umjesto da parametarski odgovor iznosi kao utemeljen.
Spoznajno poštenje proteže se i na sam proizvod. „Ova je značajka pokusna" nije upozorenje za skrivanje — to je obavijest potrebna za baždarenje povjerenja. Postoji li ocjena sigurnosti i niska je, pokažite je. Ako je cjevovod usmjeravanja skrenuo na pomoćni model jer glavni nije bio dostupan, recite to u metapodacima poziva.
Petlja učenja: zatvoriti povratnu vezu
Najpodmukliji propust sučelja jest proizvod koji nikad ne postane bolji u služenju vama jer nikad ne promatra gdje vas je izmučio. Četiri puta bijesno pritisnuti gumb koji izgleda onemogućen, a nije, jest signal. Redovito napustiti stvaranje na pola jest signal. Pisati isti ispravak nakon svakog odgovora jest signal.
Poštena platforma te signale hvata otkriveno, koristi ih za poboljšanje usmjeravanja i zadanih vrijednosti i pokazuje što je naučila. Ne „vaše podatke koristimo za poboljšanje proizvoda" u bilješci uvjeta — nego vidljivu povratnu vezu: „primijetili smo da kod zadataka s kodom često prelazite s automatski odabranog modela na određeni; postaviti ga kao zadani?".
Petlja učenja uključuje i priznati da je platforma pogriješila. Proizvede li model činjenično pogrešan odgovor koji je netko ispravio, taj ispravak vrijedi više od tisuću palčeva gore. Postupati s njim tako čin je poštenja prema osobi i prema vlastitom baždarenju proizvoda.
Ljestvica
Nijedan od tih pet obrazaca nije tehnički težak. Teško je dati im prednost, jer katkad snižavaju kratkoročne pokazatelje uključenosti. Tko vidi upozorenja o trošku, oklijeva. Tko vidi obavijesti o nesigurnosti, manje vjeruje pojedinim odgovorima. Tko može poništiti, manje je vezan.
Oklada poštenog nacrta jest da ta trenja grade trajno povjerenje, i da je trajno povjerenje jedini temelj na kojem proizvod može stajati u kategoriji tako posljedičnoj kao što je umjetna inteligencija. Platforme koje preskaču ljestvicu poštenja ne grade odnose — vode polagano crpljenje. Razlika se vidi u odlascima, u opsegu upita podršci i u onoj vrsti preporuke od usta do usta koja se doista zbraja.
Svaku površinu ToRuna prosuđujemo prema tih pet obrazaca prije nego je izdamo. Ipak ih promašujemo. Kad se to dogodi, trag nadzora dovoljno je otkriven da nam se to može reći.