Useimmat tekoälytuotteet epäonnistuvat ulottuvuudessa, jolla ei ole mitään tekemistä mallin laadun kanssa. Ne epäonnistuvat rehellisyydessä — ei avoimen valheen mielessä vaan hiljaisemmilla poluilla: kätkeä, mitä kutsu maksaa, väittää varmasti ja varauksetta pötyä, antaa kadota tila, jota ei saa takaisin, eikä koskaan oppia aiheuttamastaan kitkasta. Nuo epäonnistumiset ovat suunnittelupäätöksiä, silloinkin kun ne näyttävät huolimattomuudelta.
Alla on viiden kaavan kehikko, jota käytämme ToRunissa sisäisesti arvioimaan jokaista rakentamaamme pintaa. Emme väitä ylittävämme sitä aina. Väitämme, että nämä ovat oikeat kysymykset.
Läpinäkyvyys: näyttää todellinen tila ja todellinen kustannus
Klassinen epärehellinen kaava on sumea »joitakin krediittejä kului«. Läpinäkyvä laskutus tarkoittaa, että mitä tahansa mennyttä kutsua voi katsoa ja rakentaa tarkalleen uudelleen, mitä veloitettiin ja miksi — palveluntarjoaja, malli, muoto, kulutetut yksiköt, hinta suoritushetkellä, mahdollinen valuuttamuunnos ja alustan kate. Jos jokin näistä kentistä puuttuu tai arvioidaan jälkikäteen, lasku on keksintöä.
Hienovaraisempi läpinäkyvyyden epäonnistuminen on mallin valinnan kätkeminen. Jos tuote laskee pyyntösi hiljaa halvemmalle mallille, koska törmäsit pehmeään rajaan, saatat saada huonomman vastauksen etkä koskaan saa tietää. Rehellistä on kertoa, mikä malli ajoi, miksi se valittiin ja mitä vaihtoehtoja oli. Ohjauspäätöksen pitäisi olla tarkasteltavissa, ei musta laatikko.
Läpinäkyvyys koskee myös tilaa. Jos taustatehtävä ajaa puolestasi, käyttöliittymän pitäisi kertoa se ja antaa keino pysäyttää se. »Käsitellään«-osoittimet, joita ei voi perua, ovat pieniä valheita.
Peruutettavuus: antaa perua
Peruuttamattomuus on aliarvioiduin käyttöliittymän epäonnistuminen tekoälytuotteissa. Pyydät työnkulkua lähettämään sähköpostin tai julkaisemaan kanavalla, se laukeaa heti, ja ainoa pelastusrengas on käsin kirjoitettu anteeksipyyntö. Ei välivaihetta. Ei vahvistusta, kun panokset ovat korkeat. Ei perumista.
Peruutettavuuden kaava vaatii, että tuotteet erottavat luku- ja kirjoitustoimet, näyttävät vahvistusvaiheet seurauksellisille toimille ja pitävät tilaa riittävän kauan, jotta virheet voidaan huomata. Tekoälyn tuottaman sisällön osalta se tarkoittaa, että luonnokset ovat olemassa ennen julkaisua, tuotetut tuotokset ovat palautettavissa poiston jälkeen ja keskusteluistunnot voidaan viedä ulos tai haarauttaa ennen kuin ne menetetään.
Peruutettavuus koskee myös asetuksia. Jos asetuksen muuttamisella on seurauksia myöhemmin — vaikkapa oletusmallin vaihtaminen kaikkiin tuleviin istuntoihin — tuotteen pitäisi kertoa, mikä muuttuu, ennen kuin se muuttuu, ei jälkeenpäin.
Ennakoiva huolenpito: varoittaa ennen vahinkoa, ei sen jälkeen
Rehellinen tuote sanoo »tämä viesti kuluttaa merkittävän osan saldostasi« ennen kutsua, ei jälkikäteisellä kuitilla. Se sanoo »tällä työnkulun vaiheella ei ole virheenkäsittelyä; jos edeltävä työkalu kaatuu, ajo pysähtyy hiljaa« silloin kun rakennat sitä, ei häiriön aikana kello kaksi yöllä.
Ennakoiva huolenpito tarkoittaa, että tuote mallintaa, mikä voisi mennä pieleen henkilön näkökulmasta, ja näyttää sen päätöskohdassa. Se on vaikeampaa kuin miltä kuulostaa, koska se vaatii tuotteelta aikomuksen ymmärtämistä, ei vain käskyjen suorittamista. Se joka tilaa 200 kuvan eräajon, haluaa luultavasti tietää arvioidun kustannuksen etukäteen, myös ilman nimenomaista kysymystä.
Epäonnistumisen kaava on tässä konversioon virittäminen — tukahduttaa kustannusvaroitukset, koska ne aiheuttavat epäröintiä. Lyhyellä aikavälillä se voi nostaa käyttöönottoa. Pitkällä aikavälillä se opettaa ihmiset olemaan luottamatta sinuun.
Tiedollinen rehellisyys: kertoa, mitä ei tiedä
Tekoälymallit sepittävät. Sen tietää jokainen tekoälytuotteita rakentava tiimi. Epärehellinen suunnitteluvastaus on esittää mallin tulosteet yhtenäisellä varmuudella ja antaa ongelman paljastua myöhemmin. Rehellinen vastaus on rakentaa nimenomaiset polut epävarmuuden merkitsemiseen.
Se tarkoittaa: kun malli viittaa lähteisiin, viitteiden on oltava aitoja ja avattavia. Kun malli sanoo »opetukseni päättymispäivän mukaan«, tuon varauman on pysyttävä näkyvissä käyttöliittymässä eikä sitä saa leikata siistimmän tekstin vuoksi. Kun hakua käyttävät vastaukset putoavat takaisin parametriseen tietoon, koska osuvaa kohtaa ei löytynyt, vastauksen pitäisi sanoa se sen sijaan, että esittäisi parametrisen vastauksen perusteltuna.
Tiedollinen rehellisyys ulottuu tuotteeseen itseensä. »Tämä toiminto on kokeellinen« ei ole piilotettava varoitus — se on tieto, jota tarvitaan luottamuksen säätämiseen. Jos varmuuspisteytys on olemassa ja se on matala, näytä se. Jos ohjausputki kaarsi toissijaiseen malliin, koska ensisijainen ei ollut käytettävissä, sano se kutsun metatiedoissa.
Oppimissilmukka: sulkea palautekierros
Kavalin käyttöliittymän epäonnistuminen on tuote, joka ei koskaan tule paremmaksi palvelemaan sinua, koska se ei koskaan tarkkaile, missä se turhautti sinua. Neljästi vihaisesti painaa painiketta, joka näyttää poistetulta mutta ei ole, on signaali. Toistuvasti hylätä tuottaminen puolessa välissä on signaali. Kirjoittaa sama korjaus jokaisen vastauksen jälkeen on signaali.
Rehellinen alusta kerää nämä signaalit paljastetusti, käyttää niitä ohjauksen ja oletusarvojen parantamiseen ja näyttää, mitä on oppinut. Ei »käytämme tietojasi tuotteen parantamiseen« käyttöehtojen alaviitteessä — vaan näkyvää palautetta: »huomasimme, että koodin tehtävissä vaihdat usein automaattisesti valitusta mallista tiettyyn; tehdäänkö siitä oletuksesi?«.
Oppimissilmukka sisältää myös sen myöntämisen, että alusta oli väärässä. Jos malli tuotti asiallisesti väärän vastauksen, jonka joku korjasi, tuo korjaus on arvokkaampi kuin tuhat peukkua ylös. Sen kohteleminen näin on rehellisyyden teko henkilöä ja tuotteen omaa kalibrointia kohtaan.
Rima
Mikään näistä viidestä kaavasta ei ole teknisesti vaikea. Vaikeaa on antaa niille etusija, koska ne joskus laskevat lyhyen aikavälin sitoutumismittareita. Se joka näkee kustannusvaroituksia, epäröi. Se joka näkee epävarmuusilmoituksia, luottaa vähemmän yksittäisiin vastauksiin. Se joka voi perua, on vähemmän sidottu.
Rehellisen suunnittelun veto on, että nämä kitkat rakentavat kestävää luottamusta ja että kestävä luottamus on ainoa perusta, jonka varassa tuote voi seistä tekoälyn kaltaisessa seurauksellisessa luokassa. Alustat, jotka hyppäävät rehellisyyden riman yli, eivät rakenna suhteita — ne hoitavat hidasta louhintaa. Ero näkyy poistumassa, tuen kysymysten määrässä ja siinä puskaradion lajissa, joka todella kertyy.
Arvioimme jokaisen ToRun-pinnan näitä viittä kaavaa vasten ennen julkaisua. Silti ohitamme ne. Kun niin käy, tarkastusjälki on riittävän paljastettu, jotta siitä voidaan kertoa meille.