Flestar gervigreindarvörur bregðast á vídd sem á ekkert skylt við gæði líkansins. Þær bregðast í heiðarleika — ekki í merkingunni opinská lygi heldur á hljóðlátari leiðum: að fela hvað kall kostar, að fullyrða þvælu með vissu og án fyrirvara, að láta ástand hverfa sem ekki verður sótt aftur, og að læra aldrei af þeim núningi sem þær valda. Þessi mistök eru hönnunarákvarðanir, jafnvel þegar þau líta út eins og yfirsjónir.
Hér að neðan er ramminn með fimm mynstrum sem við í ToRun notum innanhúss til að meta hvern flöt sem við byggjum. Við höldum því ekki fram að við förum alltaf yfir hana. Við höldum því fram að þetta séu réttu spurningarnar.
Gegnsæi: að sýna raunverulegt ástand og raunverulegan kostnað
Klassíska óheiðarlega mynstrið er þokukennt »einhverjar innistæður eyddust«. Gegnsæ reikningsgerð þýðir að hægt sé að líta á hvaða fyrra kall sem er og endurgera nákvæmlega hvað var rukkað og hvers vegna — þjónustuaðili, líkan, gerð, eyddar einingar, verð á framkvæmdarstundu, gjaldmiðilsumreikningur ef við á og álagning vettvangsins. Vanti eitthvað þessara reita, eða sé það áætlað eftir á, er reikningurinn skáldskapur.
Fíngerðari brestur í gegnsæi er að fela líkanavalið. Lækki vara beiðnina þína hljóðlega niður á ódýrara líkan af því þú rakst á mjúk mörk færðu kannski verra svar og kemst aldrei að því. Heiðarlegt er að segja hvaða líkan keyrði, hvers vegna það var valið og hverjir kostirnir voru. Beiningarákvörðunin ætti að vera skoðanleg, ekki svartur kassi.
Gegnsæi á líka við um ástand. Keyri bakgrunnsverk fyrir þig ætti viðmótið að segja það og gefa þér leið til að stöðva það. »Vinnur úr«-vísar sem ekki er hægt að hætta við eru litlar lygar.
Afturkræfni: að leyfa afturköllun
Óafturkræfni er sá viðmótsbrestur sem mest er vanmetinn í gervigreindarvörum. Þú biður verkferil að senda bréf eða birta í rás, hann hleypur af stað strax, og eina björgunarlínan er handskrifuð afsökun. Ekkert milliþrep. Engin staðfesting þegar mikið er í húfi. Engin afturköllun.
Afturkræfnismynstrið krefst þess að vörur greini á milli lestrar- og skrifaðgerða, sýni staðfestingarþrep fyrir aðgerðir með afleiðingum og haldi ástandi nógu lengi til að mistök náist að sjást. Fyrir efni sem gervigreind bjó til þýðir það að drög séu til fyrir birtingu, að skapaðar afurðir séu endurheimtanlegar eftir eyðingu og að spjallotur megi flytja út eða greina áður en þú tapar þeim.
Afturkræfni á líka við um stillingar. Hafi breytt stilling afleiðingar síðar — segjum að sjálfgefna líkaninu sé skipt fyrir allar framtíðarlotur — ætti varan að segja hvað muni breytast áður en það breytist, ekki eftir á.
Framsýn umhyggja: að vara við fyrir skaðann, ekki eftir
Heiðarleg vara segir »þessi skilaboð munu eyða umtalsverðum hluta af innstæðunni þinni« fyrir kallið, ekki á kvittun eftir á. Hún segir »þetta verkferlaþrep hefur enga villumeðhöndlun; bili verkfærið á undan mun keyrslan stöðvast í hljóði« á meðan þú byggir það, ekki í bilun klukkan tvö um nótt.
Framsýn umhyggja þýðir að varan líkanar hvað gæti farið úrskeiðis frá sjónarhóli einstaklingsins og sýnir það á ákvörðunarpunkti. Það er erfiðara en það hljómar, því það krefst þess að varan skilji ætlun en framkvæmi ekki bara skipanir. Sá sem pantar lotugerð 200 mynda vill líklega vita áætlaðan kostnað fyrirfram, jafnvel án beinnar spurningar.
Brestamynstrið hér er að stilla af eftir umbreytingu — að bæla kostnaðarviðvaranir af því þær valda hiki. Til skamms tíma getur það hækkað virkjun. Til langs tíma kennir það fólki að treysta þér ekki.
Þekkingarleg heiðarleiki: að segja hvað maður veit ekki
Gervigreindarlíkön skálda. Það veit hver sá hópur sem byggir gervigreindarvörur. Óheiðarlega hönnunarsvarið er að leggja fram úttak líkansins með jafnri vissu og láta vandann uppgötvast síðar. Heiðarlega svarið er að byggja afdráttarlausar leiðir til að merkja óvissu.
Það þýðir: vísi líkan til heimilda verða tilvísanirnar að vera raunverulegar og opnanlegar. Segi líkan »samkvæmt lokadegi þjálfunar minnar« verður sá fyrirvari að haldast sýnilegur í viðmótinu og má ekki klippast burt fyrir snyrtilegri texta. Falli svör með sókn aftur á líkanþekkingu af því enginn viðeigandi kafli fannst ætti svarið að segja það í stað þess að leggja fram líkansvarið sem grundvallað.
Þekkingarleg heiðarleiki nær til vörunnar sjálfrar. »Þessi eiginleiki er á tilraunastigi« er ekki viðvörun til að fela — það er upplýsingin sem þarf til að stilla traustið af. Sé til vissustig og það lágt, sýndu það. Hafi beiningarrásin vikið yfir á aukalíkan af því aðallíkanið var ekki tiltækt, segðu það í lýsigögnum kallsins.
Námslykkjan: að loka endurgjöfinni
Lúmskasti viðmótsbresturinn er vara sem verður aldrei betri í að þjóna þér af því hún tekur aldrei eftir hvar hún fór í taugarnar á þér. Að ýta fjórum sinnum reiðilega á hnapp sem lítur út fyrir að vera óvirkur en er það ekki er merki. Að hætta reglulega við sköpun í miðju kafi er merki. Að skrifa sömu leiðréttinguna eftir hvert svar er merki.
Heiðarlegur vettvangur fangar þessi merki bert, notar þau til að bæta beiningu og sjálfgefin gildi og sýnir hvað hann lærði. Ekki »við notum gögnin þín til að bæta vöruna« í neðanmálsgrein skilmála — heldur sýnilega endurgjöf: »við tókum eftir að í kóðaverkum skiptirðu oft úr sjálfvirkt valda líkaninu yfir í tiltekið; á að gera það að sjálfgefna líkaninu þínu?«.
Námslykkjan felur líka í sér að viðurkenna þegar vettvangurinn hafði rangt fyrir sér. Hafi líkan framleitt staðreyndalega rangt svar sem einhver leiðrétti er sú leiðrétting meira virði en þúsund þumlar upp. Að meðhöndla hana þannig er heiðarleikaverk gagnvart einstaklingnum og gagnvart eigin kvörðun vörunnar.
Ráin
Ekkert þessara fimm mynstra er tæknilega erfitt. Það erfiða er að setja þau í forgang, því þau lækka stundum skammtíma mælikvarða um þátttöku. Sá sem sér kostnaðarviðvaranir hikar. Sá sem sér óvissutilkynningar treystir stökum svörum minna. Sá sem getur afturkallað er minna bundinn.
Veðmál heiðarlegrar hönnunar er að þessi núningur byggi varanlegt traust, og að varanlegt traust sé eini grunnurinn sem vara getur staðið á í flokki jafn afdrifaríkum og gervigreind. Þeir vettvangar sem sleppa heiðarleikaránni byggja ekki sambönd — þeir reka hæga námuvinnslu. Munurinn sést í brotthvarfi, í fjölda fyrirspurna til þjónustuborðs og í þeirri tegund umtals sem raunverulega leggst saman.
Við metum hvern ToRun-flöt gegn þessum fimm mynstrum áður en við gefum hann út. Við missum samt af þeim. Þegar það gerist er úttektarslóðin nógu ber til að hægt sé að segja okkur frá því.