A legtöbb MI-termék olyan dimenzióban bukik el, amelynek semmi köze a modell minőségéhez. A becsületességben buknak el — nem a nyílt hazugság értelmében, hanem csendesebb utakon: elrejteni, mennyibe kerül egy hívás, magabiztosan és fenntartás nélkül képtelenséget állítani, hagyni eltűnni olyan állapotot, amelyet nem lehet visszahozni, és sosem tanulni a súrlódásból, amelyet okoznak. Ezek a bukások tervezési döntések, még ha figyelmetlenségnek látszanak is.
Alább az öt mintából álló keret, amelyet a ToRunban belül használunk minden épített felület megítélésére. Nem állítjuk, hogy mindig megugorjuk. Azt állítjuk, hogy ezek a helyes kérdések.
Átláthatóság: mutatni a valódi állapotot és a valódi költséget
A klasszikus becstelen minta a ködös „elfogyott néhány kredit". Az átlátható számlázás azt jelenti, hogy bármely múltbeli hívást meg lehet nézni, és pontosan rekonstruálni, mit számláztak és miért — szolgáltató, modell, módozat, elfogyasztott egységek, díj a végrehajtás pillanatában, esetleges pénznemátváltás és a platform árrése. Ha bármelyik mező hiányzik, vagy utólag becslik, a számla koholmány.
Finomabb átláthatósági bukás elrejteni a modellválasztást. Ha egy termék csendben olcsóbb modellre fokozza le a kérését, mert puha korlátba ütközött, talán rosszabb választ kap, és soha nem tudja meg. A becsületes az megmondani, melyik modell futott, miért választották, és mik voltak a helyettesítők. Az irányítási döntésnek átnézhetőnek kellene lennie, nem fekete doboznak.
Az átláthatóság az állapotra is vonatkozik. Ha háttérfeladat fut Önért, a felületnek meg kellene mondania, és módot adnia a leállítására. A „feldolgozás alatt" jelzők, amelyeket nem lehet megszakítani, apró hazugságok.
Visszafordíthatóság: hagyni visszavonni
A visszafordíthatatlanság a leginkább alábecsült felületi bukás az MI-termékekben. Megkér egy munkafolyamatot, hogy küldjön levelet vagy tegyen közzé egy csatornán, az azonnal elsül, és az egyetlen mentőöv egy kézzel írt bocsánatkérés. Nincs köztes lépés. Nincs megerősítés, amikor nagy a tét. Nincs visszavonás.
A visszafordíthatóság mintája megköveteli, hogy a termékek megkülönböztessék az olvasási és írási műveleteket, megerősítési lépéseket mutassanak a következményekkel járó műveleteknél, és elég sokáig tartsák az állapotot ahhoz, hogy a hibákat észre lehessen venni. MI által előállított tartalomnál ez azt jelenti, hogy piszkozatok léteznek a közzététel előtt, a generált műtermékek törlés után visszaállíthatók, és a beszélgetési munkamenetek exportálhatók vagy elágaztathatók, mielőtt elveszítené őket.
A visszafordíthatóság a beállításokra is vonatkozik. Ha egy beállítás módosításának későbbi következményei vannak — mondjuk az alapértelmezett modell váltása minden jövőbeli munkamenetre —, a terméknek meg kellene mondania, mi fog változni, mielőtt megváltozna, nem utána.
Előretekintő gondoskodás: a kár előtt figyelmeztetni, nem utána
Egy becsületes termék azt mondja: „ez az üzenet az egyenlege jelentős részét fogja elfogyasztani" a hívás előtt, nem utólagos nyugtán. Azt mondja: „ennek a munkafolyamat-lépésnek nincs hibakezelése; ha az előző eszköz elbukik, a futás csendben megáll", amíg építi, nem hajnali kettőkor egy eseménynél.
Az előretekintő gondoskodás azt jelenti, hogy a termék modellezi, mi mehet félre az illető nézőpontjából, és ezt a döntési ponton mutatja. Nehezebb, mint hangzik, mert megköveteli a terméktől a szándék megértését, nem csupán parancsok végrehajtását. Aki 200 kép kötegelt generálását rendeli meg, valószínűleg előre tudni akarja a becsült költséget, kifejezett kérdés nélkül is.
A bukás mintája itt a megtérésre hangolás — elnyomni a költségfigyelmeztetéseket, mert habozást okoznak. Rövid távon ez emelheti az aktiválást. Hosszú távon arra tanítja az embereket, hogy ne bízzanak Önben.
Megismerési becsületesség: megmondani, amit nem tud
Az MI-modellek kitalálnak. Ezt minden MI-termékeket építő csapat tudja. A becstelen tervezési válasz egyenletes bizonyossággal tálalni a modell kimeneteit, és hagyni, hogy a gond később derüljön ki. A becsületes válasz kifejezett utakat építeni a bizonytalanság jelzésére.
Ez azt jelenti: ha egy modell forrásokat idéz, a hivatkozásoknak valódiaknak és megnyithatóknak kell lenniük. Ha egy modell azt mondja: „a tanításom zárónapja szerint", ennek a fenntartásnak láthatónak kell maradnia a felületen, és nem szabad kivágni rendezettebb szöveg kedvéért. Ha a visszakereséses válaszok visszaesnek a paraméteres tudásra, mert nem találtak fontos részletet, a válasznak ezt kellene mondania ahelyett, hogy a paraméteres választ megalapozottként tálalná.
A megismerési becsületesség magára a termékre is kiterjed. A „ez a szolgáltatás kísérleti" nem elrejtendő figyelmeztetés — ez az az információ, amely a bizalom beállításához kell. Ha van bizonyossági pontszám, és alacsony, mutassa meg. Ha az irányítási csővezeték másodlagos modellre kanyarodott, mert az elsődleges nem volt elérhető, mondja meg a hívás metaadataiban.
Tanulási hurok: bezárni a visszacsatolást
A legalattomosabb felületi bukás olyan termék, amely soha nem lesz jobb az Ön kiszolgálásában, mert soha nem figyeli, hol bosszantotta fel. Négyszer dühösen megnyomni egy gombot, amely letiltottnak látszik, de nem az, jelzés. Rendszeresen félúton elhagyni egy generálást jelzés. Minden válasz után ugyanazt a javítást írni jelzés.
Egy becsületes platform ezeket a jelzéseket feltárva gyűjti, az irányítás és az alapértékek javítására használja, és megmutatja, mit tanult. Nem „az adatait a termék javítására használjuk" a felhasználási feltételek lábjegyzetében — hanem látható visszacsatolást: „észrevettük, hogy kódfeladatoknál gyakran vált az automatikusan választott modellről egy adottra; legyen ez az alapértelmezettje?".
A tanulási hurok magában foglalja annak beismerését is, hogy a platform tévedett. Ha egy modell tényszerűen hibás választ állított elő, amelyet valaki kijavított, ez a javítás többet ér ezer felfelé mutató hüvelykujjnál. Így kezelni a becsületesség tette az illetővel és a termék saját beállításával szemben.
A léc
Egyik minta sem nehéz műszakilag. Az elsőbbség megadása nehéz, mert néha csökkentik a rövid távú bevonódási mutatókat. Aki költségfigyelmeztetést lát, habozik. Aki bizonytalansági értesítést lát, kevésbé bízik egyes válaszokban. Aki vissza tud vonni, kevésbé van megkötve.
A becsületes tervezés fogadása az, hogy ezek a súrlódások tartós bizalmat építenek, és hogy a tartós bizalom az egyetlen alapzat, amelyen egy termék állhat egy olyan következményekkel teli kategóriában, mint a mesterséges intelligencia. Azok a platformok, amelyek átugorják a becsületességi lécet, nem kapcsolatokat építenek — lassú kitermelést folytatnak. A különbség meglátszik a lemorzsolódásban, az ügyfélszolgálati kérdések mennyiségében és abban a szájhagyományban, amely valóban összeadódik.
Minden ToRun-felületet ezen öt minta ellenében ítélünk meg, mielőtt kiadnánk. Ennek ellenére elvétjük őket. Amikor ez megtörténik, a vizsgálati nyom eléggé feltárt ahhoz, hogy elmondhassák nekünk.