Yearly Pay yearly and get 2 months free on every paid plan. See plans
登入 免費開始

每個人工智慧產品都該越過的誠實之桿

多數人工智慧產品失敗在一個與模型品質無關的面向上。它們失敗在誠實——不是公然說謊那種,而是更安靜的路數:藏起一次呼叫的成本、以篤定的口吻不加保留地斷言荒謬之事、任由無法找回的狀態消失、以及從不從自己造成的摩擦中學習。這些失敗即便看起來像疏忽,也都是設計上的決定。 以下是我們在 ToRun 內部用來衡量所建每一個介面的五種範式框架。我們不聲稱總能越過它。我們聲稱這些是正確的問題。 透明:展示真實的狀態與真實的成本 經典的不誠實範式,是一句…

多數人工智慧產品失敗在一個與模型品質無關的面向上。它們失敗在誠實——不是公然說謊那種,而是更安靜的路數:藏起一次呼叫的成本、以篤定的口吻不加保留地斷言荒謬之事、任由無法找回的狀態消失、以及從不從自己造成的摩擦中學習。這些失敗即便看起來像疏忽,也都是設計上的決定。

以下是我們在 ToRun 內部用來衡量所建每一個介面的五種範式框架。我們不聲稱總能越過它。我們聲稱這些是正確的問題。

透明:展示真實的狀態與真實的成本

經典的不誠實範式,是一句含糊的「消耗了一些額度」。透明計費意味著可以回看任何一次過往呼叫,並精確重建出收了什麼、為什麼收——供應商、模型、型態、消耗的單位、執行當下的價格、必要時的幣別換算,以及平台的加成。若這些欄位缺了任何一項,或是事後估的,那份帳單就是虛構。

更細微的透明失敗,是把模型選擇藏起來。若某產品因為你撞上一道軟性上限,就悄悄把你的請求降到更便宜的模型,你可能拿到更差的回覆卻始終不知情。誠實的做法是說明哪個模型跑了、為什麼被選中、備案是什麼。分派的決定應當可查看,而不是黑盒。

透明也適用於狀態。若有背景工作在為你執行,介面應當說明,並給你一個停止它的辦法。無法取消的「處理中」提示,是小小的謊言。

可逆:讓人能夠撤銷

不可逆是人工智慧產品中最被低估的互動失敗。你讓一條工作流程寄一封電子郵件或在頻道裡發文,它立刻就送了出去,而唯一的救生索是一句手寫的道歉。沒有中間步驟,沒有事關重大時的確認,沒有撤銷。

可逆這一範式要求產品區分讀與寫的操作,為有後果的動作展示確認步驟,並把狀態保留得夠久,好讓錯誤來得及被發現。對人工智慧生成的內容而言,這意味著草稿在發布之前存在、生成的產物在刪除後可復原、對話工作階段在遺失之前可以匯出或分支。

可逆同樣適用於設定。若改動一項設定會在後面產生影響——例如為今後所有工作階段更換預設模型——產品應當在改變之前說明將要改變什麼,而不是在之後。

預先的關照:在損害之前提醒,而不是之後

誠實的產品會在呼叫之前說「這則訊息會用掉你餘額中相當一部分」,而不是在事後的收據裡。它會在你建構時說「這個工作流程步驟沒有錯誤處理;若上一個工具失敗,執行會悄悄停住」,而不是在凌晨兩點的故障之中。

預先的關照,意味著產品從使用者的視角去設想哪裡可能出錯,並在決策的當口把它擺出來。這比聽上去難,因為它要求產品理解意圖,而不只是執行命令。要求批次生成兩百張影像的人,多半在事先就想知道估算成本,即使沒有明確開口問。

這裡的失敗範式是為轉換率調校——因為成本提醒會引起猶豫就把它壓下去。短期或許能抬高開通率。長期則是在教人不要信任你。

認知上的誠實:說出自己不知道的

人工智慧模型會編造。每一個做人工智慧產品的團隊都知道。不誠實的設計回應,是把模型輸出以齊一的篤定端出去,讓問題稍後被發現。誠實的回應,是建起明確的不確定性提示通道。

這意味著:模型引用來源時,那些引用必須真實且可開啟。模型說「就我訓練截止時」時,這層保留必須在介面上留著,不能為了文字更整潔而剪掉。當帶檢索的回覆因為沒找到相關段落而退回到模型內部知識時,回覆應當如實說明,而不是把那份內部作答當作有據可依端出來。

認知上的誠實也延及產品本身。「此功能處於實驗階段」不是要藏起來的告示——它是調校信任所需的資訊。若有信心分數且分數偏低,把它顯示出來。若分派流程因主模型無法使用而繞到備選模型,就在呼叫的中繼資料裡說明。

學習迴路:把回饋閉合

最陰險的互動失敗,是一個永遠不會更懂得服務你的產品,因為它從不觀察自己在哪裡惹惱了你。對著一個看著像停用其實沒停用的按鈕氣惱地點四下,是訊號。習慣性地在生成到一半時放棄,是訊號。每次回覆之後都寫同一句更正,是訊號。

誠實的平台會攤開地擷取這些訊號,用它們改進分派與預設值,並展示自己學到了什麼。不是服務條款註腳裡的「我們使用你的資料以改進產品」,而是看得見的回饋:「我們注意到你在程式碼工作上常從自動選擇的模型切到某個特定模型;要把它設為你的預設嗎?」

學習迴路也包括承認平台錯了。若模型給出了事實錯誤的回覆而有人糾正了它,這份糾正比一千個按讚更有價值。這樣對待它,既是對那個人的誠實,也是對產品自身校準的誠實。

那道桿

這五種範式在技術上沒有一項難做。難的是把它們排在前面,因為它們有時會拉低短期的互動指標。看到成本提醒的人會猶豫。看到不確定性提示的人會更少信任單筆回覆。能夠撤銷的人更不受束縛。

誠實設計的賭注是:這些摩擦築起持久的信任,而在人工智慧這樣後果深遠的門類裡,持久的信任是產品唯一能立足的地基。跳過誠實之桿的平台並不是在建立關係——它們在經營一場緩慢的攫取。這份差別顯現在流失裡、在客服的案件量裡,也在那種真正會累積的口碑裡。

我們在發布之前,會用這五種範式衡量 ToRun 的每一個介面。我們仍會錯過。真出了這種事,稽核軌跡也攤開得足夠,好讓人能來告訴我們。

分享 LinkedIn X 電子郵件
用你自己的工作試試每則回覆都會顯示它的費用。從免費方案開始。 免費開始
Get product updates, not noise New models, features, and changelog highlights - a short email when something actually ships.
訂閱即表示你同意接收 ToRun 的產品更新郵件。你可以隨時取消訂閱。 隱私權政策