Yearly Pay yearly and get 2 months free on every paid plan. See plans
登入 免費開始

Auto 到底在選什麼

一句新寫的「你好」,回來時掛著一個完全不會函式呼叫的模型。看不出哪裡壞了——它答得還不錯——但那一輪,以及它後面的每一輪,都是在沒有網頁搜尋、沒有圖像或影片生成、沒有記憶也沒有畫布的情況下跑完的。而當有人問它為什麼不能搜尋時,模型把這些缺失解釋成了自己的侷限。 這是路由缺陷能呈現的最糟形態:一切都在運轉,什麼都不報錯,產品卻悄悄變得比它本來的樣子更小。 按它真正能做的來排序 Auto 會給每個合格模型評分,選出一個贏家。一個完全沒有工具…

一句新寫的「你好」,回來時掛著一個完全不會函式呼叫的模型。看不出哪裡壞了——它答得還不錯——但那一輪,以及它後面的每一輪,都是在沒有網頁搜尋、沒有圖像或影片生成、沒有記憶也沒有畫布的情況下跑完的。而當有人問它為什麼不能搜尋時,模型把這些缺失解釋成了自己的侷限。

這是路由缺陷能呈現的最糟形態:一切都在運轉,什麼都不報錯,產品卻悄悄變得比它本來的樣子更小。

按它真正能做的來排序

Auto 會給每個合格模型評分,選出一個贏家。一個完全沒有工具評分的模型被當作「未評分但未禁用」,於是排在了一個真正弱的呼叫者之上。抽象地看合理,在這裡錯了:它不是呼叫工具很弱,而是根本呼叫不了。

候選模型現在按實際能呼叫的能力排序。一個連一次工作階段的第一個問題都答不上來的模型,已被完全移出候選。

告訴模型它是誰

另一半更奇怪。系統提示裡從來沒有任何東西告訴模型是哪個引擎在跑它。於是它按訓練時學到的方式自我介紹,讀者便以為產品和那一個引擎是同一回事——接著不喜歡那個引擎,然後離開,始終沒有發現選擇器。

現在每一輪都會帶上引擎與供應商的名字、可用模型有多少、是 Auto 選的還是你選的,以及在哪裡更換。手機上還多了一列可點按的標籤,就在輸入框上方,另有 /model 與 /auto——它們此前會被當作付費訊息送給引擎。

一把金鑰,一個帳號

某位客戶為自己的供應商加入的一把金鑰,讓那家供應商的整份型錄在所有人看來都是可用的。金鑰從未被擁有者以外的任何人讀取或傳送——但 Auto 認定那些模型是付得起的,選中了一個,於是其他所有人的那一輪都死掉了。可用性現在依提問者自身的範圍判定。

分享 LinkedIn X 電子郵件
用你自己的工作試試每則回覆都會顯示它的費用。從免費方案開始。 免費開始
Get product updates, not noise New models, features, and changelog highlights - a short email when something actually ships.
訂閱即表示你同意接收 ToRun 的產品更新郵件。你可以隨時取消訂閱。 隱私權政策