這裡的工作流程究竟是什麼
人工智慧領域多數所謂「工作流程」的工具,不過是提示鏈外加一層薄殼。ToRun 的建構器是一張由帶型別步驟組成的有向無環圖:你把模型呼叫、工具呼叫、條件分支、迴圈與子流程連成一張圖,引擎依相依順序執行,在圖允許的地方平行進行。
每一步都是第一級實體,帶著自己的設定:步驟型別(大型語言模型呼叫、網頁搜尋、程式碼執行、影像生成、檢索、轉換等)、輸入結構、錯誤策略(快速失敗、退避重試、轉到備案)、逐步的執行預算上限與逾時。
每個大型語言模型步驟內部的模型分派,走的是與 ToRun 其他一切相同的能力流程。你宣告所需——結構化輸出、視覺、工具呼叫、推理、至少 N 詞元的脈絡視窗——執行器便在當時可用的供應商中解析出最相符的模型。若你偏好的供應商回傳 5xx,備援鏈會自動接手。
品質優先的執行器,以及它在實務上改變了什麼
當你執行工作流程時,執行器刻意選擇品質等級的模型,而非最便宜的選項。兩個理由:自動化產出的成果(報告、生成的內容、程式碼)沒人會立刻複查,於是品質上的瑕疵悄悄累積;而在中等用量下,成本差額小於一次糟糕輸出的代價——那會逼出一次重跑或人工修補。
實務上這意味著「把研究整理並寫一份報告」的工作流程,會為整理挑一個紮實的推理模型、為撰寫挑一個高品質的文字模型,而不是奔向價格底部。若你知道某一步用輕量模型就夠,可以逐步覆寫。
計費沿用 ToRun 的其餘部分:工作流程內每一次模型呼叫都寫下恰好一筆紀錄,附上凍結的價格快照。一次在五個步驟裡呼叫三個不同模型的執行,會產生五筆紀錄。你可以事後查核每次執行的確切成本,並按步驟拆解——即使在供應商價格已經變動的幾個月之後。
剖析一次執行
每一次工作流程執行都會產出結構化的軌跡。軌跡展示這張圖,並為每個節點加註:開始時刻、結束時刻、解析出的模型、輸入與輸出的詞元數、發生的工具呼叫,以及若有錯誤也一併記下。在大型語言模型步驟上,你可以展開送出去的確切提示與收到的原始回應。
若某一步失敗,軌跡會告訴你錯誤來自模型呼叫(供應商錯誤、脈絡溢位、內容政策拒絕)、來自下游工具(網路逾時、結構驗證失敗),還是來自你自己的條件邏輯。你不必自行加上記錄:每次執行都在基礎架構層被擷取。
任何一次執行都可以用同樣的輸入重播,這讓重現一次故障很直接。
一個小例子:每週的競品掌握工作流程
設想一條你每週一早晨啟動的工作流程:
- 網頁搜尋步——為一組競品關鍵字搜尋近期報導,回傳一份位址與摘錄的清單。
- 檢索步——從知識庫取出最近四份報告,以奠定起始脈絡。
- 整理步(大型語言模型)——把搜尋結果提煉成結構化的發現:新功能、價格變動、值得注意的公告。
- 撰寫步(大型語言模型)——以一致的內部文風寫一份簡短備忘,扎根在已整理的發現上。
- 投遞步——把備忘送到設定好的 Webhook 端點。
這張圖有天然的相依:第 3 步相依於第 1、2 步(兩者可以平行),第 4 步相依於第 3 步,第 5 步相依於第 4 步。執行器不需要任何明確的平行設定便如此推進:它讀的是邊。