キャンバスでゲームや長い文書を作ると、ターンを重ねるごとに遅く、高くなっていました。そこで、アシスタントが大きなキャンバスを扱う仕組みを作り直しました。
変えたこと
- 部分ごとに。 アシスタントは毎回キャンバス全体を読み直して書き直すのではなく、必要なファイルとセクションだけを読み取り、修正します。
- 再送信を減らす。 キャンバスに保存済みの内容は手順ごとに送り直さず、会話の固定部分は 1 時間キャッシュされます。
- 長い作業も最後まで。 作業が進んでいる返信が 5 分で途切れることはなくなり、進行中の内容も確認できます。
- 費用は Runs で。 アシスタントが次の手順を見積もるときは、残高の単位である Runs で伝えます。
その結果、長いキャンバス作業でも速さを保ち、1 ターンあたりの費用がはっきり下がりました。