すべてのチームが指示を他人の雲に送れるわけではありません。規制のある業種、公共部門の負荷、データの所在に厳しい規則を持つ企業は、AIの構成が自社の網の内側に留まることを必要とします。ToRunはまさにこの場合のために、自己運用できるプラットフォームとして配られます——しかも削られた版ではありません。同じ製品が、あなたの管理下にあります。
ここでの自己運用の意味
自己運用のToRunは、あなたのものである基盤に置かれた完全なプラットフォームです。自社の計算機、自社のKubernetesの群れ、あるいはデータセンターの一台のDockerホスト。推論のために外へ問い合わせる義務はありません。チャットのメッセージ、画像の生成、ワークフローの段を振り分けるとき、要求はあなたが設定したモデルへ向かい、それらは完全にローカルであり得ます。
設置は小さなチームで運べるように考えられています。一つの命令によるDocker設置がAPI、Angularの前面、MongoDB、Redis、事象の連絡路を立ち上げます。そこからモデルの受け口と対象保管を指し示せば、プラットフォームは運用型の版と同じように振る舞います。
自分のローカル大規模言語モデルを持ち込む
ToRunの能力による振り分けは、モデルが雲の提供元にあるか、自社の棚のGPU機にあるかを気にしません。支える能力（文章、視覚、ツール、構造化出力など）とともに目録にモデルを登録し、依頼側をローカルの推論終端に向ければ、他のすべてと同じ振り分けの経路に入ります。
つまり、公開重みのモデルをローカルの受け口を通して動かし——自己運用のチームの多くがすでに使っているOpenAI互換の推論終端です——雲の提供元の間で選ぶのと同じように、能力と費用でToRunに選ばせられます。方針が許すなら、ワークフローは機微な段にはローカルのモデルを、そうでない段には雲のモデルを混ぜられます。あるいは、すべての呼び出しを境界の内側に留められます。
同じ部品を、あなたの鍵の下で
自己運用は、プラットフォームの信頼の仕組みを手放すことではありません。自分の基盤の上でも、なお次のものが手に入ります。
- 能力による振り分け——登録したモデルの受け口の間で自動の代替つき。
- 呼び出しごとに一件の請求記録——費用の台帳はあなたが設定した単価で働くので、計算があなたのものでも、支出をチーム別・モード別・モデル別に割り当て続けられます。
- BYOK保管庫——それでも使うと決めた雲の提供元のために、資格情報は保存時に暗号化され、その解決に監査記録が残ります。
- ハッシュで連ねた監査——改変されていない証拠が要る操作のために。
- GDPR／KVKKのデータ権利の道具——本人の開示と消去はあなたのデータベースに対して走るので、消去の請求はあなたの管理の境界の内側で完結します。
ライセンスと更新
自己運用版は設置ごとに、原本コードへの参照つきでライセンスされます。あなたの安全担当が境界の内側で動くものを点検できるようにするためです。更新は署名された版として届き、あなたが決めたときに適用します——規制のある環境へ同意なく変更を押し込む強制の自動更新はありません。必要とするチームのためには原本コードの預託の取り決めがあり、供給側の状況にかかわらず設置は運用可能なまま保たれます。
これは誰のためか
AIプラットフォームの採用に対するあなたの反論がいつも「そのデータを自社の網の外へ出せない」であったなら、自己運用のToRunが答えです。近代的で複数提供元のAI作業空間——チャット、生成、ワークフロー、記憶、知識ベース——が、あなたのモデルに対し、あなたの機材の上で、規制順守の担当が本当に求める検証可能性とともに動きます。
自己運用の設置についてはご相談ください。参照構成は /docs の自社設置の節をご覧ください。