AIエージェント導入の選択肢：セルフホスト vs クラウド ― 連載第3回

本記事は連載「企業のためのAIエージェント」の第3回です。第1回ではAIエージェントとチャットボット/RPAの違いを、第2回ではLLM・メモリ・ツール・プランニングループからなる内部アーキテクチャを解説しました。今回は、実装の入口に立つ企業が最初にぶつかる問い――「どこで動かすか」を扱います。

選択肢は大きく2つ。クラウドのAPI（OpenAI、Anthropic、Google など）を呼び出す方式か、自社で管理するインフラ上でモデルを動かすセルフホスト方式か。この判断はセキュリティ、コスト、データ主権のすべてに長期的な影響を及ぼします。本記事ではこの3軸で2026年最新の数字とともに比較し、最後に多くの企業にとっての現実解を示します。

そもそも何を「ホスト」するのか

第2回で見たとおり、AIエージェントはLLM単体ではなく、推論エンジン・メモリ（ベクトルDB）・ツール実行層・オーケストレーションを束ねたシステムです。「どこで動かすか」という問いは、実際には次の2つに分解できます。

• モデル推論：LLMそのものをクラウドAPI経由で使うか、自社GPU上で動かすか。
• エージェント基盤：メモリ・ツール・ログ・データ連携といった周辺コンポーネントをどこに置くか。

この2つは独立して選べます。たとえば「推論はクラウドAPI、データと基盤は自社内」という構成も成立します。まずは3つの判断軸を順に見ていきましょう。

軸1：セキュリティとデータ主権

クラウドAPIの最大の懸念は、業務データ（顧客情報、契約書、ソースコードなど）が社外のサーバーを通過することです。主要ベンダーはAPI経由のデータを学習に使わないと明言していますが、それでも「データが物理的にどこに保存・処理されるか」は規制対応上の重要事項です。

2026年の規制環境はこの判断をさらに重くしています。ベトナムでは2026年3月1日にAI法（Law on Artificial Intelligence）が施行され、AIをリスクに応じて3段階に分類し、越境データ処理に関する統制メカニズムとサイバー空間における国家主権を明記しました（出典：LuatVietnam）。日本でも個人情報保護法（APPI）のもとで、個人データの越境移転には本人同意や十分性認定が求められます。

機密性の高いデータを扱う業務（医療、金融、官公庁、知財）では、データを国内・自社内にとどめられるセルフホストが規制対応上の安心材料になります。一方、一般的な社内文書要約やコード補助であれば、契約上のデータ保護条項が整ったクラウドAPIで十分なケースも多いです。

セルフホストの優位点

あるガイドはセルフホスト型AIエージェントの中核的な利点を「完全なデータプライバシー、予測可能なコスト、フルカスタマイズ、外部依存からの独立」の4点に整理しています（出典：Self-Hosted AI Agent Guide 2026）。データが社外に一切出ないという点は、規制業種では何にも代えがたい価値です。

軸2：コスト（TCO）

コスト比較でよくある誤りは、「クラウドAPI単価 × 利用量」と「GPUの月額償却」を単純に並べることです。実際のTCO（総保有コスト）はもっと多面的です。

2026年の重要な変化は、クラウドAPI価格の下落が止まったことです。2024〜2025年に急落した価格は、フロンティアモデルのコスト上昇と需要増により2026年に横ばいとなりました（出典：VDF AI TCO比較2026）。「価格は下がり続ける」前提で計画した企業は再考を迫られています。

もう一つの鍵はルーティングです。同調査によれば、フロンティアモデルで月5万ドルかかるワークロードも、品質が同等な小型ローカルモデルへ70%のリクエストを振り向けることで月8,000〜15,000ドルまで下がりうるとされています。トラフィックの70%をローカルモデルに回すと推論コストは60〜80%削減できるという数字です。

注意すべき「隠れコスト」も両側に存在します。クラウド側はデータ転送（エグレス）、可観測性ツール、リトライ、ファインチューニング実行。セルフホスト側は冷却、減価償却、運用要員、アイドル時の稼働率です。本当の比較にはこれらすべてを含める必要があります。

軸3：カスタマイズと運用の自由度

セルフホストではモデルの選択・微調整・量子化・推論最適化（vLLM や Ollama などのスタック）を自由に行えます。自社ドメインに特化した小型モデルを量子化してコモディティGPUで動かせば、性能とコストのバランスを細かく制御できます。

一方クラウドは、最新フロンティアモデルへ即座にアクセスでき、インフラ運用の負担がほぼありません。立ち上げ速度を最優先するPoC（概念実証）段階では、クラウドが圧倒的に有利です。MLOps人材が社内にいない企業にとって、セルフホストの運用負荷は無視できないリスクになります。

現実解：ハイブリッド構成

2026年時点での最も正直な答えは「ワークロードの組み合わせ次第」です。そして多くの企業が辿り着く結論がハイブリッドです。

• 高頻度・定型タスク（社内文書の分類・要約、定型FAQ応答）→ 自社内の小型ローカルモデルへルーティング。コストとデータ主権の両取り。
• 低頻度・高度推論タスク（複雑な分析、稀な例外処理）→ クラウドのフロンティアモデルを利用。
• 機密データを含む処理 → 必ず社内で完結させる。

この「ルーティング設計」こそが、セキュリティとコストを同時に最適化する2026年の標準的アプローチです。最初から完璧な構成を目指すのではなく、PoCはクラウドで素早く立ち上げ、本番でデータ量と機密度に応じて段階的にセルフホストへ移すのが現実的です。

導入判断のためのチェックリスト

1. 扱うデータの機密度と該当する規制（APPI、ベトナムAI法など）は？
2. 月間トークン量はPoC時と本番で何倍に伸びるか？
3. 社内にMLOps運用体制はあるか？
4. 立ち上げ速度とコスト予測性、どちらを優先するか？
5. ルーティングで高頻度タスクをローカル化できる余地はあるか？

まとめ

セルフホストとクラウドは二者択一ではありません。セキュリティ・コスト・自由度を3軸で評価し、ワークロードごとに最適な置き場所を決める――これが2026年のAIエージェント導入の要諦です。多くの企業にとっての答えは、機密データと高頻度タスクは社内に、最新の推論はクラウドに振り分けるハイブリッドになるでしょう。

次回（第4回）では、いよいよ部門別のユースケース――セールス、カスタマーサポート、業務オペレーション、開発の各現場でAIエージェントがどう価値を生むかを、具体例とともに掘り下げます。お楽しみに。