AIプラットフォームとインフラ

選び方

向いている人. エンドユーザー向けチャットアプリではなく、モデルを実行・ルーティング・ホストする場所を必要とするチーム。プラットフォームエンジニア、ML・データチーム、ホスト型推論と自前運用を比較する購買担当が含まれます。

向いていない人. API やデプロイの作業を伴わない消費者向けアシスタントだけを求める個人や、GPU の容量計画・レート制限・ベンダー条件を受け入れられないチームには向きません。

• 推論 API、モデルマーケットプレイス、ローカル実行環境、フルクラウドプラットフォームを切り分けます。解決する課題が異なり、互いに代替できることはほとんどありません。
• モデルを自社マシンに留める必要があるか、ベンダーの GPU で動かせるか、地域の境界を越えられるかを決めます。これで候補のまとまりが丸ごと絞られます。
• 製品化を考えるなら、レート制限、対応リージョン、可用性の条件、そして変動する別名ではなく特定バージョンを固定できるかを確認します。
• ローカル構成はコストをハードウェアと運用に移し、ホスト型は利用料金とベンダー条件に移すため、総コストを長期で比較します。

モデル市場とゲートウェイ

多数のモデルを単一の API や UI の背後にまとめて提供するカタログとゲートウェイです。次の高速推論クラウドと違い、自前のハードウェアを抱えず、主に第三者モデルへのアクセスを仲介します。

高速推論クラウド

低レイテンシや高スループットの生成に最適化したホスト型サービスです。上のゲートウェイと違い自らハードウェアを運用して速度で競い、下のローカル実行環境と違い自社マシンではなくネットワーク経由で利用します。

ローカルと自己ホストランタイム

ノート PC や自前の GPU で動かすソフトウェアで、ローカル UI も含みます。上のホスト型クラウドと違いデータは自社マシンから出ず、ハードウェア費用も自社負担になります。下のアプリ構築ツールと違い、モデルをアプリに組み上げず直接提供します。

LLM アプリとエージェントビルダー

モデルの上に LLM アプリやエージェントのワークフローを組み上げるツールです。上の実行環境と違いオーケストレーションと利用者向けのロジックを加え、下の企業向けクラウドと違い多くはセルフサービスで特定のハイパースケーラーに依存しません。

エンタープライズクラウド AI サービス

IAM、ネットワーク、企業契約でモデルを包むハイパースケーラーのサービスです。上の構築ツールと違い、単一クラウドの ID・課金・ガバナンスに結び付き、下の主権・地域プラットフォームと違い広いサービス群を持つ世界的な米国系ハイパースケーラーです。

主権・地域 AI プラットフォーム

米国系ハイパースケーラー以外で独自のモデル基盤を販売するベンダーで、しばしばデータ所在や主権を訴求します。上の企業向けクラウドと違い世界的なハイパースケーラーではなく独立系で、地域ホスティングと現地契約を重視する傾向があります。

よくある質問

関連するガイド

• ローカル／プライベートな文書Q&A

関連する比較

• Fireworks AI vs Together AI vs Amazon Bedrock
• Ollama vs LM Studio vs Jan

情報源と記録の日付

日付は索引の更新を示し、独自の実測を意味しません。最新の機能や料金はリンク先の資料で確認してください。