マルチクラウドAI
文書基準: 2026年9月 | 本文書は変化の速い領域であり、四半期ごとのレビュー対象です。
なぜマルチクラウドAIなのか
Section titled “なぜマルチクラウドAIなのか”各クラウドベンダーはAI/ML領域でそれぞれ異なる強みを持っています。単一ベンダーに依存せず、ワークロードの特性に合った最適なサービスを組み合わせることで、コスト、性能、モデルの多様性の面でメリットを得ることができます。
- AWS — Amazon Bedrock/SageMaker AI。最大規模のモデルカタログ + 自社AIチップ(Trainium/Inferentia)
- Azure — Microsoft Foundry。OpenAI GPTシリーズを主力に + Microsoftエコシステムとの統合
- Google Cloud — Gemini Enterprise Agent Platform。自社Geminiマルチモーダル + TPUインフラ
- OCI — OCI Enterprise AI。Dedicated AI Cluster(RDMA専用GPU) + イグレス10TB無料
GPU可用性
Section titled “GPU可用性”AI学習および推論に不可欠なGPUインスタンスを主要CSP別に比較します。
NVIDIA GPU世代別比較
Section titled “NVIDIA GPU世代別比較”現在クラウドで提供されている主要なNVIDIAデータセンターGPUのスペック比較です。
| 項目 | H100(Hopper) | H200(Hopper) | B200(Blackwell) | GB200(Blackwell) |
|---|---|---|---|---|
| メモリ | 80GB HBM3 | 141GB HBM3e | 192GB HBM3e | 384GB(2×192GB) |
| 帯域幅 | 3.35 TB/s | 4.8 TB/s | 8.0 TB/s | 16 TB/s(Superchip) |
| NVLink | 900 GB/s | 900 GB/s | 1.8 TB/s | NVL72ドメイン |
| TDP | 700W | 700W | 1000W | 1200W(Superchip) |
| 適したワークロード | 学習/推論汎用 | 大規模推論、長いコンテキスト | 次世代学習 | 兆単位パラメータのフロンティアモデル |
| メモリ(H100比) | 1× | ~1.8× | ~2.4× | ~4.8×(2×B200合算) |
選択ガイド:
- H100/H200 — リージョン可用性が比較的広い。中規模学習、Fine-tuning、一般的な推論に適する。H200はH100と同一のアーキテクチャ系統で、メモリ・帯域幅が大きく長いコンテキストの推論に有利
- B200 / B300（Blackwell・Blackwell Ultra） — 2026年にクラウドで実際に提供される主力世代。B300（Blackwell Ultra）はAWS EC2 P6-B300などでGAされリージョンが拡大中で、B200比でメモリ（288GB級）・量子化推論の効率が高い。ネイティブFP4などにより推論効率が高い傾向だが、実際のスループットはワークロードごとに測定
- 次世代（Vera Rubin、VR200など） — 2026年下半期にパートナー供給が始まるが、割当により実際の可用性は限定的（2027年まで拡大見込み）。最新世代の導入時はリージョン・コミットメントの可用性を公式文書で確認
- GB200 NVL72 — Grace CPU + B200 GPUをSuperchipとして結合。多数のGPUを単一のNVLinkドメインにまとめて超大型モデルの学習に使用。利用可能なリージョン・コミットメントの確保が限定的な場合がある
ベンダー別GPUインスタンス
Section titled “ベンダー別GPUインスタンス”| 項目 | AWS | Azure | Google Cloud | OCI |
|---|---|---|---|---|
| B200 (Blackwell) | P6-B200 (8×B200 180GB) | ND GB200-v6 | A4 (8×B200) | BM.GPU.B200.8 (8×B200) |
| GB200 (NVLink) | P6e-GB200 UltraServer (最大72 GPU) | ND GB200-v6(NVLinkドメイン) | A4X (GB200 NVL72) | — |
| H100インスタンス | p5.48xlarge (8×H100 80GB) | ND H100 v5 (8×H100 80GB) | a3-highgpu-8g (8×H100 80GB) | BM.GPU.H100.8 (8×H100 80GB) |
| A100インスタンス | p4d.24xlarge (8×A100 40/80GB) | ND A100 v4 (8×A100 80GB) | a2-highgpu-8g (8×A100 80GB) | BM.GPU.A100-v2.8 (8×A100 80GB) |
| RTX PRO / 推論特化 | G7 (NVIDIA RTX PRO 4500 Blackwell) | — | — | — |
| 自社AIチップ | Trainium2 (Trn2), Inferentia2 (Inf2) | Maia 100 | TPU v8(第8世代) | — |
| 予約オプション | Reserved Instances, Savings Plans | Reserved VM Instances | CUD (Committed Use Discount) | Capacity Reservation |
| スポット/プリエンプティブル | Spot Instances | Spot VMs | Spot VMs (Preemptible) | Preemptible Instances |
RAGパイプライン
Section titled “RAGパイプライン”RAG(Retrieval-Augmented Generation)パイプラインは、Vector DB、Embeddingモデル、LLM、オーケストレーションの組み合わせで構成されます。各ベンダーの主要サービス:
- AWS — OpenSearch Serverless + Titan Embeddings + Bedrock Knowledge Bases
- Azure — AI Search + Microsoft Foundry
- Google Cloud — Vertex AI Vector Search + Gemini Embedding + RAG Engine
- OCI — OCI Search/Oracle 23ai + Cohere Embed + Enterprise AI Agents
アーキテクチャ選択パターン
Section titled “アーキテクチャ選択パターン”| パターン | 説明 | 適したケース |
|---|---|---|
| 単一CSP AIプラットフォーム | 1つのクラウドのモデル、データ、デプロイツールをすべて使用 | 運用のシンプルさが最も重要な場合 |
| モデル分散 | モデルは複数CSPのAPIを使用し、アプリケーションは1か所で運用 | モデルの品質とコストを比較しながら選択する必要がある場合 |
| データ近接型 | データが存在するクラウドでエンベディング・検索・推論を実行 | データ移動コストや規制が重要な場合 |
| 中央RAGプラットフォーム | 1つの共通RAG層から複数CSPのモデルを呼び出し | 組織全体に共通のAIプラットフォームを提供する場合 |
設計時の注意事項
Section titled “設計時の注意事項”- データ移動コスト — 大量の文書、エンベディング、ログをクラウド間で移動すると、イグレス費用が大きくなる可能性があります。
- データ主権 — 個人情報、金融データ、医療データは保存場所と処理場所を明確にする必要があります。
- モデル依存性 — 特定モデルのAPI形式、トークン制限、関数呼び出し方式に依存しないよう、抽象化レイヤーを設けます。
- 可観測性 — プロンプト、応答、トークン使用量、レイテンシ、コストを併せてモニタリングします。
- セキュリティ — プロンプトインジェクション、機密情報の漏えい、過度なエージェント権限を統制する必要があります。
よくある間違い
Section titled “よくある間違い”- すべてのベンダーのAIサービスを同時に導入 — マルチクラウドAIは必要な組み合わせだけを選択するものだが、すべてのベンダーを並行して運用し複雑度とコストが急増
- データ移動コストを事前に算定しない — エンベディング、文書、ログをクラウド間で移動すると、イグレス費用が想定より大きく発生
- モデルAPI形式に直接依存 — 抽象化レイヤーなしに特定ベンダーの関数呼び出し方式にコードを合わせ、モデルの入れ替えが困難になる
チェックリスト
Section titled “チェックリスト”- マルチクラウドAI導入の理由(モデル品質、コスト、規制)を明確に定義したか
- データ移動コスト(イグレス)を事前に算定し、データ近接型アーキテクチャを検討したか
- モデル呼び出しに抽象化レイヤー(LangChainなど)を設け、ベンダーの入れ替えが可能な構造になっているか