Amazon EC2 G7e インスタンスが提供リージョンを拡大

NVIDIA RTX PRO 6000 Blackwell Server Edition GPUを搭載したAmazon EC2 G7eインスタンスが、欧州（フランクフルト、ストックホルム）およびアジアパシフィック（ムンバイ）リージョンで利用可能になりました。G7eはG6eと比較して最大2.3倍の推論性能向上を実現しており、LLM、エージェントAI、マルチモーダル生成AI、物理AIモデルのデプロイに最適化されています。最大8基のGPU（1基あたり96GBメモリ）と第5世代Intel Xeonプロセッサを搭載し、最大192 vCPU、1600 Gbpsのネットワーク帯域幅をサポートします。また、NVIDIA GPUDirect P2PおよびEFAによるRDMAをサポートし、マルチGPU/マルチノード環境での低遅延通信を実現しています。

考察：Blackwell世代のGPUで推論性能が大幅に向上

今回のリージョン拡大により、より多くの地域で最新のBlackwellアーキテクチャベースのGPUを利用できるようになりました。特に推論性能がG6e比で2.3倍という点は、LLMやマルチモーダルAIの運用コスト（TCO）削減に直結する大きなメリットです。

解決される課題

• 推論のボトルネック解消: 1基あたり96GBという大容量メモリにより、より大規模なモデルを効率的にホストでき、分散推論の複雑さを軽減できます。
• マルチGPU間の通信遅延: GPUDirect P2PおよびRDMA (EFA) のサポートにより、小規模なマルチノード構成でもサブミリ秒の低遅延通信が可能になり、リアルタイム性が求められるAIワークロードに適しています。

日本国内の利用状況

• 東京リージョン (ap-northeast-1): 公式発表により、利用可能であることが確認されています。
• 大阪リージョン (ap-northeast-3): 今回の発表およびリサーチ結果では言及されておらず、利用可否についてはAWSマネジメントコンソールまたはサポートへの確認が必要です。

運用上のアドバイス

• コスト最適化: 長期的な推論ワークロードにはSavings Plans、耐障害性のあるバッチ処理やハイパーパラメータ調整にはSpotインスタンスの活用を検討してください。
• 移行時の注意点: NVIDIA CUDA 12.xおよびNVIDIA AI Enterprise 5.xへの対応が必要です。カスタムAMIを使用している場合は、Blackwellアーキテクチャをサポートする最新のGPUドライバとCUDAツールキットへの更新を必ず行ってください。
• セキュリティ: 機密性の高いデータを扱う場合は、AWS Nitro EnclavesによるGPUワークロードの分離を検討してください。

次のアクション

まずは、現在のG6e等のインスタンスでボトルネックとなっている推論レイテンシやスループットをNVIDIA Nsight Systemsなどで計測し、G7eへ移行した際のパフォーマンス向上幅をベンチマークテストすることをお勧めします。

参考ドキュメント

• Amazon EC2 G7e Instances (https://aws.amazon.com/ec2/instance-types/g7e/)