Amazon SageMaker AI Batch Transform が G6e インスタンスに対応

Amazon SageMaker AI の Batch Transform 機能において、Amazon EC2 G6e インスタンスが利用可能になりました。G6e インスタンスは NVIDIA L40S Tensor コア GPU（1 GPU あたり 48 GB メモリ）を搭載しており、大規模言語モデル（LLM）や画像・動画生成などの GPU 負荷が高いオフライン推論ワークロードの処理を効率化します。

💡 エンジニア視点の解説

🚀 何が嬉しいのか？

これまで大規模な LLM や拡散モデル（画像・動画生成）をバッチ処理する場合、メモリ不足や計算リソースの不足が課題になりがちでした。今回の G6e インスタンス のサポートにより、1 GPU あたり 48 GB という大容量メモリ を活用できるため、より巨大なモデルのオフライン推論を、コスト効率良く実行できるようになります。

⚠️ 日本国内での利用に関する注意点

リサーチの結果、今回の G6e インスタンスのサポート対象リージョンは、米国東部（バージニア北部、オハイオ）、米国西部（オレゴン）、アジア太平洋（ムンバイ、ハイデラバード）に限定されています。 東京リージョン（ap-northeast-1）および大阪リージョン（ap-northeast-3）については、現時点の公式発表には記載がありません。 国内での利用を検討している場合は、リージョン制約に注意が必要です。

🛠️ 実務へのアドバイス

• コスト最適化: Batch Transform は永続的なエンドポイントを維持しないため、大量のデータを一括処理する際に非常にコスト効率が良いです。G6e の高いスペックを活かし、ジョブの並列度を適切に設定してスループットを最大化しましょう。
• 実装方法: 既存の AWS SDK、AWS CLI、または CreateTransformJob API から、インスタンスタイプに ml.g6e を指定するだけで導入可能です。

✅ 次のアクション

まずは、現在利用しているモデルが G6e インスタンス（NVIDIA L40S）上で動作するか、開発環境やサポート対象リージョンの検証用インスタンスでプロトタイプを作成してみることをお勧めします。

参照ドキュメント:

• Amazon SageMaker AI Batch Transform Documentation