Amazon SageMaker JumpStart に Google Gemma 4 31B モデル 2 種が追加

Amazon SageMaker JumpStart のモデルカタログに、Google DeepMind の Gemma-4-31B-it-assistant と NVIDIA の Gemma-4-31B-IT-NVFP4 モデルが追加されました。前者はマルチモーダル推論、コーディング、エージェント的ワークフローに特化したアシスタントチューニング済みモデルであり、256K トークンのコンテキストウィンドウと 140 以上の言語をサポートします。後者は NVIDIA の ModelOpt フレームワークを用いて 4-bit FP4 精度に量子化されており、メモリ使用量を約 18.5 GB に削減し、推論速度を約 2.5 倍に向上させています。

Gemma 4 31B の導入メリット

今回のアップデートは、高度な推論能力とリソース効率の両の極端なニーズに応える 2 つのバリエーションが提供された点が非常に強力です。

解決される課題と技術的特徴

• 複雑なマルチモーダル処理: Gemma-4-31B-it-assistant は、テキスト、画像、ビデオ（フレームシーケンス）を扱えるため、映像解析や高度なコーディング支援といった、従来の LLM ではリソース消費が激しいタスクに適しています。
• コストとスループットの最適化: Gemma-4-31B-IT-NVFP4 は、NVIDIA の量子化技術により、メモリ消費を 68% も削減しつつ、品質を 97-99% 維持しています。これは、推論コストの削減と高スループットな本番環境の構築において、非常に大きなアドバンテージとなります。

日本国内の利用環境について

SageMaker JumpStart 自体は東京リージョン (ap-northeast-1) および大阪リージョン (ap-northeast-3) で利用可能ですが、今回発表された特定の Gemma 4 31B モデルが両リージョンで即時利用可能かどうかについては、AWS 公式の発表には明記されていません。デプロイ前に SageMaker コンソールまたは SDK を通じてカタログ内を確認することをお勧めします。

実務上のアドバイスと次のステップ

• 検証のポイント: 量子化モデル（NVFP4）を使用する場合、メモリ使用量の削減効果が、実際のワークロードにおける精度低下が許容範囲内か、コスト削減効果と天秤にかける検証が必要です。
• 推奨アクション: まずは SageMaker JumpStart のモデルカタログから、用途に合わせて it-assistant を it-assistant か IT-NVFP4 かを選択し、デployment 展開のインスタンスタイプを確認してください。

参照ドキュメント: Amazon SageMaker JumpStart documentation https://docs.aws.amazon.com/sagemaker/latest/dg/studio-jumpstart.html