NVIDIA Nemotron 3.5 Super VL が Amazon SageMaker JumpStart で利用可能に

Amazon SageMaker JumpStart に NVIDIA のマルチモーダル基盤モデル Nemotron 3.5 Super VL が追加されました。このモデルは画像、ビデオ、テキストをインプットとして受け取り、テキストを生成する Vision-Language モデルです。120B パラメータの MoE アーキテクチャを採用し、最大 100 万トークンのコンテキスト長をサポートしています。SageMaker JumpStart では、推論最適化用の NVFP4 バリアント（G7 インスタンス）と、カスタマイズ用の BF16 リファレンスウェイト（ml.p5en.48xlarge インスタンス）の 2 つのバリアントが提供されています。

🚀 エンジニア向け考察：高度なマルチモーダル AI の実装に向けて

NVIDIA の Nemotron 3.5 Super VL は、単なる画像認識を超えた、ドキュメント解析、GUI 理解、ビデオへの質問回答といった、非常に高度なマルチモーダルタスクに特化した設計となっています。特に、120B パラメータの MoE（Mixture-of-Experts）構成により、効率的な推論と高い性能を両立させている点が強力です。

🛠️ 技術的な解決策とメリット

• 複雑な非構造化データの処理: 構造化された JSON 出力やツール呼び出し（tool calling）に対応しているため、エンタープライズ向けの AI エージェントや自動化ワークフローへの組み込みが容易です。
• 高速な生成: Multi-Token Prediction (MTP) head による投機的デコード（speculative decoding）により、テキスト生成の高速化が実現されています。

🇯🇵 日本国内リージョンの可用性について

AWS 公式発表およびドキュメントにおいて、東京（ap-northeast-1）および大阪（ap-northeast-3）リージョンにおける本モデルの具体的な提供状況は明記されていません。展開にあたっては、推奨される G7 インスタンス または ml.p5en.48xlarge インスタンスが、利用予定のリージョンで利用可能かどうかを事前に確認する必要があります。

💡 実務上のアドバイス

• 用途に応じたバリアントの選択: 推論コストと速度を重視する場合は NVFP4、モデルの微調整（SFT/RL）やドメイン適応を行いたい場合は BF16 を選択してください。
• インスタンスの確保: 本モデルのような大規模なモデルを動かすには、最新の Blackwell 世代の GPU インスタンス（G7）などの強力なリソースが必要となるため、キャパシティ予約やキャパシティブロックの検討が必要になるケースがあります。

🔍 次のアクション

• SageMaker JumpStart のモデルカタログから、Nemotron 3.5 Super VL を検索し、利用可能なインスタンスタイプを確認してください。
• まずは、低コストな検証用インスタンスで、ドキュメント解析や GUI 理解のユースケースに試行（PoC）を行うことを推奨します。

参照元: Amazon SageMaker JumpStart ドキュメント https://docs.aws.amazon.com/sagemaker/latest/dg/studio-jumpstart.html