Amazon SageMaker AIがトレーニングおよびプロセッシングジョブのインスタンス優先順位リストをサポート

Amazon SageMaker AIにおいて、トレーニングおよびプロセッシングジョブの実行時に、優先順位を付けた複数のインスタンスタイプをリスト形式で指定できる「インスタンス・プリファレンス・リスト」機能が導入されました。これにより、特定のインスタンスタイプが不足している場合でも、リスト内の次点の候補から自動的にリソースを確保し、ジョブの開始待ち時間を短縮できます。本機能は、オンデマンドおよびSageMaker Flexible Training Plansの予約済み容量の両方で利用可能です。SageMakerが提供されるすべてのリージョンで提供開始されました。

現場の悩み：GPUリソースの確保が最大のボトルネック

AI/MLエンジニアにとって、特に高需要なGPUインスタンス（ml.p4dやml.g5など）の確保は常に課題でした。これまでは、指定したインスタンスが不足しているとジョブが待機状態になり、手動で別のタイプに変更して再試行するか、複雑なリトライロジックを自前で実装する必要がありました。

今回のアップデートで解決されること：

• リトライの自動化: 優先順位を付けるだけで、SageMaker側が「空いているリソース」を自動的に探してくれます。
• 運用の効率化: 複数のインスタンスタイプを許容するワークロードであれば、ジョブの起動までのリードタイムを大幅に削減できます。

日本国内の利用状況

リサーチの結果、東京リージョン (ap-northeast-1) および 大阪リージョン (ap-northeast-3) の両方で利用可能です。国内のデータレジデンシー要件があるプロジェクトでも、すぐに導入を検討できます。

実務上の注意点とアドバイス

導入にあたっては、以下の点に注意してください：

• 互換性の検証: SageMakerは「容量の有無」のみで判断します。リストに含めるインスタンス間でGPUアーキテクチャ（例：Ampere vs Hopper）やメモリ量が異なる場合、コード側で動的に対応させるか、すべての候補が要件を満たしているか事前に確認してください。互換性のないタイプが選ばれた場合、ジョブは失敗します。
• コスト管理: 優先順位の下位に高コストなインスタンスを配置した場合、意図せずコストが増加する可能性があります。予算に合わせてリストを構成してください。
• 設定の排他性: 従来の InstanceType 指定と併用できないため、API/SDKの移行が必要です。

次のアクション

まずは、現在頻繁にリソース不足で待機が発生しているジョブのインスタンス候補をリストアップし、SDKで InstancePreferences を試行することをお勧めします。

参照ドキュメント：

• Amazon SageMaker AI ユーザーガイド: https://://docs.aws.amazon.com/sagemaker/latest/dg/train-instance-preferences.html