Amazon SageMaker AI がサーバーレスなモデルカスタマイズのための training session APIs を提供開始

Amazon SageMaker AI は、GPU インフラの管理を不要としつつ、ポストトレーニング（事後学習）アルゴリズムの完全な制御を可能にする「training session APIs」の一般提供を開始しました。ユーザーは Python コードから forward_backward(), optim_step(), sample() などの操作を API コールとして実行でき、SageMaker AI が GPU 割り当て、分散実行、障害復旧、チェックポイント保存、セキュリティを自動的に管理します。課金は処理されたトークン量に基づき、報酬スコアリングなどのローカル計算は GPU 時間として課金されません。現在は US East (N. Virginia), US West (Oregon), Asia Pacific (Mumbai) の 3 つのリージョンで利用可能です。

🚀 モデルカスタマイズの柔軟性と運用の簡素化を両立

今回の発表は、LLM の事後学習（SFT や DPO など）における「インフラ管理の負担」と「アルゴリズムの柔軟性」のジレンマを解消する大きな一歩です。

🛠️ 技術的な課題と解決策

• 課題: 従来のモデルカスタマイズでは、複雑な GPU インフラのプロビジョニングが必要であったり、あるいは、AWS が提供するマネージドな学習レシピ（標準的な SFT や DPO）に限定されてしまい、最新の研究に基づいたカスタムアルゴリズムの実装が困難でした。
• 解決策: training session APIs を導入することで、、ユーザーは独自の Python コードから直接学習ループを制御できるようになったため、インフラ管理を SageMaker AI に任せつつ、学習プロセスそのものを高度にカスタマイズできる環境が実現しました。

🇯🇵 日本国内の利用状況について

公式発表によると、本機能の一般提供（GA）対象リージョンは、米国東部（バージニア北部）、米国西部（オレゴン）、アジアパシフィック（ムンバイ）の 3 つです。東京リージョンや大阪リージョンについては、公式発表において利用可否が明記されていません。 日本国内のプロジェクトで利用を検討する場合は、アジアパシフィック（ムンバイ）リージョンでの試行を検討するか、遅延やデータレジデンシーの要件を確認する必要があります。

💡 実務上のアドバイス

• コスト管理: 課金体系が「処理されたトークン量」に基づいているため、GPU 時間ベースの課金とは異なるメリットがあります。報酬スコアリングなどのローカル計算をコストに影響させない点は、非常に効率的です。
• 運用面: チェックポイントの保存や障害復旧が組み込み済みであるため、分散学習の分散実行やチェックポイント管理の運用負荷が大幅に削減されます。

🔍 次のアクション

まずは、公開された SageMaker training sessions cookbook をクローンして、SFT や RL のレシピを実装してみるのが良いでしょう。SageMaker Python SDK をization-readyな環境で試すのが第一歩です。

参照元: Amazon SageMaker AI documentation (https://://docs.aws.amazon.com/sagemaker/latest/dg/customizing-models-training-sessions.html)