Amazon EKS Auto Mode と Karpenter が Dynamic Resource Allocation (DRA) をサポート

Amazon Elastic Kubernetes Service (Amazon EKS) において、Amazon EKS Auto Mode および Karpenter を利用する場合に、NVIDIA GPU と Elastic Fabric Adapter (EFA) に対する Dynamic Resource Allocation (DRA) がサポートされました。これにより、ResourceClaim オブジェクトを用いてモデルやアーキテクチャなどの属性に基づいた詳細なデバイス指定が可能になり、分散学習や推論に最適なトポロジー整合性（PCIe 整合など）を持つデバイスの割り当てと、ワークロードに応じた EC2 インスタンスの動的なスケーリングが実現します。

🚀 AI/ML ワークロードのスケールがより高度に

これまで、Kubernetes 上で GPU や EFA を利用する場合、デバイスプラグインによる一律の割り当てが主流でした。しかし、分散学習や大規模な推論を行う際、「特定の GPU モデルが欲しい」「PCIe トポロジーが整合した GPU と EFA のペアが欲しい」といった、より細かいハードウェア要件への対応が難しいという課題がありました。

今回の DRA サポートにより、ResourceClaim を使って**「属性ベースのリソース要求」**ができるようになります。Karpenter がその要件に合致する最もコスト効率の高いインスタンスを自動でプロビジョニングしてくれるため、パフォーマンスの最適化とコスト削減を同時に狙えるのが大きなメリットです。

🇯🇵 日本国内リージョンでの利用について

最新のリージョン状況を確認したところ、東京リージョン (ap-northeast-1) および大阪リージョン (ap-northeast-3) の両方で利用可能です。AWS GovCloud や中国リージョンを除くすべてのリージョンが対象となっているため、国内のプロジェクトでもすぐに導入を検討できます。

💡 運用上の注意点とアドバイス

• デバイスの競合防止: Amazon EKS Auto Mode は、DRA を使うワークロードと従来のデバイスプラグインを使うワークロードが同じノードに混在して、サイレントな過剰割り当て（oversubscription）が起きないよう自動で制御してくれます。これは運用上の大きな安心材料です。
• バージョン要件に注意: Karpenter は全バージョンで動作しますが、Amazon EKS Auto Mode を利用する場合は Kubernetes バージョン 1.36 以降が必要となるため、アップグレード計画を確認してください。

✅ Next Action

まずは、現在の GPU 利用ワークロードの要件を整理し、ResourceClaim を使った定義が適用可能か、検証環境で試してみることをお勧めします。特に、PCIe 整合性がパフォーマンスに直結する分散学習のケースでは、大きな効果が期待できます。

Reference:

• Amazon EKS User Guide (Device Management)
• Karpenter Documentation