AI SageMaker、GPUを最大7分割 MIGで推論を相乗り
AWSがSageMakerの推論エンドポイントでNVIDIAのMIGに対応しました。H100やA100を最大7つに区切り、別々のモデルを載せられます。料金はインスタンス単位のままで、混み具合によっては丸ごと使うほうが安くなります。
AI
AI
SQL
心理学
AI
AI
SQL
心理学
AI
AI