SageMaker Inference 新增 NVIDIA MIG GPU 分区能力
先了解这件事
AI 综述
2026年11月7日,AWS Machine Learning Blog 报道,Amazon SageMaker Inference 新增 GPU 分区能力:基于 NVIDIA Multi-Instance GPU(MIG)技术,把一块物理 GPU 切分为最多 7 个硬件隔离分区,每个分区可部署不同模型。报道称,该能力面向推理场景,目的是让单块 GPU 同时服务多个模型端点。这是该事件目前唯一一篇报道,尚无后续进展或与早先报道矛盾之处。
AI 根据报道生成 · 2 小时前更新
最新进展11月7日 02:01
SageMaker Inference 新增基于 NVIDIA MIG 的 GPU 分区,单卡最多切 7 个隔离分区。报道时间线
沿着报道,了解事件的不同侧面。
11月7日
- AWS Machine Learning BlogSageMaker Inference 支持 NVIDIA MIG,可将单块 GPU 切分给多个模型端点
Amazon SageMaker Inference 新增 GPU 分区能力,基于 NVIDIA Multi-Instance GPU(MIG)把一块物理 GPU 切成最多 7 个硬件隔离分区,每个分区可部署不同模型。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。