跳到正文

SageMaker Inference 新增 NVIDIA MIG GPU 分区能力

先了解这件事

AI 综述

2026年11月7日,AWS Machine Learning Blog 报道,Amazon SageMaker Inference 新增 GPU 分区能力:基于 NVIDIA Multi-Instance GPU(MIG)技术,把一块物理 GPU 切分为最多 7 个硬件隔离分区,每个分区可部署不同模型。报道称,该能力面向推理场景,目的是让单块 GPU 同时服务多个模型端点。这是该事件目前唯一一篇报道,尚无后续进展或与早先报道矛盾之处。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月7日
  1. AWS Machine Learning Blog
    SageMaker Inference 支持 NVIDIA MIG,可将单块 GPU 切分给多个模型端点

    Amazon SageMaker Inference 新增 GPU 分区能力,基于 NVIDIA Multi-Instance GPU(MIG)把一块物理 GPU 切成最多 7 个硬件隔离分区,每个分区可部署不同模型。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。