AWS Machine Learning Blog· Aswath Ram A Srinivasan·· 2 天前
在 Amazon Bedrock 上用 NVIDIA NeMo Switchyard 为编码智能体请求路由到合适的模型
Route coding agent requests to the right model on Amazon Bedrock with NVIDIA NeMo Switchyard
AI 导读
NVIDIA NeMo Switchyard 是一个开源库，可让 AI 智能体为每个请求选择由哪个模型处理，其 LiteLLM 集成支持 Stage 路由（读取请求历史中的工具活动与结果，在两个候选模型间选择）和 Random 路由（按权重分流做 A/B 对比）。
入选记录
门槛 60官方一手第一次 38第二次 34
未入选两次之和 72 < 门槛的两倍 120
- 信源等级
- 官方一手，这一级的门槛是 60 分
- 预筛
- 通过：介绍AI编码Agent模型路由与评测部署
评分由模型按同一份标准独立打两次，满分 100；两次之和达到门槛的两倍才入选。门槛按信源等级设定。
来源：AWS Machine Learning Blog · aws.amazon.com