AWS Machine Learning Blog· Aswath Ram A Srinivasan·· 2 日前
Amazon Bedrock 上で NVIDIA NeMo Switchyard を使い、コーディングエージェントのリクエストを適切なモデルにルーティングする
Route coding agent requests to the right model on Amazon Bedrock with NVIDIA NeMo Switchyard
AI による要約
NVIDIA NeMo Switchyard は、AI エージェントがリクエストごとに処理するモデルを選べるようにするオープンソースライブラリである。LiteLLM との統合により、Stage ルーティング（リクエスト履歴内のツールの活動と結果を読み取り、2 つの候補モデルから選択）と Random ルーティング（重み付けで振り分けて A/B 比較）に対応する。
入選の記録
基準 60公式・一次情報1 回目 382 回目 34
入選せず二回の合計 72 < 基準の 2 倍 120
- 情報源の区分
- 公式・一次情報、この区分の基準は 60 点
- 予備審査
- 通過：介绍AI编码Agent模型路由与评测部署
採点はモデルが同じ基準で独立に二回行い、満点は 100。二回の合計が基準の 2 倍に届いたものだけが入選します。基準は情報源の区分ごとに決めています。
情報源：AWS Machine Learning Blog · aws.amazon.com