本文へ移動

SageMaker AIのリアルタイムエンドポイントがKVキャッシュ対応ルーティングをサポート

まずはこの出来事を

AI によるまとめ

2026年11月18日、AWS Machine Learning Blogは、Amazon SageMaker AIがリアルタイムエンドポイント向けにKVキャッシュ対応ルーティング(KV_AWARE)を導入したと報じた。この機能は、モデルコンテナが報告するキャッシュ状態に基づき、キャッシュの一致が最も長く、かつ過負荷でないインスタンスへリクエストを転送する。記事では、この機能の提供開始時期、適用範囲、既存のルーティング戦略との関係については言及されていない。

報道をもとに AI が作成 · 5 時間前に更新

報道の時系列

報道をたどり、出来事のさまざまな面を知る。

11月18日
  1. AWS Machine Learning Blog
    Amazon SageMaker AIのリアルタイムエンドポイントがKVキャッシュ対応ルーティングをサポート

    Amazon SageMaker AIはリアルタイムエンドポイント向けにKVキャッシュ対応ルーティング(KV_AWARE)を導入した。モデルコンテナが報告するキャッシュ状態に基づき、キャッシュの一致が最も長く、かつ過負荷でないインスタンスへリクエストを振り分ける。

この出来事の注目度の推移

現在の注目度 5·比較範囲のピーク 6(11月19日 01:00)·過去 24 時間の比較範囲での変化 –

024611月19日01:0011月19日02:0011月19日04:0011月19日05:00

推移は、途切れずに観測できた同じ主体どうしだけで比べるため、現在の注目度の集計より範囲が狭いことがあります。ポインタを動かすかグラフをクリックすると 1 時間ごとの注目度が見られます。キーボードでは左右の矢印キーで切り替えられます。