OpenAI、モデル推論の窃取攻撃を遮断と発表 ただし同手法はAzureでは依然有効
OpenAIは、モデルの推論内容を狙った蒸留窃取活動を遮断したと発表した。この活動は7月1日から小規模に現れ、7月24～25日には4000人以上のユーザーから1万6000件のリクエストに急増し、1万5000以上の関連アカウントが関与していた。OpenAIは7月28日までにすべて停止させたとし、中核的な関与者をMoonshot AIの関係者と関連付けている。
#推論
#推論
今日 1 件10月1日
9月16日
NVIDIA、AI Infra SummitでVera RubinとDSXのエネルギー効率向上を発表
NVIDIAはAI Infra SummitでVera RubinとDSXプラットフォームの複数の進展を公表し、1メガワット当たりのトークン処理量のエネルギー効率最適化を重点的に示した。