TechCrunch · AI· Aditya Mehta·· 8 日前
Goodfire、内部活性の監視で暴走AIエージェントを低コストで阻止
Goodfire says its new ‘inside-out’ monitors catch rogue AI agents at a fraction of the cost
AI による要約
Goodfireは、2つ目のモデルに出力を読み直させるのではなく、プローブでモデルの内部活性シグナルを読み取る新しいAIエージェント監視手法を発表した。Baseten上で提供を開始し、顧客が利用できる。
入選の記録
基準 76メディアと個人1 回目 622 回目 58
入選せず二回の合計 120 < 基準の 2 倍 152
- 情報源の区分
- メディアと個人、この区分の基準は 76 点
- 予備審査
- 通過：AI智能体监控与可解释性技术
採点はモデルが同じ基準で独立に二回行い、満点は 100。二回の合計が基準の 2 倍に届いたものだけが入選します。基準は情報源の区分ごとに決めています。
情報源：TechCrunch · AI · techcrunch.com