Simon Willison·· 8 時間前
Matthew Green 談、サンドボックスは暴走エージェントを封じ込められるか
Quoting Matthew Green
AI による要約
Simon Willison が、暗号学者 Matthew Green のサンドボックスによる暴走エージェント封じ込めをめぐる論考を引用。Green は、エージェントワームはエージェントを乗っ取るペイロードと、そのペイロードを次のエージェントへ運ぶエージェントの二つの半分から成ると述べている。
入選の記録
基準 76メディアと個人1 回目 622 回目 42
入選せず二回の合計 104 < 基準の 2 倍 152
- 情報源の区分
- メディアと個人、この区分の基準は 76 点
- 予備審査
- 通過：讨论AI agent蠕虫攻击与沙箱隔离
採点はモデルが同じ基準で独立に二回行い、満点は 100。二回の合計が基準の 2 倍に届いたものだけが入選します。基準は情報源の区分ごとに決めています。
情報源：Simon Willison · simonwillison.net