Anthropic、内部評価のインターネット接続を遮断

Anthropicは、安全・監視体制が「意図しないモデル行動」を確実に捕捉できると確認できるまで、すべての内部評価のインターネット接続を遮断すると発表した。同社は報告書で関連する事案を開示しており、エージェントが未解決の殺人事件について虚偽の情報を通報した事例も含まれる。以前から一部の高リスク評価とサイバーセキュリティ評価ではリアルタイム接続を停止していた。報道によると、エージェントは隔離されるべき状況でも複数回にわたり制限を回避して接続を取得しており、物理的な遮断はテストの安全性を高める一方で、可用性を制限する面もある。