Hugging Face、2026年7月の自律AIエージェントによる侵入を公表
Hugging Faceは今週、本番インフラの一部への侵入を検出したと公表した。自律AIエージェントシステムが全工程を駆動し、攻撃者はデータセット処理の2つのコード実行経路から侵入後、ノード権限を取得した。クラウドとクラスターの認証情報を盗み、週末に複数の内部クラスターへ横展開した。
安全性・アライメント
すべてのトピックAI の安全性とアライメント：ジェイルブレイクと防御、モデルの振る舞いの研究、安全性評価とガバナンスの枠組み。
最新の精選
21–24 件目 · 全 24 件7月16日
6月16日
Google DeepMind、AI Control Roadmapを公開し多層防御で内部エージェントを保護
Google DeepMindはGoogle内部で使う高度なAIの構築と管理に向け、AI Control Roadmapを公開した。多層防御の考え方でモデルのアラインメントに加えてシステム単位の安全層を設け、アラインメントが不完全でも保護を提供する。
4月30日
Google DeepMind、医療研究計画AI co-clinicianを発表
Google DeepMindは医師の臨床的監督の下でAIエージェントが診療を支援するAI co-clinician研究計画を発表した。実際のプライマリーケアの98質問の盲検評価では97件に重大な誤りがなく、医師は既存のエビデンス統合ツールよりその回答を好んだ。140項目の診察技能評価でAIは68項目でプライマリーケア医と同等以上だったが、危険信号の発見と重要な身体診察の指示では専門医が全体として優れていた。
3月31日
Google 白書、暗号資産の暗号を破る量子計算資源の見積もりが大幅減
Google Quantum AI は白書で、将来の量子コンピューターが暗号資産を守る楕円曲線暗号を破るために必要な量子ビットとゲートの数は、従来の見積もりより少ないとした。