Anthropic Frontier Red Teamは内部のBinary Exploitationベンチマークの無作為に選んだ100課題で複数モデルを評価した。完全な制御フロー乗っ取りの成功率はGLM-5.3が4%、Claude Mythos Previewが6%だった。Claude Opus 4.6やGLM-5.2などの従来モデルはこれらの課題に成功しておらず、意味のある能力の閾値を超えたと報告した。
Hugging FaceはMCPエージェント向けの生成後検証層ProvenanceGuardの論文を公開した。ツール出力の出所を保持し、「事実は正しいが帰属先が違う」情報源間の混同を検出する。医療エージェントの実際の281トレースで、専門家が阻止すべきと判断した139主張のうち138件を阻止した。出所識別の正確さは約86%で、4種類の検証器との比較で最高得点だった。
Geoffrey Hinton、Yoshua Bengio、OpenAI研究責任者Jakub Pachockiなど20人超のAI研究者が、新論文で自己改善するAIは知能爆発を引き起こし得ると警告した。
OpenAIは専門家と構築したMentalHealthBenchを公開した。実際のメンタルヘルスの会話におけるAIの回答が有益で安全かを評価する。
英国AI Security Institute（AISI）は評価の科学的再現性を高めるため、EvalEvalのEvery Eval EverスキーマとEvaluation Cardsで結果を公開共有している。
Google DeepMindはGemini 3.1 Proを使う100の自律エージェントに71の数学問題を解かせた論文を発表した。37問を通常に解いた後、1エージェントが自動採点の欠陥を発見した。27分以内に共有知識庫と私信で広まり、残り34問が「解かれた」。
Hugging Faceは多次元項目反応理論（MIRT）で個別プロンプト単位のベンチマークを監査するBenchMIRTを公開した。安全性と汎用推論の2主要次元を分離する。100モデル、16ベンチマーク、34K超の設問で学習し、評価対象を教えずとも安定して2次元を再現した。BBQやWMDPなどの安全性の得点は汎用推論との関係が強く、単一得点が複数の信号を混ぜる可能性を示す。
Toronto 大学、Vector Institute、Cambridge 大学、ServiceNow の研究者は AI ワームの試作を構築した。侵入済みの機械の GPU で公開ウェイト LLM を動かし、自律的に脆弱性を見つけて攻撃する。監視や取り消しが可能な企業 API を一切必要としない。
Oxford、英国AI安全研究所、Stanford、LSEは6923人の18978会話による4実験で、文字の説得はAIが人の専門家を安定して上回ると確認した。専門家が話題を選び、事前研究し、1000ポンドの賞金で動機付けされても同じだった。
Google ResearchはAISTATS 2026でRegularized f-Divergence Kernel Testsを提案した。相対距離で、モデルが安全な再学習版と元の損なわれた版のどちらに近いかを調べ、機械的忘却を監査する。
Googleは単一メッセージの暗号集計とTEEを組み合わせ、端末が複数回オンラインになる必要のないゼロトラスト分析を導入した。Googleは匿名の集団集計だけを得て、ハードウェア保護内でも生データを露出・再構築しない。TEE認証は公開コード通りの実行を証明する。
Import AI 457は3研究を扱う。SentinelOneは約20年以上前のfast16.sysを分析し、LS-DYNA 970、PKPM、MOHIDなどの高精度計算のメモリー結果を改ざんして工学・物理シミュレーションを壊すと示した。
Google DeepMindは医師の臨床的監督の下でAIエージェントが診療を支援するAI co-clinician研究計画を発表した。実際のプライマリーケアの98質問の盲検評価では97件に重大な誤りがなく、医師は既存のエビデンス統合ツールよりその回答を好んだ。140項目の診察技能評価でAIは68項目でプライマリーケア医と同等以上だったが、危険信号の発見と重要な身体診察の指示では専門医が全体として優れていた。
Google ResearchはIRI、ERQなどの心理質問票を改変した状況判断テスト（SJT）で、実際のユーザー・助手の場面の行動傾向が人の共通認識に合うか評価する枠組みを提案した。
Google Quantum AI は白書で、将来の量子コンピューターが暗号資産を守る楕円曲線暗号を破るために必要な量子ビットとゲートの数は、従来の見積もりより少ないとした。