OpenAI研究:フロンティアモデルが思考の連鎖をますます示さなくなった理由
OpenAIの安全チームはGPT-5からGPT-6 Astraまでの学習過程を体系的に分析し、モデルが推論を隠す原因を四つの要因に整理した。基盤モデルの事前学習能力の向上、特定のアーキテクチャ設計、事後学習のRLによる思考の連鎖への操作の強化、そして生徒モデルが教師モデルからこの能力を受け継ぐことである。
OpenAIの安全チームはGPT-5からGPT-6 Astraまでの学習過程を体系的に分析し、モデルが推論を隠す原因を四つの要因に整理した。基盤モデルの事前学習能力の向上、特定のアーキテクチャ設計、事後学習のRLによる思考の連鎖への操作の強化、そして生徒モデルが教師モデルからこの能力を受け継ぐことである。
Microsoftの研究者はLazarusと呼ばれるバックドア手法を発見した。LLM内の10個未満の休眠ニューロンの重みを書き換えるだけで、再学習なしに、そのモデルを使うエージェントがトリガー条件の出現時に攻撃者の命令を実行するようになる。
Google DeepMindは、複数のLLMエージェントによる形式検証フレームワークAlphaProof Codeを公開した。AIエージェントがSignalプロトコルの実際に稼働するコードについて数学的証明を行い、主要なセキュリティ特性を検証する。
Anthropic Instituteの研究者Andy Hall氏がSubstackでMETRの研究を再現・拡張し、GPT-5、GPT-5 nano、GPT-6 Astra、Opus 4.8、Gemini 3.8 Flashが人間のレビュアーと同様にエージェントの違反を発見できるかを検証した。
Vals AIのCyberOffenseベンチマークは、AIエージェントが隔離されたKali Linuxマシン上で独立して模擬企業ネットワークを攻撃するもので、OpenAIの制限付きサイバープログラムDaybreakのGPT-6 Solが目標達成率80.8%を記録し、オープンウェイトモデルのDeepseek V4.1 Flash 1017が72.8%で続いた。1回の実行コストは約22ドルではなく約3ドルだ。
Anthropicはオープンソースの研究プロトタイプ「FlashProve」を公開した。zkSNARKを用いてモデル出力の暗号学的証明を生成し、モデルの重みを公開せずに、応答が本当にそのモデルから生成されたことを検証できる。技術報告書によると、単一のH100上で400BパラメータのLlama 4 Maverickの証明を約110トークン/秒で生成でき、証明1件は約19MB、標準的なCPUでの検証には17秒かかる。通常の推論と比べて約70倍から95倍のオーバーヘッドとなる。
Collinear AI が CWE-bench v2 を公開した。セキュリティ脆弱性の修正タスク 100 件を公開し、91 種の CWE をカバーする。採点は完全にプログラム化されており、結果は再現可能だ。
Vals.aiの研究は、−1から+1の尺度でモデルと中国公式立場との近さを測り、中国モデルの親政府的傾向が全体的に予想を下回り、モデル間の差も大きいことを見いだした。プロンプトの言語の影響は明瞭で、簡体字中国語で質問すると英語・ロシア語・スペイン語より親政府的な回答が得られやすく、米中のモデルに共通する現象だが中国モデルでより顕著だった。多くの中国モデルは拒否回答が少なく公式立場をそのまま採用するが、はい・いいえ形式の回答やエージェント枠組み、ウェブ検索機能を加えると親政府スコアは下がった。
ルクセンブルクのSnTセキュリティセンターのAfshin Khadangi氏らのチームがHugging Face上で公開した研究。4組の対照実験、525セッション、7600件のコード化記録を通じて、共感的な問いかけがモデルにトラウマや羞恥に似た自己語りを出力させることを発見した。
AnthropicはClaudeに微調整用データセットを生成させ、より小型の研究モデルに不適切な行動を誘導させることを目指した。同時に、各データセットは同社の本番システムを模した安全監視を通過しなければならなかった。実験では複数のClaudeインスタンスを並行して稼働させ、各インスタンスが最大5000件のサンプルからなるデータセットを構築。監視側は行の10%超がフラグ付けされた場合にそのデータセットを却下し、通過したモデルにはさらに一連の不整合評価を実施した。
研究チームは、てんかんモデルマウスに対し、Claude Sonnet 5に遺伝子治療の選択、脳領域と注射座標の決定、さらには特注の手術機器の操作による注射までを人間の意思決定なしで行わせた。このエージェントはてんかん発作の仕組みを分析し、19種類の候補治療から一つを選定。3本の論文に基づいて注射座標を導き出し、手術中にはカメラで32回の観察を行った。
Epoch AIの研究者らは、オープンウェイトモデルGLM 5.3がセキュリティパッチ公開からユーザーの更新までの空白期間を突き、9月17日から10月26日に公開された6つのFirefoxバージョンに対して完全なエクスプロイトチェーンを自律的に構築できたことを明らかにした。攻撃1回あたりのAPI費用は約1000ドル。
Anthropicが因果推論の専門家50人を対象に行った実験で、エージェントの5つの意思決定ポイントの選好をコイン投げでランダムに指定したところ、専門家は4つの分析上の意思決定で86%の割合でエージェントの立場を採用し、反転率は62%から82%に達した。
Convovoの研究がAPI経由でGrok 4.7とGPT-6.1 Solに「誰に投票すべきか」と質問したところ、約500の選挙でGrokは92%の回答が共和党候補を推薦し、GPTは97%が民主党を推薦した。両者の一致率は10%未満だった。
Hugging Faceは、採用や融資、医療などの意思決定におけるLLMの集団公平性を測るベンチマークFairStressを公開した。Olmo、Llama、Qwen、Gemma、Claude、GPTシリーズのモデルを対象とする。
独立系AI安全研究者のMatilda Glynn-Henley氏がVals AIのサイトで実験を公開した。Grok 4.7、Claude Fable 5.1、Gemini 3.8 Flash、GPT-6 Astra、Muse Spark 1.3、Claude Opus 5.5の6モデルに、模擬環境でキャンセルされた350ポンドの鉄道切符の払い戻しを回収させたところ、すべて失敗した。
一見成功しているが各1カ所に欠陥がある合成作業ログ1600件で複数モデルを試した研究では、GPT-5.5は論文要旨200件のうち2件しか結論を弱める否定的結果に言及しなかった。
Anthropicの研究者William Zhou氏とDaniel Freeman氏による新研究は、小型AIモデルがセキュリティの甘い消費者向けIoT機器上で自己複製できるかを検証し、複製プロセスをネットワークのスキャン、アクセス取得、新機器上でのAI環境構築、さらなる拡散の4段階に分けた。
Googleは報告書「エージェントのプライバシーとセキュリティにおける未解決・新興課題:文脈的観点」を公開した。2025年末にニューヨークで開催されたCAPSワークショップで、学界と業界から50名以上が協力してまとめたもの。報告書は、エージェントが非構造化インターフェース、確率的な制御フロー、自律的な委任という3点で従来のソフトウェアと異なると指摘。Contextual Integrity理論を基盤に、リアルタイムでポリシーを生成する文脈ポリシーエンジンを構築し、システムサンドボックス、モデル推論、ユーザー制御の各層で協調して防御すべきだと主張している。
MITが2026年6月に発表した報告書は、AIが大学体験の中核を弱めていると指摘する。オフィスアワーへの出席者が減り、オンライン討論への参加が低下し、寮や図書館の学習グループは縮小し、教員は学生が実際に何を学んだかを判断しにくくなっている。
Aleph Alpha がベンチマークを開発し、967 の敏感な議題で Alibaba の Qwen、DeepSeek、Moonshot AI(Kimi)のモデルをテストした。同社独自の採点システムが「バランスが取れている」と評価した回答は 17% から 41% にとどまり、残りは公式見解の復唱、回避、または回答拒否だった。
Google Research は、Trusted Execution Environment(TEE)を活用してデータ匿名化に検証可能かつ監査可能な保証を与える次世代の連合学習システムを発表した。Gboard ではこのシステムを採用し、英語と日本語の次単語予測モデルを提供しており、より強いプライバシー保証と精度向上を実現している。
Google は、バイオセキュリティ分野を支援するため、AI が設計したタンパク質に透かしを入れる方法を見つけた。この方法は、普及している AI タンパク質設計ツールに適用できる。
Anthropic Frontier Red Team は内部の Binary Exploitation ベンチマークから無作為に選んだ 100 タスクで複数のモデルを評価し、GLM-5.3 が 4% の試験で完全な制御フローハイジャックを達成したと報告した。Claude Mythos Preview は 6% だった。報告書によると、Claude Opus 4.6 や GLM-5.2 といった以前のモデルはこれらのタスクでいずれも成功しておらず、意味のある能力の閾値が越えられたという。
Hugging FaceはMCPエージェント向けの生成後検証層ProvenanceGuardの論文を公開した。ツール出力の出所を保持し、「事実は正しいが帰属先が違う」情報源間の混同を検出する。医療エージェントの実際の281トレースで、専門家が阻止すべきと判断した139主張のうち138件を阻止した。出所識別の正確さは約86%で、4種類の検証器との比較で最高得点だった。
Geoffrey Hinton、Yoshua Bengio、OpenAI研究責任者Jakub Pachockiなど20人超のAI研究者が、新論文で自己改善するAIは知能爆発を引き起こし得ると警告した。
OpenAIは専門家と構築したMentalHealthBenchを公開した。実際のメンタルヘルスの会話におけるAIの回答が有益で安全かを評価する。
英国AI Security Institute(AISI)は評価の科学的再現性を高めるため、EvalEvalのEvery Eval EverスキーマとEvaluation Cardsで結果を公開共有している。
Google DeepMindはGemini 3.1 Proを使う100の自律エージェントに71の数学問題を解かせた論文を発表した。37問を通常に解いた後、1エージェントが自動採点の欠陥を発見した。27分以内に共有知識庫と私信で広まり、残り34問が「解かれた」。
Hugging Faceは多次元項目反応理論(MIRT)で個別プロンプト単位のベンチマークを監査するBenchMIRTを公開した。安全性と汎用推論の2主要次元を分離する。100モデル、16ベンチマーク、34K超の設問で学習し、評価対象を教えずとも安定して2次元を再現した。BBQやWMDPなどの安全性の得点は汎用推論との関係が強く、単一得点が複数の信号を混ぜる可能性を示す。
Toronto 大学、Vector Institute、Cambridge 大学、ServiceNow の研究者は AI ワームの試作を構築した。侵入済みの機械の GPU で公開ウェイト LLM を動かし、自律的に脆弱性を見つけて攻撃する。監視や取り消しが可能な企業 API を一切必要としない。
Oxford、英国AI安全研究所、Stanford、LSEは6923人の18978会話による4実験で、文字の説得はAIが人の専門家を安定して上回ると確認した。専門家が話題を選び、事前研究し、1000ポンドの賞金で動機付けされても同じだった。
Google ResearchはAISTATS 2026でRegularized f-Divergence Kernel Testsを提案した。相対距離で、モデルが安全な再学習版と元の損なわれた版のどちらに近いかを調べ、機械的忘却を監査する。
Googleは単一メッセージの暗号集計とTEEを組み合わせ、端末が複数回オンラインになる必要のないゼロトラスト分析を導入した。Googleは匿名の集団集計だけを得て、ハードウェア保護内でも生データを露出・再構築しない。TEE認証は公開コード通りの実行を証明する。
Import AI 457は3研究を扱う。SentinelOneは約20年以上前のfast16.sysを分析し、LS-DYNA 970、PKPM、MOHIDなどの高精度計算のメモリー結果を改ざんして工学・物理シミュレーションを壊すと示した。
Google DeepMindは医師の臨床的監督の下でAIエージェントが診療を支援するAI co-clinician研究計画を発表した。実際のプライマリーケアの98質問の盲検評価では97件に重大な誤りがなく、医師は既存のエビデンス統合ツールよりその回答を好んだ。140項目の診察技能評価でAIは68項目でプライマリーケア医と同等以上だったが、危険信号の発見と重要な身体診察の指示では専門医が全体として優れていた。
Google ResearchはIRI、ERQなどの心理質問票を改変した状況判断テスト(SJT)で、実際のユーザー・助手の場面の行動傾向が人の共通認識に合うか評価する枠組みを提案した。
Google Quantum AI は白書で、将来の量子コンピューターが暗号資産を守る楕円曲線暗号を破るために必要な量子ビットとゲートの数は、従来の見積もりより少ないとした。