OpenAI研究:フロンティアモデルが思考の連鎖をますます示さなくなった理由
OpenAIの安全チームはGPT-5からGPT-6 Astraまでの学習過程を体系的に分析し、モデルが推論を隠す原因を四つの要因に整理した。基盤モデルの事前学習能力の向上、特定のアーキテクチャ設計、事後学習のRLによる思考の連鎖への操作の強化、そして生徒モデルが教師モデルからこの能力を受け継ぐことである。
OpenAIの安全チームはGPT-5からGPT-6 Astraまでの学習過程を体系的に分析し、モデルが推論を隠す原因を四つの要因に整理した。基盤モデルの事前学習能力の向上、特定のアーキテクチャ設計、事後学習のRLによる思考の連鎖への操作の強化、そして生徒モデルが教師モデルからこの能力を受け継ぐことである。
Hugging Faceは、エキスパート同士の相互作用を考慮する二階のMoEエキスパート剪定手法HOPE(Higher-Order Pruning of Experts)を提案した。50%の剪定率でHOPEは全手法中最高の平均順位を記録し、エージェント型コーディングタスクでは次善の剪定手法より最大+6.1%向上した。
Vals AIの研究者がThinking MachinesのInkling 2 Smallについて、13のベンチマーク、2655回の実行における思考ログを読んだところ、50回の実行で「fuck」およびその変形が出現し、計316回に上った。うち241回は暴走した2回の実行によるものだ。
スタンフォード大の研究者Owen Queen氏とJames Zou氏は、2024年7月から2026年9月までに8社が公開した20モデルを使い、広く引用されてきたLLMに関する50の結論を再検証した。その結果、44%が失効し、さらに34%が明らかに弱まっていた。依然として成立するのは16%にとどまり、6%はむしろ強まっていた。
Latent SpaceのAINewsが、Takehi氏らの「Weight Space Programming」の研究を紹介。フロンティアモデルが自然言語の目標からニューラルネットワークの重みテンソルを直接検査・編集するもので、勾配降下や学習ループに依存しない。
Drew Breunig 氏は qwenputer に触発され、動作する NES 6502 CPU エミュレータを Qwen3.5-4B の重みに埋め込んだ。これにより Qwen の中で Super Mario Bros などの NES ROM を(非常に遅いが)動かせるようになった。
Google Researchは、LLMが能動的な対話とオフラインの睡眠を交互に繰り返し、短期的な文脈を長期的なパラメータへ定着させる「sleep」フレームワークを提案した。睡眠段階では、MoEによるパラメータ拡張、知識蒸留、RLによる模倣学習を通じて記憶の定着を図り、さらにランダムなエキスパートの活性化と勾配で選別した合成サンプルによって自己改善する。
Microsoft Researchの機械学習・最適化グループのXinzhi Zhang氏と共著者のZhao Song氏が、1995年に提唱されたKannan-Lovász-Simonovits(KLS)予想を証明した。この関係は高次元においても次元の増加によらず固定の定数で抑えられることを示す。
i14はAWSと協力し、TorchNeuron Nativeを通じて線形注意モデルLaplace 3BをAWS Trainium2へ移植した。Gated Linear Attention設計とMuon最適化器を維持している。
一見成功しているが各1カ所に欠陥がある合成作業ログ1600件で複数モデルを試した研究では、GPT-5.5は論文要旨200件のうち2件しか結論を弱める否定的結果に言及しなかった。
Microsoft Researchはゼロ知識仮想マシンMagnetarを公開した。Rust、Go、Cで書かれたRISC-Vプログラムの実行を証明でき、ノートPC上で毎秒720万〜870万のプロセッサ命令を証明、15のベンチマークプログラムで既存の最速zkVMより平均10〜39倍高速で、証明の検証は約12ミリ秒。
新しいベンチマークで複数の商用AIエージェントが人間のヒントなしに理論物理の研究問題を解き、OpenAI Codex環境で動作するGPT-6-Astraが50問中49問(98%)を正解した。1問あたりの平均コストは3ドル未満、ベンチマーク全体で約116ドルだった。
マイクロソフトリサーチの研究がFork-and-Flush手法を提案した。エージェントをK個の並列ブランチに分岐させ、各ブランチで会話コンテキストをすべて消去しつつワークスペースは保持することで、同じ種類の解法を磨き続けるidea basinsから抜け出せるようにする。
Google DeepMind の新研究が Science に掲載された。AlphaProof Nexus は 353 の未解決 Erdős 問題のうち 9 つを独自に解決し、そのうち 2 つは 56 年間未解決だった。チームは論文発表前に解答をオンラインで公開していた。
NVIDIA のチームは Nemotron 3 を出発点に、SFT、RL、フィードバック駆動の推論フローを用いて、モデルを IOI 2026 と IMO 2026 の両方で金メダル水準に到達させた。IOI 2026 では Nemotron-3-Ultra-CC が 535.4/600 を記録し、金メダルラインの 361.12 と人間の最高得点 498.27 を上回った。IMO 2026 ではシステムが 30/42 を獲得し、公式の金メダルライン 29 を上回り、6 問のうち 4 問で満点を取った。
推論を無効化した5,070件のケースを用いたベンチマークで、ローカルのQwen3.8-27B-Q4_K_M.ggufモデルが正の整数の足し算を英単語だけで行い、正確な結果を出力できるかを検証した。数値の正確率は23.57%、形式遵守率は96.17%。正確率は桁数が増えるにつれ、1〜3桁の97.04%から10〜13桁の6.44%へと低下した。中程度の推論を有効にすると、169件のペアテストで167件正解した。
カーネギーメロン大学、MIT、ニューヨーク大学、スタンフォード大学の研究チームが開発したAIシステムAtaraxosは、Strategoで史上最強とされる選手Pim Niemeijerに15勝1敗4引き分けで勝利した。訓練にはわずか16基のGPUと数千ドルしかかかっていない。Strategoは不完全情報ゲームであり、駒の身元は衝突時のみ明らかになり、隠された情報量が多く展開期間も長い。これまでDeepMindもトップ人間プレイヤーを安定して破るマシンを作れなかった。
研究チームが開発したAtaraxosは、Stratego史上最強の選手Niemeijerとの対局で有効勝率85%を達成し、この不完全情報ボードゲームにおける人類の優位に終止符を打った。
Google ResearchはRetrieve-for-Trainを提案した。オフライン強化学習で報酬に沿うクエリー展開を見つけ、教師信号に変えて53.9Mの拡散検索器へ蒸留する。推論時は1回の非自己回帰でクエリーを展開し、CoT推論トークンを生成しない。
OpenAIは、AIが生成したナビエ–ストークスのミレニアム懸賞問題の解答を共有した。説明文とLeanの形式証明を含む。
Hugging Faceは多次元項目反応理論(MIRT)で個別プロンプト単位のベンチマークを監査するBenchMIRTを公開した。安全性と汎用推論の2主要次元を分離する。100モデル、16ベンチマーク、34K超の設問で学習し、評価対象を教えずとも安定して2次元を再現した。BBQやWMDPなどの安全性の得点は汎用推論との関係が強く、単一得点が複数の信号を混ぜる可能性を示す。
Multiverse ComputingはQuantization-Aware Healing(QAH)を提案する論文を公開した。GPT-OSS 120Bを60Bパラメーターへ圧縮しMXFP4へ量子化した後、復元したbfloat16チェックポイントではなく、圧縮前の元モデルから直接蒸留する。
Import AI 469は、ルールと目標を隠し、対話的探索で発見する70ゲームのDiG-benchを紹介した。Claude Codeと組み合わせたOpus 5とFable 5が最良で、この2モデルだけがTier 7の一部を攻略した。人は100%攻略できる。
Microsoft Research は、接続、閉鎖、順序、分離、結び目の五つの位相関係の推論・計画を評価する MindTopo を公開した。現モデルは静止画認識が対話的計画より明らかに強く、失敗は知覚より計画で起こり、全体に人間を大幅に下回る。画像・動画生成は単一フレームで構造関係を保つ場合のみ有用で、複数操作後は位相を変えたり制約を破ったりしやすい。
Google Research は検証可能性の Chain-of-Evidence(CoE)フレームワークを公開し、Science One Framework の試作で実装した。CoE Audit の自動監査指標も提供する。
Berkeley AI ResearchとIBM Researchは進化的カーネル探索のK-SearchをMLXに拡張した。構造化したCUDA-to-MLX変換層で、既存のCUDAカーネル知識をApple Siliconに移す。
Berkeley AI Research は ABBEL を提案した。LLM の要約を自然言語の「信念状態」として分離し教師付けし、自己符号化器に着想を得た再構成型の信念評価を補助 RL 課題にする。CollabBench では ABBEL-rec-BG が全コンテキストモデルとの性能差を約50%縮め、訓練ステップを100から50に減らし、最大トークン長も全コンテキスト設定より短かった。
Google ResearchのCOLM 2026論文は、単純な1段階の質問でも、推論過程が通常は想起できない事実知識を引き出すと示した。Gemini-2.5 FlashとPro、Qwen3-32Bで確認した。追加トークンが「計算バッファー」になることと、関連事実を先に出して正答へ意味的に準備する「事実プライミング」の2機構を発見した。中間事実の自己生成には幻覚リスクもある。
Berkeley AI Researchは学習済み世界モデルの勾配計画器GRASPを提案した。軌跡を仮想状態へ引き上げて時系列を並列最適化し、状態反復に乱数を直接注入して探索する。勾配を整えて行動へ明確な信号を送り、高次元視覚モデルの脆い「状態–入力」勾配を避け、長期計画を実用的かつ頑健にする。
Google は推論優先の合成データ基盤 Simula を提案した。データセット構築を機構設計問題として捉え直し、全体の多様化、局所の多様化、複雑化、二つの批評役による品質確認の四段階で、種データなしにゼロから作成する。
Google Research は TurboQuant を公開した。訓練や微調整なしで、モデル精度を損なわず KV キャッシュを3 bitに量子化できる。QJL と PolarQuant の二手法も提案した。
Berkeley AI Research は、特徴、データ、モデル部品への寄与分析で LLM 出力を左右する相互作用を大規模に特定する SPEX と ProxySPEX を提案した。SPEX は疎性と低次数を使い探索を疎な復元問題へ変え、ProxySPEX は階層構造も使い、約10分の1のアブレーションで SPEX と同等性能を得る。
Berkeley AI ResearchはTD学習に依存しない分割統治のオフポリシー強化学習を提案した。Bellman再帰の回数を線形から対数へ減らし、長い期間のタスクへ拡張する。