本文へ移動

#推論

今日 0 件

7月29日

水曜日

7月26日

日曜日
  1. Berkeley AI Research、信念状態の教師付けで長い対話を効率化する ABBEL

    Berkeley AI Research は ABBEL を提案した。LLM の要約を自然言語の「信念状態」として分離し教師付けし、自己符号化器に着想を得た再構成型の信念評価を補助 RL 課題にする。CollabBench では ABBEL-rec-BG が全コンテキストモデルとの性能差を約50%縮め、訓練ステップを100から50に減らし、最大トークン長も全コンテキスト設定より短かった。

7月15日

水曜日

7月10日

金曜日

7月2日

木曜日

6月27日

土曜日

6月25日

木曜日
  1. Google Research、推論がLLMのパラメトリック知識の想起を開く仕組みを研究

    Google ResearchのCOLM 2026論文は、単純な1段階の質問でも、推論過程が通常は想起できない事実知識を引き出すと示した。Gemini-2.5 FlashとPro、Qwen3-32Bで確認した。追加トークンが「計算バッファー」になることと、関連事実を先に出して正答へ意味的に準備する「事実プライミング」の2機構を発見した。中間事実の自己生成には幻覚リスクもある。

6月11日

木曜日

5月8日

金曜日
  1. 適応的並列推論:効率的な推論拡張の次の形

    Berkeley AI Researchは並列推論の進展を整理し、独立した小課題をいつ分解・並列化するか、同時スレッド数、調整方法をモデル自身が決める適応的並列推論を分析した。Self-consistency、Best-of-N、Tree of Thoughts、MCTS、ParaThinker、GroupThink、Hogwild! Inferenceなどは外部で並列構造を事前設定し、適応的な行動を教えていない。

4月20日

月曜日
  1. GRASP、世界モデルの勾配に基づく長期計画手法

    Berkeley AI Researchは学習済み世界モデルの勾配計画器GRASPを提案した。軌跡を仮想状態へ引き上げて時系列を並列最適化し、状態反復に乱数を直接注入して探索する。勾配を整えて行動へ明確な信号を送り、高次元視覚モデルの脆い「状態–入力」勾配を避け、長期計画を実用的かつ頑健にする。

4月16日

木曜日

3月25日

水曜日

3月17日

火曜日

3月13日

金曜日
  1. Berkeley AI Research、LLM の重要な相互作用を大規模に特定する SPEX と ProxySPEX

    Berkeley AI Research は、特徴、データ、モデル部品への寄与分析で LLM 出力を左右する相互作用を大規模に特定する SPEX と ProxySPEX を提案した。SPEX は疎性と低次数を使い探索を疎な復元問題へ変え、ProxySPEX は階層構造も使い、約10分の1のアブレーションで SPEX と同等性能を得る。

11月1日

土曜日

7月17日

木曜日

6月10日

火曜日