本文へ移動

#推論

今日 0 件

11月14日

土曜日

11月13日

金曜日
  1. OpenAI研究:フロンティアモデルが思考の連鎖をますます示さなくなった理由

    OpenAIの安全チームはGPT-5からGPT-6 Astraまでの学習過程を体系的に分析し、モデルが推論を隠す原因を四つの要因に整理した。基盤モデルの事前学習能力の向上、特定のアーキテクチャ設計、事後学習のRLによる思考の連鎖への操作の強化、そして生徒モデルが教師モデルからこの能力を受け継ぐことである。

11月12日

木曜日
  1. Google、意思決定モデルGemini Decision 1とDecisions APIを発表

    GoogleはGemini Decision 1と付属のDecisions APIを発表した。はい/いいえ、多肢選択、評価スケールなどの閉集合の意思決定に対応し、1リクエストあたり最大1000問、255個の多肢選択肢を扱える。入力はテキスト、画像、音声、動画、PDFに対応し、コンテキストは256K。エンドツーエンドの応答時間は150~250msで、信頼度スコアも付与される。

11月11日

水曜日

11月10日

火曜日
  1. Anthropic、Mythos 5.2とFable 5.2を発表 RSI懸念に応える

    AnthropicはMythos 5.2とFable 5.2を発表した。新モデルはコーディング、推論、視覚の各分野で改善し、ユーザーとのコミュニケーションもより明確になったという。Fableの入力価格は100万トークンあたり10ドルから8ドルに下がり、主要競合のGPT-6 Astraを下回る。応答速度は30%向上し、Enterprise Frontier Safeguardsを通じてゼロデータ保持(ZDR)にも対応する。

11月9日

月曜日
  1. Hugging Face、二階手法でMoEのエキスパートを剪定するHOPEを提案

    Hugging Faceは、エキスパート同士の相互作用を考慮する二階のMoEエキスパート剪定手法HOPE(Higher-Order Pruning of Experts)を提案した。50%の剪定率でHOPEは全手法中最高の平均順位を記録し、エージェント型コーディングタスクでは次善の剪定手法より最大+6.1%向上した。

11月8日

日曜日

11月7日

土曜日
  1. SageMaker Inference が NVIDIA MIG に対応、1 基の GPU を複数のモデルエンドポイントに分割可能

    Amazon SageMaker Inference に GPU パーティション機能が追加された。NVIDIA Multi-Instance GPU(MIG)を使い、1 基の物理 GPU を最大 7 つのハードウェア分離されたパーティションに分割し、パーティションごとに異なるモデルをデプロイできる。

  2. Frontier Radar #5:AGI が近づく中、なぜ多くの研究者が大手を離れて新研究所を立ち上げるのか

    The Decoder の Frontier Radar 第5回は、大手企業を離れた研究者が創業した研究型 AI 企業27社を、継続学習、言語以外の世界モデル、独自データ、計算効率、自動化された科学研究、モデルの制御性という6つの技術的賭けの分類で整理した。

11月6日

金曜日
  1. Thinking Machines、Inkling 2 Smallを公開:総パラメータ594B・アクティブ17B、68時間で事前学習

    Thinking Machinesは、総パラメータ594B・アクティブ17BのマルチモーダルMoEモデル「Inkling 2 Small」を公開した。テキストと画像の入力に対応し、1Mのコンテキストウィンドウを持つ。Tinkerで提供を開始しており、Apache 2.0の重みは来週の外部安全テスト完了後に公開される予定だ。

11月5日

木曜日

11月4日

水曜日
  1. スタンフォード大の研究:LLMの結論の44%が失効、平均寿命は15.7カ月

    スタンフォード大の研究者Owen Queen氏とJames Zou氏は、2024年7月から2026年9月までに8社が公開した20モデルを使い、広く引用されてきたLLMに関する50の結論を再検証した。その結果、44%が失効し、さらに34%が明らかに弱まっていた。依然として成立するのは16%にとどまり、6%はむしろ強まっていた。

11月3日

火曜日

10月31日

土曜日

10月30日

金曜日

10月29日

木曜日

10月28日

水曜日
  1. Google、LLMが継続学習で知識を保持する「sleep」フレームワークを提案

    Google Researchは、LLMが能動的な対話とオフラインの睡眠を交互に繰り返し、短期的な文脈を長期的なパラメータへ定着させる「sleep」フレームワークを提案した。睡眠段階では、MoEによるパラメータ拡張、知識蒸留、RLによる模倣学習を通じて記憶の定着を図り、さらにランダムなエキスパートの活性化と勾配で選別した合成サンプルによって自己改善する。

10月27日

火曜日
  1. 元DeepMind研究者がMetis Reasoningを設立、AlphaGoの手法でAIのハルシネーションを抑制

    元DeepMind研究者のThore Graepel氏がMetis Reasoningを設立し、AlphaGo型の探索と検証の仕組みで大規模言語モデルのハルシネーションを減らす手法を提唱した。この手法は、既知の内容・信頼度・未解決の問いを明示的な知識台帳に記録し、独立したモジュールが計算・形式証明・実証的証拠に基づいて検証する。推論の各ステップは検査を通過しなければ知識状態を変えない。

10月24日

土曜日

10月23日

金曜日
  1. EXL、持続的に進化するAIサービングフレームワークの設計を語る

    EXLは、企業AIの競争優位性がモデル能力からモデルを囲むサービングハーネス(アーキテクチャ、メモリ管理、スケジューリング、推論最適化のエンジニアリングシステム)へ移りつつあると提言した。まず業務負荷から制約を定めてからアーキテクチャを選ぶべきだとし、KVキャッシュが並行数とコンテキストの増加に伴いGPUメモリ不足を招く例を挙げ、測定してから最適化することを強調。フレームワークは新しいモデルやハードウェアを取り込みやすくし、モデル変更をアーキテクチャ再構築ではなく評価と設定の判断にするべきだとしている。

10月22日

木曜日
  1. Dharma-AI、語彙の専用化でSLMの推論コストを77%削減

    Dharma-AIはHugging Faceのブログで、近く公開するVocabX論文を紹介した。語彙を頻度ではなくトークンあたりのコストに基づいて再構築する手法により、Qwen3-4Bベースのポルトガル語作文採点器で実測の推論コストを77.0%削減し、平均応答を350トークンから101トークンに、benchスコアを0.703から0.810に改善した。

10月21日

水曜日
  1. Amazon SageMaker HyperPodでGPT-OSS-20Bを微調整し多言語推論を実現

    GPT-OSS-20Bは50例の多言語推論テストで、目標言語で推論したのはわずか22%だった(英語100%、フランス語0%、ドイツ語10%、スペイン語0%、イタリア語0%)。チームはAmazon SageMaker HyperPod上でLoRAを用い、SFTとGRPOを組み合わせて微調整し、英語への偏りを是正した。結論として、SFTが主な役割を担い、GRPOは改善の余地がある場合にさらに最適化するもので、技術の選択は能力の差に合わせる必要がある。

10月20日

火曜日
  1. AWS、vLLMで双方向KV転送によりマルチターンのエージェント負荷のTTFTを改善

    AWSはvLLMに双方向KV転送を実装し、decodeノードが後続のターンで計算済みのKVをprefillノードに返して再利用できるようにし、会話履歴の再計算を避けた。Amazon EC2 P5enインスタンスとEFAを用いた1P1D構成では、最長プロンプト時にQwen3-32BでTTFTが約1.6倍、zai-org/GLM-5-FP8で約3.3倍低下した。