本文へ移動

Google Research、睡眠フレームワークでLLMの継続学習を実現

まずはこの出来事を

AI によるまとめ

2026年10月28日、Google Researchはsleepフレームワークを発表した。大規模言語モデルが活発な対話とオフラインの睡眠を交互に行い、短期のコンテキストを長期パラメータへ定着させる。報道によると、睡眠段階ではMoEのパラメータ拡張、知識蒸留、RLによる模倣学習で記憶の定着を完了し、さらにランダムなエキスパート活性化と勾配フィルタリングによる合成サンプルで自己改善を行う。現時点でこのフレームワークは研究提案の段階にあり、報道は実験規模、評価結果、実用化計画を明らかにしていない。

報道をもとに AI が作成 · 2 時間前に更新

報道の時系列

報道をたどり、出来事のさまざまな面を知る。

10月28日
  1. Google Research
    Google、LLMが継続学習で知識を保持する「sleep」フレームワークを提案

    Google Researchは、LLMが能動的な対話とオフラインの睡眠を交互に繰り返し、短期的な文脈を長期的なパラメータへ定着させる「sleep」フレームワークを提案した。睡眠段階では、MoEによるパラメータ拡張、知識蒸留、RLによる模倣学習を通じて記憶の定着を図り、さらにランダムなエキスパートの活性化と勾配で選別した合成サンプルによって自己改善する。

この出来事の注目度の推移

連続した観測データがまだ足りないため、推移は描いていません。