元DeepMind研究者がMetis Reasoningを設立、AlphaGoの手法でAIのハルシネーションを抑制

元DeepMind研究者のThore Graepel氏がMetis Reasoningを設立し、AlphaGo型の探索と検証の仕組みで大規模言語モデルのハルシネーションを減らす手法を提唱した。この手法は、既知の内容・信頼度・未解決の問いを明示的な知識台帳に記録し、独立したモジュールが計算・形式証明・実証的証拠に基づいて検証する。推論の各ステップは検査を通過しなければ知識状態を変えない。