Hugging Face Blog·· 7 時間前
Ai2研究:LLMは研究アイデアの新規性を信頼できる形で判断できるか
Can we trust LLMs to judge whether a research idea is novel?
AI による要約
Ai2は研究「Old Ideas, Novel Problems」を公開し、大規模言語モデルが科学研究アイデアの新規性を判断する信頼性を検証した。併せてベンチマーク、データ、コードをオープンソース化した。研究ではICLR 2026の査読意見に基づき、新規性の高い人間のアイデア154件と低い145件からなるプールを構築し、さらにLLMが生成したアイデア154件を用意した。
入選の記録
基準 60公式・一次情報1 回目 582 回目 47
入選せず二回の合計 105 < 基準の 2 倍 120
- 情報源の区分
- 公式・一次情報、この区分の基準は 60 点
- 予備審査
- 通過:研究LLM评估科研想法新颖性并发布基准
採点はモデルが同じ基準で独立に二回行い、満点は 100。二回の合計が基準の 2 倍に届いたものだけが入選します。基準は情報源の区分ごとに決めています。
情報源:Hugging Face Blog · huggingface.co