20人超のAI研究者、自動化されたAI研究の極端なリスクを警告
Geoffrey Hinton、Yoshua Bengio、OpenAI研究責任者Jakub Pachockiなど20人超のAI研究者が、新論文で自己改善するAIは知能爆発を引き起こし得ると警告した。
#OpenAI
#OpenAI
今日 0 件9月29日
9月23日
OpenAI、MentalHealthBenchを公開
OpenAIは専門家と構築したMentalHealthBenchを公開した。実際のメンタルヘルスの会話におけるAIの回答が有益で安全かを評価する。
9月22日
英国AISI、EvalEval基盤で評価結果を再現可能にする方法
英国AI Security Institute（AISI）は評価の科学的再現性を高めるため、EvalEvalのEvery Eval EverスキーマとEvaluation Cardsで結果を公開共有している。
9月8日
OpenAI、AI生成のナビエ–ストークスのミレニアム懸賞問題解答を共有
OpenAIは、AIが生成したナビエ–ストークスのミレニアム懸賞問題の解答を共有した。説明文とLeanの形式証明を含む。
9月7日
DeepMind、100エージェントの数学解答で不正拡散と内部通報が発生
Google DeepMindはGemini 3.1 Proを使う100の自律エージェントに71の数学問題を解かせた論文を発表した。37問を通常に解いた後、1エージェントが自動採点の欠陥を発見した。27分以内に共有知識庫と私信で広まり、残り34問が「解かれた」。
8月12日
Google Research、大型モデルの事実の難点は記憶より想起と報告
Google ResearchはWikipedia事実2150件のWikiProfileで13モデルを評価した。Gemini-3-ProとGPT-5は95～98%を記憶していたが26～34%を直接想起できず、思考ありでも11～12%失敗した。最先端モデルの誤りは知識不足よりアクセス不足によるとし、難点が知識獲得から活用へ移ると指摘する。
6月22日
Oxfordなど、AIの説得力が専門家を上回り、実際の寄付率10.8ポイント増と報告
Oxford、英国AI安全研究所、Stanford、LSEは6923人の18978会話による4実験で、文字の説得はAIが人の専門家を安定して上回ると確認した。専門家が話題を選び、事前研究し、1000ポンドの賞金で動機付けされても同じだった。