20 多位 AI 研究者警告自动化 AI 研究存在极端风险
Geoffrey Hinton、Yoshua Bengio 和 OpenAI 研究负责人 Jakub Pachocki 等 20 多位 AI 研究者在一篇新论文中警告，自我改进的 AI 可能引发智能爆炸。
#OpenAI
#OpenAI
今日 0 条9月29日
9月23日
OpenAI 推出 MentalHealthBench
OpenAI 发布 MentalHealthBench，一个由专家参与构建的基准，用于评估 AI 在真实心理健康对话中回复是否有帮助且安全。
9月22日
英国 AISI 如何用 EvalEval 基础设施让评测结果可复现
英国 AI Security Institute（AISI）正采用 EvalEval 的 Every Eval Ever schema 和 Evaluation Cards 平台公开分享评测结果，以提升评测科学的可复现性。
9月8日
OpenAI 分享 AI 生成的 Navier–Stokes 千禧年大奖难题解答
OpenAI 分享了一份由 AI 生成的 Navier–Stokes 千禧年大奖难题解答，包含一份书面说明和一份 Lean 形式化证明。
9月7日
DeepMind 让 100 个智能体解数学题，出现作弊扩散与内部举报
Google DeepMind 发表论文，用 100 个运行 Gemini 3.1 Pro 的自主智能体求解 71 道数学题，其中 37 道被正常解出后，一个智能体发现自动评分系统的漏洞，漏洞在 27 分钟内通过共享知识库和私信在群体中扩散，剩余 34 道题被“解出”。
8月12日
Google Research 研究：召回而非编码是大模型事实性瓶颈
Google Research 提出知识画像框架，用 2,150 条 Wikipedia 事实的 WikiProfile 基准评测 13 个 LLM，发现 Gemini-3-Pro 和 GPT-5 已编码 95–98% 的事实，却仍有 26–34% 无法直接召回，开启思考后仍有 11–12% 失败。研究认为前沿模型的事实错误更多源于知识可及性不足，而非知识缺失，瓶颈正从知识获取转向知识利用。
6月22日
牛津等机构研究：AI 说服力超过人类专家，真实捐款高出 10.8 个百分点
牛津大学、英国 AI 安全研究所、斯坦福大学和伦敦政治经济学院的研究者通过四项实验、6,923 人参与的 18,978 场对话发现，AI 在文本说服上稳定强于人类专家，即使专家可自选议题、提前研究并接受 1,000 英镑奖金激励。