Import AI 459:AI 监管为何困难、蛋白质折叠模型的缩放定律、以及为 AI 系统灭绝风险定价
Import AI 459 聚焦三项研究:英国 AI 安全研究所的论文指出,用 AI 监督 AI 训练的自动化对齐研究并非万能方案,实施难度高于预期;另有研究提出蛋白质折叠模型的缩放定律,以及为 AI 系统灭绝风险定价的探讨。
Import AI 459 聚焦三项研究:英国 AI 安全研究所的论文指出,用 AI 监督 AI 训练的自动化对齐研究并非万能方案,实施难度高于预期;另有研究提出蛋白质折叠模型的缩放定律,以及为 AI 系统灭绝风险定价的探讨。
Import AI 第 458 期收录一篇基于 2026 年牛津大学 HAI Lab 演讲的长文和一个设想"正面奇点"的虚构故事。演讲以 Epoch Capabilities Index(ECI,覆盖 40+ 项基准)为线索,主张 AI 的持续进步让人类面临"探索未来还是回避当下"的选择。
Institute for Law & AI 提出“激进可选性”监管思路,主张政府当下避免过度监管,同时建设信息收集、举报人保护、评估与模型权重安全等能力,以便在强大 AI 冲击世界时快速响应。Meta 与 KAIST 的论文提出 Neural Computer,将计算、内存与 I/O 统一在学习到的运行时状态中。
伯克利 AI 研究团队梳理了并行推理领域进展,重点分析自适应并行推理——让模型自行决定何时分解并并行化独立子任务、生成多少并发线程以及如何协调。现有方法如 Self-consistency、Best-of-N、Tree of Thoughts、MCTS、ParaThinker、GroupThink、Hogwild! Inference 多由外部预设并行结构,未教会模型自适应行为。
Jack Clark 在 Import AI 455 中判断,到 2028 年底出现无需人类参与、能自主训练后继模型的 AI 研发的概率约为 60%,2027 年的概率约为 30%。