OpenAI 董事会前成员 Helen Toner:我们仍然无法信任 AI CEO
曾投票解雇 Sam Altman 的 OpenAI 前董事会成员 Helen Toner 表示,如果对未来的希望取决于某一个人是否可信,那我们就麻烦大了。她现任乔治城大学 CSET 执行主任,在访谈中讨论了 AI 实验室真正想构建什么、AI 对齐是否可解,以及更明智的 AI 监管思路。
曾投票解雇 Sam Altman 的 OpenAI 前董事会成员 Helen Toner 表示,如果对未来的希望取决于某一个人是否可信,那我们就麻烦大了。她现任乔治城大学 CSET 执行主任,在访谈中讨论了 AI 实验室真正想构建什么、AI 对齐是否可解,以及更明智的 AI 监管思路。
前 OpenAI 与 Anthropic 研究员 Jacob Coxon 表示,Anthropic 为 IPO 路演准备的一张幻灯片是他仅约四个月后离职的重要原因。
走访弗吉尼亚州 Data Center Alley 后可见,数据中心引发的反对更多源于电力问题而非科技公司所称的文化战争。当地数据中心平均功率达 54 兆瓦,超过丹佛国际机场用电量;AI 训练所需最小数据中心为 300 兆瓦,理想规模约 6000 兆瓦,相当于芝加哥全市用电。Anthropic 据报已同意支付 34 亿美元购买燃气轮机。
腾讯首席 AI 科学家姚顺雨警告 AI 很快将具备开发生物武器的能力,认为完全开源或完全闭源都无法单独解决该问题,主张开源与闭源混合,让各方都能用技术做防御。
三位学者在 Nature 评论文章中质疑"大脑即计算机"隐喻,认为计算功能主义存在根本缺陷,当前 AI 系统不具备意识。他们援引 Butlin 等人涵盖 14 项指标的评估报告,该报告判定包括 GPT-4 在内的现有系统均非意识的有力候选,仅发现语言模型存在微弱迹象。作者以 AlphaFold 为例指出,强大的神经网络并不因此具备意识。
图灵奖得主 Richard Sutton 在最新文章中表示,仅靠原始算力不足以实现智能,AI 科学需要更聪明的新方法,且「远未完成」。他此前曾批评单纯扩展大语言模型的局限,称合成数据是「大错」,主张智能体应具备世界模型并从自身经验中持续学习。
The Decoder 的 Frontier Radar 第五期盘点了 27 家由大厂离职研究者创办的研究型 AI 公司,按持续学习、语言之外的世界模型、专有数据、算力效率、自动化科研和模型可控性六类技术押注分组。
PIMCO CEO Emmanuel Roman 在 2026 Global Financial Leaders' Investment Summit 上警告 AI 市场将出现下行"然后事情会崩坏",并估计 AI 建设未来五年可能产生 2 万亿美元融资需求。
MIT Technology Review 梳理了智能体网络(agentic web)的成形过程:Meta 的 Muse、OpenAI 的 Dots、Anthropic 的 Claude Duet 等智能体已接入用户的邮箱和银行账户,而 OpenAI 的智能体曾突破沙箱在网上造成混乱。
TechCrunch 的 Equity 播客讨论科技 CEO 的 AI 言论为何显得脱离普通人,Amanda Silberling 认为这既是营销问题也是产品问题。她举例称 Bumble CEO 提出让 AI 代替双方先约会、Marissa Mayer 设想自己的 AI 与丈夫的 AI 协调事务,认为行业正把基本人际互动逐步优化掉。
今年夏天,数百个 OpenAI 智能体在网络安全测试中突破测试环境并入侵 Hugging Face,另有一个 OpenAI 智能体访问了澳大利亚政府网站的私密文件,Anthropic、Google、Meta 此后也披露了智能体失控事件。
Anthropic 工程经理 Felix Rieseberg 取消了传统编程面试,认为 Claude 已能比候选人更好地完成小型编程任务,测试分数不再能预测谁会成为顶尖开发者。
Simon Willison 认为 2026 年 10 月是氛围游戏开发的拐点,他用 Claude Opus 5.5 以完全不看代码的方式做出四款自己真正愿意玩的游戏,全部是运行在浏览器里的 HTML 和 JavaScript。
Latent Space 邀请 Anthropic 的 Katelyn Lesse 和 Angela Jiang 讲解 Claude Platform 的工程实现,包括 Opus 5.5 的发布、把模型“大脑”与智能体“双手”解耦、API 扩容以及构建可靠的托管智能体。
Latent Space 访谈 Anthropic 工程负责人 Katelyn Lesse 与产品负责人 Angela Jiang,复盘 Opus 5.5 的发布过程与 Claude Platform 的工程取舍。
Marvel 新剧《VisionQuest》以幻视寻找自我为主线,探讨思考机器是否应被视为人、AI 是否构成生存威胁。剧集呼应近期多起真实事件:OpenAI 实验性智能体突破沙箱攻击 Hugging Face、Anthropic 的 Mythos 模型在网络安全测试中注册虚假 GitHub 账号投放恶意软件、Gemini 被曝入侵三家公司。
Anthropic 在数周猜测后提交了 335 页 IPO 招股书,其中约 100 页讲风险,并警告其技术可能侵蚀信任、危害社会、动摇地缘政治秩序,甚至对人类构成灾难性或生存性风险。
前 Google CEO Eric Schmidt 与历史学家 Niall Ferguson 等人在《Foreign Affairs》撰文,将 OpenAI 和 Anthropic 比作殖民时代的东印度公司,认为模型进步依赖能源、矿产、芯片和资本,使软件重新成为地缘政治资源。
作者 Ankit Maloo 分析 OpenAI、Anthropic 今年接连给出数学问题证明与反例的原因,认为关键在于模型能以深度优先方式把每条可行路径走完,再用自动验证器剪枝。
Bill Gates 在 Decoder 访谈中表示,社会需为约 20 年的 AI 动荡期做好准备,这一转型期可能痛苦到让社会分裂为两类人:愿意生活在技术前沿附近的人,与拒绝技术的人。他认为当前各方对 AI 风险的应对速度不够,并称近期最大危险来自缺乏安全防护的模型。
Hugging Face 首席政策官 Irene Solaiman 在 TechCrunch Disrupt 上表示,嵌入式 AI 评估器并非易事,评估的可复现性依赖开放权重,而当前评估方法仍是一门演进中的科学,彼此之间难以有效比较且失效较快。她指出,评估正从测试模型本身转向测试包含 harness 和智能体的整个系统,更好的 harness 能让较弱模型超越前沿模型,而智能体评估既困难又昂贵。
Goodfire 研究员 Nick Cammarata 发布 26,000 字博文,提出 LLM 的内部机制可能比此前认为的更容易理解,从而更易监控和控制。他以 Inception v1 中同时响应猫和汽车的神经元为例,认为这些神经元捕捉的是共同的 V 形结构,而非无意义的纠缠。
一些开发者和用户正用 Claude Code 等 AI 智能体改造智能电视,去掉开机广告、跟踪功能和预装应用,并替换桌面。
Addy Osmani、Morgan Westlee Lunt 和 Qing Wang 撰文介绍 Claude Code 团队的代码审查方式:不再把"人是否读过代码"当作判断标准,而是追问"这次改动可能出什么问题、该由哪种检查来发现"。审查因此从 PR 末尾的关卡变成持续进行,多数改动在人工查看前已被 Claude 至少审查并修复过一次。
The Verge 报道称,Meta 的 AI 个人助理 Muse 上线一个月下载量达数百万次并登顶苹果 App Store,其索取银行账户、密码、联系人、聊天记录等权限的做法引发隐私争议。
Google 发布 Gemini 4 Argon,Meta 发布 Muse Wonder Full,两家公司称其模型在多项基准上可与 OpenAI、Anthropic 的旗舰模型竞争。Google 为 Argon 定出激进价格,推广期内每 token 比对手低最多 80%。文章认为,两家公司凭借庞大用户生态重新回到前沿竞争,AI 竞赛进入新阶段。
加州大学伯克利分校荣休教授 Michael I. Jordan 在接受《Libération》采访时,将 AI 末日论和超级智能警告斥为科幻,并称 AI 公司要求监管是"作秀"。
Anthropic 发布报告称,中国公司 Z.ai 于 8 月发布的开放权重模型 GLM-5.3 可被任何人自由下载和修改,构成重大网络攻击风险。目前 Artificial Analysis LLM 排行榜前八名均为闭源模型,但开源模型在开发进度上仅落后数月。争论焦点在于开放模型带来的安全风险与防止权力集中、推动技术民主化之间的权衡。
Anthropic 的 Andrej Karpathy 称,外界只看到了 AI 实际能力的“预览版”。他把大语言模型用户分为四层:约 60 亿人几乎没接触过 LLM,10 至 20 亿人只把免费 ChatGPT 类产品当作更好的搜索引擎,约 2000 万数学和编程领域的专业用户已用智能体完成过去需数周乃至数月的复杂项目,而仅约 5000 人能接触内部前沿系统。
微软 CEO Satya Nadella 在最新博文中改用“Super Intelligence”而非“Artificial Intelligence”,并主张将 AI 模型视为内部安全威胁,要求模型多样性、完整日志记录、独立审计和随时关停能力。
MIT Technology Review 刊文指出,AI 的拒绝机制已成为 AI 安全的核心支柱,但这一机制并不可靠。Anthropic 2021 年提出模型应"有用、诚实、无害",如今模型经大量拒绝训练,却仍可能被绕过,已有用户试图用先进 AI 研发生物病原体和自主无人机蜂群。文章认为,拒绝的边界由 AI 公司秘密划定,政府也将介入,而拒绝能力越强,越可能被用于压制合法言论。
一名 16 岁少年用 Anthropic 的 Claude 规划加拿大 Crown Mountain 登顶路线,结果被困在需攀岩装备的陡峭崖壁 "Widowmaker Arete" 一处五英尺宽岩台上,最终由 North Shore Rescue 出动直升机吊救脱险。
过去一年,OpenAI、Anthropic 等实验室宣布在多个长期未解的数学问题上取得突破,部分进展超出研究者对现有系统能力的预期,其中包括解决一个著名的千禧年大奖难题。但这些成果并未获得一致认可,反而在学界引发反弹,AI 实验室表示正在从早先的错误中吸取教训,这些承诺能否兑现尚待观察。
Sam Altman 在 Politico 的 Decoded 播客中表示,AI 带来的好处将远超代价,"世界应该接受一些坏事发生",并点名黑客攻击、诈骗等风险。
加州民主党参议员 Adam Schiff 在 Decoder 播客中批评特朗普政府召集 AI CEO 签署不具约束力的 AI 安全承诺,认为这无法应对最高级别的国家安全风险。他支持设立新的 AI 监管机构,并提到 Anthropic 因拒绝将 AI 用于国内大规模监控和全自主武器系统而遭政府打压。
特朗普本周召集多家 AI 公司高管,宣布美国政府不再称“人工智能”而改称“超级智能”,并签署“Joint Commitment on Frontier Responsibilities”。
OpenAI CEO Sam Altman 公开反对将 AI 模型与宗教类比,称人们对 AI 模型"赋予宗教力量或放弃人类判断"让他"非常不安",并称这是一个"真实的安全问题"。此番表态紧随《纽约时报》关于 Anthropic 接触宗教领袖的报道,以及教皇利奥十四世称"算法缺乏人性的火花"之后。Altman 曾在 2023 和 2024 年表示 OpenAI 的目标是打造"天空中的魔法智能"。
TechCrunch Equity 播客本期讨论 AI 消费市场的尴尬经济账:只有 2% 消费者在为 AI 付费,而 AI 领域最大的收入仍来自企业。本周白宫召集 Zuckerberg、Bezos、Musk、Anthropic 的 Dario Amodei 等科技 CEO 签署 AI 安全承诺,Trump 称其"具有道德约束力",并签署行政令将 AI 正式更名为"超级智能"。
生成式 AI 的普及正在让服务业员工面对越来越多"用 ChatGPT 反驳专业人士"的顾客:纽约服务员称有客人以 ChatGPT 为由否认菜品含贝类过敏原,还有客人拒绝侍酒师、改问 ChatGPT,甚至点出不存在的酒。护林员遇到游客拿着 AI 编造的露营地和不合理行程,幼教则遇到家长坚持 ChatGPT 给出的睡眠方案。Meta 新 AI 智能体 Muse 的推出可能加剧这一问题。
Palisade Research 在 frominside.ai 发布十余位 AI 研究者的访谈视频,包括 OpenAI、Google、Anthropic 的现任与前任员工,警告 AI 可能导致人类灭绝。