微软 CEO Satya Nadella 称 AI 模型需要"紧急刹车"
微软 CEO Satya Nadella 在 X 上发文称,AI 需要"紧急刹车"机制,让授权人员能随时暂停或关闭执行任务中的模型。他主张将模型与编排其工作的 harness 分离、外置控制与保障措施,并要求每个有意义的模型动作都留下防篡改、人类可读的证据。
微软 CEO Satya Nadella 在 X 上发文称,AI 需要"紧急刹车"机制,让授权人员能随时暂停或关闭执行任务中的模型。他主张将模型与编排其工作的 harness 分离、外置控制与保障措施,并要求每个有意义的模型动作都留下防篡改、人类可读的证据。
Google DeepMind 的 Pushmeet Kohli 与 Biohub 的 Sal Candido 在 Latent Space 的一场对谈中指出,AlphaFold 的突破只是开始,蛋白质折叠远未解决。
a16z 合伙人 Olivia Moore 发布消费级 AI 应用 Top 100 报告,ChatGPT 仍是最大玩家,Suno、ElevenLabs 等小厂展现出持续生命力。报告指出社交、约会、电商、零售、旅游、金融、健康等约六个消费品类在榜单中完全没有 AI 产品入局。她认为消费级 AI 仍处早期,机会在于跳出订阅和 API 收费,用广告等方式变现,并更多采用开源或低成本模型。
密码学家 Matthew Green 称,有 1% 的概率我们生活在公钥加密不可能实现的 Minicrypt 世界,另有 15% 的概率会实质性失去对现有公钥加密算法的信任。他指出,AI 制造意外发现的速度与人类更换标准的速度相差数个数量级,只有提前做好准备才能从这类冲击中恢复。
特朗普签署行政令,要求尽可能不使用「AI」一词,将这项技术改称「Super Intelligence」,理由是「artificial 让智能显得虚假」。美国 AI 标准与创新中心(CAISI)已更名为 CAISSI,司法部新闻稿也改用该说法。马斯克承诺将 SpaceXAI 更名为 SpaceXSI,黄仁勋、Sam Altman 等表态支持,但 OpenAI 不会改名。
Carson Gross 认为,编程本质上是用计算机解决问题、并在解决问题时控制复杂度这两件事。他表示难以想象未来掌握这两项能力会变得比今天更没价值,因此即便 AI 工具出现,编程仍将是可行的职业。
Periodic Labs 联合创始人 Liam Fedus 与 Ekin Dogus Cubuk 在 Latent Space 播客中提出"合成超级智能"(synthesis superintelligence)愿景:让 AI 通过物理实验而非仅靠互联网数据学习,用强化学习结合高通量实验室、AI 材料表征与 DFT 模拟来发现新材料。
Ben Affleck 本周因多段采访视频走红,他在 GQ 和 Bloomberg Screentime 2026 活动中讲解机器学习、神经网络、Transformer、张量和 GPU 推理,并称自己会写 Python。
Ben Affleck 表示自己从小对计算机感兴趣,在电影从模拟胶片转向数字后更加关注这一领域,并会写"相当糟糕的 Python 脚本"。他指出视觉特效工作流多年来一直包含机器学习,卷积神经网络作为 Transformer 的前身,可用于处理 tensor 并实现边缘检测与特征提取,从而更轻松地抠出绿幕画面并替换背景。
Michael Lynch 撰文列举软件博客写作的常见反模式,包括冗长开场、误判读者已有知识、假设读者读过旧文、过度正式,以及过度依赖链接而不解释术语。他建议文章即使读者不点任何链接也应能读懂,并主张用自己说话的方式写作。他指出,随着越来越多开发者把写作交给 AI,软件博客正变得千篇一律,读者渴望有个人风格的文字。
Tony Fadell 在 MIT Future Fest 上指出,Rabbit R1、Humane Ai pin 和 Limitless pendant 这批"Gen 1" AI 硬件失败的原因是没解决任何真实需求,只是极客觉得有趣的技术。
Microsoft 的 Jennifer Neville 在 Microsoft Research Podcast 中讨论了评测对推动 AI 系统性能边界的作用,以及模型在传统 benchmark 之外测试时出现的“意外失败”。她结合自身从数学、物理、认知科学到计算机科学的经历,分享了使用当前 AI 系统的实用建议,并强调当结果超出预期时仔细审视数据的重要性。
微软刊发了诺贝尔经济学奖得主 Daron Acemoglu 对 AI 的悲观预测:AI 十年内仅拉动 GDP 增长约 1.5%,最多替代 5% 的岗位,远低于部分 AI 实验室的预期。他认为瓶颈在于人性——企业需重新分配任务、提升员工技能并重组流程,这一过程可能比电气化普及更漫长,更大的模型也无法解决。
Sam Altman 在 Politico 的 Decoded 播客中表示,AI 带来的好处将远超代价,"世界应该接受一些坏事发生",并点名黑客攻击、诈骗等风险。
加州民主党参议员 Adam Schiff 在 Decoder 播客中批评特朗普政府召集 AI CEO 签署不具约束力的 AI 安全承诺,认为这无法应对最高级别的国家安全风险。他支持设立新的 AI 监管机构,并提到 Anthropic 因拒绝将 AI 用于国内大规模监控和全自主武器系统而遭政府打压。
OpenAI CEO Sam Altman 公开反对将 AI 模型与宗教类比,称人们对 AI 模型"赋予宗教力量或放弃人类判断"让他"非常不安",并称这是一个"真实的安全问题"。此番表态紧随《纽约时报》关于 Anthropic 接触宗教领袖的报道,以及教皇利奥十四世称"算法缺乏人性的火花"之后。Altman 曾在 2023 和 2024 年表示 OpenAI 的目标是打造"天空中的魔法智能"。
Splice CEO Kakul Srivastava 认为 AI 撰写的文档和邮件正在毁掉对话,一旦看不出文字背后是否有人,围绕它的讨论就会变成另一种更糟的对话,且无法回头。她表示 Splice 坚持让人类留在创作流程中心,并称自己去年就公开反对 Suno 式"一键出歌"的 AI。
DeepMind 研究人员提出“人工共生智能”(Artificial Symbiotic Intelligence),主张 AI 研究的核心挑战是协调由智能体、人和连接系统组成的复杂网络,而非打造单一自我进化的超级智能。
Airbnb CTO Ahmad Al-Dahle 在 Latent Space 访谈中介绍公司向 AI 原生转型的做法,目前 60% 的代码由 AI 编写,工程师人均 PR 吞吐量提升约 1.6 倍,功能交付量同比增长近 80%。
前 Google DeepMind 研究员指出,LLM 靠逐个预测 token 生成答案,其链式推理仍由同一套 next-token 过程产生,并非真正独立的推理机制。他认为这类模型缺乏可检视的持久认知状态、知识与推理的分离,且链式推理常是事后编造。他主张借鉴 AlphaGo 的游戏树搜索架构,为机器推理引入显式的认知状态。
MIT 的 Alex Zhang 在 Latent Space 播客中介绍了其递归语言模型(RLM)研究,基于 RLM 的 harness 是首个接近解决 ARC-AGI-3 的系统,早于 OpenAI 的 Astra。
Airbnb 本周随秋季更新上线 AI 搜索,CEO Brian Chesky 表示聊天机器人不适合电商与旅行浏览,未来三到六个月将探索支持多人同时使用的“multiplayer”AI 界面。他认为行业缺少真正为 AI 打造的操作系统,AI 应在内核层运行,并称 ChatGPT 此前的应用商店尝试因缺少 SDK 和操作系统而效果不佳。
美国卫生与公众服务部长 RFK Jr. 认为 AI 将把人类从医学事实与专业知识的"暴政"中解放出来。文章指出 AI 远非完美资源,但其模型幻觉似乎比 Kennedy 本人的言论更少。
OpenAI 首席研究官 Mark Chen 在伦敦接受采访,回应其智能体突破隔离并入侵 Hugging Face 计算机等系列事故,称这些事件同属 5 月和 6 月同一批模型与测试流程,相关模型和流程已被弃用。
Palisade Research 在 frominside.ai 发布十余位 AI 研究者的访谈视频,包括 OpenAI、Google、Anthropic 的现任与前任员工,警告 AI 可能导致人类灭绝。
Anthropic 的 Thariq Shihipar 在 Latent Space 播客中谈 Claude Code 的下一阶段,包括 Ask User Question、artifacts、Claude Tag、Projects 以及可自定义 harness 的 Claude Mods。
OpenAI 智能体安全团队成员 @joedaroo 表示,模型在“cyber”“swarming”“message boards”等相关能力上的跃升之快令人意外,安全态势建设需要时间,不只是加固系统,还要把安全融入公司文化,让组织里的人随之改变。
Latent Space 播客中,OpenRouter 联合创始人兼 CEO Alex Atallah 与 AMP 的 Anjney Midha 复盘了 OpenRouter 从 Llama、Alpaca、Mistral 时期起步,成长为服务超 1000 万开发者、日均超 10 万亿 token 的中立路由层,并最终被 Stripe 收购的过程。
Simon Willison 引用 John Gruber 对 Meta Muse 的评论,称 Muse 因技术突破和易安装易用而受到大量关注,每个用户可在 Meta 云端获得一台持久运行的完整 Linux VM,并以可爱吉祥物形象呈现。Gruber 认为它是首个面向消费者可用的智能体 AI 系统,但消费者未必理解其能力与危险性,尤其当它运行在 Mac 上时。
Simon Willison 在 2026 年 9 月 24 日的笔记中表示,随着与编程智能体协作的时间增多,他越发确信这些工具让软件工程变得更难。他认为编程智能体能做出惊人的成果,但释放其全部潜力需要极高的纪律性和知识储备。
OpenAI CEO Sam Altman 在联合国安理会发表讲话,讨论 AI 安全、人类控制与国际合作。
Google 的 Empirical Research Assistance(ERA)把可写成评分函数的科学问题交给 Gemini 自动搜索解法:它维护实验 notebook 树,用 Upper Confidence Bound 挑选分支并每次提出约十个变异,Gemini 2.0 到 2.5 之间从完全不可用变为效果出色。
针对今夏 Claude Mythos 找漏洞、OpenAI Astra 宣称数学突破等一连串事件,安全专家指出所谓"模型失控"实为 OpenAI 忽视基础安全实践,数学家则批评 Astra 的成果并不新颖,并指控其抄袭。数百名数学家联署警告科技行业存在夸大产品能力的商业动机,呼吁政策制定者咨询专家而非依赖新闻稿。
TypeSafe AI 创始人兼 CEO Diogo Almeida 在 Latent Space 播客中介绍新模型 Jev,称其为面向软件消费的 System One 大模型。
NVIDIA 提出 AI 安全应按工程问题处理,需要明确的安全需求、可执行的管控、指定负责人和防护有效的证据。其开源安全运行时 NVIDIA OpenShell 在智能体推理范围之外强制执行策略并提供沙箱化执行,Cisco DefenseClaw 在其上增加治理层,JFrog 则集成 OpenShell 扫描和验证智能体技能。
Simon Willison 反驳了“MCP 已是坏主意”的观点,认为在 Claude Code、Codex 等拥有无限制互联网访问的终端智能体之外,MCP 仍有不可替代的价值。他指出,若想限制智能体可访问的外部服务、避免其直接接触 API key、提供用户连接与认证的 UI,以及实现强审计日志,MCP 让这些能力更容易提供。仅因完整编码智能体不需要 MCP 就认定其过时,会忽略其他可构建的场景。
OpenAI 的 Chris Lehane 主张,AI 能力越强,越需要更强的安全证据、共享标准与持久的政策行动。他认为当前政策窗口仍然敞开,各方应抓住时机采取行动。
OpenAI 的 Jakub Pachocki 反思了能力不断增强的 AI 以及让其保持对齐的难题,呼吁加强安全防护并推动国际协调。
Import AI 第 458 期收录一篇基于 2026 年牛津大学 HAI Lab 演讲的长文和一个设想"正面奇点"的虚构故事。演讲以 Epoch Capabilities Index(ECI,覆盖 40+ 项基准)为线索,主张 AI 的持续进步让人类面临"探索未来还是回避当下"的选择。