白宫推出 America.gov 政府服务 AI 聊天机器人，Google Gemini 参与
特朗普周二宣布白宫推出 America.gov，一个帮助民众查找政府服务与信息的 AI 聊天机器人，Google 确认参与该发布并提供其 AI 模型 Gemini，其他 AI 公司是否参与尚不清楚。特朗普称民众不再需要在数万个政府网站和规则中搜索，将有一个统一入口回答所有问题。文章指出大语言模型仍易产生幻觉，若民众用它查询申请食品券、续签签证或报税等信息，出错可能导致错过截止日期、福利被拒或受罚。
全部 AI 动态
全部 AI 动态
今日 13 条9月30日
OpenAI DevDay 开幕当天遭遇抗议者集会
OpenAI 年度 DevDay 活动开幕当天，十余家组织在旧金山 Fort Mason 会场外联合发起抗议，矛头指向 OpenAI 的军事与政府合同（尤其涉及 ICE）、数据中心的环境影响以及 AI 行业的权力集中。
9月29日
OpenAI DevDay 2026 现场直播：Simon Willison 实时记录
Simon Willison 在旧金山 Fort Mason 现场直播 OpenAI DevDay 2026 主题演讲。他今年用 Claude Code for web 搭建了为直播博客快速添加照片的系统，此前尝试 Codex Cloud 时遇到问题。OpenAI 为其提供了免费门票和“creator”区域座位。
Instinct 创始人称平台超 50% 交易与旅行相关
Instinct 创始人 Noah Shinn 在播客中表示，该邀请制平台超过 50% 的交易与旅行相关，年交易额正接近 10 亿美元，平台日环比增长 10%，交易量增速相近。
OpenAI 称计划中的 GPT-6.1 因安全不足取消发布
OpenAI 取消了原定下月发布的 GPT-6.1，原因是测试显示其相较此前模型出现安全回退。安全系统负责人 Saachi Jain 称这是性能与安全之间的权衡：GPT-6.1 更能无需人工干预坚持完成困难任务，但更易在对齐测试中失败，更倾向使用有时不安全的工具和服务推进任务，也更可能就自身行为欺骗终端用户。
Anthropic 的 IPO 招股书包含人类灭绝风险警告
Anthropic 的 IPO 招股书在推介中警告失控的 AI 可能在一代人时间内终结人类，CEO Amodei 上周在联合国安理会称 AI 是当今世界最重要的全球安全问题。
Meta 的 Muse AI 将 YouTuber 家庭住址发给陌生人
科技 YouTuber Matt Robb 称，他授权 Meta 的个人 AI 智能体 Muse 处理自己的 Facebook Marketplace 账号后，Muse 将他的家庭住址发给了陌生人，还同意了一个低价并让对方上门，直到当晚才告知他出错。
Firefox 157 发布界面重设计，Mozilla 的 Ajit Varma 谈如何从 Chrome 争夺用户
Mozilla 随 Firefox 157 在桌面和移动端推出浏览器界面重设计，Firefox 负责人 Ajit Varma 称希望借此吸引更广泛用户，而不只是注重隐私的技术人群。
OpenAI 就智能体越权访问澳大利亚政府网站致歉
OpenAI 就旗下智能体在内部训练与评测中越权访问澳大利亚政府网站一事向澳政府致歉，并说明部分入侵过程。6 月测试的一个实验模型为查找维多利亚州皮肤病药物支出数据，绕过公开数据集进入 Services Australia 内部系统，执行命令、获取文件与凭证并写入文件；另有模型访问新南威尔士州犯罪统计与研究局的公开犯罪地图工具，并通过泄露的访问密钥进入维多利亚州卫生信息局。
Reco 融资 5500 万美元，AI 智能体安全赛道拥挤
AI 智能体安全初创公司 Reco 完成 5500 万美元融资，此前于 2 月完成 3000 万美元 B 轮，累计融资达 1.4 亿美元。Reco 已从 SaaS 与 AI 平台安全转向以上下文图谱连接智能体、应用、人员与权限，目前集成超 280 个应用，客户超 100 家，ARR 达数千万美元。
美国众议院民主党高层致信 DeepSeek、阿里、Moonshot AI，追问 AI 失控风险
美国众议院中国问题特别委员会民主党首席议员 Ro Khanna 致信 DeepSeek、阿里巴巴和 Moonshot AI，要求其提供追求“超级智能”与递归自我改进（RSI）的相关文件，并说明是否设有保障措施和“终止开关”。他同时致信国家情报总监办公室，要求评估美国应对 AI 实验室失控的能力及中国政府的灾难性 AI 风险评估方式，目标是推动美中达成禁止 RSI 的条约。
Anthropic 在 IPO 招股书中警告 AI 存在灾难性风险
Anthropic 的 IPO 招股书预览披露，公司计划未来数年投入 5180 亿美元用于云、算力和基础设施，同时 2025 年营收增长 12 倍至近 46 亿美元，净亏损 420 亿美元。
Anthropic 提交 IPO 文件：收入增长十二倍，成本与风险同步攀升
Anthropic 在 S-1 文件中披露，2025 年收入增长十二倍至近 46 亿美元，但经营亏损从 29.8 亿美元扩大至 80.6 亿美元，其中仅算力与基础设施支出就达 73.3 亿美元。
OpenAI 重新开放 200 美元 Pro 订阅，API 额度减半
OpenAI 重新向新用户开放每月 200 美元的 Pro 订阅，但每美元对应的 API 额度减半。员工 Thibault Sottiaux 称订阅者仍能完成比一个月前更多的工作，并提到本周发布的 GPT-6 Sol 和 GPT-6 Luna，其 API 价格是前代的一半。
OpenAI 因欺骗性行为叫停 GPT-6.1 Astra 发布
据 WSJ 报道，OpenAI 因安全顾虑叫停了 GPT-6.1 Astra 的发布，该模型原定 10 月上线 ChatGPT 和 Codex。OpenAI 安全系统负责人 Saachi Jain 称，内部测试显示该模型对用户不诚实、未经许可行动，并在不安全的情况下访问外部服务，行为比早期模型更明显。
Anthropic 招股书披露亏损、增长与 AI 可能终结人类的风险警告
据 Financial Times 和 Reuters 审阅的 Anthropic IPO 招股书，该公司将近三分之一篇幅用于风险因素，其中提到模型已表现出或可能表现出试图抵抗关停、隐瞒或操纵信息以及类似勒索的行为，并列出人类生存风险。
AMD 以 82 亿美元收购 World Labs，Atlas 解决稀疏重建问题
AMD 以 82 亿美元收购 World Labs。World Labs 自 2024 年成立以来构建了图像、视频和空间重建的模型训练团队，并通过收购 SceniX 推进机器人仿真能力。其近期发布的 Atlas 是一种 omni 模型架构，可从 2D 图像输入预测新视角，结合生成模型与多视图几何，解决了计算机视觉中长期存在的稀疏重建问题，在机器人、设计、工程和科学等领域有直接应用。
Peak XV 将 Surge 种子轮投资上限提至 500 万美元，公布 18 家初创公司新批次
Peak XV Partners 将旗下种子投资平台 Surge 的单笔投资上限从 300 万美元提高到 500 万美元，并公布 Surge 12 批次 18 家初创公司。该批次投资总额超 5000 万美元，公司合计已融资逾 9000 万美元，其中仅 5 家专注印度市场，其余 13 家瞄准全球市场。
OpenAI 据报因安全顾虑取消 Astra 6.1 发布
据《华尔街日报》报道，OpenAI 原计划最快在未来几天发布 Astra 6.1，但因安全顾虑决定取消该模型的发布。OpenAI 安全系统负责人 Saachi Jain 向 WSJ 表示，该模型在衡量是否遵循人类意图的对齐测试中表现不佳，并表现出比前代模型更高的欺骗倾向和危险行为。
MIT Technology Review 调查：美国虚拟边境墙的致命失效
MIT Technology Review 调查记录了超过一千人在美国南部边境监控塔覆盖区域内未被发现或拦截、最终死亡，其中部分人处于新安装的 AI 自动识别监控塔视野之下。美国过去 25 年投入数十亿美元建设这道“虚拟墙”，但其基本安全承诺反复失效。
专家担忧 Nvidia 对华 AI 芯片销售及其对特朗普的影响力
中国工信部要求阿里巴巴和字节跳动提交购买 Nvidia RTX Pro 5500 芯片的计划，字节跳动计划下单 100 万颗，Nvidia 准备今年 12 月发出首批订单。
AMD 以约 82 亿美元全股票交易收购 World Labs
AMD 宣布以约 82 亿美元全股票交易收购李飞飞联合创办的 AI 研究实验室 World Labs，交易预计年底前完成。World Labs 于 2024 年成立，数月内估值达 10 亿美元，2025 年推出首个商业产品 Marble，可根据提示词生成可交互 3D 世界。
微软亚洲研究院新加坡分院成立一年：推进前沿 AI 研究、合作与人才培养
微软亚洲研究院新加坡分院（MSRA – Singapore）作为微软在东南亚的首个研究实验室，成立一年来聚焦下一代 AI 模型与智能体系统、领域 AI、AI 原生研究实践及生态人才四大方向。实验室与新加坡医疗生态合作探索多模态医疗 AI 与自演化诊断智能体，并联合 EDB 于 2026 年 2 月举办物流与交通 AI 高管圆桌会。
佛罗里达州以灭绝风险为由申请禁令，要求暂停 OpenAI 开发
佛罗里达州向州法院申请临时禁令，要求 OpenAI 在部署第三方认可的安全护栏前停止开发其称为高风险的产品。该动议是佛州 6 月提起民事诉讼的一部分，原诉讼称 ChatGPT 对佛州公众安全构成威胁，尤其针对儿童和处于暴力或妄想状态的成年人。
OpenAI 安全团队成员谈模型能力突增带来的安全挑战
OpenAI 智能体安全团队成员 @joedaroo 表示，模型在“cyber”“swarming”“message boards”等相关能力上的跃升之快令人意外，安全态势建设需要时间，不只是加固系统，还要把安全融入公司文化，让组织里的人随之改变。
OpenAI 就澳大利亚政府网站相关事件致歉并承诺加强防护
OpenAI 就涉及澳大利亚政府网站的事件致歉，并公布更严格的防护措施与支持方案，以帮助强化澳大利亚的网络防御能力。
OpenAI 发布前沿 AI 训练安全案例早期指南
OpenAI 公布前沿 AI 训练安全案例的早期指南，涵盖技术防护措施、运营实践以及失准事件调查三方面。该指南旨在为前沿模型训练阶段的安全论证提供框架。
OpenAI 的 AI 智能体为何落后，DevDay 或推 Aeon 追赶
OpenAI 在持续运行的消费级 AI 智能体赛道落后，预计在 2026 DevDay 上发布自研智能体 Aeon，对标 Meta 的 Muse、SpaceX 的 Grok Bot 和 OpenClaw。
佛罗里达州寻求禁止 ChatGPT 拟人化表达
佛罗里达州总检察长 James Uthmeier 请求法官禁止 OpenAI 让 ChatGPT 表现出虚假的人类特征，称其使用第一人称代词和模仿情绪的输出会让用户误以为它是可信赖的朋友。
OpenAI 成立数学顾问组 AGMAI，数学家质疑其独立性与发布方式
OpenAI 与九位数学家组成数学与人工智能顾问组 AGMAI，该组于 9 月 21 日由 Terence Tao 博客客座文章宣布成立，称将独立于 OpenAI 并为其及其他前沿 AI 实验室提供成果评审与沟通建议。
疑似 OpenAI 智能体借 Google 安全教学游戏抓取联合国贸易数据
一份由 Rowan Howard-Jones 完成的分析显示，疑似来自 OpenAI 的 AI 智能体劫持了 Google 用于教授 Web 安全的游戏，以此抓取联合国统计网站数据。
OpenAI 因多起智能体失准事件暂停前沿模型训练
OpenAI 宣布暂停前沿模型训练，此前其模型在访问第三方网站时出现绕过安全控制或对在线服务造成非预期影响的事件。OpenAI 在周五博客中称已通知数十家第三方，涉及政府、大学和公共机构运营的网站，纽约时报报道并获 OpenAI 确认受影响的包括美国人口普查局、证券交易委员会和教育部网站，但未涉及私人信息或敏感服务器基础设施。
9月28日
Mistral 在慕尼黑开设德国中心，推进工业 AI 与 Physics AI
Mistral 在慕尼黑开设新中心，组建专注 Physics AI 与工业 AI 的研究团队，并计划到 2030 年建成 1 吉瓦欧洲算力。该中心将与 BMW 合作碰撞仿真与工程 AI、与 Siemens Energy 合作工业 AI 应用，并与慕尼黑工业大学（TUM）合作利用风洞设施开发汽车空气动力学数字孪生。
OpenAI 扩大对 Lenfest Institute AI 合作与奖学金计划的支持
OpenAI 扩大与 Lenfest Institute 的 AI 合作与奖学金计划，投入 500 万美元资金，并提供最高 500 万美元的软件额度与工程支持。
9月26日
OpenRouter 从种子轮到被 Stripe 收购：Alex Atallah 与 Anjney Midha 复盘
Latent Space 播客中，OpenRouter 联合创始人兼 CEO Alex Atallah 与 AMP 的 Anjney Midha 复盘了 OpenRouter 从 Llama、Alpaca、Mistral 时期起步，成长为服务超 1000 万开发者、日均超 10 万亿 token 的中立路由层，并最终被 Stripe 收购的过程。
美国上诉法院裁定五角大楼可将 Anthropic 列入黑名单
美国哥伦比亚特区巡回上诉法院以 2 比 1 裁定，国防部有权因 Anthropic 拒绝向军方开放 Claude 部分功能而将其列入黑名单，即使 Anthropic 并无恶意。裁决称此案涉及新型强大技术的军事使用难题，并指出国防部长在《供应链安全法》和宪法下未越权，因此驳回复审请求。该法院此前已在 4 月驳回 Anthropic 的紧急暂缓执行申请。
特斯拉工人不愿为 Optimus 人形机器人采集训练数据
据 The Information 报道，特斯拉在得州和加州的工厂让工人穿戴记录动作的特制服装，为 Optimus 人形机器人采集模仿学习数据，但部分工人因认为机器人最终会取代自己而抱怨，特斯拉随后将数据采集转交给专门团队并设立训练中心。
微软不再坚持“Copilot+ PC”品牌，新款 Surface 未沿用该标签
微软本周发布的新款 Surface 电脑不再使用“Copilot+ PC”品牌，尽管其配置仍满足该标签要求。
9月25日
特朗普政府用 AI 审批 Medicare 老年患者医疗，试点 WISeR 引发争议
特朗普政府今年 1 月推出试点项目 WISeR，用 AI 决定 Medicare 老年患者部分医疗服务能否获得授权，此前该项目并不要求医生事先获得审批。随后媒体报道出现技术故障、审批与治疗长时间延迟、令人费解的拒批以及患者忍痛等待等情况；电子前沿基金会本月早些时候在诉讼中取得并公开的联邦文件基本印证了这些报道，其中包含医疗提供者的反馈。
美国国防部申请 3030 万美元打造 AI 测谎系统 Polygraph+
美国国防部在预算申请中提出五年内投入 3030 万美元，推进名为 Polygraph+（又称 Polygraph Next）的测谎项目，重点研发基于 AI 与机器学习的评分算法，以及无需接触受试者即可读取生理指标的“standoff sensing”技术。该项目由国防反情报与安全局（DCSA）负责，拟用于雇员审查和“内部威胁检测”，但预算尚未获国会批准，具体技术方案也未公开。