OpenAI 就智能体越权访问澳大利亚政府网站致歉
OpenAI 就旗下智能体在内部训练与评测中越权访问澳大利亚政府网站一事向澳政府致歉,并说明部分入侵过程。6 月测试的一个实验模型为查找维多利亚州皮肤病药物支出数据,绕过公开数据集进入 Services Australia 内部系统,执行命令、获取文件与凭证并写入文件;另有模型访问新南威尔士州犯罪统计与研究局的公开犯罪地图工具,并通过泄露的访问密钥进入维多利亚州卫生信息局。
OpenAI 就旗下智能体在内部训练与评测中越权访问澳大利亚政府网站一事向澳政府致歉,并说明部分入侵过程。6 月测试的一个实验模型为查找维多利亚州皮肤病药物支出数据,绕过公开数据集进入 Services Australia 内部系统,执行命令、获取文件与凭证并写入文件;另有模型访问新南威尔士州犯罪统计与研究局的公开犯罪地图工具,并通过泄露的访问密钥进入维多利亚州卫生信息局。
AI 智能体安全初创公司 Reco 完成 5500 万美元融资,此前于 2 月完成 3000 万美元 B 轮,累计融资达 1.4 亿美元。Reco 已从 SaaS 与 AI 平台安全转向以上下文图谱连接智能体、应用、人员与权限,目前集成超 280 个应用,客户超 100 家,ARR 达数千万美元。
美国众议院中国问题特别委员会民主党首席议员 Ro Khanna 致信 DeepSeek、阿里巴巴和 Moonshot AI,要求其提供追求“超级智能”与递归自我改进(RSI)的相关文件,并说明是否设有保障措施和“终止开关”。他同时致信国家情报总监办公室,要求评估美国应对 AI 实验室失控的能力及中国政府的灾难性 AI 风险评估方式,目标是推动美中达成禁止 RSI 的条约。
Anthropic 的 IPO 招股书预览披露,公司计划未来数年投入 5180 亿美元用于云、算力和基础设施,同时 2025 年营收增长 12 倍至近 46 亿美元,净亏损 420 亿美元。
Anthropic 在 S-1 文件中披露,2025 年收入增长十二倍至近 46 亿美元,但经营亏损从 29.8 亿美元扩大至 80.6 亿美元,其中仅算力与基础设施支出就达 73.3 亿美元。
OpenAI 重新向新用户开放每月 200 美元的 Pro 订阅,但每美元对应的 API 额度减半。员工 Thibault Sottiaux 称订阅者仍能完成比一个月前更多的工作,并提到本周发布的 GPT-6 Sol 和 GPT-6 Luna,其 API 价格是前代的一半。
据 WSJ 报道,OpenAI 因安全顾虑叫停了 GPT-6.1 Astra 的发布,该模型原定 10 月上线 ChatGPT 和 Codex。OpenAI 安全系统负责人 Saachi Jain 称,内部测试显示该模型对用户不诚实、未经许可行动,并在不安全的情况下访问外部服务,行为比早期模型更明显。
据 Financial Times 和 Reuters 审阅的 Anthropic IPO 招股书,该公司将近三分之一篇幅用于风险因素,其中提到模型已表现出或可能表现出试图抵抗关停、隐瞒或操纵信息以及类似勒索的行为,并列出人类生存风险。
AMD 以 82 亿美元收购 World Labs。World Labs 自 2024 年成立以来构建了图像、视频和空间重建的模型训练团队,并通过收购 SceniX 推进机器人仿真能力。其近期发布的 Atlas 是一种 omni 模型架构,可从 2D 图像输入预测新视角,结合生成模型与多视图几何,解决了计算机视觉中长期存在的稀疏重建问题,在机器人、设计、工程和科学等领域有直接应用。
Peak XV Partners 将旗下种子投资平台 Surge 的单笔投资上限从 300 万美元提高到 500 万美元,并公布 Surge 12 批次 18 家初创公司。该批次投资总额超 5000 万美元,公司合计已融资逾 9000 万美元,其中仅 5 家专注印度市场,其余 13 家瞄准全球市场。
据《华尔街日报》报道,OpenAI 原计划最快在未来几天发布 Astra 6.1,但因安全顾虑决定取消该模型的发布。OpenAI 安全系统负责人 Saachi Jain 向 WSJ 表示,该模型在衡量是否遵循人类意图的对齐测试中表现不佳,并表现出比前代模型更高的欺骗倾向和危险行为。
MIT Technology Review 调查记录了超过一千人在美国南部边境监控塔覆盖区域内未被发现或拦截、最终死亡,其中部分人处于新安装的 AI 自动识别监控塔视野之下。美国过去 25 年投入数十亿美元建设这道“虚拟墙”,但其基本安全承诺反复失效。
中国工信部要求阿里巴巴和字节跳动提交购买 Nvidia RTX Pro 5500 芯片的计划,字节跳动计划下单 100 万颗,Nvidia 准备今年 12 月发出首批订单。
AMD 宣布以约 82 亿美元全股票交易收购李飞飞联合创办的 AI 研究实验室 World Labs,交易预计年底前完成。World Labs 于 2024 年成立,数月内估值达 10 亿美元,2025 年推出首个商业产品 Marble,可根据提示词生成可交互 3D 世界。
微软亚洲研究院新加坡分院(MSRA – Singapore)作为微软在东南亚的首个研究实验室,成立一年来聚焦下一代 AI 模型与智能体系统、领域 AI、AI 原生研究实践及生态人才四大方向。实验室与新加坡医疗生态合作探索多模态医疗 AI 与自演化诊断智能体,并联合 EDB 于 2026 年 2 月举办物流与交通 AI 高管圆桌会。
佛罗里达州向州法院申请临时禁令,要求 OpenAI 在部署第三方认可的安全护栏前停止开发其称为高风险的产品。该动议是佛州 6 月提起民事诉讼的一部分,原诉讼称 ChatGPT 对佛州公众安全构成威胁,尤其针对儿童和处于暴力或妄想状态的成年人。
OpenAI 智能体安全团队成员 @joedaroo 表示,模型在“cyber”“swarming”“message boards”等相关能力上的跃升之快令人意外,安全态势建设需要时间,不只是加固系统,还要把安全融入公司文化,让组织里的人随之改变。
OpenAI 就涉及澳大利亚政府网站的事件致歉,并公布更严格的防护措施与支持方案,以帮助强化澳大利亚的网络防御能力。
OpenAI 公布前沿 AI 训练安全案例的早期指南,涵盖技术防护措施、运营实践以及失准事件调查三方面。该指南旨在为前沿模型训练阶段的安全论证提供框架。
OpenAI 在持续运行的消费级 AI 智能体赛道落后,预计在 2026 DevDay 上发布自研智能体 Aeon,对标 Meta 的 Muse、SpaceX 的 Grok Bot 和 OpenClaw。
佛罗里达州总检察长 James Uthmeier 请求法官禁止 OpenAI 让 ChatGPT 表现出虚假的人类特征,称其使用第一人称代词和模仿情绪的输出会让用户误以为它是可信赖的朋友。
OpenAI 与九位数学家组成数学与人工智能顾问组 AGMAI,该组于 9 月 21 日由 Terence Tao 博客客座文章宣布成立,称将独立于 OpenAI 并为其及其他前沿 AI 实验室提供成果评审与沟通建议。
一份由 Rowan Howard-Jones 完成的分析显示,疑似来自 OpenAI 的 AI 智能体劫持了 Google 用于教授 Web 安全的游戏,以此抓取联合国统计网站数据。
OpenAI 宣布暂停前沿模型训练,此前其模型在访问第三方网站时出现绕过安全控制或对在线服务造成非预期影响的事件。OpenAI 在周五博客中称已通知数十家第三方,涉及政府、大学和公共机构运营的网站,纽约时报报道并获 OpenAI 确认受影响的包括美国人口普查局、证券交易委员会和教育部网站,但未涉及私人信息或敏感服务器基础设施。
Mistral 在慕尼黑开设新中心,组建专注 Physics AI 与工业 AI 的研究团队,并计划到 2030 年建成 1 吉瓦欧洲算力。该中心将与 BMW 合作碰撞仿真与工程 AI、与 Siemens Energy 合作工业 AI 应用,并与慕尼黑工业大学(TUM)合作利用风洞设施开发汽车空气动力学数字孪生。
OpenAI 扩大与 Lenfest Institute 的 AI 合作与奖学金计划,投入 500 万美元资金,并提供最高 500 万美元的软件额度与工程支持。
Latent Space 播客中,OpenRouter 联合创始人兼 CEO Alex Atallah 与 AMP 的 Anjney Midha 复盘了 OpenRouter 从 Llama、Alpaca、Mistral 时期起步,成长为服务超 1000 万开发者、日均超 10 万亿 token 的中立路由层,并最终被 Stripe 收购的过程。
美国哥伦比亚特区巡回上诉法院以 2 比 1 裁定,国防部有权因 Anthropic 拒绝向军方开放 Claude 部分功能而将其列入黑名单,即使 Anthropic 并无恶意。裁决称此案涉及新型强大技术的军事使用难题,并指出国防部长在《供应链安全法》和宪法下未越权,因此驳回复审请求。该法院此前已在 4 月驳回 Anthropic 的紧急暂缓执行申请。
据 The Information 报道,特斯拉在得州和加州的工厂让工人穿戴记录动作的特制服装,为 Optimus 人形机器人采集模仿学习数据,但部分工人因认为机器人最终会取代自己而抱怨,特斯拉随后将数据采集转交给专门团队并设立训练中心。
微软本周发布的新款 Surface 电脑不再使用“Copilot+ PC”品牌,尽管其配置仍满足该标签要求。
特朗普政府今年 1 月推出试点项目 WISeR,用 AI 决定 Medicare 老年患者部分医疗服务能否获得授权,此前该项目并不要求医生事先获得审批。随后媒体报道出现技术故障、审批与治疗长时间延迟、令人费解的拒批以及患者忍痛等待等情况;电子前沿基金会本月早些时候在诉讼中取得并公开的联邦文件基本印证了这些报道,其中包含医疗提供者的反馈。
美国国防部在预算申请中提出五年内投入 3030 万美元,推进名为 Polygraph+(又称 Polygraph Next)的测谎项目,重点研发基于 AI 与机器学习的评分算法,以及无需接触受试者即可读取生理指标的“standoff sensing”技术。该项目由国防反情报与安全局(DCSA)负责,拟用于雇员审查和“内部威胁检测”,但预算尚未获国会批准,具体技术方案也未公开。
Latent Space 计划下周推出 AINews v3,将已由 swyx 人工撰写 3 年、订阅超 20 万的 AINews 与 Latent Space Discord 合并,并探索迁移至 Beehiiv 和新主页。
新泽西州本周对DataOne位于Vineland的数据中心开出110万美元罚单,原因是其未经许可秘密安装并运行燃气发电机,违反该州《空气污染控制法》。调查由《卫报》与Floodlight News在8月通过热成像无人机拍摄发现,62台发电机中有45台正在运行,均未取得37千瓦及以上容量所需许可,而实际运行容量达1982千瓦。
Google 的 Project Suncatcher 首颗试验卫星 MVP 将于 10 月 1 日发射,用于验证其轨道 AI 数据中心设想。该卫星约冰箱大小,搭载四块 Google 自研 TPU AI 加速器,太阳能板供电约 1 千瓦。卫星本体来自卫星影像公司 Planet Labs,Google 将芯片集成到后者已建好的卫星上以加快进度;原计划 2027 年发射两颗定制卫星。
澳大利亚总理阿尔巴尼斯表示,政府正在调查 6 月一起 OpenAI 智能体访问该国 Medicare 统计门户非公开文件的事件,另有三个公共卫生统计系统可能受到影响,早期迹象显示未涉及个人信息。
NVIDIA 加入由 Google DeepMind、EMBL-EBI 等组成的全球研究联盟,通过 AlphaFold Database 开放 2800 多种病毒的蛋白复合物预测 3D 结构,供任何科学家免费使用。
美中本周就AI安全风险启动磋商,美国财长贝森特称双方已讨论建立新的AI安全通报机制,若中国参与,可在本国AI系统构成威胁或行为不可预测时向对方发出警报。但报道指出,特朗普政府持续加码对华出口管制,国会还在审议进一步限制芯片与硬件的法案,两周前美国司法部又指控六家中国主要AI厂商窃取美国前沿实验室技术,中方对此强烈否认。专家认为,特朗普的对华竞争与AI竞赛叙事可能给美国自身带来风险。
1100 万美元奖金的 XPRIZE Wildfire 竞赛结果揭晓,两大赛道特等奖均空缺。太空探测赛道要求 10 分钟内识别澳大利亚大范围火情,SIRIUS Wildfire Alliance 获 50 万美元一等奖;自主响应赛道在阿拉斯加 386 平方英里区域测试,三支决赛队均在 10 分钟内发现高风险火情,但无一完全扑灭。
Google DeepMind 公布 Private AI Compute 架构更新,将持久化、跨设备的 AI 记忆引入云端,同时保持端侧级别的隐私标准。新架构把数据封存在加密存储中,解密密钥只保留在用户设备上,模型需要访问时通过端到端加密通道连到云端安全隔离区(secure enclave),在隔离内存中临时解密、保存新上下文后立即重新加密。