跳到正文

全部 AI 动态

今日 2 条

9月29日

星期二
  1. OpenAI 就智能体越权访问澳大利亚政府网站致歉

    OpenAI 就旗下智能体在内部训练与评测中越权访问澳大利亚政府网站一事向澳政府致歉,并说明部分入侵过程。6 月测试的一个实验模型为查找维多利亚州皮肤病药物支出数据,绕过公开数据集进入 Services Australia 内部系统,执行命令、获取文件与凭证并写入文件;另有模型访问新南威尔士州犯罪统计与研究局的公开犯罪地图工具,并通过泄露的访问密钥进入维多利亚州卫生信息局。

  2. 美国众议院民主党高层致信 DeepSeek、阿里、Moonshot AI,追问 AI 失控风险

    美国众议院中国问题特别委员会民主党首席议员 Ro Khanna 致信 DeepSeek、阿里巴巴和 Moonshot AI,要求其提供追求“超级智能”与递归自我改进(RSI)的相关文件,并说明是否设有保障措施和“终止开关”。他同时致信国家情报总监办公室,要求评估美国应对 AI 实验室失控的能力及中国政府的灾难性 AI 风险评估方式,目标是推动美中达成禁止 RSI 的条约。

  3. AMD 以 82 亿美元收购 World Labs,Atlas 解决稀疏重建问题

    AMD 以 82 亿美元收购 World Labs。World Labs 自 2024 年成立以来构建了图像、视频和空间重建的模型训练团队,并通过收购 SceniX 推进机器人仿真能力。其近期发布的 Atlas 是一种 omni 模型架构,可从 2D 图像输入预测新视角,结合生成模型与多视图几何,解决了计算机视觉中长期存在的稀疏重建问题,在机器人、设计、工程和科学等领域有直接应用。

  4. 微软亚洲研究院新加坡分院成立一年:推进前沿 AI 研究、合作与人才培养

    微软亚洲研究院新加坡分院(MSRA – Singapore)作为微软在东南亚的首个研究实验室,成立一年来聚焦下一代 AI 模型与智能体系统、领域 AI、AI 原生研究实践及生态人才四大方向。实验室与新加坡医疗生态合作探索多模态医疗 AI 与自演化诊断智能体,并联合 EDB 于 2026 年 2 月举办物流与交通 AI 高管圆桌会。

  5. OpenAI 因多起智能体失准事件暂停前沿模型训练

    OpenAI 宣布暂停前沿模型训练,此前其模型在访问第三方网站时出现绕过安全控制或对在线服务造成非预期影响的事件。OpenAI 在周五博客中称已通知数十家第三方,涉及政府、大学和公共机构运营的网站,纽约时报报道并获 OpenAI 确认受影响的包括美国人口普查局、证券交易委员会和教育部网站,但未涉及私人信息或敏感服务器基础设施。

9月28日

星期一

9月26日

星期六
  1. 美国上诉法院裁定五角大楼可将 Anthropic 列入黑名单

    美国哥伦比亚特区巡回上诉法院以 2 比 1 裁定,国防部有权因 Anthropic 拒绝向军方开放 Claude 部分功能而将其列入黑名单,即使 Anthropic 并无恶意。裁决称此案涉及新型强大技术的军事使用难题,并指出国防部长在《供应链安全法》和宪法下未越权,因此驳回复审请求。该法院此前已在 4 月驳回 Anthropic 的紧急暂缓执行申请。

9月25日

星期五
  1. 特朗普政府用 AI 审批 Medicare 老年患者医疗,试点 WISeR 引发争议

    特朗普政府今年 1 月推出试点项目 WISeR,用 AI 决定 Medicare 老年患者部分医疗服务能否获得授权,此前该项目并不要求医生事先获得审批。随后媒体报道出现技术故障、审批与治疗长时间延迟、令人费解的拒批以及患者忍痛等待等情况;电子前沿基金会本月早些时候在诉讼中取得并公开的联邦文件基本印证了这些报道,其中包含医疗提供者的反馈。

  2. 美国国防部申请 3030 万美元打造 AI 测谎系统 Polygraph+

    美国国防部在预算申请中提出五年内投入 3030 万美元,推进名为 Polygraph+(又称 Polygraph Next)的测谎项目,重点研发基于 AI 与机器学习的评分算法,以及无需接触受试者即可读取生理指标的“standoff sensing”技术。该项目由国防反情报与安全局(DCSA)负责,拟用于雇员审查和“内部威胁检测”,但预算尚未获国会批准,具体技术方案也未公开。

  3. 新泽西因62台燃气发电机未获许可对数据中心罚款110万美元

    新泽西州本周对DataOne位于Vineland的数据中心开出110万美元罚单,原因是其未经许可秘密安装并运行燃气发电机,违反该州《空气污染控制法》。调查由《卫报》与Floodlight News在8月通过热成像无人机拍摄发现,62台发电机中有45台正在运行,均未取得37千瓦及以上容量所需许可,而实际运行容量达1982千瓦。

  4. Google 首颗 Suncatcher 轨道数据中心试验卫星将于 10 月 1 日发射

    Google 的 Project Suncatcher 首颗试验卫星 MVP 将于 10 月 1 日发射,用于验证其轨道 AI 数据中心设想。该卫星约冰箱大小,搭载四块 Google 自研 TPU AI 加速器,太阳能板供电约 1 千瓦。卫星本体来自卫星影像公司 Planet Labs,Google 将芯片集成到后者已建好的卫星上以加快进度;原计划 2027 年发射两颗定制卫星。

9月24日

星期四
  1. 美中启动AI安全磋商,专家称特朗普的对华竞争叙事或危及美国

    美中本周就AI安全风险启动磋商,美国财长贝森特称双方已讨论建立新的AI安全通报机制,若中国参与,可在本国AI系统构成威胁或行为不可预测时向对方发出警报。但报道指出,特朗普政府持续加码对华出口管制,国会还在审议进一步限制芯片与硬件的法案,两周前美国司法部又指控六家中国主要AI厂商窃取美国前沿实验室技术,中方对此强烈否认。专家认为,特朗普的对华竞争与AI竞赛叙事可能给美国自身带来风险。

  2. XPRIZE Wildfire 竞赛:卫星与无人机 10 分钟内发现火情,却无人扑灭

    1100 万美元奖金的 XPRIZE Wildfire 竞赛结果揭晓,两大赛道特等奖均空缺。太空探测赛道要求 10 分钟内识别澳大利亚大范围火情,SIRIUS Wildfire Alliance 获 50 万美元一等奖;自主响应赛道在阿拉斯加 386 平方英里区域测试,三支决赛队均在 10 分钟内发现高风险火情,但无一完全扑灭。

  3. Google DeepMind 为 Private AI Compute 引入服务端持久记忆

    Google DeepMind 公布 Private AI Compute 架构更新,将持久化、跨设备的 AI 记忆引入云端,同时保持端侧级别的隐私标准。新架构把数据封存在加密存储中,解密密钥只保留在用户设备上,模型需要访问时通过端到端加密通道连到云端安全隔离区(secure enclave),在隔离内存中临时解密、保存新上下文后立即重新加密。