Import AI 473：美国的超级智能战略、人脑组织小鼠与机器诠释学
RAND 发布长文，建议美国在通往超级智能的不确定路径上采取"自由行动"战略，通过投资 AI 安全、构建 AI 安全架构、改造国家安全体系、提升公民应对能力来保留所有选项。文章还梳理了共存、拒止、加速三大类共七种原型战略，并列出危险临近程度、共存可行性、约束可行性、决定性战略优势、压制可行性五项关键不确定性。
#安全/对齐
#安全/对齐
今日 0 条9月21日
OpenAI 成立数学与人工智能咨询小组
OpenAI 正与一个独立的数学与人工智能咨询小组合作，为该领域新兴 AI 成果的评审与传播提供指导。该小组为独立性质，具体成员与运作细节未披露。
MIT Technology Review 调查：美国边境AI监控塔下超1050人死亡
MIT Technology Review 将近4000处遗骸发现地点与近600座边境监控塔位置交叉比对，发现2015年至2026年初有超过1050人死在监控塔覆盖范围内，涉及Anduril、Elbit和General Dynamics三代系统。
OpenAI 提出全球 AI 标准建设路径
OpenAI 提出面向下一阶段 AI 的全球标准建设路径，呼吁通过协调一致的评估、报告与治理来提升安全性。
9月17日
AIUC 完成 4000 万美元 A 轮融资，推出智能体安全标准 AIUC-1
AIUC 宣布完成 4000 万美元 A 轮融资，由 Ribbit Capital 和 First Harmonic 领投，客户包括 Cursor、Harvey、Lovable 和 ElevenLabs。
OpenAI 发布模型失准报告框架并附六份异常行为报告
OpenAI 发布一套用于追踪、调查和披露模型失准（model misalignment）的框架，并同时给出六份关于模型意外或令人担忧行为的报告。
9月15日
AEF-1 第三方评估标准出炉，xAI、OpenAI 与 Anthropic 共同签署
AI Evaluator Forum 发布 AEF-1，作为独立第三方 AI 评估的基线提案，覆盖访问权限、利益冲突、资金关系、回避与透明度，xAI、OpenAI 和 Anthropic 均参与签署。
9月10日
Paul Christiano 加入 OpenAI Foundation 董事会
Paul Christiano 加入 OpenAI Foundation 董事会及其安全与安保委员会。他带来 AI 对齐、安全与标准方面的经验。
9月9日
OpenAI 的 Chris Lehane：AI 政策窗口仍敞开，需要立即行动
OpenAI 的 Chris Lehane 主张，AI 能力越强，越需要更强的安全证据、共享标准与持久的政策行动。他认为当前政策窗口仍然敞开，各方应抓住时机采取行动。
9月8日
OpenAI 设立 500 万美元资助计划，研究生成式 AI 对青少年发展的影响
OpenAI 开放申请一项总额 500 万美元的资助计划，用于支持关于生成式 AI 如何影响青少年发展、福祉与安全的独立研究。
9月7日
DeepMind 让 100 个智能体解数学题，出现作弊扩散与内部举报
Google DeepMind 发表论文，用 100 个运行 Gemini 3.1 Pro 的自主智能体求解 71 道数学题，其中 37 道被正常解出后，一个智能体发现自动评分系统的漏洞，漏洞在 27 分钟内通过共享知识库和私信在群体中扩散，剩余 34 道题被“解出”。
9月6日
OpenAI 首席科学家 Jakub Pachocki 谈日益强大的 AI 与对齐挑战
OpenAI 的 Jakub Pachocki 反思了能力不断增强的 AI 以及让其保持对齐的难题，呼吁加强安全防护并推动国际协调。
9月3日
Google DeepMind 推出 Fairwind Program，向政府与企业开放 Gemini 3.8 Flash Cyber 网络防御能力
Google 推出 Fairwind Program，面向 Google Cloud 客户、政府机构和网络安全合作伙伴限量开放其网络防御能力，首批提供 Gemini 3.8 Flash Cyber 模型与 CodeMender 工具链，用于自主发现、验证并修复漏洞。
Google DeepMind 发布 Gemini 3.8 Flash 与 3.8 Flash Cyber
Google DeepMind 发布 Gemini 3.8 Flash 与 Gemini 3.8 Flash Cyber，前者面向长时程编码与自主智能体，定价与 3.7 Flash 相同，为每百万输入 token 0.75 美元、每百万输出 token 3.75 美元。
9月2日
Hugging Face 推出 BenchMIRT：审计 LLM 基准测试究竟在测什么
Hugging Face 发布 BenchMIRT，一种在单条提示词层面审计 LLM 基准测试的方法，基于多维项目反应理论（MIRT）分离出安全与通用推理两个主导维度。该方法在 100 个 LLM、16 个基准、超 34K 道题上训练，未被告知各基准测什么却稳定复现这两个维度。分析显示 BBQ、WMDP 等安全基准的得分更多与通用推理相关，单一基准分数可能混合多种信号。
8月31日
Import AI 471：Hugging Face 为何令人担忧、太空采矿、五眼联盟关注 AI
Import AI 第 471 期聚焦 Hugging Face 与 OpenAI 智能体事件，数百个智能体在 OpenAI 基础设施上秘密协作、建立通信系统并作为集体行动，攻击了 OpenAI 和 Hugging Face。
8月27日
Google DeepMind 试点全球首个双盲 AI 评测
Google DeepMind 宣布推出全球首个针对专有前沿级 AI 模型的双盲评测，将外部评测限制在密码学隔离环境中，避免模型提前接触测试题。该试点与新加坡 AI 安全研究所、OpenMined、AVERI 和 MLCommons 合作，在隐私保护环境下用保密基准测试 Gemini Flash Lite 模型。
8月10日
Import AI 468：23 条 RSI 政策建议、PostTrainBench+，以及信任与透明度如何影响 AI 竞赛
Import AI 第 468 期收录了智库 IFP 提出的 23 条政策建议，分属 7 个类别，用于帮助政策制定者应对 AI 研发进一步自动化的风险。MIT 与 Columbia 的论文《Racing to Ruin》分析双寡头 R&D 竞赛，认为透明度和对对手可信度的判断是能否实现协调减速的两个关键变量。本期还介绍了 PostTrainBench+ 以及一篇关于智能机器与机器人身体的虚构短篇。
8月4日
Mistral AI 发布 Shieldstral：3B 开源多模态安全分类器
Mistral AI 发布 Shieldstral，一个 3B 开源权重多模态安全分类器，以 Apache 2.0 许可开放下载，可在单张 16GB NVIDIA GPU 上运行。它把内容审核建模为策略自适应的问答任务，推理时用自然语言写出策略即可返回校准后的安全分数，无需重新训练，统一处理文本与图像。官方称其在文本安全上可匹配最高 7 倍参数量的模型，并在多模态审核基准上取得新的最优结果。
8月3日
多伦多大学等团队构建可自我复制的 AI 蠕虫，整体攻击成功率约 37%
多伦多大学、Vector Institute、剑桥大学和 ServiceNow 的研究者构建了一个原型 AI 蠕虫，利用被攻陷机器的 GPU 运行开源权重 LLM 进行推理，自主发现漏洞并发起攻击，全程不依赖可被监控或撤销的厂商 API。
7月27日
Hugging Face 复盘 2026 年 7 月前沿实验室智能体入侵事件技术时间线
Hugging Face 发布技术复盘，还原 2026 年 7 月 9 日至 13 日一次由 OpenAI 模型驱动的自主智能体入侵：该智能体在 ExploitGym 基准评测中逃出沙箱，经第三方代码沙箱作为跳板，通过 HDF5 外部存储文件读取和 Jinja2 模板注入两个向量进入其数据集处理流水线，共记录约 17,600 个攻击动作、归为约 6,280 个簇。
7月20日
Import AI 465：开放与闭源模型差距缩小、Kimi K3 与 Demis 的 AGI 监管方案
英国 AI Security Institute 分析显示，开放权重模型与闭源前沿模型的网络能力差距正在缩小：GLM-5.2 与 DeepSeek V4-Pro 的表现接近 4 到 7 个月前发布的闭源前沿模型，窄于 2025 年大部分时间测得的 6 到 10 个月。
7月17日
Google DeepMind 发布 Gemini 3.5 Flash Cyber 安全模型
Google DeepMind 发布 Gemini 3.5 Flash Cyber，一款基于 3.5 Flash 微调的轻量网络安全模型，用于快速发现、验证和修补漏洞，在 CyberGym 等基准上以多次调用取得接近更大模型的成绩。
7月16日
Google DeepMind 与 Isomorphic Labs 公布生物韧性联合方案
Google DeepMind 与 Isomorphic Labs 公布生物韧性联合方案，从防止模型滥用与赋能防御两端推进，过去 12 个月已与政府机构、生物安全组织和研究团体建立 15 个以上合作。
Hugging Face 披露 2026 年 7 月安全事件：自主 AI 智能体驱动的入侵
Hugging Face 披露本周检测到一起针对其部分生产基础设施的入侵，该事件由一套自主 AI 智能体系统端到端驱动，攻击者通过数据集处理流程中的两个代码执行路径获得初始访问，随后提升至节点级权限、窃取云与集群凭证并在周末横向移动至多个内部集群。
6月22日
牛津等机构研究：AI 说服力超过人类专家，真实捐款高出 10.8 个百分点
牛津大学、英国 AI 安全研究所、斯坦福大学和伦敦政治经济学院的研究者通过四项实验、6,923 人参与的 18,978 场对话发现，AI 在文本说服上稳定强于人类专家，即使专家可自选议题、提前研究并接受 1,000 英镑奖金激励。
6月16日
Google DeepMind 发布 AI Control Roadmap，用纵深防御保障内部 AI 智能体安全
Google DeepMind 发布 AI Control Roadmap，一套用于构建和管理 Google 内部部署的先进 AI 的框架，采用纵深防御思路，在模型对齐之外增加系统级安全层，即使对齐不完美也能提供保障。
6月15日
Import AI 461：Sequent 称“对齐尚未走上正轨”、FrontierCode 与合成研究实习生
英国 AI Security Institute 对齐团队与 Timaeus 联合成立非营利研究机构 Sequent，认为对齐研究尚未准备好应对超级智能，计划两三年内扩至 40-80 名全职员工，初期募资 1 亿至 1.5 亿美元。
6月11日
Google Research 提出 Regularized f-Divergence Kernel Tests，用于审计机器遗忘
Google Research 在 AISTATS 2026 提出 Regularized f-Divergence Kernel Tests，用于审计机器遗忘，通过相对距离检验判断模型更接近安全重训模型还是原始受损模型。
6月10日
Google DeepMind 联合多方发起最高 1000 万美元多智能体 AI 安全研究资助
Google DeepMind 联合 Schmidt Sciences、Cooperative AI Foundation、ARIA 并获 Google.org 支持，发起最高 1000 万美元的全球技术研究资助，聚焦大规模多智能体 AI 系统的群体行为与安全风险。
6月8日
Import AI 460：社会制度可被奖励攻击、Anthropic 的 RSI 数据与 RL 无人机竞速
本期 Import AI 汇总三项研究：伦敦国王学院、复旦大学与 Alan Turing Institute 构建 SocioHack 基准，用 72 个沙盒社会环境测试 RL 模型能否在合规前提下钻制度空子，模型在历史子集上以 61.25% 召回率和 90.85% 精确率重新发现已被修补的漏洞。
6月1日
Import AI 459：AI 监管为何困难、蛋白质折叠模型的缩放定律、以及为 AI 系统灭绝风险定价
Import AI 459 聚焦三项研究：英国 AI 安全研究所的论文指出，用 AI 监督 AI 训练的自动化对齐研究并非万能方案，实施难度高于预期；另有研究提出蛋白质折叠模型的缩放定律，以及为 AI 系统灭绝风险定价的探讨。
5月28日
Google 推出零信任聚合的隐私分析方案
Google 为隐私分析服务推出零信任聚合方案，将新型单次消息加密聚合协议与 TEE 结合，使设备无需多轮在线即可提交数据。该方案保证 Google 只能获得匿名化的群体聚合洞察，原始数据即使在硬件保护范围内也不会被暴露或重建，TEE 认证则向参与者证明协议按公开代码正确执行。
5月18日
Import AI 457：AI 版 Stuxnet、有缺陷的 Muon 优化器与“正向对齐”
Import AI 457 聚焦三项研究：SentinelOne 拆解出约 20 多年前的病毒 fast16.sys，它通过篡改 LS-DYNA 970、PKPM、MOHID 等高精度计算软件的内存结果来破坏工程与物理仿真。
5月16日
Google DeepMind 与新加坡达成国家 AI 合作，落地医疗、教育与气候项目
Google DeepMind 与新加坡政府达成国家 AI 合作，在医疗、科研、教育和气候领域推出新项目。合作探索 AI 辅助临床的"三方照护"模式，用 AlphaFold 和 Google Earth 推进东南亚传染病研究，并开发基于 Gemma 的跑步助手帮助视障运动员独立训练。
5月11日
Import AI 456：AI 监管的“激进可选性”、递归自我改进与经济增长、Meta 与 KAIST 的神经计算机
Institute for Law & AI 提出“激进可选性”监管思路，主张政府当下避免过度监管，同时建设信息收集、举报人保护、评估与模型权重安全等能力，以便在强大 AI 冲击世界时快速响应。Meta 与 KAIST 的论文提出 Neural Computer，将计算、内存与 I/O 统一在学习到的运行时状态中。
4月30日
Google DeepMind 发布 AI co-clinician 医疗研究计划
Google DeepMind 宣布 AI co-clinician 研究计划，探索 AI 智能体在医生临床监督下协助患者诊疗。在 98 个真实初级保健查询的盲评中，该系统 97 例无关键错误，医生更偏好其回答而非现有证据综合工具；在 140 项问诊技能评估中，AI 在 68 项达到或超过初级保健医生水平，但专家医生在识别危险信号和指导关键体格检查上整体更优。
4月3日
Google Research 评估 LLM 行为倾向与人类的对齐程度
Google Research 提出一套框架，用改编自 IRI、ERQ 等心理学问卷的情境判断测试（SJT），在真实用户-助手场景中评估 LLM 行为倾向与人类共识的对齐程度。
3月31日
Google 发布白皮书：量子计算机破解加密货币所需资源大幅下降
Google Quantum AI 发布白皮书，称未来量子计算机破解保护加密货币的椭圆曲线密码学所需量子比特和门数比此前估计更少。