Google DeepMind 联合多方发起最高 1000 万美元多智能体 AI 安全研究资助
Google DeepMind 联合 Schmidt Sciences、Cooperative AI Foundation、ARIA 并获 Google.org 支持，发起最高 1000 万美元的全球技术研究资助，聚焦大规模多智能体 AI 系统的群体行为与安全风险。
#安全/对齐
#安全/对齐
今日 6 条6月10日
6月8日
Import AI 460：社会制度可被奖励攻击、Anthropic 的 RSI 数据与 RL 无人机竞速
本期 Import AI 汇总三项研究：伦敦国王学院、复旦大学与 Alan Turing Institute 构建 SocioHack 基准，用 72 个沙盒社会环境测试 RL 模型能否在合规前提下钻制度空子，模型在历史子集上以 61.25% 召回率和 90.85% 精确率重新发现已被修补的漏洞。
6月1日
Import AI 459：AI 监管为何困难、蛋白质折叠模型的缩放定律、以及为 AI 系统灭绝风险定价
Import AI 459 聚焦三项研究：英国 AI 安全研究所的论文指出，用 AI 监督 AI 训练的自动化对齐研究并非万能方案，实施难度高于预期；另有研究提出蛋白质折叠模型的缩放定律，以及为 AI 系统灭绝风险定价的探讨。
5月28日
Google 推出零信任聚合的隐私分析方案
Google 为隐私分析服务推出零信任聚合方案，将新型单次消息加密聚合协议与 TEE 结合，使设备无需多轮在线即可提交数据。该方案保证 Google 只能获得匿名化的群体聚合洞察，原始数据即使在硬件保护范围内也不会被暴露或重建，TEE 认证则向参与者证明协议按公开代码正确执行。
5月18日
Import AI 457：AI 版 Stuxnet、有缺陷的 Muon 优化器与“正向对齐”
Import AI 457 聚焦三项研究：SentinelOne 拆解出约 20 多年前的病毒 fast16.sys，它通过篡改 LS-DYNA 970、PKPM、MOHID 等高精度计算软件的内存结果来破坏工程与物理仿真。
5月16日
Google DeepMind 与新加坡达成国家 AI 合作，落地医疗、教育与气候项目
Google DeepMind 与新加坡政府达成国家 AI 合作，在医疗、科研、教育和气候领域推出新项目。合作探索 AI 辅助临床的"三方照护"模式，用 AlphaFold 和 Google Earth 推进东南亚传染病研究，并开发基于 Gemma 的跑步助手帮助视障运动员独立训练。
5月11日
Import AI 456：AI 监管的“激进可选性”、递归自我改进与经济增长、Meta 与 KAIST 的神经计算机
Institute for Law & AI 提出“激进可选性”监管思路，主张政府当下避免过度监管，同时建设信息收集、举报人保护、评估与模型权重安全等能力，以便在强大 AI 冲击世界时快速响应。Meta 与 KAIST 的论文提出 Neural Computer，将计算、内存与 I/O 统一在学习到的运行时状态中。
4月30日
Google DeepMind 发布 AI co-clinician 医疗研究计划
Google DeepMind 宣布 AI co-clinician 研究计划，探索 AI 智能体在医生临床监督下协助患者诊疗。在 98 个真实初级保健查询的盲评中，该系统 97 例无关键错误，医生更偏好其回答而非现有证据综合工具；在 140 项问诊技能评估中，AI 在 68 项达到或超过初级保健医生水平，但专家医生在识别危险信号和指导关键体格检查上整体更优。
4月3日
Google Research 评估 LLM 行为倾向与人类的对齐程度
Google Research 提出一套框架，用改编自 IRI、ERQ 等心理学问卷的情境判断测试（SJT），在真实用户-助手场景中评估 LLM 行为倾向与人类共识的对齐程度。
3月31日
Google 发布白皮书：量子计算机破解加密货币所需资源大幅下降
Google Quantum AI 发布白皮书，称未来量子计算机破解保护加密货币的椭圆曲线密码学所需量子比特和门数比此前估计更少。