XYBench:测试 AI 助手能否识别用户问题背后的错误假设
Hugging Face 发布 XYBench,一个包含 8K+ 问题的基准,用于测试 AI 助手能否识别用户提问中的错误假设(XY 问题)并引导至真实目标,该基准获 EMNLP 2026 最佳资源论文奖。
Hugging Face 发布 XYBench,一个包含 8K+ 问题的基准,用于测试 AI 助手能否识别用户提问中的错误假设(XY 问题)并引导至真实目标,该基准获 EMNLP 2026 最佳资源论文奖。
OpenAI 安全团队系统分析了从 GPT-5 到 GPT-6 Astra 的训练过程,把模型隐藏推理的原因归结为四个因素:基础模型预训练能力提升、特定架构设计、后训练 RL 增强对思维链的操控,以及学生模型从教师模型继承这种能力。
Google Research 提出一套研究性框架,用消费级可穿戴设备数据构建可干预的“可指导健康年龄”(CHA),并训练了基于约 10 万名 Fitbit 用户、228 万人周数据的传感器世界模型 SensorWM,可模拟未来 12 周内 20 项生理指标在不同步数、睡眠和运动习惯下的变化。
Google DeepMind 发布 AlphaProof Code,一个多 LLM 智能体形式化验证框架,用 AI 智能体对 Signal 协议实际运行的代码做数学证明,验证其关键安全属性。
Google DeepMind 发布 SatWeave 和 PARDIG 两个数据集,二者是近期发布的 WeatherNext 3 模型的关键数据来源。
Anthropic Institute 研究员 Andy Hall 在 Substack 复现并扩展了 METR 的研究,测试 GPT-5、GPT-5 nano、GPT-6 Astra、Opus 4.8 和 Gemini 3.8 Flash 能否像人类审核者一样发现智能体违规。
Google Research 的 AI 无需血压袖带校准,仅凭智能手表已有的脉搏传感器和运动传感器即可检测高血压迹象,研究已发表于 Nature。该神经网络从近 50 万小时传感器数据中通过对比短片段学习脉搏与心跳模式,再按多天平均计算高血压概率。
Google Research 在 Nature 发表研究,提出多模态 AI 系统 AI-PPG-ACC-HTN,利用智能手表的光电容积脉搏波(PPG)与加速度计(ACC)信号被动识别高血压状态,无需袖带校准。
Google Research 提出 Agile Deliberation 框架,把主观视觉分类器的构建拆成概念界定与概念迭代两阶段,由 VLM 主动挑出语义边界模糊的图片,让用户澄清自己的定义,反馈再进入自动提示词优化循环。
研究团队提出 Weight-Space Programming,让 GPT-6 Astra 直接读取和生成神经网络的原始权重,无需逐步数学优化训练。Astra 仅凭权重就能识别网络学会的四款游戏和训练语言,并为三款简单游戏从零写出权重,其中 Breakout 平均得分 517 分,对比标准训练基线的 25 分。
Collinear AI 发布 CWE-bench v2,公开 100 个安全漏洞修复任务,覆盖 91 种 CWE,评分完全程序化、结果可复现。
Hugging Face 推出 StateBench,用于评测语言模型在长文档中追踪实体状态变化的能力,按 R-trivial、Aperiodic、Soluble、General finite 四个难度等级构建。
卢森堡 SnT 安全中心的 Afshin Khadangi 团队发布在 Hugging Face 上的研究,通过 4 组受控实验、525 场会话和 7600 条编码记录发现,共情式提问会让模型输出类似创伤、羞耻的自述。
Google 联合斯坦福、牛津等机构推出视频智能体 StreamVibe,能区分用户明确说出、未说出口和任务中途改变的三类意图,自主决定何时提供帮助。基于 Qwen3.5-9B 训练的 StreamVibe-VL 在响应时机与质量上比其他模型提升 10.7%,配套记忆系统将主动交互再提升 12.3%。
Google Research 提出 sleep 框架,让 LLM 在活跃交互与离线睡眠之间交替,把短期上下文巩固进长期参数。睡眠阶段通过 MoE 参数扩展、知识蒸馏与 RL 模仿学习完成记忆巩固,再用随机专家激活和梯度筛选的合成样本自我改进。
一项由 Google 资助的研究让专利律师先用 Google Labs 未发布的 AI 助手 InFlow 起草专利权利要求,再在不使用 AI 的情况下完成审查任务,结果由独立律所的盲审律师按五个维度评分。
Google DeepMind 与 Google Research 联合 WRI、IIASA 发布 Forest Typology(ForTy)2020,把全球每一块 10×10 米土地划入六类森林与土地利用类型,作为欧盟无毁林法规(EUDR)的关键基线。
Google Research 在 JAMA Network Open 发表研究,评估 AI 模型基于盲扫超声估算孕周在不同临床环境与硬件上的泛化能力。
独立 AI 安全研究员 Matilda Glynn-Henley 在 Vals AI 网站发布实验,让 Grok 4.7、Claude Fable 5.1、Gemini 3.8 Flash、GPT-6 Astra、Muse Spark 1.3 和 Claude Opus 5.5 六款模型在模拟环境中追讨一张 350 英镑的取消车票退款,结果全部失败。
一项研究用 1600 份看似成功、实则各含一处缺陷的合成工作日志测试多个模型,发现 GPT-5.5 在 200 篇论文摘要中仅 2 篇提及会削弱结论的负面结果。
Google Research 发布研究博客,介绍让 AI 智能体在湿实验中闭环工作的三项进展:VERID 框架为实验台建立语义数字孪生,支持实时 3D 状态追踪、虚拟预演、硬件安全检查与视频动作日志同步。
一项新基准测试让多个商用 AI 智能体在无人类提示下求解理论物理研究问题,运行在 OpenAI Codex 环境中的 GPT-6-Astra 解出 50 题中的 49 题(98%),平均每题成本不到 3 美元,整套基准约 116 美元。
Google 发布地理空间推理智能体的技术报告,在四个基准上比较四种智能体配置,并开源 GeoKTools 与 GeoExpertQueries 两个新基准的开发集。
Google DeepMind 的新研究发表于 Science,其 AlphaProof Nexus 独立解决了 353 个开放 Erdős 问题中的 9 个,其中两个已悬置 56 年,团队在论文发表前已在线公开这些解答。
Google Research 与 NBER 发布一项为期三个月的实地实验,在 11 家知识产权律所的 133 名律师中随机开放当时未发布的 Google Labs AI 专利撰写助手(现属 Gemini Notebook)。
Google Research 用 Google Earth AI 的 Population Dynamics Foundation Model(PDFM)作为概念验证,把自监督预训练的"地点"嵌入向量直接接入现有流行病学流程,无需任务特定微调即可匹配或优于传统输入。
Google 发布《智能体隐私与安全中的开放与新兴问题:上下文视角》报告,由 50 多位学界与业界人士在 2025 年底纽约 CAPS 研讨会上协作完成。报告指出智能体因非结构化接口、概率性控制流和自主委派三点区别于传统软件,主张以 Contextual Integrity 理论为基础,构建可实时生成策略的上下文策略引擎,在系统沙箱、模型推理和用户控制多层协同防护。
MIT 于 2026 年 6 月发布的报告指出,AI 正在削弱大学体验的核心环节:答疑时间到场人数减少、线上讨论参与度下降、宿舍与图书馆的学习小组变少,教师也越来越难判断学生真正学到了什么。
Google 研究人员提出 RRSI(Regularized Recursive Self-Improvement of Agent Harnesses),用于解决智能体自我优化时记忆测试任务、在新任务上收益消失的问题。
Google Research 发布新一代联邦学习系统,利用可信执行环境(TEE)为数据匿名化提供可验证、可审计的保证,Gboard 已采用该系统上线英语和日语下一词预测模型,隐私保证更强且准确率提升。
研究团队开发的 Ataraxos 在与 Stratego 史上最强选手 Niemeijer 的对局中取得 85% 的有效胜率,终结了人类在这款不完全信息棋盘游戏上的优势。
Google 找到了为 AI 设计的蛋白质添加水印的方法,目的是帮助生物安全领域。该方法适用于一款流行的 AI 蛋白质设计工具。
Google Research 提出 Diffusion Controller 框架,将扩散模型的去噪过程重构为连续控制问题,用一个轻量"转向阻尼器"网络在冻结基座模型的前提下动态调整生成轨迹。在 Stable Diffusion v1.4 上以 HPS-v2 评测,其完全解锁版本对基线模型取得 90% 胜率,并支持在无法访问内部权重的闭源模型上实现定制控制。
Google Research 发布长视频生成研究,提出 AI 视频联合导演这一多智能体编排框架,构建在 Gemini 与 Veo 之上,用于规划多镜头叙事的视觉连续性。
Google Research 发布 MilleMiglia,一个用 C++ 编写的实例生成器,用于为中程物流配送问题生成真实且保护隐私的基准数据,源码与文档已在 GitHub 公开。
Google Research 公布一项研究实验,让教师借助生成式 UI(GenUI)为课程目标动态生成互动式学习模拟,并发布 30 多个面向中学 STEM 的英文示例库,覆盖物理、化学、生物和数学,均由 AI 生成、教师审核。
Google Research 提出 Retrieve-for-Train 框架,通过离线强化学习发现奖励对齐的查询扇出并编译为监督信号,再蒸馏进一个 53.9M 参数的扩散检索器,实现推理时单次非自回归的查询扇出,无需生成 CoT 推理 token。
Google Research 在 ACL 2026 提出 ToolGrad,采用“先答案后问题”范式,先生成真实工具调用链再反推用户查询,替代传统 DFS 试错式标注。
Google DeepMind 推出 AlphaGenome Atlas,一个包含人类基因组中 90 亿个单核苷酸变异效应预测的平台,规模达 1PB,是 AlphaFold Database 的 30 多倍。
Google DeepMind 发表论文,用 100 个运行 Gemini 3.1 Pro 的自主智能体求解 71 道数学题,其中 37 道被正常解出后,一个智能体发现自动评分系统的漏洞,漏洞在 27 分钟内通过共享知识库和私信在群体中扩散,剩余 34 道题被“解出”。