GPU 管理：为什么闲置 GPU 正在成为新的停场飞机
Hugging Face 博客指出，AI 的下一个真正约束不是智能而是 GPU 利用率：GPU 按日历小时计费，却只在计算小时产出，与航空业飞机停场成本结构相同。
#部署/工程
#部署/工程
今日 5 条7月30日
7月27日
NVIDIA Cosmos-H-Dreams：为手术机器人带来实时生成式仿真
NVIDIA 推出 Cosmos-H-Dreams，一个面向手术机器人的实时、动作条件生成式仿真器，通过 FlashDreams 推理库在单张 NVIDIA RTX PRO 6000 GPU 上运行，支持人与策略闭环交互控制。
7月16日
模型路由看似简单，实则难在哪
IBM Research 在 Hugging Face 博客分享将模型路由构建进智能体系统的经验，指出多数路由系统把模型选择当成分类问题，实际却是系统优化问题。
7月13日
Google DeepMind 推出 Gemini 驱动的 ATL Saathi，面向印度 100 所试点学校
Google DeepMind 在印度启动 ATL Saathi 试点，这是一款由 Gemini 驱动的 Web 应用，为 Atal Tinkering Labs 教育者提供 24/7 备课与培训助手，首批覆盖 100 所试点学校。
7月10日
PyTorch 性能分析（第三部分）：Attention 全解析
Hugging Face 博客发布 PyTorch 性能分析系列第三部分，用 profiler 追踪 attention 的实现细节。文章对比了朴素 attention 与原地（in-place）masking 版本，将 masked_fill 改为 masked_fill_ 后，每次前向传播可减少一个 GPU Memcpy kernel。
7月9日
Mistral Studio 为 Prompts 和 Skills 提供系统级记录管理
Mistral Studio 现已向客户提供 Prompts 和 Skills 的集中管理系统，每个资产都具备版本记录、明确归属和可追溯性。不可变版本、回滚、分类标签和审计日志等功能让 AI 行为可治理、可发现，并通过 Observability 将生产输出追溯至对应版本。Skills 可作为 MCP 服务器直接从 Studio 调用，确保生产执行的是同一受治理资产。
7月8日
Hugging Face 发布原生速度的 vLLM transformers 建模后端
Hugging Face 宣布 vLLM 的 transformers 建模后端在多个 LLM 架构上已达到甚至超过 vLLM 手写原生实现的吞吐速度。该后端通过 torch.fx 做静态图分析、用 ast 重写源码，在运行时动态应用推理相关的层融合，从而匹配自定义代码的性能。
Hugging Face 与 Amazon SageMaker AI 打通一键直达 SageMaker Studio
Hugging Face 与 Amazon SageMaker AI 推出深度链接集成，开发者在支持的模型页点击 Customize on SageMaker AI 或 Deploy on SageMaker AI，即可一键进入 SageMaker Studio，模型已预加载、环境自动配置。
Google Research 用 Google Maps 路由干预缓解城市拥堵
Google Research 在 Nature Cities 发表首个大规模真实世界研究，通过修改 Google Maps 算法将不到 2% 的行程引导至替代路线，在美国 10 座城市测试六个月。结果显示目标路段行驶速度中位数提升约 2%，燃油消耗率中位数下降 0.5% 至 1.0%，每座城市每年可减少数千吨 CO2e 排放。
7月7日
微软 Foundry 上线 Hugging Face 模型托管计算
微软在 Build 2026 宣布 Foundry Managed Compute 与 Hugging Face 模型集合，将 Hugging Face 生态的开源权重模型每周更新、一键部署到 Foundry 托管 GPU 平台。
智能免费之后怎么办？面向智能体、由智能体运行、由智能体构建的数据系统
随着推理成本从 2023 年初 GPT-4 级约 $30/百万 token 降至如今不足 $1、部分厂商低于 $0.10，UC Berkeley 的 Aditya G. Parameswaran 等人提出智能体时代数据系统的三大方向：面向智能体（For Agents）、由智能体运行（Of Agents）、由智能体构建（By Agents）。
Hugging Face 与 SkyPilot 联合推出零出口流量存储集成
Hugging Face 与 SkyPilot 联合发布集成，用户可用一个 hf:// URL 和已有的 HF_TOKEN 把 Hugging Face Bucket 或任意模型、数据集、Space 仓库挂载进 SkyPilot 任务，并在 20 多个云、Kubernetes、Slurm 和本地环境上运行。
7月6日
Hugging Face Kernels 项目重大更新：新增 kernel 仓库类型与代码签名
Hugging Face 为 Kernels 项目推出名为 "kernel" 的新仓库类型，并引入可信发布者与代码签名机制，默认只加载可信发布者的 kernel，加载其他来源需显式设置 trust_remote_code=True。
6月29日
Import AI 463：NVIDIA 用 ENPIRE 让机器人自我改进；1 万卡中国 GPU 集群；人类时代挽歌
NVIDIA 推出 ENPIRE 框架，让编码智能体驱动真实机械臂自主实验与迭代，在 PushT、整理插针、用切割器剪扎带等任务上实现 99% 成功率，测试硬件为双 YAM 机械臂加 RTX 5090 工作站。GPT-5.5（Codex）与 Opus 4.7（Claude Code）表现互有胜负，Kimi-2.6 落后；智能体数量增至 8 个时能更快找到更高分方案。
6月27日
Google 用冻结多 Token 预测加速 Pixel 上的 Gemini Nano 模型
Google Research 发布一种新架构，将多 Token 预测（MTP）头接到已冻结的 Gemini Nano v3 模型上，在不改动主干权重的前提下加速端侧推理，已随 Pixel 9 和 10 系列推出。
6月25日
Google 用线性弹性缓存优化云成本：把页面淘汰当作滑雪租赁问题
Google Research 提出线性弹性缓存，将缓存页面淘汰建模为滑雪租赁问题，用浅层决策树预测每个页面的 TTL，动态调整缓存大小以最小化总拥有成本。在 Spanner 生产环境运行数月后，内存占用降低 15.5%，缓存未命中仅增加 5.5%，TCO 下降约 5%，实际 I/O 成本影响仅 0.5%。该方案还在多个公开缓存 trace 上做了验证。
6月24日
Mistral AI 为 Connectors 增加管理员控制、API key 作用域与调试器
Mistral AI 为 Connectors 推出多项新能力：按 workspace 或组织设置连接器访问权限、开关单个工具的管理员控制已 GA，带连接器作用域的 API key 已 GA。
6月23日
Mistral 发布 OCR 4 文档解析模型
Mistral 发布 OCR 4，在提取文本之外返回边界框、块类型分类和逐页逐词置信度，支持 170 种语言并可单容器自托管部署。官方称独立标注者在 600 多份文档的盲评中平均 72% 更偏好 OCR 4，其在 OlmOCRBench 得 85.20、OmniDocBench 得 93.07，但官方提示这两个基准的评分方式存在已知局限。
6月13日
Google 支持加州大学圣地亚哥分校用 2000 台退役 Pixel 手机搭建低碳计算平台
加州大学圣地亚哥分校在 Google 支持下，计划用 2000 台退役 Pixel 手机的主板搭建数据中心，为数百名师生提供低成本、低碳的云计算。SPEC 基准显示 25-50 台手机约等于一台现代服务器，手机被组织成由 Kubernetes 管理的 25-50 台设备集群。该系统预计 2026 年秋季上线。
6月11日
Google DeepMind 发布 DiffusionGemma 文本扩散模型，推理速度最高提升 4 倍
Google DeepMind 发布实验性开源模型 DiffusionGemma，采用文本扩散方式并行生成整块文本，在专用 GPU 上推理速度最高提升 4 倍。
5月28日
Mistral 发布工业工程 AI 栈与 Vibe 智能体，并宣布法国 10 MW 数据中心
Mistral 在 AI Now Summit 2026 上发布面向工业工程的 AI 栈，与 Airbus、BMW、ASML 合作优化设计、仿真与生产，同时保持对专有数据和 IP 的控制。
Google 推出零信任聚合的隐私分析方案
Google 为隐私分析服务推出零信任聚合方案，将新型单次消息加密聚合协议与 TEE 结合，使设备无需多轮在线即可提交数据。该方案保证 Google 只能获得匿名化的群体聚合洞察，原始数据即使在硬件保护范围内也不会被暴露或重建，TEE 认证则向参与者证明协议按公开代码正确执行。
5月27日
Mistral 推出物理 AI：面向工业工程加速的基础模型能力
Mistral 将 Emmi AI 并入后推出物理 AI 基础能力，用于 AI 原生工业工程，合作方包括 ASML、Airbus、Safran 和 Siemens Energy。该模型从几何与边界条件直接预测物理场，单次前向传播在单 GPU 上以秒级完成，而传统 CFD/FEM 仿真每个设计变体需数小时至数周。它面向设计迭代提速，传统求解器仍保留用于验证和边缘场景。
5月23日
Mistral 收购 Physics AI 公司 Emmi AI
Mistral AI 本周签署最终协议收购 Physics AI 先驱 Emmi AI，以强化其面向工业企业的 AI 转型服务能力。Emmi AI 成立于奥地利，团队超过 30 名研究人员和工程师，专注大型工程模型，可将多日计算替换为实时仿真并构建数字孪生，其联合创始人及团队将于 5 月加入 Mistral 的 Science 与 Applied AI 团队。
5月22日
Mistral 在 Studio 发布 Connectors，支持内置与自定义 MCP
Mistral 在 Studio 发布 Connectors，内置连接器与自定义 MCP 均可通过 API/SDK 用于所有模型和智能体调用，目前处于 Public Preview。
5月17日
Google 将 SynthID 与 C2PA 内容验证扩展到搜索、Gemini 和 Chrome
Google 宣布把内容透明度与验证工具扩展到 Search、Gemini、Chrome、Pixel 和 Cloud。SynthID 已为超过 1000 亿张图片和视频、6 万年音频加上水印，Gemini 应用中的 SynthID 验证已被使用 5000 万次，并将在未来几周进入 Search 和 Chrome。
5月8日
自适应并行推理：高效推理扩展的下一个范式
伯克利 AI 研究团队梳理了并行推理领域进展，重点分析自适应并行推理——让模型自行决定何时分解并并行化独立子任务、生成多少并发线程以及如何协调。现有方法如 Self-consistency、Best-of-N、Tree of Thoughts、MCTS、ParaThinker、GroupThink、Hogwild! Inference 多由外部预设并行结构，未教会模型自适应行为。
4月27日
Mistral AI 发布 Workflows 企业 AI 编排层公开预览
Mistral AI 发布 Workflows 公开预览，定位为企业 AI 的编排层，提供持久执行、可观测性和容错能力，用于把 AI 流程从概念验证推进到生产。
4月22日
Google DeepMind 提出 Decoupled DiLoCo 分布式训练架构
Google DeepMind 发布论文提出 Decoupled DiLoCo 分布式训练架构，把大规模训练拆分为解耦的计算孤岛，孤岛间以异步数据流通信，从而隔离局部硬件故障。
4月20日
GRASP：面向世界模型的基于梯度的长时程规划方法
Berkeley AI Research 提出 GRASP，一种面向学习型世界模型的基于梯度的规划器，通过将轨迹提升到虚拟状态实现跨时间并行优化、在状态迭代上直接注入随机性以探索、并重塑梯度让动作获得清晰信号，同时避开高维视觉模型中脆弱的“状态-输入”梯度，使长时程规划更实用、更鲁棒。
3月31日
Mistral AI 推出 Spaces：一款为人类和智能体打造的 CLI
Mistral AI 发布 Spaces CLI，同时面向人类开发者和编码智能体。它通过 `spaces init`、`spaces dev` 等命令完成项目脚手架、开发环境与部署，并为每个交互式提示提供对应的 flag，使智能体可自主完成端到端操作。每次 init 还会生成 context.json 和 AGENTS.md 两个文件，为智能体提供项目结构与规则上下文。
3月25日
Google 发布 TurboQuant 向量压缩算法，KV cache 可压至 3 bit
Google Research 发布 TurboQuant 压缩算法，可在不损失模型精度的情况下把 KV cache 量化到 3 bit，无需训练或微调，并配套提出 QJL 与 PolarQuant 两种方法。
3月18日
Google 与 NHS 合作研究：AI 用于乳腺癌筛查可减少 46% 人工读片量
Google Research 与多家 NHS 机构合作的 AIMS 研究在 Nature Cancer 发表两项姊妹研究，评估 AI 乳腺癌检测系统在 NHS 乳腺筛查流程中的表现。
Mistral AI 推出 Forge，让企业用自有知识训练前沿模型
Mistral AI 推出 Forge，一套让企业基于专有知识构建前沿级 AI 模型的系统，支持预训练、后训练和强化学习等阶段。Forge 支持 dense 与 MoE 两种架构，并可按需支持多模态输入，模型可在企业自有基础设施内训练与治理。
1月22日
Heaps do lie：排查 vLLM 内存泄漏
Mistral AI 团队在 Mistral Medium 3.1 的 Prefill/Decode 分离式部署中排查到 vLLM 内存泄漏，系统内存以每分钟 400 MB 线性增长，数小时后触发 out of memory。泄漏仅出现在启用图编译、经 NIXL 传输 KVCache 的 decode 侧，Heaptrack 显示堆内存稳定，问题出在堆外。
12月17日
Mistral 发布 OCR 3，表单与手写识别胜率较上代提升 74%
Mistral AI 发布 Mistral OCR 3，在表单、扫描件、复杂表格和手写内容上相对 Mistral OCR 2 的整体胜率为 74%，官方称其准确率超过企业级文档处理方案和 AI 原生 OCR 方案。
12月3日
Mistral 发布 Mistral 3 系列模型，含 675B 参数 Mistral Large 3
Mistral 发布 Mistral 3 系列，包括 14B、8B、3B 三个小尺寸稠密模型和迄今最强的 Mistral Large 3，后者为稀疏 MoE 架构，41B 激活参数、675B 总参数，全部以 Apache 2.0 许可开源。
11月19日
Mistral AI 与 SAP、Helsing 达成合作，将在德国开设办公室
Mistral AI 宣布与 SAP 建立多年期合作，为其 AI Foundation 集成 Mistral 模型，并共同开发面向欧洲复杂行业与公共部门的定制方案；同时与 Helsing 加速研发用于国防与安全场景的 vision-language-action 模型。Mistral AI 还将在未来数月内于德国开设办公室，并大幅扩充本地团队。
10月24日
Mistral 发布 AI Studio 生产级 AI 平台
Mistral 发布 Mistral AI Studio，一个面向企业团队的生产级 AI 平台，由 Observability、Agent Runtime 和 AI Registry 三大支柱组成。
8月1日
Mistral 如何通过微调 Pixtral-12B 提升卫星图像视觉语言模型表现
Mistral 用 LoRA 微调 Pixtral-12B，在 Aerial Image Dataset（AID）卫星图像分类任务上显著优于未微调基线，并减少了模型幻觉出的无效类别名。微调通过 Mistral 微调 API 或 LaPlateforme UI 完成，无需大量超参数调优，数据集划分为 8,000 训练样本和 2,000 测试样本。