vLLM 推出 push 模式 KV 传输:分离式推理 TTFT 最高提升 3 倍
vLLM 新增 push-based NIXL connector,把 KV 传输的协调与建立过程移出首 token 关键路径,在 Amazon EC2 P5en 集群的 1P1D 部署上,Qwen3-32B 的 TTFT 最高提升 3 倍、TPOT 提升最多 30%。
vLLM 新增 push-based NIXL connector,把 KV 传输的协调与建立过程移出首 token 关键路径,在 Amazon EC2 P5en 集群的 1P1D 部署上,Qwen3-32B 的 TTFT 最高提升 3 倍、TPOT 提升最多 30%。
Deepgram 与 AWS 合作将 Nova-3 语音转文字模型移植到 Trainium2,用于联络中心分析、医疗转录等离线批处理场景。最终配置在单台 Amazon EC2 trn2.3xlarge 实例上运行 8 个模型副本,每美元处理的音频量比原有算力方案多 11%–70%。
一项研究用 1600 份看似成功、实则各含一处缺陷的合成工作日志测试多个模型,发现 GPT-5.5 在 200 篇论文摘要中仅 2 篇提及会削弱结论的负面结果。
多位数学家对 OpenAI 9 月初公布的 166 页 Navier-Stokes 问题潜在解法提出质疑,EPFL 数学家 Gonzalo Cao-Labora 称其与西班牙数学家 Diego Córdoba 和 Luis Martínez-Zoroa 的方法只是表面相似,细节上属于不同路径。
Elorian 发布首个模型 Glimpse,以研究预览形式开放 API,聊天界面需排队。Glimpse 在推理过程中可裁剪图像区域、从视频抽取特定帧或运行代码测量比较,Elorian 称这一机制为视觉草稿空间。该模型定价为输入每百万 token 0.60 美元、输出每百万 token 3 美元,据 Elorian 的评测,其在科学图表推理和短视频描述上超过 GPT-6 Astra。
Google DeepMind 的新前沿模型 Gemini 4 Argon 在 ARC-AGI-3 上以 Provider Adapter Harness 测试环境取得 97.5%,成本 4800 美元,成为继 OpenAI 之后第二家跨过 95% 的实验室,仅次于 GPT-6 Astra 的 99.9%。
The Verge 三位作者用一周时间实测了搭载 Nvidia RTX Spark N1X 处理器的五款笔记本,包括 128GB 的 Asus ProArt P16、64GB 的 Lenovo Yoga 9n、32GB 的 HP OmniBook Ultra 以及 Surface Laptop Ultra,售价从 3199.99 美元到 6999.99 美元。
The Decoder 报道,OpenAI 的 Cammarata 提出对机械可解释性经典案例的重新解读,认为著名的猫脸与汽车神经元其实是 V 形检测器,并非叠加现象,并称在 Qwen3-32B 中约 90% 的神经元极点只有一个主要功能、仅 2% 到 4% 无法解释。
微软研究院发布零知识虚拟机 Magnetar,可证明用 Rust、Go 或 C 编写的 RISC-V 程序执行,在笔记本上每秒证明 720 万至 870 万条处理器指令,15 个基准程序上平均比现有最快 zkVM 快 10 至 39 倍,证明验证约 12 毫秒。
一项新基准测试让多个商用 AI 智能体在无人类提示下求解理论物理研究问题,运行在 OpenAI Codex 环境中的 GPT-6-Astra 解出 50 题中的 49 题(98%),平均每题成本不到 3 美元,整套基准约 116 美元。
Apertus 1.5 在 8B 和 70B 两个规模上扩展了 Apertus 1.0,新增图像与音频理解、可选思考模式、4 倍长的上下文窗口(262,144 tokens)、更好的指令遵循和工具调用能力,权重于 2026 年 7 月 24 日以 Apache 2.0 许可发布在 Hugging Face。
据 The Information 援引知情人士,OpenAI 员工称公司可能在年底前发布一到两款新模型,但尚不清楚正在开发的重大升级模型是否在其中。该旗舰模型仍需对齐工作,并需完善测试基础设施;按特朗普关于先进 AI 系统评估的行政令,OpenAI 同意在模型提供给外部伙伴前最多 30 天让美国政府访问。
Google DeepMind 发布 Gemini 4 Argon,今日通过 AI Studio 和 Gemini 平台的 API 面向开发者与企业开放,Google AI Ultra 订阅者可在 Google Antigravity 使用,Ultra 和 Pro 订阅者可在 Gemini 应用和 Search 的 AI Mode 使用。
Google 发布 Gemini 4 Argon 模型,称其具备前沿推理能力并减少冗余与套话,在编码、网络安全、科学、金融和法律等基准上超过 GPT-6 Astra、Claude Fable 5.1 和 Claude Opus 5.5。
针对 MoE 模型在 decode 阶段因 M 维过小导致 Hopper GPU 利用率低的问题,AWS 提出 Swap-AB 优化,将专家输出维度 N=8192 提升为首操作数,在 H200 上为大规模 MoE 模型带来 2–4% 端到端吞吐提升,该优化已合入 vLLM 0.24.0 及更高版本。
Meta 发布前沿模型 Muse Wonder 的两个版本,Muse Wonder Full 在 Artificial Analysis Intelligence Index v4.3 上得 56 分,Muse Wonder 得 52 分,前代 Muse Spark 1.3 为 48 分。
微软研究院一项研究提出 Fork-and-Flush 方法,让智能体分叉出 K 个并行分支,每个分支清空全部对话上下文但保留工作区,从而跳出反复打磨同一类解法的 idea basins。
AWS 发布面向多节点部署的 Ray LLM Deep Learning Containers,可在 Amazon EKS 上把单个大语言模型拆分到两个 GPU 节点,以 prefill/decode 分离方式共用一个 OpenAI 兼容端点。
AWS 发布 llama.cpp 专用深度学习容器(DLC),可在 Amazon SageMaker AI 上以 CPU 或 GPU 托管量化模型,并通过 InvokeEndpoint 提供 OpenAI 兼容的 chat completions。
Anthropic 的 Andrej Karpathy 称,外界只看到了 AI 实际能力的“预览版”。他把大语言模型用户分为四层:约 60 亿人几乎没接触过 LLM,10 至 20 亿人只把免费 ChatGPT 类产品当作更好的搜索引擎,约 2000 万数学和编程领域的专业用户已用智能体完成过去需数周乃至数月的复杂项目,而仅约 5000 人能接触内部前沿系统。
Google DeepMind 的新研究发表于 Science,其 AlphaProof Nexus 独立解决了 353 个开放 Erdős 问题中的 9 个,其中两个已悬置 56 年,团队在论文发表前已在线公开这些解答。
Ornn、Silicon Data 与 Bloomberg 截至 2026 年 8 月的数据显示,AI token 价格持续下跌,但 H100 GPU 租赁价格保持稳定甚至上涨,a16z 称这是 AI 市场的教科书级杰文斯悖论。
Google DeepMind 的 Pushmeet Kohli 与 Biohub 的 Sal Candido 在 Latent Space 的一场对谈中指出,AlphaFold 的突破只是开始,蛋白质折叠远未解决。
MIT Technology Review 与 Aventine 合作的文章指出,尽管 Elon Musk 预测 Tesla 的 Optimus 人形机器人最早 2027 年底开售、单台成本低至 2 万美元,Jensen Huang 也称人形机器人今年将达到人类水平能力,但许多机器人研究者对此持怀疑态度。Yann LeCun 在达沃斯表示,没有任何一家人形机器人公司知道如何让机器人足够智能和实用。
Anthropic 发布 Claude Haiku 5.5,这是其目前最快、最便宜的小模型,平均价格比 Haiku 4.5 低约 75%,对 10 万 token 以内的提示词降价最高达 90%,超过 10 万 token 的提示词价格则是五倍。
OpenAI 宣布 API 平台两项更新,其中新的 Decisions API 可评估文本、图像或两者,运行速度约为 Responses API 的十倍,目前处于公开测试阶段,即将正式可用。
英伟达团队从 Nemotron 3 出发,用 SFT、RL 和反馈驱动的推理流程,让模型在 IOI 2026 和 IMO 2026 都达到金牌水平。IOI 2026 中 Nemotron-3-Ultra-CC 得 535.4/600,高于 361.12 的金牌线和人类最高分 498.27;IMO 2026 系统得 30/42,高于 29 的官方金牌线,其中六题有四题满分。
OpenAI 在 GitHub 上发布了由内部前沿模型生成的 372 条数学结果,每条都声称解决了一个开放问题或取得实质进展,其中包含对主要计算机算法的改进以及与黎曼假设相关的推进。
Mistral 发布 Mistral Large 4 预览版,代号 Le chonk,为 1 万亿参数、490 亿激活参数的模型,基于自有 3800 块 NVIDIA Grace Blackwell GPU 集群训练,目前通过其 API 提供。
AI 公司 Reflection 发布首款免费开放模型 Beam,这是一款 MoE 模型,每 token 激活 5010 亿总参数中的 230 亿,面向编码、逻辑推理和智能体任务。
Reflection AI 发布首款前沿开源权重模型 Beam,称其在高级推理基准上达到领先中国开源模型的水平,且推理成本大幅更低。Beam 是 5010 亿参数、230 亿激活参数的文本 MoE 模型,预训练用 23.8 万亿 token,上下文窗口 100 万 token,公司称其推理算力用量比对手少 3-4 倍。
一项基准测试用 5,070 个禁用推理的案例,检验本地 Qwen3.8-27B-Q4_K_M.gguf 模型能否用英文单词完成正整数加法并输出精确结果,其数值准确率为 23.57%,格式合规率 96.17%。准确率随位数增加从一至三位数的 97.04% 降至十至十三位数的 6.44%;开启中等推理后,169 次配对测试中答对 167 次。
神经科学家 Paul Cisek 提出,大脑并非图灵机式的信息处理器,而是进化而来的反馈控制系统,用棒球接高飞球的启发式而非复杂计算即可说明。作者 Benjamin Riley 据此认为,把大脑类比为计算机的模型既扭曲又有限,而 AI 产品正像"认知版热狗",迎合当下却损害人类数千年演化出的认知系统。
DeepMind 研究人员提出“人工共生智能”(Artificial Symbiotic Intelligence),主张 AI 研究的核心挑战是协调由智能体、人和连接系统组成的复杂网络,而非打造单一自我进化的超级智能。
OpenAI 发布 GPT-6 系列模型指南,面向初创公司说明如何选择 GPT-6 模型、调整推理强度、改进提示词与技能、协调工具,并为生产环境准备工作流。
前 Google DeepMind 研究员指出,LLM 靠逐个预测 token 生成答案,其链式推理仍由同一套 next-token 过程产生,并非真正独立的推理机制。他认为这类模型缺乏可检视的持久认知状态、知识与推理的分离,且链式推理常是事后编造。他主张借鉴 AlphaGo 的游戏树搜索架构,为机器推理引入显式的认知状态。
MIT 的 Alex Zhang 在 Latent Space 播客中介绍了其递归语言模型(RLM)研究,基于 RLM 的 harness 是首个接近解决 ARC-AGI-3 的系统,早于 OpenAI 的 Astra。
GPT-6 Astra Ultrafast 已在 NVIDIA Blackwell GPU 上运行,并面向 OpenAI API 以及符合条件的 ChatGPT Work 和 Codex 用户开放。
Amazon Payments 在 Amazon SageMaker AI 上用多目标上下文多臂老虎机(LinUCB)做产品获客漏斗的个性化内容选择,七周在线 A/B 测试中,一个人群组的最终漏斗转化率取得高个位数相对提升,另一人群组则未见改善,问题出在内容而非模型。
卡内基梅隆、MIT、纽约大学和斯坦福的研究团队开发的 AI 系统 Ataraxos 在 Stratego 中以 15 胜 1 负 4 平击败被视为史上最强的选手 Pim Niemeijer。训练仅用 16 块 GPU 和几千美元。Stratego 属于信息不完全博弈,棋子身份只在碰撞时揭示,隐藏信息量大且展开时间跨度长,此前 DeepMind 也未能造出稳定击败顶尖人类玩家的机器。