DeepSeek 开源推理框架 DeepInfer,单集群日处理 155 万亿 token
DeepSeek 开源了支撑 V4.1 Flash 的生产推理框架 DeepInfer,基于 vLLM 定制并采用 Apache 2.0 许可,支持分布式推理、投机解码、SWA Bounded Replay 与结构化输出,覆盖 NVIDIA 和华为昇腾平台。
AI 产品与应用的功能上新、改版与商业化动态——谁家的产品变强了、变贵了、能用了。
DeepSeek 开源了支撑 V4.1 Flash 的生产推理框架 DeepInfer,基于 vLLM 定制并采用 Apache 2.0 许可,支持分布式推理、投机解码、SWA Bounded Replay 与结构化输出,覆盖 NVIDIA 和华为昇腾平台。
Google 周二宣布开源 TorchTPU,这是 PyTorch 的 TPU 版本,开发者只需修改配置、无需重写代码,就能把现有 PyTorch 应用迁移到 Google 的 TPU 和 Google Cloud。
Hugging Face 宣布接入 TorchTPU 这一原生 PyTorch 后端,Transformers、Diffusers 和 Kernels 现在可直接在 TPU 上运行,加载模型只需传 device_map="tpu" 或 pipe.to("tpu"),不再需要 torch_xla 或 Optimum TPU。
Hugging Face 发布 TorchNeuron,为 PyTorch 在 AWS Trainium 上提供原生后端,Transformers、Diffusers 和 Kernels 原生支持,10 月 20 日起以公开 beta 开放,可通过 pip install torch-neuronx 安装。
ChatGPT 的 Chrome 扩展现在可以访问浏览器中打开的标签页并对其执行操作。用户可用 @chrome 指定标签页,Chat 模式可同时从多个标签页读取数据,Work 模式则通过 Computer Use 控制标签页,完成发送消息、填写表单、下载文件或整理标签分组等任务。
Google DeepMind 介绍用智能体开发平台 Google Antigravity 加速抗菌肽发现,把原本分散在多个数据库的检索压缩到单次会话中。该平台结合可从氨基酸序列预测生物功能的模型 ProtNLM,扫描 UniProt 中数百万条未表征蛋白质,找到一条对呼吸道感染相关病原体有预测活性的新型抗菌肽候选,目前正进行湿实验验证。
Meta 的编码优化开源权重模型 Muse Spark Open 已在 Amazon SageMaker JumpStart 上线,支持 100 万 token 上下文窗口,采用 MoE 架构,总参数 816B、每 token 激活 42B,可接收文本、图像、文档、音频和音视频输入并输出文本。
NVIDIA 发布 RTX Spark,一款面向创作者、玩家和 AI 智能体的 Windows PC,并在全球多地举办发布活动。官方引用 Tom's Hardware、TrustedReviews、Tom's Guide 等媒体评测,称其在本地 AI、游戏和创作工作流上表现良好,Artificial Analysis 也提供了独立测试的初步结果。
Google 公开发布 Deep Review,一个面向复杂文档提供严格反馈与技术验证的智能体系统,最初用于计算机科学论文分析,现已扩展到法律、金融等领域。每位用户每周可免费获得两次文档审阅,也可接入 Gemini API key 提高用量并通过 Deep Review API 做程序化集成,初期支持 PDF 和纯文本输入。
Google DeepMind 与新加坡政府科技局(GovTech)合作,基于轻量级 Gemma 模型微调出可在普通智能手机上运行的端侧反诈检测模型。该模型在设备本地分析对话,检测到操纵性话术时实时弹出警告,采用轻量分类器初筛加 Gemma 上下文评估的两阶段流水线以控制功耗。微调在 GovTech 管理的 GCP 环境中完成,训练数据排除私人或可识别个人信息,仅使用匿名化数据集。
NVIDIA 宣布 RTX Spark 笔记本将于 10 月 16 日上市,最高 128GB 统一内存和 1 petaflop AI 算力,并同步推出面向本地智能体的软件更新。
NVIDIA 在 OCP Global Summit 上通过开放的 MGX 架构向 OCP 贡献了 Vera Rubin 机架和计算托盘设计,为系统厂商提供构建下一代 AI 工厂基础设施的共同基础。
Google 在 Google Cloud 活动上宣布为 Gemini 推出统一智能体,可接受目标而非仅指令,自行规划任务、调用自定义技能与工具并连接企业内部系统,初期面向企业客户,之后再推向消费者。
NVIDIA 与 Microsoft 在旧金山 Windows AI 与 Surface 活动上宣布为 Windows PC 的 AI 智能体共同设计软硬件,Microsoft 宣布 OS 级基础设施 Microsoft Execution Containers(MXC)正式可用,让智能体在系统控制下安全持久地在后台运行。
OpenAI 在 ChatGPT 中推出 Intelligent UI 功能,让回答可以结合图表、表单、可点击按钮等交互式视觉元素,该更新与 GPT-6 一同向所有用户推送。
微软研究院开源 Agent Lightning v1.0,这是一个约 3500 行代码的轻量智能体强化学习框架,围绕 Harnessed Agentic RL 范式重建,让部署时使用的 agent harness 直接参与训练,无需在训练框架内重新实现智能体。
OpenAI 推出名为 Intelligent UI 的新界面,随新 GPT-6 模型于周三开始推送,在对话中大量加入可交互的按钮、定制计算器、交互式图表和可编辑图形等元素。
Z.ai 的 GLM 5.3 已在 Amazon Bedrock 上线,这是一个 753B 参数的 MoE 模型,面向编码和长周期智能体任务,通过全托管 API 提供跨区域推理、提示词缓存和服务层级,目前面向符合条件的企业客户开放。
NVIDIA 将于本月通过 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 推出 64GB 统一内存版 DGX Spark,10 月 23 日开售,起售价 4,999 美元,保留 GB10 Grace Blackwell 超级芯片、DGX OS 与完整 NVIDIA AI 软件栈,支持最高 1000 亿参数模型在设备本地运行。
GPT-6 Astra Ultrafast 已在 NVIDIA Blackwell GPU 上运行,并面向 OpenAI API 以及符合条件的 ChatGPT Work 和 Codex 用户开放。