用 Ray LLM Deep Learning Containers 在 Amazon EKS 上运行多节点推理负载
AWS 发布面向多节点部署的 Ray LLM Deep Learning Containers,可在 Amazon EKS 上把单个大语言模型拆分到两个 GPU 节点,以 prefill/decode 分离方式共用一个 OpenAI 兼容端点。
AWS 发布面向多节点部署的 Ray LLM Deep Learning Containers,可在 Amazon EKS 上把单个大语言模型拆分到两个 GPU 节点,以 prefill/decode 分离方式共用一个 OpenAI 兼容端点。
AWS 发布 llama.cpp 专用深度学习容器(DLC),可在 Amazon SageMaker AI 上以 CPU 或 GPU 托管量化模型,并通过 InvokeEndpoint 提供 OpenAI 兼容的 chat completions。
Amazon Bedrock 面向泰国、马来西亚、新加坡、印尼和台湾五个 AWS 区域,通过全球跨区域推理提供 OpenAI GPT-6 Sol、GPT-6 Luna 和 GPT-6 Astra,其中 GPT-6 Astra 仅从亚太(新加坡)区域调用。
GitHub Copilot 入门系列介绍四种让 Copilot 适配项目的方式:仓库级自定义指令写入 .github/copilot-instructions.md。
微软研究院推出 StudentSim,一种从公开去标识化学习记录中训练个性化 AI 学生模拟器的研究系统,让 AI 辅导工具在接触真实学习者之前就能获得反馈。该系统同时提出 StudentSimEval 评测基准,从行为保真度和对辅导的响应度两个维度评估模拟器,覆盖国际象棋、第二语言英语写作和数学三个领域,表现优于主流基线。StudentSim 并非产品,不会部署到课堂,也不用于替代教师。
NVIDIA 在 OCP Global Summit 上通过开放的 MGX 架构向 OCP 贡献了 Vera Rubin 机架和计算托盘设计,为系统厂商提供构建下一代 AI 工厂基础设施的共同基础。
Asana 借助 Codex 中的 GPT-6 Astra,在测试中让浏览器智能体的模型成本降低 76 倍、速度提升 5 倍,从而为客户提供能力更强的模型。
Postman 在 Amazon Bedrock 上构建并运行 Agent Mode,为 4000 万开发者提供覆盖 API 测试、文档、发现与实现的 AI 原生工作方式。
Amazon Bedrock 9 月新增 OpenAI 的 GPT-6 Astra、Sol、Luna 系列模型,其中 GPT-6 Astra 支持最高 100 万输入 token,Ultrafast 版本推理速度最高提升 6 倍、达 300 tokens/秒。
Ai2 用 GPU 时间预算、分层公平分配和时间切片契约替换了原有的优先级调度器,把各研究项目该分多少 GPU 时间的争论从逐案运维操作变成透明的行政预算流程。
Sophos 使用 OpenAI 的 Daybreak 将网络威胁调查时间缩短 96%,并自动化处理 52% 的 MDR 案例,同时保留人工监督。
作者借助 HuggingChat 中的 ML-intern,用自然语言提示词在两天内训练并发布了六个模型,包括柑橘病害 VLM、Huggy LoRA、相机视角 LoRA、Doodle-in LoRA、Pocket Rewriter 0.8B/2B 和 Agate 4-step 蒸馏模型,总计算成本约 103 美元。
LegalOn 将每日 Codex 预估成本削减 65%,同时保持开发速度。其做法是把 Astra、Sol 和 Luna 匹配到相应任务,并对预算进行策略性管理。
Incarna 借助 Amazon Bedrock AgentCore payments,让智能体通过 x402 按次向 BlockRun 付费购买模型推理,将接入 x402 支付支持的工作量从数月缩短到数天,并已把端到端按次付费推理流程投入生产。
NVIDIA 开发者借助 GPT-6 Astra、Claude 等前沿模型驱动 AI 智能体,结合 Omniverse 库的 GPU 加速物理、渲染与传感器仿真能力,通过自然语言指令完成场景搭建与验证。
Pollo AI 借助 GPT-5.6、GPT-6 Astra 和 GPT-Image-2.5,帮助创作者将创意转化为精细图像和电影级视频广告。
Oracle 在招聘、工程和运营环节借助 ChatGPT Work 与 Codex,把专家知识转化为快速、可重复的工作流,将原本需要数天的工作缩短到几分钟。
Amazon SageMaker HyperPod 推出基于 EKS 的多租户参考架构,让多个团队共享同一 GPU 集群并保持隔离与资源公平。
OpenAI 表示已处置两起由 AI 驱动的影响力行动,这些行动利用虚假身份的记者和一家智库传播地缘政治信息。
阿布扎比技术创新研究院(TII)发布 Falcon-ASR,一个 1.6B 参数的语音识别模型,主打阿拉伯语并聚焦阿联酋方言,同时支持英语、法语、西班牙语和葡萄牙语。
《Gears of War: E-Day》本周正式上线 GeForce NOW,Ultimate 会员可以 GeForce RTX 5080 级性能在云端体验,并支持 NVIDIA DLSS 和 NVIDIA Reflex。Fire TV 用户不久后可直接通过 Amazon 购买 GeForce NOW 会员。本周 GFN Thursday 共带来 10 款游戏,其中 7 款为新作。
Google Research 与 NBER 发布一项为期三个月的实地实验,在 11 家知识产权律所的 133 名律师中随机开放当时未发布的 Google Labs AI 专利撰写助手(现属 Gemini Notebook)。
Amazon Quick 与 Amazon Bedrock Knowledge Bases 在预检索 ACL 过滤之外新增实时 ACL 校验,在查询时直接向权威数据源核实权限,避免依赖可能过期或映射错误的 ACL 数据。
AWS 宣布 Claude Haiku 5.5 在 Amazon Bedrock 和 AWS 上的 Claude Platform 上线。
NVIDIA 与 Microsoft 在旧金山 Windows AI 与 Surface 活动上宣布为 Windows PC 的 AI 智能体共同设计软硬件,Microsoft 宣布 OS 级基础设施 Microsoft Execution Containers(MXC)正式可用,让智能体在系统控制下安全持久地在后台运行。
微软研究院开源 Agent Lightning v1.0,这是一个约 3500 行代码的轻量智能体强化学习框架,围绕 Harnessed Agentic RL 范式重建,让部署时使用的 agent harness 直接参与训练,无需在训练框架内重新实现智能体。
Liquid AI 发布 d1 决策模型家族的两款开源权重模型 d1-3B 和 d1-omni-600M(实验性)。d1-3B 在 Decision Index 0.2.1 上得分 48.57,为 10B 以下最佳,支持文本与图像;d1-omni-600M 支持文本加图像或文本加音频。
OpenAI 宣布 GPT-6 正在 ChatGPT 中面向全球上线,并搭配 Intelligent UI。官方称新版本响应更快,提供可视化内容与可直接探索和使用的交互体验。
Radisson Hotel Group 与 Accenture 合作,基于 OpenAI 技术打造了一款 ChatGPT 插件,帮助旅客在规划行程时查找、比较和预订酒店。
OpenAI 为 ChatGPT for Teens 推出 College Planner,帮助学生管理大学申请,同时上线新的 flashcards 和 quizzes 功能。OpenAI 还将组建青少年 AI 委员会(teen AI council)。
Cornerstone OnDemand 基于 Amazon Bedrock 和 Strands Agents 构建多智能体系统 Orion AI,将数据库诊断时间从 45 分钟降至 10 分钟,减少 78%。该系统还让数据库生命周期操作从 10 多个手动步骤压缩为 1 次交互,冗余告警中位数减少 65%,SRE 与数据团队间的 15 分钟报告延迟降为实时。三人团队用六个月完成交付。
AWS 设计了一个为期六周、每周约四小时的结构化项目,让非工程背景的业务人员用 Amazon Bedrock AgentCore、Strands Agents SDK 等工具构建可运行的 AI 原型。
AWS 展示了一套自动化修复工作流,用 Amazon EventBridge 接收 AWS DevOps Agent 的调查完成事件,再由 AWS Lambda Durable Functions 调用 Amazon Bedrock 分析并匹配修复工具。
Qlik 基于 Amazon Bedrock 打造 Qlik Answers,为全球超 4 万名客户提供带来源引用的企业级问答,自 2026 年 2 月正式可用以来,其 Discovery Agent 已为客户发现超 10 万条异常与离群点。
AWS 提出 Agentic Value Model,用于评估 agentic automation 的商业价值,指出传统"节省工时×人力成本−建设成本"的 RPA 时代 ROI 模型遗漏了异常处理、决策质量、变更韧性与价值实现等维度。该框架引用 McKinsey 的"1:3:5 模式",即每投入 1 美元 agentic 技术,需在流程重设计上花 3 美元、在能力建设与采纳上花 5 美元。
GitHub 发布与 Microsoft Applied Sciences 联合微调的 ModernBERT 分类器,用代码上下文识别数据库 URL、Kubernetes Secret manifest、Dockerfile 中的非结构化密钥,可在 2 毫秒内评估一批候选密钥,据称能把可拦截的密钥数量提高一倍以上。
英伟达团队从 Nemotron 3 出发,用 SFT、RL 和反馈驱动的推理流程,让模型在 IOI 2026 和 IMO 2026 都达到金牌水平。IOI 2026 中 Nemotron-3-Ultra-CC 得 535.4/600,高于 361.12 的金牌线和人类最高分 498.27;IMO 2026 系统得 30/42,高于 29 的官方金牌线,其中六题有四题满分。
OpenAI 发布内部前沿模型在数学开放问题上取得的新结果,并公开了 Lean 证明形式化及相关研究细节。相关材料已发布在 GitHub 上。
Jump Trading 正借助 OpenAI 扩展量化研究,通过运行时间更长的 AI 工作流,把多个数据源与人工审核结合起来。该模式让 AI 承担更长的研究流程,同时保留人工复核环节。
Google DeepMind 发布 EmbeddingGemma 2,一个基于 Gemma 4 架构、Apache 2.0 许可的开源多模态嵌入模型,可把文本、图像、音频和视频映射到统一嵌入空间。