Rescale 如何用 Strands Agents 和 AI-DLC 构建 AI 分诊智能体
Rescale 基于 AWS 的 AI-DLC 框架构建了 AI 分诊智能体,从问题定义到 staging 部署仅用五天,数周内进入生产。
Rescale 基于 AWS 的 AI-DLC 框架构建了 AI 分诊智能体,从问题定义到 staging 部署仅用五天,数周内进入生产。
针对自托管 TTS 端点自动扩缩容目标值靠猜的问题,AWS 在 Amazon SageMaker AI 实时端点上部署了 8200 万参数的 Kokoro-82M,用实测的 Q_max(单实例在 SLO 内可承受的最高并发)和 T_total(一次扩容端到端耗时)推算扩容阈值、缩容阈值与两个冷却时间。
在 Amazon SageMaker AI 的实时端点上托管 Kokoro-82M 语音合成模型,把 AI 智能体生成的每个句子即时送入合成,让音频在完整回复生成前就开始播放。
Amazon Quick 是 AWS 的 HIPAA-eligible 服务,其 Web、桌面和移动客户端均可在签署 AWS BAA 后处理 PHI。该平台的 chat agent 可跨临床笔记等非结构化内容和理赔、会员记录等结构化数据执行多步任务,并通过 connectors 与 MCP 接入外部系统。
Amazon SageMaker AI 的训练会话 API 把抽象层下移到训练操作,开发者在本机用 Python 编写训练循环,通过 forward_backward、optim_step、sample 等调用在托管 GPU 上执行,服务负责模型与 LoRA 加载、分布式执行、故障恢复和检查点存储。
AWS 宣布 SageMaker AI 无服务器模型定制中的训练会话正式可用,用户可自行编写并协调训练循环,包括自定义损失函数和奖励信号,GPU 分配、分布式执行、故障恢复与 checkpoint 存储由平台负责。
IskayPet 基于 Amazon Bedrock Managed Knowledge Bases 构建企业知识助手,让员工用自然语言查询零售运营、兽医诊疗、人事入职和采购等文档,覆盖四语言、三国家且无需自管 RAG 基础设施。
Amazon Polly Generative 引擎完成升级,语音更自然准确且延迟更低,新增 14 个声音、覆盖 9 个 locale,并首次正式提供印地语和芬兰语生成式声音。
NVIDIA 发布 AIOps 平台 Minerva,汇集基础设施与 AI 工作负载的遥测数据,用专用 AI 模型把数据转成可执行的洞察。平台跨 GPU、SuperNIC、交换机、存储、调度器和作业构建动态知识图谱,每小时分析数十亿数据点,可把大量告警聚合成带根因的单一事件。
OpenAI 发文解释 FDE(前沿部署工程师)在其内部的具体含义。文章围绕这一岗位的定位展开说明,但未披露具体团队规模、客户数量或产品版本信息。
NVIDIA 与欧洲多国政府及合作伙伴推进公共部门 AI 项目:欧盟委员会基于 deepset Haystack 企业平台扩展 AI@EC,波兰用 NVIDIA DGX BasePOD 和 MONAI 构建医学影像平台,德国 Materna 推出本地部署平台 Sinfonie。
NVIDIA 在欧洲推出 Earth-2 系列开放模型的新成员 StormScope EU,基于 EUMETSAT 卫星观测,可对欧洲 16 个 Meteosat 通道以 10 分钟间隔预测云况变化。
NVIDIA 正以开放模型和物理智能改造欧洲零售:Shopify 用 NVIDIA Nemotron 3.5 Lightning 后训练出 GraphQL 子智能体,内部基准上准确率超过领先前沿模型,服务成本降低 90%、响应快 7 倍。
GE Vernova、Hitachi Energy、Schneider Electric 和 Siemens Energy 等能源厂商正基于 NVIDIA DSX AI Factory Platform,把电网、变电站与 AI 工厂作为一套系统统一规划、仿真和运行。
NVIDIA 扩展 Cosmos 平台,新增训练工具、仿真 checkpoint 和 Cosmos Data Factory 蓝图,用于构建理解并模拟真实世界的世界模型。
Revolut 正基于 NVIDIA 加速计算以单一基础模型 PRAGMA 重建技术栈,在 Blackwell Ultra GPU 上以 cuDF 和 Dynamo-Triton 扩展生产部署,初期服务 8000 万客户并设计支持 3 倍扩容。
AWS 解决方案架构团队开源了多智能体系统 Deep Insight,用 Coordinator、Planner、Supervisor、Coder、Validator、Reporter、Tracker 等智能体把 CSV 数据分析自动生成带引用的 DOCX 报告。
AWS 发布方案,通过 AWS PrivateLink 的 VPC 端点与 Quick 的 VPC 连接,让 Amazon Quick 在不经过公网的情况下访问企业防火墙后的本地数据源。
Cloudflare 使用 OpenAI Daybreak 调查漏洞并提出修复方案供人工审核,同时其开发者借助 Codex 加快开发速度并提升代码质量。
美国非营利组织 U.S. Hunger 借助 Amazon Quick 让领导层直接探索组织数据,并将 SQL Server 数据每晚 2 点刷新至 SPICE 内存引擎。Quick Spaces 为领导团队提供共享的 KPI 定义、财务文档与分析空间,目前已有 17 名同事获得访问权限,覆盖高管、技术、Full Cart 项目、财务与合规等职能。
在单台 trn2.48xlarge(16 颗 Trainium2、64 个逻辑 NeuronCore)上,torchtitan 可通过 TorchNeuron 把 Trainium 注册为原生 PyTorch 设备。
基于 Strands Agents 构建的 Adaptive Agentic Intelligence Framework(AAIF)用 llama3.2:1b 作为编排层对请求分类,常规任务由 Ollama 本地 SLM 处理,复杂分析经 boto3 路由到 Amazon Bedrock。
Google Research 在 JAMA Network Open 发表研究,评估 AI 模型基于盲扫超声估算孕周在不同临床环境与硬件上的泛化能力。
Hugging Face 博客发布《Profiling TorchNeuron》系列第一篇,讲解如何在 AWS Trainium 上用 torch.profiler 配合 NeuronConfig 与 NeuronProfiler 抓取干净的 trace,并通过 key_averages() 表定位消耗 Neuron 设备时间的算子。
Dharma-AI 在 Hugging Face 博客中介绍即将发布的 VocabX 论文,用按 token 成本而非频率重建词表的方法,在基于 Qwen3-4B 的葡萄牙语作文评分器上把实测推理成本降低 77.0%,平均响应从 350 个 token 降到 101 个,bench 分数从 0.703 升到 0.810。
OpenAI 为 ChatGPT 构建了由 LLM 驱动的广告系统,用于理解对话意图、将广告与回答内容分离,并大规模投放相关广告。该系统以用户信任和相关性为核心设计目标。
OpenAI 与 Google Cloud 合作,将 OpenAI 前沿模型和 Codex 工作流接入 Gemini 的 Model Garden,并通过 Google Cloud Marketplace 提供。原文未披露具体模型版本、上线时间和定价。
Nebius、Nscale 和 Verda 等 AI 云厂商正采用 NVIDIA Vera CPU 构建面向智能体计算的新一代基础设施,在 GPU 之外承担数据处理与软件执行。
NVIDIA CEO 黄仁勋在 GTC Berlin 2026 主题演讲中宣布多项发布,包括由合作伙伴在模块化容器内构建的 Vera Rubin AI 工厂参考设计 DSX POD,现场部署时间可从六个月缩短至 14 天。
NVIDIA 扩展机密计算能力,新增 Confidential Bare Metal 部署选项,让前沿模型构建方在第三方专用基础设施上运行敏感负载时仍掌控模型与数据。
NVIDIA cuDSS 正式发布,这是一款将大型稀疏系统求解迁移到 GPU 的 CUDA-X 库,可缩短仿真出结果的时间并提升吞吐量。
NVIDIA 面向工厂场景的 Factory Operations Blueprint(FOX)已在 GitHub 开放早期访问,开发者可构建持续在线的工厂管理智能体,并连接 Cosmos、Nemotron 等模型。
NVIDIA 云合作伙伴正在欧洲、北欧、非洲和中亚扩展区域算力,用于模型训练与推理,并支持智能体和物理 AI 应用。Nscale 在 GB300 NVL72 系统测试中借助 NVIDIA DSX MaxLPS 在同等供电预算下多部署 37% 的 GPU、聚合推理吞吐提升近 50%。
Google Cloud 与 NVIDIA 宣布基于 Vera Rubin 的 A5X 实例正式可用,下月开放并计划扩展至欧洲。A5X 整合 NVIDIA Vera Rubin NVL72、ConnectX-9 SuperNICs、Google Cloud Virgo Network 与第四代液冷技术,面向大规模智能体推理和强化学习负载。
NVIDIA 在 GTC Berlin 集中展示本地 AI 硬件阵容:RTX Spark 在 Windows PC 上运行个人智能体,DGX Spark 面向 Linux 开发者,DGX Station 面向企业前沿负载,Windows 版本预计 12 月推出。
i14 与 AWS 合作,通过 TorchNeuron Native 将线性注意力模型 Laplace 3B 移植到 AWS Trainium2,保留其 Gated Linear Attention 设计与 Muon 优化器。
Hugging Face 宣布接入 TorchTPU 这一原生 PyTorch 后端,Transformers、Diffusers 和 Kernels 现在可直接在 TPU 上运行,加载模型只需传 device_map="tpu" 或 pipe.to("tpu"),不再需要 torch_xla 或 Optimum TPU。
AWS 博客演示了以 AtScale 作为语义层、在 Amazon Bedrock AgentCore 上运行 Strands 智能体的 C360 方案,AtScale 用基于 YAML 的 Semantic Modeling Language 建模,并通过 SQL、XMLA 和 MCP 三种协议同时暴露同一模型。
AWS 博客演示了以 Strategy Mosaic 为语义层、在 Amazon Redshift 与 Amazon Aurora 上构建 Customer 360 模型,并通过 MCP 端点让托管在 Amazon Bedrock AgentCore 上的 Strands 智能体访问该模型。
本文演示用 Denodo Platform 作为语义层、配合 Amazon Bedrock AgentCore 托管智能体,联邦查询 Amazon Aurora、Amazon Redshift 和本地 PostgreSQL 三处数据源,构建 Customer 360 视图。