Amazon Bedrock AgentCore runtime 快速会话启动的架构模式
Amazon Bedrock AgentCore runtime 的 platformVersion "V2" 改为在创建或更新时一次性构建快照,新会话直接恢复快照,不再每次拉取容器镜像,会话启动更快更稳定。
Amazon Bedrock AgentCore runtime 的 platformVersion "V2" 改为在创建或更新时一次性构建快照,新会话直接恢复快照,不再每次拉取容器镜像,会话启动更快更稳定。
NVIDIA NeMo Switchyard 是一个开源库,可让 AI 智能体为每个请求选择由哪个模型处理,其 LiteLLM 集成支持 Stage 路由(读取请求历史中的工具活动与结果,在两个候选模型间选择)和 Random 路由(按权重分流做 A/B 对比)。
GS Caltex 将 SageMaker Canvas 中由工艺工程师无代码构建并验证的模型,接入 SageMaker Pipelines 的生产工作流,实现每 30 分钟一次的批量推理。
AssemblyAI 在 AWS 上以 Amazon ECS 结合 EC2 Spot 与 On-Demand 混合的 GPU 集群运行语音转文字推理,通过 Amazon SQS 队列重试机制吸收 Spot 中断,在维持 SLA 的同时显著降低成本。
OpenFold3-preview 已在 Amazon SageMaker JumpStart 上线,可在自有 AWS 账户中预测蛋白质、DNA、RNA、小分子配体及其复合物的 3D 结构。
Amazon SageMaker HyperPod 新增 Data Capture 能力,可在端点、负载均衡器和模型 Pod 三个独立层级把线上推理输入输出记录到 Amazon S3,对模型可用性零影响。文章以 Qwen2.5-3B-Instruct 家电客服路由模型为例,用 Athena 查询发现新产品盲区、SQL 策略打标后微调,并在部署后新增数据上对比前后准确率。
Amazon Bedrock 提供零埋点的成本归因能力,把每次推理调用追溯到发起调用的 IAM 主体,并将身份与组织标签写入 CUR 2.0 和 Cost Explorer。
llama.cpp 与 ggml 发布 v1.0.0,并明确此后公共 C API 的破坏性变更将以主版本号提升来体现。项目方称 llama.cpp 目前支持超过 150 种模型架构以及所有主流投机解码方法,并已通过 Docker、Homebrew、conda-forge、MacPorts、Winget、XCFramework 等渠道分发。
Dyania Health 的临床推理引擎 Synapsis AI 在 NVIDIA 加速计算上运行,可跨患者数十年病历中的自由文本笔记、报告和化验结果串联线索,输出可溯源到原始记录的临床信号。
Amazon 宣布 SGLang-Neuron 通过 AWS Deep Learning Container 公开可用,由 RadixArk 与 Annapurna Labs 合作发布,可在 Trainium 上用现有 SGLang 接口服务模型并生成 RL rollout。
Amazon Bedrock 的缓存时长、服务层级、推理强度和 maxTokens 四项请求级设置会在不改模型和提示词的情况下影响推理成本。以 Claude Sonnet 5 和 Claude Opus 5 为例,5 分钟缓存写入按输入价 1.25 倍计费、1 小时写入 2 倍、缓存读取 0.1 倍,1 小时缓存需每小时至少 3 次请求才划算。
Natera 基于 Amazon Bedrock AgentCore 构建了实验室运维智能体系统 SWARM,将支持工单首次响应时间提升约 130 倍,自动化覆盖率达 96.2%。
AWS 发布下一代 Amazon Bedrock AgentCore runtime,每个会话仍运行在独立的 Firecracker MicroVM 中,会话启动最高快 15 倍、算力规模扩至 4 倍、运行效率提升最高 68%。
AWS 展示了一套基于 Amazon Bedrock Application Inference Profiles 与 LiteLLM 的自助式 LLM 网关方案,将 Bedrock 封装为 OpenAI 兼容 API,开发者用单一 base URL 和专属 API key 即可接入 Claude Sonnet、Claude Haiku 等模型。
AWS 提出以“单任务成本”而非“单 token 价格”衡量 Amazon Bedrock 上的智能体开销,并给出缓存、路由、输出约束等降本手段。示例中列表价高 2 倍的 Model B 因 tokenizer 更省、输出更精简、单轮完成,单任务成本为 $0.00145,比 Model A 的 $0.0042 低 65%。文章还给出以人工基线、留出实验和五维记分卡衡量智能体 ROI 的方法。
AWS 给出无需自写代码的方案,按 IAM 主体追踪并限制 Amazon Bedrock 生成式 AI 支出:Bedrock 自动记录每次推理请求的 IAM 用户或角色身份,配合 principal tags 或会话标签区分共享角色下的具体用户。
AWS 提出 Agent Development Lifecycle(Agent DLC),用一个生命周期、两个循环和统一验收标准来判定智能体的每次变更是否可上线。
针对智能体代用户检索内部文档时的越权风险,该方案在 Amazon Bedrock AgentCore Gateway 工具层用请求拦截器从已验证 JWT 中注入 userContext,再由 Managed Knowledge Base 的 ACL awareness 按用户权限过滤文档。
AWS 发布基于 A2A 协议的多智能体参考架构,让 LangChain 企业编排器与 Strands Agents 构建的 SaaS 合规智能体跨 AWS 账户、跨组织边界协作,双方不依赖对方框架或 SDK 且不共享密钥。
Agent Toolkit for AWS 的 amazon-bedrock 技能新增知识库迁移指南,让编码智能体先做只读发现并给出逐行审阅的迁移计划,获批后并行创建新知识库与数据源,或生成 IaC 模板。
《战锤 40,000:战争黎明 IV》将于 12 月 3 日登陆 Steam 并加入 GeForce NOW,含 70 多个战役任务及 Last Stand、Skirmish 和多人模式。
Amazon SageMaker HyperPod 通过在 PyTorch DDP 训练循环中加入三项检查来检测静默数据损坏(SDC):非有限梯度检查捕获 NaN/Inf,环形重放审计比对另一节点重算的 loss 与梯度指纹,权重指纹比对发现优化器步骤与存储权重中的损坏。
开源引擎用反合一(anti-unification)在 e-graph 上计算两条形式化策略的最具体公共模式,把相同部分只展示一次、差异部分并列保留,从而过滤掉重排合取项、等价谓词等语法噪声。
OpenAI Codex 可通过 Amazon Bedrock 调用 GPT-5.6 Sol 等模型完成推理,同时沿用企业现有的 AWS IAM、区域和可观测性体系。
Java 团队可借助 Spring AI 与 Amazon Bedrock AgentCore 构建自主 AI 智能体,实现规划、工具调用与多轮对话记忆。文中给出两个示例系统:单一智能体旅行助手演示工具调用与记忆,多智能体智能文档处理(IDP)系统由 Lawyer、Mortgage、Insurance、Tax、General 五个专家智能体配合规则引擎与告警运行。
AWS 公布 10 月面向 AI 开发者的更新:Claude Haiku 5.5 与 OpenAI GPT-6.1 Terra 上线 Amazon Bedrock,后者在 Agents' Last Exam 上与 GPT-6 Astra 持平、完成任务快 3 倍以上,token 价格至少低 50%。
Amazon Bedrock AgentCore 发布 Web Search API,开发者用一次 API 调用即可搜索网页,无需先创建 Gateway 资源。
DXC Technology 在 Amazon Bedrock 上为 DXC OASIS 构建了多模型 AI 底座,统一接入 Anthropic Claude、Amazon Nova、Meta Llama 及开源权重模型。
AWS 提出一种事件驱动架构,用 CloudTrail、EventBridge 和 Lambda 自动把 MCP server 的工具与 schema 变更同步到 AWS Agent Registry。
AWS 将于 11 月 30 日至 12 月 4 日举办 re:Invent 2026,AI/ML 专场提供超过 140 场课程,覆盖 AI 芯片、模型训练与推理、智能体开发管理等 AWS AI 技术栈各层。
AWS Generative AI Innovation Center(现属 AWS Frontier AI Engineering & Services)发布 23 个生产级可复用资产目录,覆盖 RAG 流水线、文档处理、智能体脚手架等组件,可将开发时间从数月缩短至数周。
JioStar 首席架构师 Vijay Seshadri 分享了在 5 亿用户规模下做 AI 发现的实践经验,涵盖 evals、guardrails 以及将 AI 推向生产环境的要点。
Amazon SageMaker AI 双向流式推理新增按用量计费,模型提供商可向 AWS Marketplace 上报实时流中的实际用量。Deepgram 作为首发合作伙伴,将按用量计费的 STT 和 TTS 引入 AWS Marketplace。该能力通过一条独立的元数据 WebSocket 连接传输计量记录,SageMaker AI 端点基础设施费用仍照常收取。
AWS 发布开源框架 UAEF,用适配器把 LangGraph、LangChain、Strands Agents、Amazon Bedrock AgentCore 和 Langfuse 的执行轨迹统一为 AgentTrace,再以 7 个维度 36 项内置指标打分。
AWS Quick 推出 AI-PDLC 框架,用六个专用智能体覆盖产品开发上游的 Discover、Decide、Design、Prototype 四个阶段,每个阶段都设有人工审批关卡。
NVIDIA Inception 计划成员 AIRECO、EverestLabs AI、Greyparrot 和 reverse.fashion 正用视觉 AI 与机器人分拣混合垃圾。
Amazon Bedrock AgentCore 的 Web Search API 现已可用,通过单次 API 调用返回带标题、URL、发布日期和摘要的实时网页结果,查询由 Amazon 自建索引处理、不经过第三方搜索引擎。
Moonshot AI 的 Kimi K3.1 Pro Highspeed 已在 Amazon Bedrock 上线,它是 Kimi K3 的后训练版本,保持 3T 级开放权重架构和 100 万 token 上下文窗口,官方称输出速度是 Kimi K3.1 Pro 的 2 至 3 倍。
Amazon Bedrock AgentCore Evaluations 提供内置、DeepEval 和 AutoEval 三类评估器,内置评估器由 AWS 编写并经过质量测试,共 16 个,覆盖响应质量、任务完成、工具使用、技能和安全五个维度。
AWS 发布 Amazon Bedrock 调用观测数据湖方案,通过 CloudWatch 日志订阅将多账户的模型调用日志汇聚到中心账户,经 Data Firehose 转成 Parquet 写入 S3,再用 Athena 统一查询。