在 Amazon SageMaker AI 上用 llama.cpp 部署决策模型
AWS 发布 llama.cpp 专用深度学习容器(DLC),可在 Amazon SageMaker AI 上以 CPU 或 GPU 托管量化模型,并通过 InvokeEndpoint 提供 OpenAI 兼容的 chat completions。
AWS 发布 llama.cpp 专用深度学习容器(DLC),可在 Amazon SageMaker AI 上以 CPU 或 GPU 托管量化模型,并通过 InvokeEndpoint 提供 OpenAI 兼容的 chat completions。
Python 3.15 正式发布,新增 PEP 810 显式惰性导入(lazy import)和推导式解包语法,标准库加入采样分析器 Tachyon(profiling.sampling)。
GitHub Copilot 入门系列介绍四种让 Copilot 适配项目的方式:仓库级自定义指令写入 .github/copilot-instructions.md。
The Verge 编辑在 M5 Ultra Mac Studio 上安装开源 AI 智能体 Hermes Agent,并选用 1250 亿参数的 Qwen 3.8 Flash Next 模型(约 105GB)进行本地 AI 实测。
Python 3.15.0 已被加入 actions/python-versions,现在可以在 GitHub Actions 测试矩阵中填入 "3.15",针对这一新版本运行测试。作者此前甚至让 ChatGPT 每小时检查一次该仓库,等待稳定版 3.15 落地。
Standard Bots 用共享基础模型加演示微调的方式为工业机械臂构建 AI,最大模型仅低数十亿参数,靠零样本感知系统完成机器上下料中的零件定位识别,运动与单元逻辑仍由传统编程处理。
Postman 在 Amazon Bedrock 上构建并运行 Agent Mode,为 4000 万开发者提供覆盖 API 测试、文档、发现与实现的 AI 原生工作方式。
Ai2 用 GPU 时间预算、分层公平分配和时间切片契约替换了原有的优先级调度器,把各研究项目该分多少 GPU 时间的争论从逐案运维操作变成透明的行政预算流程。
Simon Willison 用 ChatGPT 桌面版 Codex 标签页的语音对话模式,在做饭的半小时里让 GPT-6 Astra High 为博客开发出 Newsletters 页面,包含新 Django 模型、四个导入脚本、/newsletters/ 归档页和站内搜索集成。
作者借助 HuggingChat 中的 ML-intern,用自然语言提示词在两天内训练并发布了六个模型,包括柑橘病害 VLM、Huggy LoRA、相机视角 LoRA、Doodle-in LoRA、Pocket Rewriter 0.8B/2B 和 Agate 4-step 蒸馏模型,总计算成本约 103 美元。
Amazon SageMaker HyperPod 推出基于 EKS 的多租户参考架构,让多个团队共享同一 GPU 集群并保持隔离与资源公平。
Cornerstone OnDemand 基于 Amazon Bedrock 和 Strands Agents 构建多智能体系统 Orion AI,将数据库诊断时间从 45 分钟降至 10 分钟,减少 78%。该系统还让数据库生命周期操作从 10 多个手动步骤压缩为 1 次交互,冗余告警中位数减少 65%,SRE 与数据团队间的 15 分钟报告延迟降为实时。三人团队用六个月完成交付。
AWS 设计了一个为期六周、每周约四小时的结构化项目,让非工程背景的业务人员用 Amazon Bedrock AgentCore、Strands Agents SDK 等工具构建可运行的 AI 原型。
AWS 展示了一套自动化修复工作流,用 Amazon EventBridge 接收 AWS DevOps Agent 的调查完成事件,再由 AWS Lambda Durable Functions 调用 Amazon Bedrock 分析并匹配修复工具。
AWS 提出 Agentic Value Model,用于评估 agentic automation 的商业价值,指出传统"节省工时×人力成本−建设成本"的 RPA 时代 ROI 模型遗漏了异常处理、决策质量、变更韧性与价值实现等维度。该框架引用 McKinsey 的"1:3:5 模式",即每投入 1 美元 agentic 技术,需在流程重设计上花 3 美元、在能力建设与采纳上花 5 美元。
基于开源智能体系统 OpenClaw 与 Amazon Bedrock AgentCore runtime,可搭建具备持久记忆的上下文感知 AI 助手,AgentCore memory 将一次性对话转为长期知识,并支持结构化元数据检索。
Datasette 1.0a41 新增 OpenTelemetry 支持后,作者用 Codex 跑通 Parseable 并接收 Datasette 的 traces。
基于 Amazon Bedrock AgentCore、Amazon Nova 2.5 Sonic 与 Amazon Bedrock Knowledge Bases,可在航空公司应用中搭建语音旅行助手,让旅客通过语音查询行程、改座位、更新餐食偏好并转接人工客服。
AWS 发布 Amazon SageMaker HyperPod 管理与治理最佳实践,提出组织、项目、集群、工作负载四层控制模型,用于多团队共享加速计算集群时划分权限与容量。
Simon Willison 让 Claude Opus 5.5 设计一种简单的文本音乐格式,并构建一个能将其播放出来的 artifact,还要求示例曲目达到初代《猴岛小英雄》的水准。结果成品比他预想的更贴近猴岛主题,但质量出奇地好。他由此猜测,文本模型作曲可能类似此前的 3D 图形能力,是近几个月才涌现的新能力,但需要更多实验验证。
Amazon Quick 控制台不支持将用户从 Admin 直接降为 Reader,也无法从 Author 直接降为 Reader,update-user API 同样会以“You cannot downgrade a user role”报错拒绝。
Amazon Bedrock Managed Knowledge Base 新增智能体检索能力,通过 AgenticRetrieveStream API 将多部分问题拆解为子查询、执行并判断证据是否充分,不足时再次检索,langchain-aws 包同时暴露该能力与标准 Retrieve API。
Amazon Quick 的资源跨账户迁移此前只能手动重建,AWS 推出基于 Amazon Bedrock AgentCore 的 MCP 服务器 Quick Resource Migrator,通过 Amazon Quick API 一次性完成 agent、action connector、知识库、flow 和 space 的跨账户迁移。
Anthropic 的 Claude Opus 5.5、Claude Sonnet 5.5 和 Claude Sonnet 5 已上线 AWS GovCloud (US) 区域的 Amazon Bedrock,为 ITAR 等受监管工作负载提供 AI 辅助开发通道。
在 Amazon SageMaker AI 上通过多轮强化学习(MTRL)微调 Qwen3.6-27B,可训练搜索智能体跨多轮自主调用 BM25 词法搜索与向量搜索工具。
通过 Amazon Bedrock AgentCore 的 AgentCore Gateway,可将 Claude Desktop 接入由 Amazon 网页索引支持的 Web Search,查询流量全程留在 AWS 内,无需外部 API key。
AWS 提出 Adjudicated Query 设计模式,让业务用户在 Amazon Quick 聊天界面提问合规问题,实际判定交由确定性规则引擎完成,模型只负责把自然语言转为固定类型操作调用并复述结果。该模式通过完整性回执保证"已扫描 = 合规 + 违规 + 存疑 + 不可读",并以版本化规则数据支持事后审计追溯,适用于租约合规、制裁筛查、保险理赔等高风险场景。
OpenAI 发布 GPT-6 系列模型指南,面向初创公司说明如何选择 GPT-6 模型、调整推理强度、改进提示词与技能、协调工具,并为生产环境准备工作流。
GitHub 提出 AI 时代开发者应强化的三项技能:学会指挥 AI 智能体而非仅使用它,不轻信 AI 的首次答案,以及用 AI 节省的时间去解决更大的问题。文中以 GitHub Copilot 内置的 Rubber Duck agent 为例,说明它用第二个模型对计划、代码和测试进行批判性审查,从而发现首个模型遗漏的问题。
ServiceNow CoreAI 构建了 AutoSynthData,利用目标模型的失败案例与更强教师的成功轨迹定位能力缺口,再生成并验证新任务用于后训练,课程随模型进步动态转向仍难的任务。该流程在 EnterpriseOps Gym 环境中演示,任务由系统规范、用户提示词和验证器三部分组成,需满足可行性、真实性与难度要求。
AWS Professional Services 基于 Strands Agents SDK 和 Amazon Bedrock AgentCore 构建了四智能体模式,将每个应用的基础设施即代码(IaC)开发时间从 3 到 4 周缩短至几分钟,该模式在一个覆盖 300+ 应用的迁移项目中得到验证。
uniopen 通过 Amazon SageMaker AI 对 Amazon Nova 2 Lite 进行监督微调,并做提示词层面的输出优化,使其适配自身零售审核策略。该策略按九类行为与品牌、其他、禁止三类主体双轴分类,微调数据集含 3391 个对话窗口,三类配置在 737 个对话窗口的留出测试集上对比评估。
针对 Claude Platform on AWS(CPonAWS),一套基于专用 AI Services 账号的三账号架构可实现三种推理访问方式:AWS 工作负载通过跨账号 SigV4 免密钥调用,开发者笔记本使用绑定开发工作区的长期 API key,外部环境通过 OIDC 联邦获取短期凭证。
Amazon Bedrock AgentCore 支持构建"环境智能体"(ambient agent):由 Amazon S3 事件通知、EventBridge 规则、Lambda 触发器等事件流直接触发,无需用户发起对话,可并行处理多个事件。
Amazon Payments 在 Amazon SageMaker AI 上用多目标上下文多臂老虎机(LinUCB)做产品获客漏斗的个性化内容选择,七周在线 A/B 测试中,一个人群组的最终漏斗转化率取得高个位数相对提升,另一人群组则未见改善,问题出在内容而非模型。
NVIDIA NeMo Agent Toolkit(NAT)可通过自定义 memory provider 接入 Amazon S3 Vectors,作为多智能体系统的持久记忆层,并部署在 Amazon EKS 上。
Amazon Bedrock Knowledge Bases 新增 AgenticRetrieveStream API,可将多部分理赔问题拆成子查询并多轮检索,直到证据充分再生成带引用的回答。
AWS 官方博客演示在 Amazon Bedrock AgentCore Runtime Instances 上部署三智能体音乐制作流水线:作曲智能体用 Claude Sonnet 4.6 生成音乐简报并在实例的 NVIDIA L4 上运行 ACE-Step 渲染音频,交付智能体读取共享卷上的 .wav 做测量与 DSP 处理,合规智能体独立复测并筛查与曲库的谐波相似度。
Amazon Quick 的提示词工程决定其 AI 功能对自然语言请求的响应质量,官方发布两部分系列的第一部分,聚焦跨组件通用的提示词原则与可复用框架。文章给出 CRISPE 框架,涵盖上下文与约束、角色与职责、意图与输入、步骤与范围等要素,并强调具体化、业务上下文和示例示范优于抽象描述。
AWS 发文拆解 Amazon Quick 各组件的提示词写法:Quick Research 需明确目标、受众与时间范围,并自行拆解子问题、限定数据源(Quick Index。