Datasette 插件 datasette-llm 0.1a11 发布,支持 OpenAI 兼容端点
Datasette 的中间插件 datasette-llm 发布 0.1a11,新增对 OpenAI 兼容端点的支持,可配置使用任何遵循该协议的 LLM 服务。这意味着配合 LM Studio、Ollama 或刚发布 v1.0.0 的 llama.cpp 运行本地模型时,可通过 uvx 启动由本地模型驱动的 Datasette Agent 实例。
Datasette 的中间插件 datasette-llm 发布 0.1a11,新增对 OpenAI 兼容端点的支持,可配置使用任何遵循该协议的 LLM 服务。这意味着配合 LM Studio、Ollama 或刚发布 v1.0.0 的 llama.cpp 运行本地模型时,可通过 uvx 启动由本地模型驱动的 Datasette Agent 实例。
Amazon Bedrock AgentCore runtime 的 platformVersion "V2" 改为在创建或更新时一次性构建快照,新会话直接恢复快照,不再每次拉取容器镜像,会话启动更快更稳定。
NVIDIA NeMo Switchyard 是一个开源库,可让 AI 智能体为每个请求选择由哪个模型处理,其 LiteLLM 集成支持 Stage 路由(读取请求历史中的工具活动与结果,在两个候选模型间选择)和 Random 路由(按权重分流做 A/B 对比)。
GS Caltex 将 SageMaker Canvas 中由工艺工程师无代码构建并验证的模型,接入 SageMaker Pipelines 的生产工作流,实现每 30 分钟一次的批量推理。
AssemblyAI 在 AWS 上以 Amazon ECS 结合 EC2 Spot 与 On-Demand 混合的 GPU 集群运行语音转文字推理,通过 Amazon SQS 队列重试机制吸收 Spot 中断,在维持 SLA 的同时显著降低成本。
OpenFold3-preview 已在 Amazon SageMaker JumpStart 上线,可在自有 AWS 账户中预测蛋白质、DNA、RNA、小分子配体及其复合物的 3D 结构。
Amazon SageMaker HyperPod 新增 Data Capture 能力,可在端点、负载均衡器和模型 Pod 三个独立层级把线上推理输入输出记录到 Amazon S3,对模型可用性零影响。文章以 Qwen2.5-3B-Instruct 家电客服路由模型为例,用 Athena 查询发现新产品盲区、SQL 策略打标后微调,并在部署后新增数据上对比前后准确率。
Amazon Bedrock 提供零埋点的成本归因能力,把每次推理调用追溯到发起调用的 IAM 主体,并将身份与组织标签写入 CUR 2.0 和 Cost Explorer。
llama.cpp 与 ggml 发布 v1.0.0,并明确此后公共 C API 的破坏性变更将以主版本号提升来体现。项目方称 llama.cpp 目前支持超过 150 种模型架构以及所有主流投机解码方法,并已通过 Docker、Homebrew、conda-forge、MacPorts、Winget、XCFramework 等渠道分发。
Dyania Health 的临床推理引擎 Synapsis AI 在 NVIDIA 加速计算上运行,可跨患者数十年病历中的自由文本笔记、报告和化验结果串联线索,输出可溯源到原始记录的临床信号。
ElevenLabs 本周发布实验性应用 ElevenAI,把会议记录、听写和智能体集成合为一体,目前处于预览阶段,需申请早期访问。该应用支持跨会议查询数据、在对话中提供实时协助,并可通过 ElevenAgent 执行写邮件草稿等后续动作;听写功能支持 90 多种语言,并能识别行业术语。
美国联邦航空管理局(FAA)将 AI 建议工具的使用范围扩展至全美空域,用于管理空中交通拥堵。航空公司对该工具表示赞赏,但空中交通管制员工会并未参与其中。
Amazon 宣布 SGLang-Neuron 通过 AWS Deep Learning Container 公开可用,由 RadixArk 与 Annapurna Labs 合作发布,可在 Trainium 上用现有 SGLang 接口服务模型并生成 RL rollout。
Ars 将于 11 月 17 日下午 1 点(美国东部时间)举办直播讨论,聚焦无人机袭击数据中心对云端现代生活的影响。
Amazon Bedrock 的缓存时长、服务层级、推理强度和 maxTokens 四项请求级设置会在不改模型和提示词的情况下影响推理成本。以 Claude Sonnet 5 和 Claude Opus 5 为例,5 分钟缓存写入按输入价 1.25 倍计费、1 小时写入 2 倍、缓存读取 0.1 倍,1 小时缓存需每小时至少 3 次请求才划算。
Natera 基于 Amazon Bedrock AgentCore 构建了实验室运维智能体系统 SWARM,将支持工单首次响应时间提升约 130 倍,自动化覆盖率达 96.2%。
Nebius 在第三季度财报电话会上公布 2027 年计划支出 400 亿美元,远超华尔街预期,资金主要依靠客户预付款和以客户合同为抵押的贷款。其最大客户之一微软位于新泽西州 Vineland 的数据中心已延期数月,合同价值最高 194 亿美元,目前仅略超一半容量计划在年底前交付,其余推迟到 2027 年第二季度。
AWS 发布下一代 Amazon Bedrock AgentCore runtime,每个会话仍运行在独立的 Firecracker MicroVM 中,会话启动最高快 15 倍、算力规模扩至 4 倍、运行效率提升最高 68%。
AWS 展示了一套基于 Amazon Bedrock Application Inference Profiles 与 LiteLLM 的自助式 LLM 网关方案,将 Bedrock 封装为 OpenAI 兼容 API,开发者用单一 base URL 和专属 API key 即可接入 Claude Sonnet、Claude Haiku 等模型。
AWS 提出以“单任务成本”而非“单 token 价格”衡量 Amazon Bedrock 上的智能体开销,并给出缓存、路由、输出约束等降本手段。示例中列表价高 2 倍的 Model B 因 tokenizer 更省、输出更精简、单轮完成,单任务成本为 $0.00145,比 Model A 的 $0.0042 低 65%。文章还给出以人工基线、留出实验和五维记分卡衡量智能体 ROI 的方法。
AWS 给出无需自写代码的方案,按 IAM 主体追踪并限制 Amazon Bedrock 生成式 AI 支出:Bedrock 自动记录每次推理请求的 IAM 用户或角色身份,配合 principal tags 或会话标签区分共享角色下的具体用户。
AWS 提出 Agent Development Lifecycle(Agent DLC),用一个生命周期、两个循环和统一验收标准来判定智能体的每次变更是否可上线。
针对智能体代用户检索内部文档时的越权风险,该方案在 Amazon Bedrock AgentCore Gateway 工具层用请求拦截器从已验证 JWT 中注入 userContext,再由 Managed Knowledge Base 的 ACL awareness 按用户权限过滤文档。
AWS 发布基于 A2A 协议的多智能体参考架构,让 LangChain 企业编排器与 Strands Agents 构建的 SaaS 合规智能体跨 AWS 账户、跨组织边界协作,双方不依赖对方框架或 SDK 且不共享密钥。
Agent Toolkit for AWS 的 amazon-bedrock 技能新增知识库迁移指南,让编码智能体先做只读发现并给出逐行审阅的迁移计划,获批后并行创建新知识库与数据源,或生成 IaC 模板。
ElevenLabs 发布两款语音转文字模型 Scribe v3 和 Scribe v3 Live,前者面向预录音频,后者面向低延迟实时应用,均已通过 ElevenAPI 和 ElevenAgents 平台开放。
《战锤 40,000:战争黎明 IV》将于 12 月 3 日登陆 Steam 并加入 GeForce NOW,含 70 多个战役任务及 Last Stand、Skirmish 和多人模式。
在 AI Engineer Code Summit 上,system one 模型成为主议题,这类非生成式模型返回结构化选择、分数或概率,通常比推理 LLM 更快更便宜。
Amazon SageMaker HyperPod 通过在 PyTorch DDP 训练循环中加入三项检查来检测静默数据损坏(SDC):非有限梯度检查捕获 NaN/Inf,环形重放审计比对另一节点重算的 loss 与梯度指纹,权重指纹比对发现优化器步骤与存储权重中的损坏。
开源引擎用反合一(anti-unification)在 e-graph 上计算两条形式化策略的最具体公共模式,把相同部分只展示一次、差异部分并列保留,从而过滤掉重排合取项、等价谓词等语法噪声。
OpenAI Codex 可通过 Amazon Bedrock 调用 GPT-5.6 Sol 等模型完成推理,同时沿用企业现有的 AWS IAM、区域和可观测性体系。
Java 团队可借助 Spring AI 与 Amazon Bedrock AgentCore 构建自主 AI 智能体,实现规划、工具调用与多轮对话记忆。文中给出两个示例系统:单一智能体旅行助手演示工具调用与记忆,多智能体智能文档处理(IDP)系统由 Lawyer、Mortgage、Insurance、Tax、General 五个专家智能体配合规则引擎与告警运行。
AWS 公布 10 月面向 AI 开发者的更新:Claude Haiku 5.5 与 OpenAI GPT-6.1 Terra 上线 Amazon Bedrock,后者在 Agents' Last Exam 上与 GPT-6 Astra 持平、完成任务快 3 倍以上,token 价格至少低 50%。
Amazon Bedrock AgentCore 发布 Web Search API,开发者用一次 API 调用即可搜索网页,无需先创建 Gateway 资源。
DXC Technology 在 Amazon Bedrock 上为 DXC OASIS 构建了多模型 AI 底座,统一接入 Anthropic Claude、Amazon Nova、Meta Llama 及开源权重模型。
AWS 提出一种事件驱动架构,用 CloudTrail、EventBridge 和 Lambda 自动把 MCP server 的工具与 schema 变更同步到 AWS Agent Registry。
AWS 将于 11 月 30 日至 12 月 4 日举办 re:Invent 2026,AI/ML 专场提供超过 140 场课程,覆盖 AI 芯片、模型训练与推理、智能体开发管理等 AWS AI 技术栈各层。
AWS 推出官方模拟器 aws-emulator,可在本地运行其多项服务的克隆用于测试,无需开通付费 API key。该项目用 Rust 编写,前三周产生 29,684 次提交,由大量智能体协作完成;Swaminathan Sivasubramanian 在 Werner Vogels 博客的客座文章中介绍了它的由来。
英国 AI 芯片初创公司 Fractile 完成 7.2 亿美元 C 轮融资,由英国主权 AI 基金等支持,Thrive Capital、Founders Fund、Lightspeed Venture Partners 和 Redpoint 领投,英国政府称估值超过 50 亿英镑。
CoreWeave 在第三季度财报中表示,正越来越多要求客户预付费用、以具体合同为抵押借款,并签署价格更高的短期合约,以替代无担保债务市场融资。公司当季营收 36.6 亿美元、同比增长 168%,但净亏损 7.09 亿美元、季度利息支出 8.46 亿美元,未交付订单达 1325 亿美元;预计未来三个月获得约 90 亿美元客户预付款和押金。