跳到正文

#部署/工程

今日 0 条

11月15日

星期日

11月14日

星期六
  1. 用 Amazon SageMaker HyperPod Data Capture 构建模型改进飞轮

    Amazon SageMaker HyperPod 新增 Data Capture 能力,可在端点、负载均衡器和模型 Pod 三个独立层级把线上推理输入输出记录到 Amazon S3,对模型可用性零影响。文章以 Qwen2.5-3B-Instruct 家电客服路由模型为例,用 Athena 查询发现新产品盲区、SQL 策略打标后微调,并在部署后新增数据上对比前后准确率。

11月13日

星期五
  1. 影响 Amazon Bedrock 成本的四个推理选项

    Amazon Bedrock 的缓存时长、服务层级、推理强度和 maxTokens 四项请求级设置会在不改模型和提示词的情况下影响推理成本。以 Claude Sonnet 5 和 Claude Opus 5 为例,5 分钟缓存写入按输入价 1.25 倍计费、1 小时写入 2 倍、缓存读取 0.1 倍,1 小时缓存需每小时至少 3 次请求才划算。

  2. Nebius 计划 2027 年支出 400 亿美元,微软数据中心项目延期

    Nebius 在第三季度财报电话会上公布 2027 年计划支出 400 亿美元,远超华尔街预期,资金主要依靠客户预付款和以客户合同为抵押的贷款。其最大客户之一微软位于新泽西州 Vineland 的数据中心已延期数月,合同价值最高 194 亿美元,目前仅略超一半容量计划在年底前交付,其余推迟到 2027 年第二季度。

  3. 在 Amazon Bedrock 上优化单任务成本并证明智能体 ROI

    AWS 提出以“单任务成本”而非“单 token 价格”衡量 Amazon Bedrock 上的智能体开销,并给出缓存、路由、输出约束等降本手段。示例中列表价高 2 倍的 Model B 因 tokenizer 更省、输出更精简、单轮完成,单任务成本为 $0.00145,比 Model A 的 $0.0042 低 65%。文章还给出以人工基线、留出实验和五维记分卡衡量智能体 ROI 的方法。

11月12日

星期四
  1. 用 Amazon Bedrock 和 Spring AI 构建自主 AI 智能体

    Java 团队可借助 Spring AI 与 Amazon Bedrock AgentCore 构建自主 AI 智能体,实现规划、工具调用与多轮对话记忆。文中给出两个示例系统:单一智能体旅行助手演示工具调用与记忆,多智能体智能文档处理(IDP)系统由 Lawyer、Mortgage、Insurance、Tax、General 五个专家智能体配合规则引擎与告警运行。

  2. CoreWeave 转向客户预付款与短期合约,为 AI 扩张融资

    CoreWeave 在第三季度财报中表示,正越来越多要求客户预付费用、以具体合同为抵押借款,并签署价格更高的短期合约,以替代无担保债务市场融资。公司当季营收 36.6 亿美元、同比增长 168%,但净亏损 7.09 亿美元、季度利息支出 8.46 亿美元,未交付订单达 1325 亿美元;预计未来三个月获得约 90 亿美元客户预付款和押金。