跳到正文

#部署/工程

今日 0 条

10月29日

星期四

10月28日

星期三
  1. Exowatt 用 SageMaker 无服务器模型定制,精度超越前沿模型且成本低至 1/49

    Exowatt 借助 Amazon SageMaker AI 无服务器模型定制,为边缘和云端两个部署目标微调出任务专用模型,精度超过前沿模型,成本最高降低 49 倍。其边缘告警分诊基于 Qwen3-1.7B,云端能源市场分析基于 Qwen3-14B,后者通过 Amazon Bedrock Custom Model Import 托管。该流程将原始运营数据到已评估部署产物的路径从数月缩短到数天。

  2. Property Finder 如何修复评估偏差,在 Amazon Bedrock 上选出更优模型

    Property Finder 发现其评估标签中 96.8% 直接来自现有视觉语言模型的预测而非人工核验,导致任何替代模型在对比中结构性吃亏。团队重新人工标注 356 张 UAE 图像并改用多标签分类,结合 v0 到 v27 的提示词迭代优化,在 Amazon Bedrock 上选出新模型,准确率更高且成本降低 86%。

10月27日

星期二
  1. Nvidia 投资印度创企 Simplismart,帮企业用更少 GPU 跑 AI 模型

    Nvidia 参与印度创企 Simplismart 的 1400 万美元 B 轮融资,后者估值约 1 亿美元,其软件可帮企业更高效地运行 AI 模型、部分场景下减少 GPU 用量。Simplismart 称已帮 AI 视频平台 InVideo 将 GPU 服务成本降低 56%,客户还包括 HeyGen、Higgsfield 和 Ema。其年化收入运行率过去六个月增长 14 倍,超半数收入来自美国。

  2. 工业智能:制造业的下一个增长机会

    制造业的工业智能由积累的工艺知识、生产数据与业务理解构成,当前机会是让这些智能在决策现场可用,并与物理世界连接。Toyota Industries 打通碎片化喷漆车间数据后,分析周期从五天降至四小时以内,试点中相关喷漆缺陷减少约 25%。Rockwell Automation 新加坡工厂用维护 copilot 整合制造数据、设备手册与老员工经验,新员工掌握数百台设备排障的时间从九个月缩短到三个月。

10月25日

星期日

10月24日

星期六

10月23日

星期五
  1. EXL 谈如何设计可持续演进的 AI 服务框架

    EXL 提出企业 AI 的竞争优势正从模型能力转向围绕模型构建的服务框架(serving harness),即架构、内存管理、调度与推理优化的工程系统。其主张先按业务负载确定约束再选架构,并以 KV cache 随并发和上下文增长导致 GPU 显存不足为例,强调先测量再优化。框架还应便于吸收新模型与新硬件,使换模型成为评估与配置决策而非架构重建。

10月22日

星期四