跳到正文

#部署/工程

今日 0 条

10月21日

星期三
  1. 在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 实现多语言推理

    GPT-OSS-20B 在 50 例多语言推理测试中仅 22% 用目标语言推理(英语 100%、法语 0%、德语 10%、西班牙语 0%、意大利语 0%),团队在 Amazon SageMaker HyperPod 上用 LoRA 结合 SFT 与 GRPO 微调以纠正其英语偏好。结论是 SFT 承担主要工作,GRPO 在存在提升空间时进一步优化,技术选择需匹配能力差距。

10月20日

星期二
  1. 企业 AI 的新经济学:从 token 成本转向有效产出成本

    企业 AI 正从零散的聊天机器人实验变成业务基础层,衡量指标也从 token 或 GPU 小时价格转向"每个有用产出的有效成本"。企业可选自建栈、按需消费或集成私有 AI 平台三条路径,HPE Private Cloud AI 将调度、模型选择、GPU 分区和缓存管理作为运营杠杆,其委托的独立测试显示高利用率多负载平台的每 token 有效成本低于反复租用同等容量。

  2. 探访三星平泽大型半导体园区:AI 热潮下重启第五座晶圆厂建设

    三星在韩国平泽建设大型半导体制造园区,目前三座晶圆厂全天候运转、第四座即将投产,第五座在2024年内存需求下滑时停工后因 AI 热潮重启。三星预计内存芯片需求将持续激增到2028年,并试图借此夺回被 SK Hynix 抢占的高带宽内存市场领先地位。园区面积约相当于纽约中央公园,现场工人日薪为14万韩元(97美元)。

10月19日

星期一

10月18日

星期日
  1. NVIDIA RTX Spark 笔记本上市,起售价 2399 美元

    NVIDIA RTX Spark 笔记本已上市,搭载 Blackwell RTX GPU 与 Grace CPU,最高 128GB 统一内存、最高 1 petaflop AI 算力,起售价 2399 美元。华硕、戴尔、惠普、联想、Microsoft 和微星的首批机型已推出,后续还有更多系统。NVIDIA 在北京、柏林、首尔、旧金山、台北、伊斯坦布尔六地举办零售发布活动,黄仁勋在柏林现场现身。

10月17日

星期六

10月16日

星期五