AWS Machine Learning Blog· Pierre Lienhart·· 5 小时前
Deepgram 如何用 AWS Trainium 优化大规模语音 AI
How Deepgram optimized voice AI at scale with AWS Trainium
AI 导读
Deepgram 与 AWS 合作将 Nova-3 语音转文字模型移植到 Trainium2,用于联络中心分析、医疗转录等离线批处理场景。最终配置在单台 Amazon EC2 trn2.3xlarge 实例上运行 8 个模型副本,每美元处理的音频量比原有算力方案多 11%–70%。
入选记录
门槛 60官方一手第一次 28第二次 31
未入选两次之和 59 < 门槛的两倍 120
- 信源等级
- 官方一手,这一级的门槛是 60 分
- 预筛
- 通过:Deepgram语音AI模型在Trainium上的推理优化实践
评分由模型按同一份标准独立打两次,满分 100;两次之和达到门槛的两倍才入选。门槛按信源等级设定。
来源:AWS Machine Learning Blog · aws.amazon.com