AWS Machine Learning Blog· Pierre Lienhart·· 5 時間前
Deepgram、AWS Trainium で大規模音声 AI をどう最適化したか
How Deepgram optimized voice AI at scale with AWS Trainium
AI による要約
Deepgram は AWS と協力し、音声認識モデル Nova-3 を Trainium2 に移植した。コールセンター分析や医療文字起こしなどオフラインのバッチ処理が対象。最終構成では Amazon EC2 trn2.3xlarge インスタンス 1 台でモデルを 8 レプリカ動かし、1 ドル当たりの処理音声量は従来の計算基盤より 11%〜70% 多い。
入選の記録
基準 60公式・一次情報1 回目 282 回目 31
入選せず二回の合計 59 < 基準の 2 倍 120
- 情報源の区分
- 公式・一次情報、この区分の基準は 60 点
- 予備審査
- 通過：Deepgram语音AI模型在Trainium上的推理优化实践
採点はモデルが同じ基準で独立に二回行い、満点は 100。二回の合計が基準の 2 倍に届いたものだけが入選します。基準は情報源の区分ごとに決めています。
情報源：AWS Machine Learning Blog · aws.amazon.com