AWS Machine Learning Blog· Pierre Lienhart·· 2 小时前AI 评分19
Deepgram 如何借助 AWS Trainium2 大规模优化语音 AI 推理
How Deepgram optimized voice AI at scale with AWS Trainium
AI 导读
Deepgram 与 AWS 团队合作,将 Nova-3 语音转文字模型迁移到 AWS Trainium2,以提升离线批量推理效率。该方案在单台 Amazon EC2 trn2.3xlarge 实例上运行八个模型副本,使 Deepgram 离线批量工作负载的音频处理成本相比此前所用算力降低 11%–70%。
来源:AWS Machine Learning Blog · aws.amazon.com