AssemblyAI用EC2 Spot降本70%的推理架构

AWS发文介绍AssemblyAI在AWS上运行语音转文字推理的低成本架构：用Amazon ECS、Amazon EC2 Spot Instances（GPU）和Amazon SQS组合调度任务。文中称，AssemblyAI在生产环境用Spot实例跑GPU推理，相比按需价格节省了70%的推理计算成本。 针对Spot实例被回收，架构在收到2分钟中断通知后走重试流程；重试次数耗尽的任务会被送入死信SQS队列供排查。

AI 根据报道生成 · 38 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。