Achronix推出基于FPGA的加速自动语音识别解决方案

2023年11月29日 19:30    发布者:eechina
提供超低延迟和极低错误率(WER)的实时流式语音转文本解决方案,可同时运行超过1000个并发语音流

Achronix半导体公司日前宣布:正式推出Achronix与Myrtle.ai合作的最新创新——基于Speedster7t FPGA的自动语音识别(ASR)加速方案。这一变革性的解决方案,实现了高精度和快速响应,可将超过1000个并发的实时语音流转换为文本,同时性能比竞争方案高20倍。Achronix于2023年11月12日至17日在丹佛举办的“2023年超级计算大会(SC23)”上演示了该方案。



该解决方案由搭载Speedster7t FPGA器件的VectorPath加速卡提供支持,运行Myrtle.ai提供的基于Achronix FPGA的ASR IP,从而提供业界领先的、实时的、超低延迟的语音转文本功能。服务器中的单张加速卡可替代多达20台仅基于CPU的服务器或15张GPU加速卡。当不需要支持1000个并发流时,可以轻松自定义 AI 模型,以权衡准确性与性能。其出色的单词错误率和54毫秒的端到端99%延迟(包括了预处理和后处理以及与CPU做数据交互的时间)将颠覆ASR领域。此外,该解决方案可以在标准的机器学习(ML)框架中使用垂直应用特定的或自定义的数据集进行定制或重新训练。

“基于Achronix Speedster7t FPGA器件的Myrtle.ai加速ASR解决方案的关键优势之一是能够降低运营成本和资本支出,同时保持其显著的顶级性能,”Achronix人工智能产品营销总监Bill Jenkins指出。“该解决方案基于Speedster7t FPGA,与传统的基于CPU/ GPU的服务器解决方案相比,无论是在企业还是在云端,都可以将成本降低90%。这种能力意味着企业可以显著降本增效,同时提供卓越的实时语音转文本功能。”

Myrtle.ai一流的ASR加速器IP运行在Speedster7t FPGA器件和软件栈上,事实证明了该FPGA器件能够实现并加速ASR实现解决方案,且易于使用。与基于GPU的竞争解决方案相比,基于Speedster7t器件的解决方案将性价比提升了16倍,凭借该优势,该解决方案或将重新定义行业级语音数据处理方式。

“Achronix Speedster7t FPGA器件的架构以及其二维片上网络(2D NoC)和机器学习处理器(MLP)阵列,为我们提供了创建ASR产品所需的构建模块,该产品比目前市场上的任何产品都更优秀,”Myrtle.ai首席执行官说道。Myrtle.ai公司以其在优化实时性应用的低延迟 ML 推理方面的专业知识而闻名于业界。 “这些FPGA器件中特有的极低延迟使其成为实时工作负载的理想选择。我们很高兴能够帮助用户实现以比以往更快的速度和更低的成本来扩展其ASR服务的能力。”

Achronix与Myrtle.ai共同推出的加速ASR解决方案将给那些依赖于快速且准确的语音转文本功能的行业带来革命性的影响。其特性包括与主流深度学习框架(如PyTorch等)的兼容性,以及用于多语言或专业的可重训练性。该解决方案目前已在早期合作客户中部署,现在可以在一般市场上使用。大家可以使用您自己的数据集对该解决方案进行评估,或与我们的团队联系安排详细的讨论和演示。

联系Achronix并在我们的网站上查看ASR解决方案。中国国内客户和合作伙伴可以发邮件到:Dawson.Guo@achronix.com