使用莱迪思FPGA加速低功耗AI应用的创新

作者：莱迪思



ABI公司的研究表明，截至2024年，具备设备端AI推理能力的设备比例预计将达到60%。印证了过去几年里AI的快速创新，这就要求在从云端向网络边缘转变的过程中，工程师需要开发更加灵活的设计模型。这一趋势的驱动力包括对超低延迟、安全性能的需求以及带宽限制和隐私保护等。

莱迪思FPGA和软件解决方案能够帮助设计人员使用现有的芯片加速实现面向未来的模型。本文将探索莱迪思FPGA和软件解决方案在计算机视觉和网络边缘AI设计中的一些应用示例。

为何FPGA是网络边缘计算和AI应用的最佳选择

FPGA本身具有灵活性和适应性，是网络边缘计算和AI应用的理想之选。

FPGA是一种并行计算引擎，能够以较低的时钟频率运行，因此功耗较低。此外整个架构还拥有灵活的资源，包括DSP、存储器、分散且互连的可编程逻辑单元，与那些AI专用的新型ASIC有诸多相似之处。然而，与ASIC和其他处理器不同的是，FPGA的灵活性能够持续优化系统内现有的用例，并且还能引入全新的用例，而无需使用新的硬件。

当莱迪思将FPGA与ASIC的设计周期进行比较时，可以看到系统设计人员可以使用FPGA进行多次迭代，快速引入新应用并推向市场。而使用ASIC的系统设计人员必须等待下次迭代才能达到相同的性能水平，这不仅会推迟上市时间，并且在系统需要适应能力时整体效率更低。

在今年的嵌入式视觉峰会上，莱迪思展示了一个基于CertusPro-NX器件的演示，该演示可以并行运行多个AI引擎和并发线程，降低了系统的整体延迟，并在完整的系统实施中可以实现更高的FPS。



帮助系统设计人员加速开发AI应用

在演讲的后半部分，莱迪思简要介绍了其如何利用其各种软件解决方案（包括莱迪思sensAI 解决方案集合）帮助系统设计人员（通常是软件开发人员，而非FPGA专家）进行开发。莱迪思sensAI包括了一系列工具、硬件、加速IP、软件工具、参考设计和演示、定制设计服务、以及为特定终端市场的AI应用构建的端到端解决方案。

sensAI中包括了莱迪思的sensAI Studio设计软件，系统设计人员可以在数小时内完成用例验证，无需花费几天或几周。他们可以使用sensAI Studio导入软件模型库中已有的模型或者他们自己的模型，然后进行迁移学习，评估模型的训练情况，采集和标记数据，配置和测试模型，然后为开发板上特定的器件进行编译。

在最后的问答部分谈到了莱迪思的一位农业客户如何使用sensAI Studio构建了一个检测田间浆果的AI系统。这个例子表明，对于那些希望构建各类AI应用，但又缺乏相关经验的系统设计人员，sensAI Studio这样的工具真的十分重要。



实现下一代智能PC体验

如今PC用户对感知力更强的智能设备越来越感兴趣，同时他们还需要强大的安全性来保护隐私。此外，他们还想要体验更加出色的协作功能，例如优秀的电话会议音频和视频体验。笔记本电脑的系统设计人员在为市场引入不同形态的产品时面临着各种挑战，这也带来了系统方面的挑战；如何将所有这些数据从摄像头传输到系统的其他部分？

莱迪思基于AI的解决方案可以帮助系统设计人员解决这方面的问题，帮助他们开发全新的功能，包括存在检测、旁观者检测和视频通话的人脸取景。莱迪思的解决方案还能实现注意力跟踪功能，用户在使用电脑时注意力离开屏幕的时间达到45%，可获得高达28%的额外电池使用时长。

想要详细了解我们的软件工具如何通过低功耗FPGA实现网络边缘AI/ML功能，请下载我们的白皮书。您也可以通过sales@latticesemi.com sales@latticesemi.com 与我们联系，询问有关我们的工具和FPGA的任何问题。