如何利用边缘AI处理器提升嵌入式AI性能

搜索最新SoC解决方案
关于汽车电子...物联网...安全...音频...视频

随着人工智能的快速发展，对于相对较低的需求，嵌入式AI解决方案已可实现。但对于需要能够处理高达4kp60的视频帧和图像分辨率而言，依赖于固定平台的传统解决方案已无能为力。本文介绍的将Kinara的加速器和NXP处理器结合在一起，来提供边缘AI性能，能够实现多路智能相机并行处理所需的完美高速性能。

www.eet-china.com/, Mar. 10, 2023 – 

随着人工智能(AI)在嵌入式计算中的到来，导致了潜在解决方案的激增，这些解决方案旨在提供高速流视频上执行神经网络推理所需的高性能。尽管许多参考需求(如ImageNet)的分辨率都相对较低，从而通过多种嵌入式AI解决方案均可实现，但零售、医疗、安全和工业控制领域的许多真实应用，则需要能够处理的视频帧和图像分辨率会高达4kp60，甚至更高。

可扩展性是至关重要的，但对于仅提供主机处理器和神经加速器固定组合的片上系统(SoC)平台来说，这并非总是任意可选。尽管通常在原型建模期间，也提供了一种评估不同形式神经网络性能的方法，但这种一体化的实现方案缺乏真实系统通常所需的粒度和可扩展性。在这种情况下，工业级AI应用受益于一种更平衡的架构，其中将多个异构处理器(如CPU、GPU)和加速器结合起来，在一个集成的管道中共同协作，不仅能对原始视频帧执行推理，而且还能利用预处理和后处理对整体结果或处理格式转换进行优化，从而能够处理多种类型的摄像头和传感器。

经典的部署场景在于智能相机和边缘AI设备。对于前者，需要将视觉处理和神经网络推理支持功能集成到主相机电路板中。相机可能还需要执行一些其他任务，例如计算房间中的人数，并且能够避免在被拍摄对象进出视野时对其进行两次重复计数。智能相机不仅必须能够识别人，而且还必须能够根据相机已经处理的数据重新识别人，从而不会重复计数。这就需要一个灵活的图像处理和推理管道，其中应用程序可以处理基本的对象识别以及复杂的基于推理的任务，如重新识别。

 Back