NXP(恩智浦)iMX8M Plus 处理器介绍
一、i.MX8M Plus 应用处理器自带NPU,算力达2.3T
机器学习的本质是让计算机能够更有效率的模仿人类的行为,特别在图像分类、图像识别、语音识别等领域,机器学习能够在分秒之间,集中处理数以百万计的计算。i.MX8M Plus 将机器学习带到了边缘设备中,i.MX 8M Plus处理器提供2.3 TOPS算力(每秒兆级操作)的高性能NPU、主频高达1.8GHz(工业级1.6Ghz)的四核Arm® Cortex-A53子系统、主频可达800MHz 的基于Cortex-M7的独立实时子系统、用于进行语音和自然语言处理的高性能800 MHz音频DSP、双摄像头图像信号处理器(ISP)和用于丰富图形渲染的3D GPU。只是做到这样的计算性能并不困难,但NXP所实现的是带来了模型压缩的优化以及针对稀疏性的优化,稀疏指的是机器学习算法参数或者数据中有大量权重为0,进而能够避免在推理时支付这些模型系数的存储费用,计算效率将会大大增加。模型压缩同样也很重要,鉴于计算过程中存在大量的数据交换,如果足够压缩,那么对于系统内存的占用就会降到最低。另外同样牵涉到系统内存的一点是i.MX8M Plus 搭载DRAM 控制器能够进行每秒4G 处理,是NXP有史以来DRAM 速度之最。
二、i.MX8M Plus 集成了两个ISP
机器学习是基于图像数据的,数据的来源通常是一个系统中的摄像头模块,而摄像头模块需要一个图像处理单元,也就是ISP。在很多系统中,摄像头可能距离目标非常远,为了得到你需要的细节,其分辨率必须足够高,比如4K分辨率,也就是800万像素。处理如此高清的影像数据,就需要ISP的协助。可能对于低分辨率的视频,ISP并非必需,在很多系统中,用户可能并没有意识到,摄像模块是否集成ISP。但在高分辨率下,就需要ISP 被集成在处理器中。NXP i.MX8MPlus集成了两个ISP,两路摄像头输入。因而在大多数的应用场景下,将会获得更立体的图像,就像人的两只眼睛一样,可以感知图像的深度。另外一个应用是两路摄像头,其一作为广角或者鱼眼视角,另一路则聚焦某一场景的特写。除此之外,还有其它的应用需要用到这样的功能。
三、i.MX8M Plus支持高动态范围(HDR)
i.MX8MPlus还有一个重点是HDR,也就是高动态范围,你可能在很多手机上看到过这个词,但在嵌入式应用以及消费类产品甚至工业应用中HDR都非常重要。HDR 主要是融合多重曝光的图像,具体表现为拍摄亮度不同的两张图像,一张是长曝光,一张是短曝光,其中一张能够帮助获得更好的高光部分的细节,另一张则获得更好的低亮度区域的细节。甚至可以拍三张或者更多,来融合成为一张图像。这样高光和暗部的细节都可以保留,这在某些特定场景中非常重要,比如在家里,窗户边很亮,有的地方却很暗,有了HDR,所有的细节你都可以看清楚。
四、i.MX8M Plus支持扭曲矫正
在摄像头相关应用中,扭曲矫正是一个非常重要的功能。摄像头接收到的图像可能是扭曲的,类似观看鱼缸的场景。你可以看到很多的东西,但它们都是扭曲的。扭曲矫正,可以将图像恢复为人类、机器学习可以识别的正常形状,直线曲线区别分明,也没有倒置的现象,这就是扭曲矫正引擎所负责的。但引擎能做的不仅仅是这些,除了能够矫正这些意外的干扰,同时它也可以矫正由于摄像头问题导致的图像不清晰、变形等。引擎同样可以对像素进行处理,获得更好的图像质量。针对i.MX8MPlus的ISP 架构我们的设计保证了所有的处理都以流的形式进行,也就是说ISP直接从摄像头接收图像进行处理,将它们输出到系统内存。ISP几乎不需要从系统重新构建图像再进行处理输出,这样就可以带来非常低的延迟表现,以及非常高效的针对图像的处理表现。iSP针对图像增强,进行了非常多的处理,比如降噪处理,这在暗光环境中非常重要。在这样的环境下,很多像素都会被进行涂抹,但你不能对太多区域都进行涂抹,否则你的图像将会变得非常模糊。所以你必须使用ISP 来分辨,哪里是可以进行涂抹处理的,哪里则是需要清晰呈现的内容。其它的处理任务包括,检测图像传感器的坏点,确保正常工作,以及白平衡的调节,分辨出不同的光照环境,例如日光、灯光等等。还有提供信息,帮助自动曝光以及对焦,所有的这些都是由ISP来完成的。
五、i.MX8M Plus支持H.265视频编码
在许多应用中,摄像头接入系统,数据被送入机器学习算法或是直接被存储在网络中。不管图像被送入何处,它们还是需要被存储在某些地方,比如服务器或者是本地设备。你不可能直接保存原始文件,因为原始的文件实在是太大了,因此必须对数据进行编码,i.MX8M plus 的视频编码是非常高效的。我们支持h.265编码算法,比起业内广泛使用的h.264更加先进和高效。
六、iMX8M Plus支持工业应用ECC
i.MX8M Plus有一些针对工业应用的特色,其一就是ECC,也就是错误纠正代码。用来在用户无需感知的情况下,检测出内存的错误,甚至进行修复。这异常的重要,因为在某些应用中内存的错误会带来严重的后果,虽然不会导致硬件的永久损坏,但当读取内存的软件和程序时有可能会崩溃。为了避免这些情况的发生,你就需要ECC来进行检测和修复,这样软件的错误率,也就是我们常说的SER将会大大降低。i.MX8M Plus在缓存和片上RAM 中都带有ECC,而DRAM 总线还支持在线ECC,它不需要存储任何额外的位,就能够将ECC算法与主数据同时发送出去。
七、i.MX8M plus支持工业应用中TSN
TSN指的是时间敏感网络。在工业应用中你希望可以确保能够在对的时间点将数据发送出去,而通常以太网中任何人在任何时间都有可能正在发送数据。可能会造成拥堵,可能你需要晚一些再发一次,在工业应用中,这无疑是会带来问题的。而TSN 则能够很好的解决这样的困扰。i.MX8M Plus同样也支持一些工业级的外设,我们甚至集成了800MHz的Cortex-M7协处理器来协助组合。组合运行操作系统,M7内核同时可以进行一些实时性的控制,来确保低延迟。我们还有两路CANFD用于本地与系统或是与网络低延迟的通信。
i.MX8M Plus所提供的所有的这些特性和外设,能够助力工业及应用的设计为工业应用带来无限的可能。
序 硅天下 常备型号:
1 四核 MIMX8ML8CVNKZAB /NPU, ISP , VPU, HiFi 4, CAN-FD
2 二核 MIMX8ML3CVNKZAB /NPU, ISP , VPU, HiFi 4, CAN-FD
3 四核 MIMX8ML6CVNKZAB /ISP, VPU, CAN-FD
4 四核 MIMX8ML4CVNKZAB /CAN-FD