- AI
- Industries
- Edge Computing
- Clea
为宽温工业网关选择 Edge AI 硬件:为什么每瓦 TOPS 很重要
工业 Edge AI 支持制造和楼宇管理等行业的实时分析。低功耗处理器提供的 AI 性能有限,但设计人员必须平衡功耗预算、温度范围和散热限制。以每瓦 TOPS 作为衡量指标,有助于工程师按能效比较各平台,并选择同时满足性能和环境要求的解决方案。

Edge 计算已在工业和楼宇自动化中占据核心地位,工业网关越来越多地承担监测过程状态、检测工作流异常和优化现场设备功耗等任务。这些能力得益于边缘设备日益增长的智能,而人工智能(AI)平台的引入则为其提供了便利,使其能够直接在设备上实时执行专用工作负载,而不是在远程云服务器上执行。
Edge AI 工作负载的范围很广,从在集成的微型神经网络处理单元(microNPU)上执行的简单分类任务,到质量检测系统中用于传送带上产品分类的复杂视觉管线。在后一种场景中,边缘设备需要专用的 AI 硬件加速器,以最低延迟处理来自多个传感器或摄像头的数据。
为描述、衡量和比较 AI 性能,每秒万亿次运算(TOPS)已成为广泛使用的指标,但仅凭 TOPS 规格不足以评估 AI 硬件是否适用于工业边缘应用。在选择合适的边缘设备时,用户必须在 AI 性能与功耗、散热管理以及 −20°C 至 +70°C 环境下的可靠性之间取得平衡。
使用 TOPS/W 对 AI 性能进行归一化
在为边缘应用选择 AI 硬件时,重要的是考虑实际的散热条件以及由此产生的功耗限制,会如何使可用计算性能与峰值性能相比有所不同。因此,每瓦 TOPS(TOPS/W)已成为对 Edge AI 平台更有意义的比较指标。
通过将可用的 AI 计算性能与功耗直接关联,TOPS/W 使不同 AI 硬件方案之间的比较更为合理。对于工业网关,可以区分出三种典型的 AI 硬件解决方案,如表 1 所示。
表 1:用于工业网关的不同 Edge AI 硬件解决方案的比较。
| 硬件类型 | 带 microNPU 的 SoC(Arm Ethos NPU) | GPU 模块(NVIDIA Jetson Orin) | 专用硬件加速器(Hailo-8) |
|---|---|---|---|
| 典型功耗 | 约 1 至 2 W | 约 5 至 15 W | 约 2.5 W |
| AI 能效 | 约 0.5 TOPS/W | 约 2.7 至 7.5 TOPS/W | >10 TOPS/W |
| 理想应用领域 | 节能的常开型边缘设备、存在与状态检测、数据预处理 | 自主移动机器人、过程控制优化、多摄像头系统 | 预测性维护中的多传感器融合、异常检测、物体计数 |
| 优势 | 较低的散热要求,可实现无风扇设计 | 可在高利用率下高效处理复杂工作负载 | 领先的 TOPS/W 能效;视工作负载而定,可采用被动散热 |
| 劣势 | 处理实时视觉等复杂工作负载时性能有限 | 通常需要主动散热,增加了系统复杂度;价格相对较高 | 需要主机处理器,而主机处理器会显著影响系统级能效;价格相对较高 |
对于许多资源受限的工业网关应用,集成 microNPU 的片上系统(SoC)是一种均衡的折中方案,可在极低的功耗下提供足够的 AI 性能,大幅简化散热管理。例如,NXP i.MX 93 SoC 已演示了直接在其集成的 microNPU 上运行的高能效 Edge AI 姿态估计。在这里,模型以超低延迟检测人体姿态或潜在危险情况,以提高工业工人的安全性。microNPU 在整个系统中极低的计算、散热管理和功耗需求,使连续运行成为可能。考虑 TOPS/W 而非峰值 TOPS 性能,使用户能够认识到这一能力,而不会被性能更强的硬件所隐含的散热管理要求所误导。
适用于低维护 AI 应用的边缘网关
为了在 −20°C 至 +70°C 的环境中支持可靠的 Edge AI 功能,用户需要一款能够连接本地传感和控制基础设施的稳健工业网关。基于 SECO 的 SOM-SMARC-MX93 Computer-on-Module(COM),Modular Link MX93 是一款尺寸为 140 x 96 x 36 mm 的无风扇 DIN 导轨安装式工业 PC。
其核心是前述的 NXP i.MX 93 SoC,具有两个 Arm Cortex-A55 应用内核、一个 Arm Cortex-M33 实时内核,以及可为 Edge AI 工作负载提供最高 0.5 TOPS 的 Arm Ethos-U65 microNPU。如图 1 所示,该平台支持最高 2 GB LPDDR4 内存、双千兆以太网,以及包括双 USB 2.0、数字 I/O 和串行接口在内的多个高速接口。
见图 1:SECO Modular Link MX93 工业网关可为工业和楼宇自动化应用提供充足的 AI 性能。
对于工业集成,灵活的 I/O 选项尤为重要:可通过软件配置的 UART RJ12 连接器支持 RS-232、RS-422 或 RS-485,使该平台非常适合涉及既有安装和传统设备的改造场景。模块化设计还采用可堆叠的子板系统,允许扩展以适应特定应用的连接。
在前面提到的安全场景中,Modular Link MX93 会通过其高速接口直接连接到工业摄像头或视觉传感器。视频流在 NXP i.MX 93 SoC 上进行预处理,而 AI 推理本身则在集成的 Arm Ethos-U65 microNPU 上运行。所得数据在本地进行评估,以检测不安全的姿态或动作,使系统能够触发警告或将事件转发给更高层的控制系统,而无需将原始视频数据流式传输到云端。
除强大的硬件构造外,Modular Link MX93 还配有 Clea,这是 SECO 全面的软件生态系统,支持设备管理、更新以及分布式 Edge AI 部署的安全运行。基于 Yocto 的 Clea OS 简化了在 Modular Link MX93 以及大多数 SECO 边缘产品上的应用部署。通过以这种方式完善软硬件生态系统,SECO 帮助工业网关用户在整个部署生命周期内充分获得 Edge AI 的优势。
为工业应用选择 Edge AI 硬件
随着市场需求推动 Edge AI 硬件选项的数量不断增加,为工业或楼宇自动化部署选择合适的解决方案仍是一项具有挑战性的任务。不过,结构化的方法有助于在一开始就避免糟糕的设计决策,因此用户在选择 Edge AI 平台时应遵循三个关键步骤:
- 使计算性能与实际应用场景相匹配;并非每个应用都需要最高的 TOPS。
- 将 TOPS/W 作为选型标准,为简单的 AI 任务选择高能效平台,并将更高性能的加速器留给更复杂的应用。
- 考虑系统级因素,包括供电、散热管理、环境条件、I/O 要求和可用的软件生态系统,因为这些对长期运行至关重要。
对于许多在有限功耗预算下运行的应用,SECO Modular Link MX93 基于 microNPU 的 AI 处理提供了均衡的解决方案。0.5 TOPS 的 AI 性能仅占整个系统约 1 W 的功耗,散热管理得以简化,可实现稳健、低维护的 Edge AI 网关,用于工业自动化、机器人、楼宇管理技术等领域。
如需进一步了解面向工业应用的 Edge AI,请立即联系 SECO 专家,充分获得他们在 Edge 计算方面的专业优势。

本文推荐
SOM-SMARC-MX93
搭载NXP i.MX 93应用处理器的SMARC® Rel. 2.1.1 Computer on Module(CoM)。
- SMARC®
- NXP i.MX 933/935
本文还提到: Modular Link MX93
订阅 SECO 新闻通讯。
在 seco.com 上用您的电子邮件地址订阅。




