広温度範囲の産業用ゲートウェイ向けエッジAIハードウェアの選択: なぜTOPS per Wattが重要か

産業用エッジAIは、製造業や建物管理などの分野でリアルタイム分析をサポートします。低消費電力プロセッサは控えめなAI性能を提供しますが、設計者は電力予算、温度範囲、冷却制約をバランスさせる必要があります。TOPS per Wattを指標として使用することで、エンジニアはエネルギー効率によってプラットフォームを比較し、性能と環境要件の両方を満たすソリューションを選択することができます。

エッジコンピューティングは、産業および建物の自動化において中心的な役割を確保しており、産業用ゲートウェイはプロセス条件の監視、ワークフローの異常検出、現場機器の電力消費の最適化などのタスクをますます実行しています。これらの機能は、エッジデバイスの知能の向上によって可能になり、人工知能(AI)プラットフォームの導入により、リモートのクラウドサーバーではなく、デバイス上でリアルタイムに専用のワークロードを実行できるようになっています。

エッジAIワークロードの範囲は広く、統合されたマイクロニューラルプロセッシングユニット(microNPU)で実行される単純な分類タスクから、品質検査システムのコンベアベルト上での製品分類のための複雑なビジョンパイプラインまで及びます。後者のシナリオでは、エッジデバイスは、複数のセンサーやカメラからのデータを最小限の遅延で処理するために専用のAIハードウェアアクセラレータを必要とします。

AIパフォーマンスを説明、測定、比較するために、テラオペレーションズパーセカンド(TOPS)が広く使用される指標となっていますが、TOPSの仕様だけでは産業用エッジアプリケーションに適したAIハードウェアを評価するには不十分です。適切なエッジデバイスを選択する際には、AIパフォーマンスと電力消費、熱管理、−20°Cから+70°Cの環境での信頼性をバランスさせる必要があります。

TOPS/Wを使用したAIパフォーマンスの正規化

エッジアプリケーション用のAIハードウェアを選択する際には、実際の熱条件とそれに伴う電力制約がピークパフォーマンスと比較して利用可能なコンピューティングパフォーマンスにどのように影響するかを考慮することが重要です。このため、TOPSパーワット(TOPS/W)がエッジAIプラットフォームのより意味のある比較指標として浮上しています。

利用可能なAIコンピューティングパフォーマンスを電力消費に直接関連付けることにより、TOPS/Wは異なるAIハードウェアアプローチ間のより合理的な比較を可能にします。産業用ゲートウェイでは、表1に示すように、3つの典型的なAIハードウェアソリューションを区別できます。

表1: 産業用ゲートウェイ向けの異なるエッジAIハードウェアソリューションの比較。

ハードウェアタイプmicroNPU(Arm Ethos NPU)を搭載したSoC GPUモジュール(NVIDIA Jetson Orin)専用ハードウェアアクセラレータ(Hailo-8)
典型的な電力消費~1から2 W~5から15 W~2.5 W
AI効率~0.5 TOPS/W~2.7から7.5 TOPS/W>10 TOPS/W
理想的なアプリケーション領域エネルギー効率の高い常時オンのエッジデバイス、存在および状態検出、データ前処理自律移動ロボット、プロセス制御最適化、マルチカメラシステム予知保全におけるマルチセンサーフュージョン、異常検出、物体カウント
利点低い熱要件によりファンレス設計が可能複雑なワークロードを高い利用率で効率的に処理可能トップクラスのTOPS/W効率; ワークロードに応じてパッシブ冷却が可能
欠点リアルタイムビジョンのような複雑なワークロードに対するパフォーマンスが制限される通常、アクティブ冷却が必要でシステムの複雑さが増す; 比較的高価ホストプロセッサが必要で、システムレベルの効率に強く影響する; 比較的高価

多くのリソース制約のある産業用ゲートウェイアプリケーションでは、統合されたmicroNPUを備えたシステムオンチップ(SoC)が、最小限の電力消費で十分なAIパフォーマンスを提供し、熱管理を大幅に簡素化するバランスの取れた妥協点を表しています。たとえば、NXP i.MX 93 SoCは、統合されたmicroNPU上で直接実行されるエネルギー効率の高いエッジAIポーズ推定を実証しています。ここでは、モデルが超低遅延で身体の姿勢や潜在的に危険な状況を検出し、産業労働者の安全性を向上させます。連続運転は、完全なシステムの一部としてのmicroNPUの最小限の計算、熱管理、および電力要求によって可能になります。ピークTOPSパフォーマンスではなくTOPS/Wを考慮することで、ユーザーはこの能力を認識し、より強力なハードウェアの隠れた熱管理要件に惑わされることなく認識できます。

低メンテナンスAIアプリケーション向けのエッジゲートウェイ

−20°Cから+70°Cの環境で信頼性の高いエッジAI機能をサポートするために、ユーザーはローカルのセンシングおよび制御インフラストラクチャへの接続を可能にする堅牢な産業用ゲートウェイを必要とします。SECOのSOM-SMARC-MX93コンピュータオンモジュール(COM)に基づいて、Modular Link MX93は、140 x 96 x 36 mmのファンレスDINレール取り付け型産業用PCを提供します。

その中心には、前述のNXP i.MX 93 SoCがあり、2つのArm Cortex-A55アプリケーションコア、1つのArm Cortex-M33リアルタイムコア、およびエッジAIワークロード向けに最大0.5 TOPSを提供するArm Ethos-U65 microNPUを備えています。図1に示すように、このプラットフォームは最大2 GBのLPDDR4メモリ、デュアルギガビットイーサネット、およびデュアルUSB 2.0、デジタルI/O、シリアルインターフェースを含む複数の高速インターフェースをサポートしています。

図1を参照: SECO Modular Link MX93産業用ゲートウェイは、産業および建物の自動化アプリケーションに十分なAIパフォーマンスを提供します。

産業統合のために、柔軟なI/Oオプションは特に重要です。ソフトウェアで構成可能なUART RJ12コネクタはRS-232、RS-422、またはRS-485をサポートし、既存のインストールやレガシー機器を含むレトロフィットシナリオに適しています。モジュラー設計には、アプリケーション固有の接続を収容するための拡張を可能にするスタッカブルドーターシステムも備えています。

前述の安全シナリオでは、Modular Link MX93はその高速インターフェースを介して産業用カメラまたはビジョンセンサーに直接接続します。ビデオストリームはNXP i.MX 93 SoC上で前処理され、AI推論自体は統合されたArm Ethos-U65 microNPU上で実行されます。結果として得られるデータはローカルで評価され、安全でない姿勢や動きを検出し、システムが警告を発したり、イベントを上位の制御システムに転送したりすることができ、生のビデオデータをクラウドにストリーミングする必要がありません。

強力なハードウェア構築に加えて、Modular Link MX93は、デバイス管理、更新、および分散エッジAI展開の安全な運用をサポートするSECOの包括的なソフトウェアエコシステムであるCleaによって補完されています。YoctoベースのClea OSは、Modular Link MX93およびSECOエッジ製品の大部分でのアプリケーション展開を簡素化します。このようにしてハードウェアとソフトウェアのエコシステムを完成させることで、SECOは産業用ゲートウェイユーザーが展開ライフサイクルの期間中にエッジAIの完全な利点を享受できるようにサポートします。

産業用アプリケーション向けのエッジAIハードウェアの選択

市場の需要に伴いエッジAIハードウェアオプションの数が増加する中、産業または建物の自動化展開に適したソリューションを選択することは依然として困難な課題です。それでも、構造化されたアプローチは、最初から不適切な設計決定を避けるのに役立つため、ユーザーはエッジAIプラットフォームを選択する際に3つの重要なステップに従うべきです:

  1. コンピューティングパフォーマンスを実際のユースケースに合わせる; すべてのアプリケーションが最大TOPSを必要とするわけではありません。
  2. TOPS/Wを選択基準として使用し、単純なAIタスクにエネルギー効率の高いプラットフォームを特定し、より複雑なアプリケーションには高性能アクセラレータを予約します。
  3. 電源供給、熱管理、環境条件、I/O要件、および利用可能なソフトウェアエコシステムなどのシステムレベルの要因を考慮します。これらは長期的な運用にとって重要です。

限られた電力予算で動作する多くのアプリケーションにとって、SECO Modular Link MX93のmicroNPUベースのAI処理は、バランスの取れたソリューションを提供します。AIパフォーマンスの0.5 TOPSがシステム全体の電力消費に約1 Wを寄与し、熱管理が簡素化され、産業自動化、ロボティクス、建物管理技術などで使用される堅牢で低メンテナンスのエッジAIゲートウェイを可能にします。

産業用アプリケーション向けのエッジAIについて詳しく知りたい方は、SECOの専門家にお問い合わせください。彼らのエッジコンピューティングの専門知識を活用して、完全な利点を得ることができます。