人工知能はクラウドコンピューティングと関連付けられることが多いですが、ますます多くのAIワークロードがローカルデバイスに移行しています。これはエッジAIとして知られる現象です。この記事では、エッジAIの利点とClea統合がその実装をどのように可能にするかを探ります
人工知能はクラウドコンピューティングと関連付けられることが多いですが、ますます多くのAIワークロードがローカルデバイスに移行しています。これはエッジAIと呼ばれる現象です。低コストのAI対応組み込みプロセッサと軽量AIモデルの出現により、工場の機械、医療機器、その他多くのエッジアプリケーションでAIが稼働しているのを見つけることができます。
エッジAIの実装の利点は大きいです。最大の利点は遅延の削減です。遠く離れたデータセンターからの応答を待ち、非決定的なネットワーク通信時間を発生させる代わりに、データをリアルタイムで処理できます。機密データをローカルデバイスに保持することでセキュリティも向上し、AIによる意思決定への干渉の機会を劇的に減少させます。これらの要因により、AIは信頼性の高いリアルタイム操作を可能にします。これは、自律走行車やロボットのような時間が重要なユースケースにおいて、クラウドベースのAIパラダイムでは実現が難しいかもしれない重要な機能です。
エッジAIはまた、クラウドへのデータ転送を常に行う必要がないため、エネルギー消費を削減します。これは、限られた電力で動作するエッジデバイスにとって重要な機能です。企業はデータをローカルで処理することで、継続的なクラウド帯域幅の費用を節約できます。
おそらく最も重要なのは、エッジAIシステムはインターネット接続が失敗しても動作し続け、クラウド依存システムが匹敵できない信頼性を提供することです。
多層インテリジェンスの必要性
エッジAIには多くの利点がありますが、制限もあります。多くのシステムは、効率、速度、スケーラビリティをバランスさせるために、エッジ、クラウド、フォグコンピューティングを組み合わせた多層インテリジェンスを必要とします。その理由を理解するために、典型的なビデオ監視システムを考えてみましょう。
- エッジAIは、インテリジェント監視カメラ内など、エンドデバイスで直接データを処理します。
- フォグコンピューティングは、エッジとクラウドの間にレイヤーを追加し、複数のソースからのデータを処理できます。たとえば、複数のカメラに接続されたローカルネットワークビデオレコーダー（NVR）システムは、異なるカメラビュー間を移動するオブジェクトを追跡し、必要に応じてクラウドに派生結果を伝達できます。
- クラウドコンピューティングは、データセンターで大量のデータを集約して処理します。これは、長期的なストレージ、AIモデルのトレーニング、および時間をかけたデータ分析に適しています。たとえば、都市全体のセキュリティトレンドを追跡するなどです。
これらのアプローチを組み合わせることで、エッジからクラウドへのシステムやエッジからフォグを経てクラウドへのシステムは、単独のポイントソリューションよりも大きな価値を提供できます。
Cleaはバリューチェーンのすべてのコンポーネントをカバー
包括的なアプローチの重要性を認識し、SECOはエッジ、フォグ、クラウドAIを網羅するハードウェアおよびソフトウェアソリューションを提供しています。
エッジAIハードウェアソリューションは、さまざまな標準フォームファクターのコンピューティングモジュールとシングルボードコンピュータを網羅しています。NXP、Qualcomm、MediaTek、Intelなどの企業からの現在の世代の組み込みプロセッサは、統合AIアクセラレータと関連ライブラリを提供しています。たとえば、クレジットカードサイズのSOM-SMARC-Genio700モジュールは、MediaTekのGenio 700プロセッサを使用しており、8つのArmコア（2x Cortex-A78 + 6x Cortex-A55）と4兆回の演算を毎秒（TOPS）で提供するディープラーニングアクセラレータを組み合わせています。これにより、小型でファンレスのデバイスやバッテリー駆動のシステムでも複雑なAIを実行できます。
フォグコンピューティングでは、より高性能な産業用コンピュータがより大きな処理能力、接続性、および専用のAIコプロセッシングを提供します。たとえば、Titan 300 TGL-UP3 AIファンレスコンピュータは、Intel Tiger Lake UP3プロセッサとAxelera AIチップを組み合わせて、Metis AIPUを通じて120 TOPSを提供します。これにより、ローカルレベルで強力なAI処理が可能になります。
ソフトウェア側では、Clea IoTソフトウェアスイートは、エッジ、フォグ、クラウドを接続して高度なAIシステムを実現します。Clea OSから始まり、SECOのエッジおよびフォグハードウェア全体で動作する完全なYoctoベースのLinuxプラットフォームで、x86およびArmプロセッサの両方をサポートします。Clea OSは、標準化された開発ツールとバックエンドのDevOps機能を提供することで、分散AIの展開を容易にします。
Cleaエコシステムはクラウドに依存せず、いくつかの重要なツールを含んでいます。
- エッジおよびフォグAIノード向けに、Clea Edgehogは堅牢なデバイス監視とフリート管理機能を提供し、大規模なデバイスの保守と更新を容易にします。
- クラウドレベルでは、Clea Astarteは高度なデータオーケストレーションを提供し、IoTデバイスのフリート全体でデバイスデータを収集、ルーティング、および管理します。Astarteは、大量のデータの収集、処理、分析を可能にし、スケーラビリティのためにKubernetesを、シームレスなビジネス成長のためにScyllaDBをサポートします。
- Clea Portalは、データの可視化からデバイス制御まで、エッジAIフリートの管理と収益化のためのクラウドベースのフロントエンドを提供します。
- Clea AI Studioは、プロセッサベンダーのAIツールに基づいてサービスフローを作成し、エッジデバイス上でAI駆動アプリケーションを展開するためのビジュアルプログラミング環境です。
開発者はCleaソフトウェアスイートを使用して、完全なエンドツーエンドのIoTソリューションを構築し、AI機能の展開と運用を容易にすることができます。特定のAIアルゴリズムがエッジ、フォグ、またはクラウドで動作するかどうかにかかわらず、スイートはデータの収集からユーザーインターフェースの作成までを処理し、エッジAIの展開プロセスを簡素化します。
結論
エッジAIは従来のクラウドまたはフォグコンピューティングアプローチに対して説得力