Bien que l'intelligence artificielle soit souvent associée à l'informatique en nuage, de plus en plus de charges de travail d'IA migrent vers des appareils locaux - un phénomène connu sous le nom d'IA en périphérie Cet article explore les avantages de l'IA en périphérie et comment l'intégration de Clea permet sa mise en œuvre
Bien que l'intelligence artificielle soit souvent associée à l'informatique en nuage, de plus en plus de charges de travail d'IA migrent vers des appareils locaux—un phénomène connu sous le nom d'IA de périphérie. Grâce à l'émergence de processeurs embarqués à faible coût et de modèles d'IA légers, vous pouvez désormais trouver l'IA fonctionnant sur des machines sur le sol de l'usine, à l'intérieur d'équipements médicaux, et dans de nombreuses autres applications de périphérie.
Les avantages de la mise en œuvre de l'IA de périphérie sont considérables. Le plus grand avantage est la réduction de la latence. Au lieu d'attendre une réponse d'un centre de données éloigné et d'encourir des temps de communication réseau non déterministes, les données peuvent être traitées en temps réel. Garder les données sensibles sur l'appareil local améliore également la sécurité, réduisant considérablement les opportunités d'interférence avec la prise de décision guidée par l'IA. Ces facteurs permettent à l'IA d'alimenter une opération fiable en temps réel—une caractéristique clé pour les cas d'utilisation critiques en temps comme les véhicules autonomes et la robotique qui peuvent ne pas être réalisables dans un paradigme d'IA basé sur le cloud.
L'IA de périphérie réduit également la consommation d'énergie en éliminant le besoin de transferts de données constants vers le cloud—une caractéristique cruciale pour les appareils de périphérie fonctionnant sur une puissance limitée. Les entreprises économisent également de l'argent en traitant les données localement au lieu de payer pour une bande passante cloud continue.
Peut-être plus important encore, les systèmes d'IA de périphérie continuent de fonctionner même lorsque les connexions Internet échouent, offrant une fiabilité que les systèmes dépendants du cloud ne peuvent égaler.
Besoins en intelligence multi-couches
Bien que l'IA de périphérie présente de nombreux avantages, elle a aussi ses limites. De nombreux systèmes ont besoin d'une intelligence multi-couches qui combine la périphérie, le cloud et le fog computing pour équilibrer l'efficacité, la vitesse et l'évolutivité. Pour comprendre pourquoi, considérons un système de vidéosurveillance typique :
- L'IA de périphérie traite les données directement sur l'appareil final—par exemple, à l'intérieur d'une caméra de surveillance intelligente.
- Le fog computing ajoute une couche entre la périphérie et le cloud qui peut gérer les données de plusieurs sources. Par exemple, un système d'enregistreur vidéo en réseau (NVR) local connecté à plusieurs caméras peut suivre des objets se déplaçant entre différentes vues de caméra et communiquer les résultats dérivés au cloud si nécessaire.
- L'informatique en nuage agrège et traite de grandes quantités de données dans des centres de données. Cela fonctionne bien pour le stockage à long terme, la formation de modèles d'IA et l'analyse des données au fil du temps—comme le suivi des tendances de sécurité dans une ville entière.
En combinant ces approches, un système de périphérie à cloud ou un système de périphérie à fog à cloud peut offrir une valeur supérieure à une solution ponctuelle autonome.
Clea couvre tous les composants de la chaîne de valeur
Reconnaissant l'importance d'une approche holistique, SECO fournit des solutions matérielles et logicielles qui couvrent l'IA de périphérie, de fog et de cloud.
Les solutions matérielles d'IA de périphérie couvrent une grande variété de modules informatiques de format standard et d'ordinateurs monocarte. La génération actuelle de processeurs embarqués de sociétés comme NXP, Qualcomm, MediaTek et Intel offre des accélérateurs d'IA intégrés et des bibliothèques associées. Par exemple, le module SOM-SMARC-Genio700 de la taille d'une carte de crédit utilise le processeur Genio 700 de MediaTek, qui associe huit cœurs Arm (2x Cortex-A78 + 6x Cortex-A55) à un accélérateur d'apprentissage profond qui délivre 4 billions d'opérations par seconde (TOPS) de performance IA. Cela permet à des IA complexes de fonctionner sur de petits appareils sans ventilateur et même sur des systèmes alimentés par batterie.
Pour le fog computing, des ordinateurs industriels haut de gamme offrent une plus grande puissance de traitement, une connectivité et un coprocesseur IA dédié. Par exemple, l'ordinateur sans ventilateur Titan 300 TGL-UP3 AI combine un processeur Intel Tiger Lake UP3 avec une puce AI Axelera pour délivrer 120 TOPS grâce à son Metis AIPU. Cela fournit un traitement IA puissant au niveau local.
Du côté logiciel, la suite logicielle Clea pour l'internet des objets (IoT) connecte la périphérie, le fog et le cloud pour des systèmes IA avancés. Elle commence avec Clea OS, une plateforme Linux complète basée sur Yocto qui fonctionne sur le matériel de périphérie et de fog de SECO, prenant en charge à la fois les processeurs x86 et Arm. Clea OS facilite le déploiement d'IA distribuée en fournissant des outils de développement standardisés et des fonctionnalités DevOps back-end pour l'intégration et le déploiement continus.
L'écosystème Clea est indépendant du cloud et comprend plusieurs outils clés :
- Pour les nœuds IA de périphérie et de fog, Clea Edgehog offre des capacités robustes de surveillance des appareils et de gestion de flotte, facilitant la maintenance et la mise à jour des appareils à grande échelle.
- Au niveau du cloud, Clea Astarte fournit une orchestration sophistiquée des données, collectant, routant et gérant les données des appareils à travers une flotte d'appareils IoT. Astarte permet la collecte, le traitement et l'analyse de grandes quantités de données, soutenu par Kubernetes pour l'évolutivité et ScyllaDB pour une croissance commerciale transparente.
- Clea Portal fournit une interface frontale basée sur le cloud pour gérer et monétiser la flotte d'IA de périphérie, avec tout, de la visualisation des données au contrôle des appareils.
- Clea AI Studio est un environnement de programmation visuelle qui crée des flux de services basés sur les outils IA des fournisseurs de processeurs pour déployer des applications alimentées par l'IA sur des appareils de périphérie.
Les développeurs peuvent utiliser la suite logicielle Clea pour construire des solutions IoT complètes de bout en bout et faciliter le déploiement et l'exploitation des capacités IA—que l'algorithme IA spécifique fonctionne à la périphérie, dans le fog ou dans le cloud. La suite gère tout, de la collecte de données à la création d'interfaces utilisateur, rationalisant le processus de déploiement de l'IA de périphérie.
Conclusion
Bien que l'IA de périphérie présente des avantages convaincants par rapport aux approches traditionnelles d'informatique en nuage ou de fog computing, une mise en œuvre réussie nécessite une considération attentive des exigences matérielles et logicielles.
La pile de solutions complète de SECO permet aux organisations d'optimiser leurs déploiements d'IA de périphérie selon leurs besoins spécifiques, offrant la flexibilité et l'évolutivité requises dans le paysage technologique en évolution rapide d'aujourd'hui.
Prêt à commencer votre conception d'IA de périphérie ? Contactez-nous aujourd'hui