Zum Hauptinhalt springen
SECO
  • AI
  • Edge Computing
  • Clea

Die neue KI-Architektur: Edge, Fog und Cloud Computing kombinieren

Künstliche Intelligenz wird oft mit Cloud Computing in Verbindung gebracht, doch immer mehr KI-Workloads wandern auf lokale Geräte – ein Phänomen, das als Edge AI bekannt ist. Dieser Artikel beleuchtet die Vorteile von Edge AI und zeigt, wie die Clea-Integration ihre Umsetzung ermöglicht.

image-18485

Künstliche Intelligenz wird oft mit Cloud Computing in Verbindung gebracht, doch immer mehr KI-Workloads wandern auf lokale Geräte – ein Phänomen, das als Edge AI bekannt ist. Dank der Verfügbarkeit kostengünstiger, KI-fähiger Embedded-Prozessoren und schlanker KI-Modelle läuft KI heute auf Maschinen in der Fertigung, in medizinischen Geräten und in vielen weiteren Edge-Anwendungen.

Die Vorteile einer Edge-AI-Implementierung sind erheblich. Der größte Nutzen ist die geringere Latenz. Statt auf eine Antwort aus einem weit entfernten Rechenzentrum zu warten und nicht deterministische Netzwerklaufzeiten in Kauf zu nehmen, können Daten in Echtzeit verarbeitet werden. Sensible Daten auf dem lokalen Gerät zu halten, verbessert zudem die Sicherheit und verringert die Möglichkeiten, KI-gestützte Entscheidungen zu beeinflussen, drastisch. Diese Faktoren ermöglichen es der KI, einen zuverlässigen Echtzeitbetrieb zu gewährleisten – ein Schlüsselmerkmal für zeitkritische Anwendungsfälle wie autonome Fahrzeuge und Robotik, die sich in einem Cloud-basierten KI-Paradigma möglicherweise nicht umsetzen lassen.

Edge AI senkt außerdem den Energieverbrauch, da ständige Datenübertragungen in die Cloud entfallen – ein entscheidendes Merkmal für Edge-Geräte mit begrenzter Energieversorgung. Unternehmen sparen auch Geld, indem sie Daten lokal verarbeiten, statt für ständige Cloud-Bandbreite zu bezahlen.

Vielleicht am wichtigsten: Edge-AI-Systeme arbeiten auch dann weiter, wenn die Internetverbindung ausfällt, und bieten so eine Zuverlässigkeit, die Cloud-abhängige Systeme nicht erreichen.

Bedarf an mehrschichtiger Intelligenz

Edge AI hat zwar viele Vorteile, aber auch Grenzen. Viele Systeme benötigen mehrschichtige Intelligenz, die Edge, Cloud und Fog Computing kombiniert, um Effizienz, Geschwindigkeit und Skalierbarkeit auszubalancieren. Um zu verstehen, warum, betrachten wir ein typisches Videoüberwachungssystem:

  • Edge AI verarbeitet Daten direkt auf dem Endgerät – zum Beispiel in einer intelligenten Überwachungskamera.
  • Fog Computing fügt zwischen Edge und Cloud eine Schicht hinzu, die Daten aus mehreren Quellen verarbeiten kann. Ein lokales Netzwerk-Videorekorder-System (NVR), das mit mehreren Kameras verbunden ist, kann beispielsweise Objekte verfolgen, die sich zwischen verschiedenen Kameraansichten bewegen, und abgeleitete Ergebnisse bei Bedarf an die Cloud übermitteln.
  • Cloud Computing aggregiert und verarbeitet große Datenmengen in Rechenzentren. Das eignet sich gut für die Langzeitspeicherung, das Training von KI-Modellen und die Analyse von Daten über längere Zeiträume – etwa um Sicherheitstrends in einer ganzen Stadt zu verfolgen.

Durch die Kombination dieser Ansätze kann ein Edge-to-Cloud- oder Edge-to-Fog-to-Cloud-System mehr Nutzen bieten als eine eigenständige Einzellösung.

Clea deckt alle Komponenten der Wertschöpfungskette ab

SECO erkennt die Bedeutung eines ganzheitlichen Ansatzes und bietet Hardware- und Softwarelösungen, die Edge-, Fog- und Cloud-KI abdecken.

Hardwarelösungen für Edge AI umfassen eine große Bandbreite an Computing-Modulen und Einplatinencomputern in Standard-Formfaktoren. Die aktuelle Generation von Embedded-Prozessoren von Unternehmen wie NXP, Qualcomm, MediaTek und Intel bietet integrierte KI-Beschleuniger und zugehörige Bibliotheken. So nutzt beispielsweise das kreditkartengroße Modul SOM-SMARC-Genio700 den Genio-700-Prozessor von MediaTek, der acht Arm-Kerne (2x Cortex-A78 + 6x Cortex-A55) mit einem Deep Learning Accelerator kombiniert, der 4 Billionen Operationen pro Sekunde (TOPS) an KI-Leistung liefert. Damit lässt sich komplexe KI auf kleinen, lüfterlosen und sogar batteriebetriebenen Geräten ausführen.

Für Fog Computing bieten leistungsstärkere Industrie-Computer mehr Rechenleistung, Konnektivität und dedizierte KI-Koprozessoren). So kombiniert der lüfterlose KI-Computer Titan 300 TGL-UP3 einen Intel-Tiger-Lake-UP3-Prozessor mit einem Axelera-AI-Chip und liefert über seine Metis AIPU 120 TOPS. Das ermöglicht leistungsstarke KI-Verarbeitung auf lokaler Ebene.

Auf der Softwareseite verbindet die Clea-Software-Suite für das Internet der Dinge (IoT) Edge, Fog und Cloud für fortschrittliche KI-Systeme. Sie beginnt mit Clea OS, einer vollständigen Yocto-basierten Linux-Plattform, die auf der Edge- und Fog-Hardware von SECO läuft und sowohl x86- als auch Arm-Prozessoren unterstützt. Clea OS erleichtert das Deployment verteilter KI durch standardisierte Entwicklungswerkzeuge und Back-End-DevOps-Funktionen für Continuous Integration und Continuous Deployment.

Das Clea-Ökosystem ist Cloud-agnostisch und umfasst mehrere zentrale Tools:

  • Für Edge- und Fog-KI-Knoten bietet Clea Edgehog leistungsstarke Funktionen für Geräteüberwachung und Flottenmanagement, die Wartung und Updates von Geräten in großem Maßstab erleichtern.
  • Auf Cloud-Ebene bietet Clea Astarte eine ausgefeilte Datenorchestrierung, die Gerätedaten über eine Flotte von IoT-Geräten hinweg erfasst, weiterleitet und verwaltet. Astarte ermöglicht die Erfassung, Verarbeitung und Analyse großer Datenmengen, unterstützt durch Kubernetes für Skalierbarkeit und ScyllaDB für nahtloses Unternehmenswachstum.
  • Clea Portal bietet ein Cloud-basiertes Front-End zur Verwaltung und Monetarisierung der Edge-AI-Flotte, mit allem von der Datenvisualisierung bis zur Gerätesteuerung.
  • Clea AI Studio ist eine visuelle Programmierumgebung, die auf Grundlage der KI-Tools von Prozessorherstellern Service-Flows für das Deployment KI-gestützter Anwendungen auf Edge-Geräten erstellt.

Entwickler können mit der Clea-Software-Suite vollständige End-to-End-IoT-Lösungen bauen und das Deployment sowie den Betrieb von KI-Funktionen erleichtern – unabhängig davon, ob der jeweilige KI-Algorithmus am Edge, im Fog oder in der Cloud läuft. Die Suite deckt alles ab, von der Datenerfassung bis zur Erstellung von Benutzeroberflächen, und vereinfacht so das Deployment von Edge AI.

Fazit

Edge AI bietet zwar überzeugende Vorteile gegenüber herkömmlichen Cloud- oder Fog-Computing-Ansätzen, doch eine erfolgreiche Umsetzung erfordert eine sorgfältige Berücksichtigung der Hardware- und Softwareanforderungen.

Der umfassende Lösungs-Stack von SECO ermöglicht es Unternehmen, ihre Edge-AI-Deployments an ihre spezifischen Anforderungen anzupassen, und bietet die Flexibilität und Skalierbarkeit, die in der heutigen sich rasant entwickelnden Technologielandschaft erforderlich sind.

Möchten Sie Ihr Edge-AI-Design starten? Kontaktieren Sie uns noch heute.

SOM-SMARC-Genio700

In diesem Artikel vorgestellt

SOM-SMARC-Genio700

SMARC® Rel. 2.1.1 Computer-on-Module (CoM) mit MediaTek Genio 700 Anwendungsprozessoren.

  • SMARC®
  • MediaTek Genio 700

Ebenfalls in diesem Artikel: Titan 300 TGL-UP3

Abonnieren Sie den SECO Newsletter.

Melden Sie sich mit Ihrer E-Mail-Adresse auf seco.com an.

Abonnieren