- AI
- Clea
Nach der Bereitstellung: Wie Edge-AI-Modelle im Feld weiterlernen
Edge AI ermöglicht Entscheidungen in Echtzeit auf einem wirklich transformativen Niveau. Ihr volles Potenzial kann Edge AI jedoch erst entfalten, wenn Modelle im Laufe der Zeit lernen und sich verbessern können.

Die kontinuierliche Verbesserung von AI-Modellen ist entscheidend, um sich an dynamische Umgebungen anzupassen, Modelldrift und Fehler zu beheben und neue Services, Funktionen und tiefere Personalisierung zu ermöglichen. Dieses kontinuierliche Lernen stellt sicher, dass AI-Lösungen auch lange nach ihrer Bereitstellung relevant und wirksam bleiben.
Das Problem mit Edge-Umgebungen
Das Training nach der Bereitstellung ist am Edge aus mehreren Gründen besonders anspruchsvoll, wobei Ressourcen die wichtigste Einschränkung sind. Modelltraining ist bekanntermaßen eine ressourcenintensive Aufgabe, muss aber auf Embedded-Systemen ausgeführt werden, ohne die Leistung zu beeinträchtigen. Die grundlegende Schwierigkeit liegt darin, dass Embedded-Hardware aufgrund von Größenbeschränkungen oft nur über begrenzte Rechenleistung, Energie und Speicher verfügt.
Über die Ressourcenbeschränkungen hinaus stellen Datenschutz und Datensicherheit erhebliche Hürden dar. Die Verwendung von Trainingsdaten, die nicht ordnungsgemäß anonymisiert oder verschlüsselt wurden, kann zu einem rechtlichen und regulatorischen Minenfeld werden, insbesondere wenn sensible oder personenbezogene Informationen im Spiel sind.
Außerdem verfügen Edge-Umgebungen nicht immer über zuverlässige Bandbreite. Wenn ein Modell für das Training auf das Internet angewiesen ist, kann jede Unterbrechung der Konnektivität seine Funktion stören.
Diese Herausforderungen sind technisch komplex, lassen sich aber mit den richtigen Lernmethoden, Trainingstechniken und dem passenden Technologie-Stack bewältigen.
Wie Edge AI lernt
Grob gesagt erfolgt das Training am Edge nach der Bereitstellung auf eine von drei Arten: auf dem Gerät selbst, in der Cloud oder über ein gemeinsames Lern-Ökosystem. Wenn Organisationen diese Methoden mit den richtigen Modellanpassungstechniken kombinieren, können sie sicherstellen, dass ihre AI auch lange nach der Bereitstellung weiterlernt.
On-Device Learning – Beim On-Device Learning werden AI-Modelle direkt auf der Edge-Hardware trainiert oder aktualisiert. Das Modell wird mit Daten feinabgestimmt, die von den eigenen Sensoren oder aus Nutzerinteraktionen stammen und die es anschließend vorverarbeitet und aufnimmt.
Dieser Ansatz eignet sich gut für dynamische Personalisierung in Echtzeit und schützt die Privatsphäre der Nutzer, da keine Daten übertragen oder geteilt werden. Der größte Nachteil ist jedoch das Risiko der Überanpassung (Overfitting): Da lokale Datensätze klein sind, könnte ein Modell die Daten "auswendig lernen", statt ein allgemeines Muster zu erlernen, und wäre dann nicht in der Lage, auf neue Daten zu generalisieren.
Federated Learning – Als Alternative zum reinen On-Device Learning führt Federated Learning einen zentralen Server ein, der das Training über mehrere Geräte hinweg koordiniert. In diesem Modell stellt ein zentraler Server einer Flotte von Edge-Geräten ein AI-Modell bereit. Jedes Gerät trainiert das Modell anschließend mit seinem lokalen Datensatz und überträgt die Ergebnisse seines Trainings, nicht die Rohdaten, zurück an den Server. Der Server aggregiert diese Ergebnisse und veröffentlicht ein konsolidiertes Modell-Update für alle Geräte.
Da nur Modell-Updates übertragen werden, ist diese Methode bandbreiteneffizient und sicher. Eine zentrale Herausforderung besteht jedoch darin, dass die Synchronisierung dieser Updates über unterschiedliche Arten von Edge-Geräten hinweg oft spezialisierte Software erfordert.
Cloudbasiertes Retraining – Der dritte Ansatz, das cloudbasierte Retraining, ähnelt dem klassischen Modelltraining am meisten. Dabei sammelt eine Cloud-Plattform Daten von Edge-Geräten und überträgt sie in die Cloud, um ein zentrales AI-Modell neu zu trainieren. Ist das Training abgeschlossen, wird das aktualisierte Modell an jedes Gerät zurückübertragen.
Dieser Ansatz kann komplexere Retraining-Aufgaben und umfassende Modell-Updates unterstützen, ist aber stark auf Konnektivität angewiesen und kann von Latenz beeinträchtigt werden. Außerdem wirft die Übertragung von Rohdaten Datenschutzbedenken auf, da sensible Informationen ohne angemessene Verschlüsselung offengelegt werden könnten.
Praktische Techniken zur Modellanpassung im Feld
Um den spezifischen Einschränkungen von Edge-Umgebungen zu begegnen, lassen sich mehrere Anpassungstechniken mit den oben beschriebenen Lernmethoden kombinieren.
- Inkrementelles Lernen: Beim inkrementellen Lernen nimmt das Modell neue Informationen auf, sobald sie eintreffen. Diese Daten dienen vor allem dazu, das Modell feinabzustimmen, Drift zu managen und sich an neue Datenmuster anzupassen, während das Modell seinen Fokus auf die ursprüngliche Funktion behält. Ein typisches Beispiel ist ein tragbarer Fitness-Tracker, der mit neuen Daten über seinen Träger aktualisiert wird.
- Transfer Learning: Während inkrementelles Lernen ein Modell feinabstimmt, wandelt Transfer Learning es für einen neuen Zweck um. Bei dieser Technik wird ein Modell, das auf einem großen, generischen Datensatz vortrainiert wurde, mit einem sehr viel kleineren lokalen Datensatz an eine bestimmte Aufgabe angepasst. Das verringert den Bedarf an Rechenleistung, Speicher und Energie für das Modelltraining drastisch und ermöglicht dadurch den Einsatz anspruchsvollerer AI am Edge. Ein autonomes Fahrsystem könnte beispielsweise Transfer Learning nutzen, um sein Objekterkennungsmodell für eine neue Umgebung zu trainieren.
- Kontinuierliches Lernen (Continual Learning): Das kontinuierliche Lernen geht bei der Anpassung einen Schritt weiter und erlaubt es einem Modell, im Laufe der Zeit völlig neue Funktionen zu erlernen. Dabei nimmt das Modell einen ständigen Datenstrom auf, um neue Aufgaben zu lernen oder sich an neue Fähigkeiten anzupassen. Anders als das inkrementelle Lernen, das sich auf die ursprüngliche Aufgabe konzentriert, erweitert das kontinuierliche Lernen den Anwendungsbereich des Modells und ermöglicht so eine bessere Anpassung an wesentliche Veränderungen in seinem Ökosystem. Ein intelligenter Thermostat könnte beispielsweise kontinuierliches Lernen nutzen, um sich in eine neu installierte intelligente Klimaanlage einzubinden.
In der Praxis ist es oft am wirksamsten, einen hybriden Ansatz zu wählen, der mehrere Techniken nutzt, etwa die Kombination aus Training auf dem Gerät mit Continual Learning und periodischem Nachtraining in der Cloud.
Die Bedeutung des richtigen AI-Stacks
Diese fortgeschrittenen Lern- und Anpassungstechniken sind leistungsstark, setzen aber einen durchdachten Hardware- und Software-Stack voraus, damit Modell-Updates tatsächlich stattfinden können. Das erfordert vor allem Hardware, die die Ressourcenanforderungen des Modells unterstützt, und Software, die Trainings-Updates mit minimalem Eingriff verwalten, koordinieren, planen und absichern kann.
Entscheidend ist, dass Hardware und Software nicht als einzelne Komponenten, sondern als Einheit funktionieren. Ohne die richtige integrierte Infrastruktur kann ein Modell nach dem Deployment nicht effektiv lernen und auf kritische Engpässe stoßen, von Ressourcenknappheit bis hin zum völligen Hardwareausfall.
Um dies zu lösen, bietet SECO einen vollständigen Stack aus integrierter Hardware, Software und Tools, der auch für die komplexesten Edge-AI-Deployments ausgelegt ist. Viele unserer Edge-Geräte verfügen über dedizierte Neural Processing Units (NPUs) und AI-Beschleuniger für anspruchsvolle Workloads, einschließlich der Unterstützung von Optionen Dritter wie der hardwarebasierten Beschleuniger Artificial Intelligence Processing Unit (AIPU) von Axelera.
Diese leistungsstarke Hardware verbindet Clea, unser modulares Software-Framework, das das komplette Ökosystem für das Lernen nach dem Deployment bereitstellt. Wir liefern alles, was Sie brauchen, um zunächst über das Drag-and-drop-Tool Clea AI Studio ein AI-Modell zu entwickeln, es auf einem oder mehreren Edge-Geräten bereitzustellen und anschließend sicherzustellen, dass das Modell weiterlernt, unabhängig vom Edge-Gerät, auf dem es läuft.
Fazit
Lernen nach dem Deployment ist für jede erfolgreiche Edge-AI-Implementierung unverzichtbar, denn es ermöglicht einem Modell, eine bessere Personalisierung zu liefern, sich an dynamische Umgebungen anzupassen und sich mit den Anforderungen Ihres Unternehmens und Ihrer Kunden weiterzuentwickeln. Die Wahl der richtigen Lerntechniken ist entscheidend, um Genauigkeit und Wirksamkeit des Modells zu erhalten, doch der zugrunde liegende Lösungs-Stack ist ebenso wichtig. SECO bietet den integrierten Stack, den Sie für Ihren Erfolg brauchen.
Kontaktieren Sie uns, um zu erfahren, wie wir Ihnen beim Aufbau anpassungsfähiger, dynamischer Edge-AI helfen können.
Abonnieren Sie den SECO Newsletter.
Melden Sie sich mit Ihrer E-Mail-Adresse auf seco.com an.



