Siehe auch: Top-Unternehmen im Bereich Edge Computing
Die Digerati stellt sich heutzutage immer häufiger die Frage: Wird Edge Computing, das so rasant wächst, irgendwann die Cloud verschlingen, die mittlerweile zu einem grundlegenden Bestandteil geworden ist?
Meine eindeutige Antwort auf diese Frage lautet: Nein. Man könnte sich in einer semantischen Analyse verlieren und versuchen, genau zu bestimmen, was mit Edge und Cloud gemeint ist. Doch ich denke, dass wir die Elemente vernetzter Knoten an diesem Punkt grob in Endpunkte, Edge-Geräte und Cloud-Komponenten unterteilen können – mit fließenden Grenzen dazwischen.
Doch woraus wird das aufstrebende Edge bestehen? Das beste aktuelle Beispiel, das mir einfällt, ist ein Edge-Videoprozessor für die Sicherheitsüberwachung zu Hause und in Unternehmen, die Erkennung von Haustieren, Gesichtserkennung, Einzelhandelsanalysen, Fitness und intelligente Konferenzen. Dieses Gerät, ein diskreter, eigenständiger Beschleuniger für Inferenzanwendungen, ist kein Endpunkt. Es beherbergt Endpunkte, insbesondere Kameras.
Bei der Videoverarbeitung muss die künstliche Intelligenz bestimmen, was auf dem Bild zu sehen ist. Damit Überwachungskameras nicht bei jedem beliebigen Bild Alarm schlagen, sondern nur bei den Bildtypen, die sie interessieren – etwa bei Personen –, sind entsprechende Fähigkeiten nötig. Die Kameras könnten diese Arbeit selbst erledigen, doch das Übermitteln der Bilder an einen nahe gelegenen Knoten mit mehr Speicher, höherer Rechenleistung und größeren Modellen für künstliche Intelligenz (KI) ermöglicht es einem einzigen Edge-Knoten, die Eingaben von 24 hochauflösenden Kameras zu verwalten.
Wenn der Edge-Bildprozessor dann das seltene Bild herausgefiltert hat, das eine genauere Betrachtung verdient, kann es an eine zentrale Cloud-Komponente weitergeleitet werden, die Eingaben von mehreren Standorten und noch leistungsfähigere Modelle nutzt und Informationen an die Edge-Knoten zurückgeben kann.
Die Entwicklung am Edge
Die Rolle des Edge-Knotens beginnt sich also gerade erst zu entwickeln. Dieser Bereich ist von den großen Akteuren der Chipindustrie heftig umkämpft. Qualcomm, Nvidia und Intel wollen sich alle ein Stück von diesem Markt sichern.
Und sie sind nicht die Einzigen. Die Art dieses Wettbewerbs hängt jedoch mit den jeweiligen Ausgangspositionen dieser Unternehmen zusammen. Qualcomm ist durch sein Geschäft mit Prozessoren für Mobiltelefone bei den Endpunkten stark aufgestellt.
Intel, das den PC-Markt weitgehend beherrscht (PCs sind traditionell Endpunkte, können aber auch als Edge-Geräte dienen), erlangte seine Position in der Cloud als König der Server. Nvidia, traditionell im Grafikgeschäft tätig, hat ein bedeutendes neues Cloud-Geschäft aufgebaut und verkauft Bänke von Grafikprozessoren an Cloud-Kunden für spezialisierte Workloads.
Wenn man fragt, wo die Intelligenz sitzen sollte, ist die Antwort einfach: überall. Wir können davon ausgehen, dass alle Knoten intelligenter werden. Das bedeutet: die Kameras selbst, der Edge-Sammler und die Cloud-Komponente. Alle werden intelligenter.
Cloud-Anbieter wie Amazon, Microsoft, Google und Netflix verschieben bereits seit Jahren Informationen an den Rand ihrer Clouds, damit beliebte Inhalte besser zugänglich sind. Wenn Casablanca, der Klassiker mit Humphrey Bogart und Ingrid Bergman, plötzlich wieder populär wird, weil eine berühmte Person darüber geschrieben oder getwittert hat, kann Amazon mehr Kopien aus seiner zentralen Cloud auf Edge-Server verlagern, die sich in der Nähe der geografischen Märkte befinden, in denen diese plötzliche Popularität entsteht.
Wo findet die Verarbeitung statt?
Es gibt ein Prinzip, das vorgibt, wo ein Analysemodell ausgeführt werden sollte. Im Wesentlichen sollte die Verarbeitung aus drei guten Gründen so nah wie möglich an der Datenquelle stattfinden: Datenschutz, Latenz und eine effiziente Nutzung der Netzwerkressourcen.
Kameras, die zwischen einem Menschen und einem Haustier unterscheiden, erzeugen Bilder. Wenn diese Bilder, die möglicherweise zu groß sind, um auf der Kamera verarbeitet zu werden, in einem Edge-Gerät zu Hause analysiert werden, müssen die potenziell sensiblen Aufnahmen das Zuhause nie verlassen.
Eine solche Analyse kann zeitkritisch sein. Wenn jemand, der ein Haus aus der Ferne über eine Sicherheits-App überwacht, wissen muss, ob es sich bei der Person vor der Tür um einen Lieferanten oder einen Einbrecher handelt, bleibt möglicherweise keine Zeit, das Bild zur Analyse an die Cloud zu senden. Hinzu kommen die Kosten für die Übertragung großer Datendateien. Am besten ist es, wenn dieser Weg so kurz wie möglich ist.
In der Welt der KI sind Training und Inferenz die beiden großen Aufgaben. Beim Training lernt das Modell anhand einer massenhaften Zufuhr korrekt gekennzeichneter Bilder, was ein Mensch und was ein Haustier ist. Nach einer gewissen Trainingsdauer kann das Modell die beiden voneinander unterscheiden; ein trainiertes Modell kann also korrekte Schlussfolgerungen ziehen. Das Training benötigt enorme Ressourcen und findet am sinnvollsten in der Cloud statt, die deutlich weniger durch Ressourcenbeschränkungen eingeschränkt ist als Endpunkte und selbst die meisten Edge-Geräte.
Die Inferenz hingegen muss entweder auf Endpunkten oder auf Edge-Geräten erfolgen. Inferenz auf dem Gerät kann für Dinge wie Sprachaktivierung, Texterkennung, Gesichtserkennung, Spracherkennung, Computational Photography und Objektklassifizierung eingesetzt werden.
Da sich KI-Modelle jedoch kontinuierlich weiterentwickeln und verbessern müssen, um sowohl falsch positive als auch falsch negative Ergebnisse zu vermeiden, muss ein Korrekturzyklus zwangsläufig alle Ebenen der Datenverarbeitung einbeziehen. Bei einem föderierten Lernmodell nimmt das in der Cloud aggregierte Modell Eingaben von allen nachgelagerten Geräten auf, verbessert seine Fähigkeit, das betreffende Objekt korrekt zu identifizieren, und aktualisiert alle nachgelagerten Inferenzmodelle. Dadurch wird das Modell global anhand vielfältigerer Daten verbessert.
Edge-Geräte und Endpunkte können außerdem auf Grundlage des spezifischen Datensatzes am jeweiligen Standort lokale Verbesserungen vornehmen. Dieser kann sich von dem globalen Datensatz unterscheiden, der für das ursprüngliche Training verwendet wurde.
Fazit: Edge und Cloud müssen zusammenarbeiten
KI ist nur ein Bereich, der veranschaulicht, wie alle Ebenen der Datenverarbeitung – Endpunkt, Edge und Cloud – zusammenarbeiten müssen, um das beste Ergebnis zu erzielen. Es gibt viele weitere Bereiche, in denen eine Arbeitsteilung zwischen den Verarbeitungselementen sinnvoll ist: intensive und groß angelegte Berechnungen in der Cloud, die Auslagerung lokaler Aufgaben oder die Platzierung von Cloud-Kopien am Edge sowie eine schnelle, effiziente Verarbeitung auf dem Endpunkt.