Von Sofortübersetzungen und der Generierung von Ideen bis hin zum Verfassen von E-Mails und Aufsätzen von Grund auf beginnt ChatGPT, in unseren Alltag einzusickern. Laut einer USB-Studie erreichte der Chatbot im Januar 100 Millionen monatlich aktive Nutzer, nur zwei Monate nach dem Start. Damit ist er die am schnellsten wachsende Verbraucheranwendung der Geschichte.
Es gibt jedoch einige Nachteile und Einschränkungen, die ChatGPT und KI im Allgemeinen daran hindern, ihr volles Potenzial auszuschöpfen. Hier kann die ereignisgesteuerte Architektur, EDA, den Informationsfluss zwischen den Systemen erleichtern, die Ereignisse „veröffentlichen“, und den anderen Systemen, die durch das „Abonnieren“ von Themen ihr Interesse an dieser Art von Informationen bekunden.
Das Erstellen von Anwendungen mit EDA ist eine hervorragende Möglichkeit, interne Funktionen miteinander zu verknüpfen und reaktionsfähiger zu machen. Das bedeutet, dass EDA Anfragen aufnimmt und bearbeitet, sobald ChatGPT aufgerufen wird. Dadurch lassen sich Antwortzeiten verbessern, unnötiger Energieverbrauch reduzieren und sogar neue E-Commerce-Möglichkeiten für B2B- und B2C-Unternehmen schaffen. So funktioniert es.
Siehe auch: Die besten generativen KI-Apps und -Tools
5 Möglichkeiten, wie EDA das Potenzial von ChatGPT erschließt
1) Keine Fragen nötig! Automatische Antworten durch Optimierung des Anfrage- und Antwortzyklus ermöglichen
Heute arbeitet ChatGPT auf eine Weise, die wir Technikleute „Anfrage/Antwort“ nennen. Frag, und dir wird gegeben, könnte man sagen. Stellen Sie sich nun vor, ChatGPT könnte Ihnen proaktiv etwas schicken, von dem es weiß, dass es Sie interessieren würde!
Angenommen, Sie verwenden ChatGPT, um die wichtigsten Punkte und To-dos aus einem Zoom-Meeting mit einem Dutzend Teilnehmern zusammenzufassen. Anstatt dass jeder Teilnehmer eine Anfrage stellt, könnte ChatGPT dank EDA die Notizen gleichzeitig an alle Teilnehmer senden – auch an diejenigen, die das Meeting verpasst haben.
Alle wären automatisch und sofort über die Ergebnisse des Meetings informiert. Dabei würde ChatGPT deutlich weniger belastet, da es proaktiv eine Nachricht an ein Dutzend Empfänger sendet, anstatt im Laufe der Zeit eine Vielzahl von Anfrage-Antwort-Interaktionen zu bedienen. Das verbessert wiederum die Servicequalität für die Nutzer.
Jede Gruppenaktivität, bei der dieselben von ChatGPT bereitgestellten Vorschläge benötigt werden, kann von dieser Fähigkeit profitieren. Ein Beispiel sind Teams, die gemeinsam an einer Codebasis arbeiten. Anstatt dass ChatGPT jedem Entwickler in dessen IDE Änderungen und Verbesserungen vorschlägt, könnten die Nutzer die IDE die Vorschläge „abonnieren“ lassen. Die zugrunde liegende EDA-Technologie könnte sie dann an alle abonnierten Entwickler weiterleiten, sobald diese die Codebasis öffnen.
Passend dazu: Was ist generative KI?
2) Den Energieverbrauch von ChatGPT durch intelligente Ressourcennutzung senken
ChatGPT ist aus Sicht der Verarbeitung und CPU-Nutzung sehr ressourcenintensiv und daher teuer. Außerdem benötigt es spezielle Chips, sogenannte Grafikprozessoren (GPUs), und davon ziemlich viele. Die umfangreiche GPU-Auslastung, die inzwischen auf mehr als 28.936 geschätzt wird und zum Trainieren des ChatGPT-Modells sowie zur Verarbeitung von Nutzeranfragen erforderlich ist, verursacht erhebliche Kosten, die auf 0,11 bis 0,36 US-Dollar pro Anfrage geschätzt werden.
Und auch die Umweltkosten des Modells dürfen nicht außer Acht gelassen werden. Der hohe Stromverbrauch von GPUs trägt zur Energieverschwendung bei. Berichten von Datenwissenschaftlern zufolge beträgt der tägliche CO2-Fußabdruck von ChatGPT 23,04 kgCO2e – vergleichbar mit dem anderer großer Sprachmodelle wie BLOOM.
Der Bericht erklärt jedoch: „Die Schätzung des täglichen CO2-Fußabdrucks von ChatGPT könnte zu hoch sein, wenn die Ingenieure von OpenAI clevere Wege gefunden haben, alle Anfragen effizienter zu verarbeiten.“ Es gibt also eindeutig Spielraum, diese CO2-Bilanz zu verbessern.
Durch die Implementierung von EDA kann ChatGPT seine Ressourcen besser nutzen, indem es Anfragen nur bei ihrem Eingang verarbeitet, anstatt kontinuierlich zu laufen.
Siehe auch: Die wichtigsten KI-Unternehmen: Visionäre, die die KI-Revolution vorantreiben
3) Die Nichtverfügbarkeit von ChatGPT bei voller Auslastung vermeiden
ChatGPT muss eine große Zahl eingehender Anfragen von Nutzern verarbeiten. Die Popularität, das schnelle Wachstum und die Unvorhersehbarkeit von ChatGPT führen dazu, dass der Dienst häufig überlastet ist, da er Schwierigkeiten hat, mit einer extrem schwankenden und – wie wir sagen – „burstartigen“ Nachfrage Schritt zu halten.
Heute führt das bei zahlenden und kostenlosen ChatGPT-Nutzern zu Fehlermeldungen wie „Tut uns leid, wir können Ihnen nicht helfen“. Die jüngsten Ausfälle von ChatGPT zeigen, wie gesättigt das System zunehmend ist, während es versucht, angesichts des stetig wachsenden Datenverkehrs schnell zu skalieren und mit neuen Konkurrenten wie Google Bard mitzuhalten.
Welche Rolle spielt EDA also?
Bei einer Überlastung von ChatGPT kann EDA Anfragen puffern und sie asynchron über mehrere ereignisgesteuerte Microservices bearbeiten, sobald der ChatGPT-Dienst wieder verfügbar ist. Durch die Entkopplung der Dienste führt der Ausfall eines Dienstes nicht zum Ausfall der anderen.
Der Event Broker, eine zentrale Komponente der ereignisgesteuerten Architektur, ist ein zustandsbehafteter Vermittler, der als Puffer fungiert: Er speichert Ereignisse und stellt sie zu, sobald der Dienst wieder online ist. Dadurch lassen sich schnell zusätzliche Dienstinstanzen hinzufügen, um zu skalieren, ohne dass das gesamte System ausfällt – Verfügbarkeit und Skalierbarkeit werden somit verbessert.
Mit Unterstützung durch EDA können Nutzer von ChatGPT-Diensten auf der ganzen Welt jederzeit anfordern, was sie benötigen. ChatGPT kann ihnen die Ergebnisse senden, sobald diese bereitstehen. So müssen Nutzer ihre Anfrage nicht erneut eingeben, um eine generative Antwort zu erhalten, was die allgemeine Skalierbarkeit verbessert und die Antwortzeit verkürzt.
Siehe auch: ChatGPT vs. GitHub Copilot
4) ChatGPT in Geschäftsprozesse integrieren, um den KI-E-Commerce-Markt aufzumischen
KI spielt eine entscheidende Rolle im E-Commerce-Markt – tatsächlich wird prognostiziert, dass der KI-Markt im E-Commerce bis 2032 45,72 Milliarden US-Dollar erreichen wird. Daher überrascht es nicht, dass führende E-Commerce-Anbieter versuchen herauszufinden, wie sie ChatGPT in ihre Geschäftsprozesse integrieren können. Shopify etwa hat mit ChatGPT einen Einkaufsassistenten entwickelt, der Nutzern Produkte empfehlen kann, indem er deren Suchmaschinenanfragen analysiert.
EDA hat das Potenzial, das Einkaufserlebnis noch weiter zu verbessern und B2C- und B2B-Unternehmen dabei zu helfen, mehr über ihre Kunden zu erfahren. Dazu werden wichtige Ereignisse in großem Umfang auf E-Commerce-Plattformen verfolgt, damit Unternehmen Muster im Kundenverhalten erkennen können – etwa, welche Artikel in bestimmten Regionen am profitabelsten sind und welche Faktoren Kaufentscheidungen beeinflussen.
Diese Informationen können anschließend an einen Datenspeicher übermittelt werden, damit das Machine-Learning-Modell von ChatGPT das Kundenverhalten vorhersagt und personalisierte Produktempfehlungen erstellt. Dies ist erst der Anfang bei der Entwicklung solcher Modelle auf Basis von ChatGPT.
5) Die Reaktionsfähigkeit für Ihre globale Nutzerbasis verbessern
Da ChatGPT und ChatGPT-Apps eine globale Nutzerbasis haben, sollten Sie Daten aus Ihren GPT-Anfragen effizient verteilen. Ein Event Mesh ist die ideale Architektur, um diese Anforderung zu erfüllen.
Ein Event Mesh ist eine Architekturebene aus einem Netzwerk von Event Brokern. Sie ermöglicht, Ereignisse aus einer Anwendung unabhängig vom Bereitstellungsort an jede andere Anwendung weiterzuleiten und von ihr zu empfangen. So könnten Sie Daten dynamisch und bedarfsgerecht an interessierte Abonnenten weiterleiten, anstatt Ihre ChatGPT-Ergebnisse an alle Anwendungen zu senden und sie dort durch die Anwendungslogik filtern zu lassen. Das führt zu einer besseren Nutzererfahrung und spart Rechen- und Netzwerkressourcen.
Siehe auch: Gemini vs. ChatGPT 4: Die siegreiche KI enthüllt
Das volle Potenzial von ChatGPT mit EDA entfesseln
ChatGPT steckt möglicherweise noch in den Kinderschuhen, doch angesichts der schnellen Akzeptanz durch die Nutzer und der regelmäßigen Ankündigung neuer Funktionen scheint die Geschichte noch lange nicht zu Ende zu sein. Ob EDA zur Behebung von Dienstausfällen und übermäßigem Energieverbrauch eingesetzt wird, größere Skalierbarkeit, Ausfallsicherheit und Flexibilität ermöglicht oder neue Geschäftsanwendungen für B2B- und B2C-Organisationen eröffnet – EDA kann diesem neuen generativen KI-Tool helfen, auf seinem neu entdeckten Erfolg aufzubauen.
Über den Autor:
Thomas Kunnumpurath ist Vice President of Systems Engineering für Amerika bei Solace