Die Rolle der KI-Ethik bei der Netzwerküberwachung

Laut dem Pew Research Center, 68 % der Technologieinnovatoren, Entwickler und Führungskräfte erwarten, dass ethische Grundsätze, die auf das Gemeinwohl ausgerichtet sind, bis 2030 in den meisten Systemen der künstlichen Intelligenz weiterhin übergangen werden.

Während KI daran arbeitet, menschliche Fähigkeiten zu erreichen, besteht eine zentrale Sorge darin, dass sie unsere Fähigkeit, sie innerhalb eines ethischen Rahmens zu kontrollieren, möglicherweise überholen könnte. Daher gibt es eine zunehmende Bewegung zur Entwicklung ethischer Richtlinien für KI-Systeme. Um KI-Ethik jedoch durchzusetzen, muss die Branche diese Ethik zunächst definieren.

Im Laufe der Jahre haben verschiedene Einzelpersonen und Organisationen versucht, Kodizes für ethische KI zu entwickeln. So verabschiedete die EU beispielsweise 2016 die GDPR, die den Grundstein für ein Modell zur Durchsetzung von Ethik im Zusammenhang mit immateriellen Werkzeugen legte, die menschliches Verhalten beeinflussen. Dies hat Unternehmen dazu verpflichtet, die Ethik der Nutzung und Speicherung personenbezogener Informationen zu berücksichtigen – ein entscheidender erster Schritt im Umgang mit KI.

Bis heute gibt es jedoch weder einen allgemein akzeptierten Rahmen für KI-Ethik noch ein Mittel, ihn durchzusetzen. Ethische KI ist eindeutig ein weit gefasstes Thema. In diesem Artikel möchte ich es daher eingrenzen und durch die Brille der Technologien zur Netzwerküberwachung betrachten.

Siehe auch: Top-AI-Software 

KI und Netzwerküberwachung

KI bietet bei der Anwendung auf Netzwerküberwachung und -leistung viele potenzielle Vorteile. Während viele Beschäftigte befürchten, durch KI ersetzt zu werden, signalisiert das Wachstum der KI im Netzwerkbereich tatsächlich Verbesserung statt Verdrängung.

Tatsächlich kann KI in Umgebungen zur IT-Überwachung komplexe Netzwerke vereinfachen, automatisieren und bestimmte Aufgaben übernehmen sowie die Effizienz bei der Erkennung und Behebung von Bedrohungen steigern – um nur einige Bereiche zu nennen. Sie kann außerdem die Aufsichtsfunktion der IT vereinfachen und dabei helfen, schneller zur eigentlichen Ursache von Problemen vorzudringen.

Sehen wir uns einige konkrete Beispiele für KI in der Netzwerküberwachung an, damit wir die wichtigsten ethischen Fragen später besser verstehen können.

• Anomalieerkennung nutzt KI/ML, um normales von anomalem Verhalten in einem Netzwerk zu unterscheiden und so Ausgangswerte festzulegen. Sie wird verwendet, um Modelle dafür zu erstellen, wie typischer Datenverkehr aussieht – angepasst an bestimmte Standorte, Benutzer und zeitliche Aspekte. Diese Modelle können bis hin zur konkreten Anwendung sehr detailliert sein. Sie ermöglichen es Unternehmen, Muster zu verstehen, indem sie die Merkmale der Anwendung aus Netzwerkperspektive extrahieren.
• Prädiktive Analysen nutzen Daten zusammen mit KI/ML, um potenzielle Probleme vorherzusagen, die künftig in einem Netzwerk auftreten könnten. Ähnlich wie die Anomalieerkennung verwenden sie auch Datenanalysen, um historische Muster und Ereignisse zu verstehen, und suchen nach Mustern, die Probleme verursachen könnten, um daraus zu lernen.
• Automatisierung nutzt ebenfalls KI/ML, um die mögliche Ursache eines Netzwerkproblems zu bestimmen und es automatisch zu beheben. ML-Techniken wie Entscheidungsbäume oder anspruchsvollere Verfahren können erlernte Prozesse zur Diagnose von Problemen erstellen, anstatt manuelle regelbasierte Systeme zu entwickeln, die fehleranfällig und schwer zu warten sein können.

Siehe auch: Trends bei Datenanalysen 

Netzwerk- und ethische Fragen der KI

KI kann bei der Anwendung auf die Netzwerküberwachung eine neue Ebene der Transparenz und Problemlösung ermöglichen. Zugleich gibt es ethische Überlegungen und Fragen, mit denen sich die Branche befassen und die sie sich stellen sollte. Über ethische KI wird viel diskutiert, doch die meisten stimmen darin überein, dass KI-Ethik ein System moralischer Grundsätze und Verfahren ist, das die Entwicklung und verantwortungsvolle Nutzung von KI-Technologien leiten soll.

Doch was bedeutet das im Bereich der Netzwerküberwachung? Ich erhebe nicht den Anspruch, alle Antworten zu haben, aber ich habe einige zentrale Fragen, die wir uns alle stellen und gemeinsam angehen sollten.

• Werden bei der Nutzung der Daten die geltenden Datenschutz- und Schutzbestimmungen eingehalten – unabhängig davon, ob es sich um die GDPR in der EU oder um andere Vorschriften handelt? Netzwerkdaten können persönliche, verhaltensbezogene und Trendinformationen enthalten. Sicherzustellen, dass sie den Vorschriften entsprechen, ist wichtig, insbesondere da KI/ML-Systeme zunehmend größere Datenmengen aufnehmen.
• Besteht bei den Daten ein mögliches Verzerrungspotenzial, wenn Merkmale extrahiert und zum Trainieren von Modellen verwendet werden? Bei der Entwicklung von Modellen beeinflussen Menschen die Erkennung anhand von Mustern, die mit Geschlecht, Hautfarbe, ethnischer Zugehörigkeit usw. korrelieren können. Dies ist bei sozialen Daten ausgeprägter, doch auch die Benutzer, die Netzwerkverkehr erzeugen, können für eine bestimmte Kohortengruppe typische Muster aufweisen. Auch wenn dadurch möglicherweise keine soziale Voreingenommenheit entsteht, könnten Modelle entstehen, die nicht überall wie erwartet funktionieren.
• Werden die auf Grundlage der Analyse und der möglichen Folgen empfohlenen oder ausgeführten Maßnahmen berücksichtigt? Wie bei selbstfahrenden Autos gibt es immer „Eckfälle“ oder unbekannte Szenarien, auf die KI-Systeme möglicherweise nicht trainiert wurden. Jede mögliche Konsequenz zu untersuchen – selbst wenn sie nicht durch Daten gestützt wird –, sollte in Betracht gezogen und berücksichtigt werden.

Wichtig ist, dass die Branche nicht völlig bei null anfängt, dass wir uns bei KI-Standards jedoch noch in einer frühen Phase befinden. Heute gibt es Initiativen im IT-Bereich, die bei der Entwicklung und Gestaltung ethischer KI helfen sollen. Dazu gehört auf breiter Ebene die GDPR, die sich nicht direkt mit KI-Ethik befasst, wohl aber mit Datenschutz und Privatsphäre – und damit mit Fragen, die Auswirkungen auf die Nutzung solcher Daten für KI haben.

Außerdem gibt es einen vorgeschlagenen EU AI Act, der sich speziell mit den Regeln für die Entwicklung und Nutzung KI-gestützter Produkte befassen soll. Größtenteils bleibt die KI-Ethik derzeit jedoch den Technologieentwicklern überlassen – etwas, das sich in Zukunft ändern muss.

Mit der weiteren Entwicklung der KI werden Leitplanken und Standards entscheidend sein. Unkontrollierte KI gilt allgemein als Rezept für eine Katastrophe.

Ethisch entwickelte und eingesetzte KI besitzt jedoch im gesamten Bereich der Netzwerküberwachung das enorme Potenzial, NetOps-Teams bei der Erfassung, Analyse, Planung und Absicherung von Netzwerken erhebliche Zeit und Ressourcen zu sparen.

Siehe auch: Was ist Datenvisualisierung?

Über den Autor:

John Smith, CTO und Mitgründer von LiveAction