OpenAI hat heute einen Bericht veröffentlicht, in dem zahlreiche Beispiele dafür aufgeführt werden, wie das Unternehmen böswillige Nutzungen seiner KI-Modelle unterbunden hat – unter anderem durch die Sperrung einiger Konten aufgrund ihrer Nutzung von ChatGPT. In zwei Fallstudien fand das Unternehmen Hinweise darauf, dass aus China stammende Bedrohungsakteure offenbar von OpenAI und einem weiteren US-KI-Labor entwickelte Modelle nutzten oder zu nutzen versuchten, „…im Zusammenhang mit einer mutmaßlichen Überwachungsaktion sowie zur Erstellung antiamerikanischer Artikel in spanischer Sprache“. Diese Beispiele werden Peer Review und Sponsored Discontent genannt.
Peer Review
OpenAI hat kürzlich eine Reihe von ChatGPT-Konten gesperrt, deren Betreiber die Modelle des Unternehmens nutzten, um Beschreibungen zu erstellen, die Verkaufstexten für „…ein Social-Media-Monitoring-Tool ähnelten, mit dem sie nach eigenen Angaben Echtzeitberichte über Proteste im Westen an die chinesischen Sicherheitsdienste übermittelten“. Die Forscher erklärten, die Bedrohungsakteure hätten die Modelle von OpenAI außerdem zum Debuggen von Code verwendet, offenbar mit der Absicht, ein solches Tool zu implementieren, das anscheinend von einem nicht von OpenAI stammenden Modell betrieben werden sollte.
Ben Nimmo, leitender Forscher bei OpenAI, sagte, dies sei das erste Mal gewesen, dass das Unternehmen ein KI-gestütztes Überwachungstool dieser Art aufgedeckt habe, wie The New York Times berichtete.
Im Bericht von OpenAI heißt es, eine Version von Metas Open-Source-Llama sei eines der KI-Tools gewesen, die zur Entwicklung des Codes des Betreibers verwendet wurden. Laut Bloomberg bestätigte Meta nicht, dass sein Dienst beteiligt war, erklärte jedoch, falls dies der Fall gewesen sei, sei er nur eines von vielen solchen Tools gewesen, die den Nutzern zur Verfügung standen, „einschließlich in China entwickelter KI-Modelle“.
Sponsored Discontent
OpenAI sperrte außerdem eine Reihe von ChatGPT-Konten, die seine Modelle nutzten, um kurze englischsprachige Kommentare zu erstellen, in denen die chinesische Dissidentin Cai Xia kritisiert wurde, sowie ausführliche Nachrichtenartikel auf Spanisch über die sozialen und politischen Spaltungen in den USA – insbesondere im Vorfeld des APEC-Forums 2024 in Peru.
„Dies ist das erste Mal, dass wir beobachtet haben, wie ein mutmaßlich chinesischer Einflussakteur erfolgreich Artikel in etablierten Medien in Lateinamerika veröffentlicht“, erklärten die OpenAI-Forscher.
OpenAIs fortlaufende Bemühungen, Online-Bedrohungen zu unterbinden
Die Forscher von OpenAI erklärten, sie seien entschlossen, Online-Bedrohungen weiterhin zu identifizieren, zu verhindern und aufzudecken. Dabei wiesen sie darauf hin, dass KI-Unternehmen bei Online-Bedrohungen über eine einzigartige Perspektive verfügten. Es sei wichtig, Erkenntnisse mit vor- und nachgelagerten Anbietern sowie Open-Source-Forschern zu teilen, erklärten sie. Zudem fügten sie hinzu, dass „KI-gestützte Untersuchungsmöglichkeiten, die aus den Innovationen von OpenAI hervorgehen, wertvolle Werkzeuge darstellen, um demokratische KI vor den Maßnahmen gegnerischer autoritärer Regime zu schützen“.