OpenAI zieht die Sicherheitsschrauben bei ChatGPT an, während Angreifer KI-Systeme ins Visier nehmen.
In einer Ankündigung vom 13. Feb. stellte das Unternehmen zwei neue Schutzmaßnahmen gegen Prompt-Injection-Angriffe vor – eine wachsende Bedrohung, die KI dazu bringen kann, sensible Daten preiszugeben:
- Die erste ist eine Kennzeichnung „Erhöhtes Risiko“, die Nutzer warnt, bevor sie potenziell gefährliche Aktionen wie das Öffnen externer Links oder das Herstellen einer Verbindung zu internen Netzwerken ausführen.
- Die zweite ist der Lockdown Mode, der Hochrisikofunktionen wie das Surfen im Web einschränken oder vollständig deaktivieren kann, um das Risiko eines Datenabflusses zu verringern.
Mit den zunehmenden Fähigkeiten und dem immer stärker agentischen Verhalten von ChatGPT signalisiert OpenAI einen Kurswechsel: Fortschrittliche KI braucht sichtbare, integrierte Sicherheitskontrollen – nicht nur intelligentere Ausgaben.
Prompt-Injection-Angriffe und Lockdown Mode
Prompt-Injection-Angriffe können Daten abgreifen, indem sie KI-lesbare Schadbefehle in Webseiten einschleusen. Wenn ein KI-System diese Seiten besucht, kann es die Befehle unbeabsichtigt ausführen, was zu Datenlecks führt. So kann eine Seite etwa eine Anweisung einbetten, die die KI zwingt, ihre Sicherheitsvorkehrungen zu ignorieren und interne System-Prompts oder vertrauliche Dokumente preiszugeben.
OpenAIs Lockdown Mode beschränkt deterministisch Funktionen in ChatGPT, die für den Datenabfluss missbraucht werden können. Die strenge Maßnahme ist optional, wird sicherheitsbewussten Personen aber dringend empfohlen.
In der Mitteilung des Unternehmens heißt es, dass der Lockdown Mode Hochrisikofunktionen entweder einschränken oder vollständig deaktivieren kann, wenn Sicherheitsgarantien nicht verfügbar sind.
Die neue Kennzeichnung „Erhöhtes Risiko“ verstehen
Bestimmte Aktionen wie das Verbinden von ChatGPT mit einem internen Netzwerk oder das Öffnen eines externen Links bergen inhärente Sicherheitsrisiken. Statt diese Funktionen vollständig zu blockieren, erlaubt OpenAI den Nutzern, fortzufahren, zeigt aber als deutlichen Warnhinweis die Kennzeichnung „Erhöhtes Risiko“ an.
Die Kennzeichnung informiert Nutzer in ChatGPT, ChatGPT Atlas und Codex über das potenzielle Risiko, bevor sie fortfahren.
OpenAI bestätigte, dass sich die mit dem Warnhinweis versehenen Aktivitäten ändern können – und zwar jederzeit. Das Öffnen eines Links löst beispielsweise nur dann die Warnung aus, wenn OpenAI die Sicherheit des Ziels nicht überprüfen kann. Sobald das Unternehmen feststellt, dass von der Aktivität kein Risiko mehr ausgeht, wird die Warnung entfernt.
Was Nutzer jetzt tun sollten
Der Einsatz von KI-Tools verändert die Funktionsweise des Internets rasant … und die Sicherheit ist davon nicht ausgenommen. Zwar sind herkömmliche Maßnahmen für die Sicherheit im Internet weiterhin wirksam, doch sollten Sie einige wichtige Punkte beachten:
- Die Angriffsfläche reduzieren: ChatGPT verfügt über zahlreiche Erweiterungen. Aktivieren Sie am besten immer nur diejenigen, die Sie benötigen. Wenn Sie einen Dienst wie Google Drive mit ChatGPT nicht verbinden müssen, lassen Sie diese Option deaktiviert.
- Quellseiten manuell überprüfen: Wenn Sie am Computer mit dem Mauszeiger auf eine vorgeschlagene Website zeigen, wird ihre URL unten links auf dem Bildschirm angezeigt. Tippen Sie in der mobilen App auf die vorgeschlagene Quelle und halten Sie sie gedrückt, um das Logo der Website anzuzeigen. Wenn es Ihnen merkwürdig vorkommt, sollten Sie die Seite wahrscheinlich nicht besuchen.
- Benutzerdefinierte Anweisungen zum Kontospeicher hinzufügen: Die Erinnerungen von ChatGPT können helfen, einige Probleme auf Ihrer Seite zu lösen. Sie können beispielsweise darum bitten, dass ChatGPT Ihnen bei der Nutzung niemals Links vorschlägt.
- Nutzer mit hohem Risiko sollten schnell handeln: Führungskräfte auf C-Level und Sicherheitsteams sind durch diese Angriffe zum Abgreifen von Daten besonders gefährdet.
Verfügbarkeit für Nutzer
OpenAI erklärte, der Schutz werde in den kommenden Monaten für Nutzer eingeführt. Das deutet zwar auf eine schrittweise Einführung hin, doch ist weiterhin unklar, ob sie für alle kostenpflichtigen Tarife gelten wird.
Nutzer mit Geschäftstarifen verfügen bereits über diesen implementierten Schutz, der für ihre jeweilige Kategorie konfiguriert ist. Dazu gehören ChatGPT Enterprise, ChatGPT Edu, ChatGPT for Healthcare und ChatGPT for Teachers.
In der Pressemitteilung von OpenAI hieß es außerdem, dass Administratoren der Tarife dieser Kategorien granular steuern können, wie der Lockdown Mode in ihren Arbeitsbereichen ausgeführt wird.
Weitere Nachrichten von OpenAI: Das interne, noch nicht veröffentlichte GPT-Modell des Unternehmens hat gerade fünf von zehn „unmöglichen“ mathematischen Problemen gelöst.