OpenAIs nächste Modelle für künstliche Intelligenz könnten ein höheres Risiko bergen, zur Herstellung biologischer Waffen eingesetzt zu werden. Das Unternehmen räumt ein, dass ein KI-Modell, wenn es leistungsfähig genug ist, nützliche wissenschaftliche oder medizinische Entdeckungen zu machen, auch für schädliche Zwecke eingesetzt werden kann.
„Dieselben grundlegenden Fähigkeiten, die den Fortschritt vorantreiben, etwa das Schlussfolgern anhand biologischer Daten, die Vorhersage chemischer Reaktionen oder die Anleitung von Laborexperimenten, könnten ebenfalls dazu missbraucht werden, Menschen mit minimalen Fachkenntnissen bei der Rekonstruktion biologischer Bedrohungen zu helfen oder hochqualifizierte Akteure bei der Herstellung biologischer Waffen zu unterstützen“, schreibt OpenAI in einem neuen Blogbeitrag.
OpenAI erwartet, dass seine kommenden KI-Modelle gemessen am eigenen Preparedness Framework ein „hohes“ Kompetenzniveau in Biologie erreichen werden. Das bedeutet, dass es „unerfahrenen Akteuren mit einer grundlegenden einschlägigen Ausbildung bedeutende Unterstützung leisten und sie dadurch in die Lage versetzen könnte, biologische oder chemische Bedrohungen zu schaffen“.
Bemerkenswert ist, dass OpenAIs Beitrag über biologische Waffen einen Tag veröffentlicht wurde, nachdem das Unternehmen einen Vertrag über 200 Millionen US-Dollar mit dem US-Verteidigungsministerium angenommen hatte.
Wie OpenAI daran arbeitet, diese Risiken zu mindern
Dennoch wird OpenAI kein KI-Modell veröffentlichen, bevor das Unternehmen nicht überzeugt ist, dass die Risiken gemindert wurden. Daher arbeitet es mit Experten für biologische Sicherheit, akademischen Forschern, Red-Teamern mit Kenntnissen im Testen von KI-Schwachstellen sowie staatlichen Stellen zusammen, darunter das US Center for AI Standards and Innovation und das UK AI Security Institute, um den Testprozess zu gestalten und durchzuführen sowie Gegenmaßnahmen vorzubereiten.
Zu diesen Gegenmaßnahmen gehören:
- Training der Modelle darauf, auf schädliche oder gefährliche Eingaben nicht oder auf sichere Weise zu antworten.
- Erkennungs- und Blockiersysteme, die verdächtige Aktivitäten mit Biologiebezug melden.
- Einsatz von KI-Systemen und menschlichen Prüfern, um Nutzungsrichtlinien durchzusetzen, regelwidrige Konten zu sperren und gegebenenfalls Strafverfolgungsbehörden einzuschalten.
- Sicherheitskontrollen wie Zugriffskontrollen und die Härtung der Infrastruktur.
Nicht nur die Modelle von OpenAI erhöhen die Risiken für die biologische Sicherheit
Das Thema KI-Modelle und biologische Waffen ist kein neues Problem. So einigten sich im Mai 2024 26 Länder darauf, an der Entwicklung von Risikoschwellenwerten für KI-Systeme zusammenzuarbeiten, die biologische Waffen herstellen könnten.
Im Februar 2025 wurde dieses Risiko im International AI Safety Report des Vereinigten Königreichs hervorgehoben.
Im April 2025 testeten Forscher führende KI-Modelle anhand des Virology Capabilities Test, eines Benchmarks für Expertenwissen in Virologie und Laborprotokollen. Sie stellten fest, dass Modelle wie OpenAIs GPT-4o die meisten menschlichen Virologen übertrafen, was Bedenken hinsichtlich der Risiken biologischer Waffen aufkommen ließ.
Im Mai 2025 bestätigte Anthropic, dass es Sicherheitsmaßnahmen für Claude Opus 4 ergriffen hat, um angesichts des höheren Risikos des Modells dessen Einsatz zur Herstellung biologischer und nuklearer Waffen zu verhindern. Doch nur einen Monat vor der Veröffentlichung räumte Anthropics CEO ein, dass wir, solange wir nicht wirklich verstehen, wie KI funktioniert, was wir nicht tun, nicht mit Sicherheit Systeme entwickeln können, die schädliches Verhalten dieser Art verhindern.
In dieser Woche veröffentlichte eine Gruppe von KI-Experten einen Bericht, dem zufolge die Belege für einen Zusammenhang zwischen KI-Modellen und Risiken durch biologische Waffen seit März deutlich zugenommen haben, da Entwickler in diesen Bereichen von „Fähigkeitssprüngen“ berichtet haben.
Gesetze sind wichtig, um dieses KI-Risiko zu senken, aber schwer zu verabschieden
KI-Experten sind sich weitgehend einig, dass eine starke, koordinierte Reaktion unerlässlich ist, um die Öffentlichkeit vor den Risiken zu schützen, die entstehen, wenn Menschen KI zur Entwicklung biologischer Waffen einsetzen. Im Februar warnte der ehemalige Google-CEO Eric Schmidt, dass Schurkenstaaten wie Nordkorea, Iran und Russland sich diese Fähigkeit aneignen könnten, wenn eine solche Reaktion ausbleibt.
Im folgenden Monat schickte Anthropic einen Brief an das White House Office of Science and Technology Policy, in dem es zu sofortigem Handeln bei der KI-Sicherheit aufrief, nachdem eigene Tests alarmierende Verbesserungen bei der Fähigkeit von Claude 3.7 Sonnet offenbart hatten, bei Aspekten der Entwicklung biologischer Waffen zu helfen.
Leider war die Verabschiedung von KI-Gesetzen bisher schwierig, vor allem aufgrund von Meinungsverschiedenheiten zwischen Befürwortern von Sicherheitsmaßnahmen und Technologieunternehmen sowie einigen Politikern, die befürchten, dass Schutzvorkehrungen Innovationen behindern und die damit verbundenen wirtschaftlichen Vorteile begrenzen könnten.
Das kalifornische KI-Regulierungsgesetz SB-1047, das verhindern sollte, dass KI-Modelle der Menschheit großflächig schaden, etwa durch biologische Waffen, wäre die strengste Regulierung generativer KI in den USA gewesen. Das Gesetz wurde jedoch im September 2024 von Gouverneur Gavin Newsom per Veto abgelehnt, weil er es für zu starr hielt.
Nun arbeitet sich ein von Republikanern unterstützter Haushaltsgesetzentwurf durch den Kongress, der US-Bundesstaaten und Kommunen die Regulierung von KI untersagen würde – und zwar für das nächste Jahrzehnt. Die Initiatoren argumentieren, ein einheitlicher nationaler Rahmen sei besser als ein Flickenteppich aus einzelstaatlichen Gesetzen. Kritiker weisen jedoch darauf hin, dass die Abschaffung einzelstaatlicher Compliance-Maßnahmen dazu führen würde, dass schlechte Technologie nicht zur Verantwortung gezogen werden kann, und Unternehmen anlocken dürfte, die regulatorische Verzögerungen vermeiden wollen.
Lesen Sie mehr darüber, warum Experten sagen, dass die KI-Gesetzgebung hinter dem Tempo des technologischen Fortschritts zurückbleibt, in unserer Analyse des Vetos von Gouverneur Newsom gegen Kaliforniens KI-Gesetz.