Die nächsten Modelle für künstliche Intelligenz von OpenAI könnten ein höheres Risiko bergen, zur Entwicklung biologischer Waffen eingesetzt zu werden. Das Unternehmen räumt ein, dass ein KI-Modell, das leistungsfähig genug ist, um nützliche wissenschaftliche oder medizinische Entdeckungen zu machen, auch für Schaden eingesetzt werden kann.
„Dieselben grundlegenden Fähigkeiten, die den Fortschritt vorantreiben – etwa das Schlussfolgern anhand biologischer Daten, das Vorhersagen chemischer Reaktionen oder die Anleitung von Laborexperimenten –, könnten potenziell auch missbraucht werden, um Menschen mit nur minimaler Fachkenntnis dabei zu helfen, biologische Bedrohungen nachzubilden, oder hochqualifizierte Akteure bei der Entwicklung biologischer Waffen zu unterstützen“, schreibt OpenAI in einem neuen Blogbeitrag.
OpenAI erwartet, dass seine kommenden KI-Modelle gemäß dem eigenen Preparedness Framework ein „hohes“ Niveau an Fähigkeiten im Bereich Biologie erreichen werden. Das bedeutet, dass sie „unerfahrenen Akteuren mit einer grundlegenden einschlägigen Ausbildung sinnvolle Unterstützung bieten könnten, sodass diese biologische oder chemische Bedrohungen entwickeln können“.
Bemerkenswert ist, dass OpenAIs Beitrag über biologische Waffen einen Tag veröffentlicht wurde, nachdem das Unternehmen einen Vertrag über 200 Millionen US-Dollar mit dem US-Verteidigungsministerium.
Wie OpenAI diese Risiken eindämmt
Dennoch wird OpenAI kein KI-Modell veröffentlichen, bevor das Unternehmen nicht davon überzeugt ist, dass die Risiken eingedämmt wurden. Daher arbeitet es mit Experten für Biosicherheit, akademischen Forschern, Red-Teamern, die sich mit dem Testen von KI-Schwachstellen auskennen, und staatlichen Einrichtungen wie dem US Center for AI Standards and Innovation und dem UK AI Security Institute zusammen, um den Testprozess zu gestalten und durchzuführen sowie Maßnahmen zur Risikominderung vorzubereiten.
Zu diesen Maßnahmen gehören:
- Die Modelle so zu trainieren, dass sie auf schädliche oder gefährliche Eingaben nicht oder auf sichere Weise reagieren.
- Systeme zur Erkennung und Blockierung, die verdächtige Aktivitäten im Zusammenhang mit Biologie kennzeichnen.
- Der Einsatz von KI-Systemen und menschlichen Prüfern, um Nutzungsrichtlinien durchzusetzen, gegen die Richtlinien verstoßende Konten zu sperren und gegebenenfalls die Strafverfolgungsbehörden einzuschalten.
- Sicherheitskontrollen wie Zugriffskontrollen und die Härtung der Infrastruktur.
Nicht nur die Modelle von OpenAI erhöhen die Risiken für die Biosicherheit
Das Thema KI-Modelle und biologische Waffen ist kein neues Problem. So einigten sich im Mai 2024 26 Staaten darauf, an der Entwicklung von Risikoschwellen für KI-Systeme zusammenzuarbeiten, die biologische Waffen herstellen könnten.
Im Februar 2025 wurde dieses Risiko im UK’s International AI Safety Report.
hervorgehoben. Im April 2025 testeten Forscher führende KI-Modelle anhand des Virology Capabilities Test, eines Benchmarks für Expertenwissen in Virologie und Laborprotokollen. Sie stellten fest, dass Modelle wie GPT-4o von OpenAI die meisten menschlichen Virologen übertrafen, was Bedenken hinsichtlich der Risiken biologischer Waffen aufkommen ließ.
Im Mai 2025 bestätigte Anthropic, dass es Sicherheitsmaßnahmen für Claude Opus 4 eingerichtet hatte, um zu verhindern, dass das Modell angesichts seines höheren Risikos zur Entwicklung biologischer und nuklearer Waffen eingesetzt wird. Dennoch räumte der CEO von Anthropic nur einen Monat vor der Veröffentlichung ein, dass wir, solange wir nicht wirklich verstehen, wie KI funktioniert, was wir nicht tun, nicht in der Lage sein werden, zuverlässig Systeme zu entwickeln, die schädliches Verhalten wie dieses verhindern.
Diese Woche veröffentlichte eine Gruppe von KI-Experten einen Bericht, wonach die Belege für einen Zusammenhang zwischen KI-Modellen und den Risiken biologischer Waffen seit März deutlich zugenommen haben, da Entwickler in diesen Bereichen von „Fähigkeitssprüngen“ berichtet haben.
Gesetze sind wichtig, um dieses KI-Risiko zu senken, aber schwer zu verabschieden
KI-Experten sind sich weitgehend einig, dass eine starke, koordinierte Reaktion unerlässlich ist, um die Öffentlichkeit vor den Risiken zu schützen, die entstehen, wenn Menschen mithilfe von KI biologische Waffen entwickeln. Im Februar warnte der ehemalige Google-CEO Eric Schmidt, dass Schurkenstaaten wie Nordkorea, Iran und Russland sich diese Fähigkeit aneignen könnten, wenn eine solche Reaktion ausbleibt.
Im darauffolgenden Monat schickte Anthropic einen Brief an das White House Office of Science and Technology Policy, in dem es zu sofortigen Maßnahmen für die Sicherheit von KI aufrief, nachdem eigene Tests alarmierende Verbesserungen bei der Fähigkeit von Claude 3.7 Sonnet offenbart hatten, bei Aspekten der Entwicklung biologischer Waffen zu helfen.
Leider war die Verabschiedung von KI-Gesetzen bisher schwierig – hauptsächlich aufgrund von Meinungsverschiedenheiten zwischen Befürwortern von Sicherheitsmaßnahmen und Technologieunternehmen sowie einigen Politikern, die befürchten, dass Schutzvorkehrungen Innovationen behindern und die damit verbundenen wirtschaftlichen Vorteile begrenzen könnten.
Das kalifornische KI-Regulierungsgesetz SB-1047, das verhindern sollte, dass KI-Modelle der Menschheit großflächig schaden, etwa durch biologische Waffen, wäre das strengste Gesetz der USA im Bereich generativer KI gewesen. Der Gesetzentwurf wurde jedoch abgelehnt und im September 2024 von Gouverneur Gavin Newsom mit einem Veto belegt, weil er ihn für zu starr hielt.
Nun bahnt sich ein von Republikanern unterstützter Haushaltsentwurf seinen Weg durch den Kongress, der US-Bundesstaaten und Kommunen die Regulierung von KI für das nächste Jahrzehnt untersagen würde. Die Unterstützer argumentieren, ein einheitlicher nationaler Rahmen sei besser als ein fragmentierter Flickenteppich aus einzelstaatlichen Gesetzen. Kritiker weisen jedoch darauf hin, dass die Abschaffung einzelstaatlicher Compliance-Maßnahmen dazu führen würde, dass sich schlechte Akteure in der Technologiebranche ihrer Verantwortung entziehen könnten, und Unternehmen anlocken würde, die regulatorische Verzögerungen vermeiden wollen.