KI wurde eingesetzt, um tödliche Proteine so zu paraphrasieren, dass sie die Sicherheitsvorkehrungen für DNA unbemerkt umgehen konnten. Ein von Microsoft angeführtes Team stellte fest, dass einige von KI erzeugte Ricin-Varianten der Erkennung vollständig entgingen.
In einer in der Fachzeitschrift Science ausführlich beschriebenen Studie testeten die Forschenden die Biosecurity-Screeningverfahren zweier großer Unternehmen und stellten fest, dass bis zu 100 % der von KI erzeugten ricinähnlichen Proteine nicht erkannt wurden. Der Befund zeigt, wie bestehende Filter versagen können, wenn sie mit von KI entwickelten Toxinen getestet werden.
Microsoft testete, ob KI Biosecurity-Screenings täuschen kann
Um den Oktober 2023 herum begannen Eric Horvitz und Bruce Wittmann von Microsoft eine Red-Team-Studie , um Schwachstellen bei DNA-Biosecurity-Schutzvorkehrungen zu untersuchen. Die Übung, deren Begriff der Militärstrategie entlehnt ist, sollte nachahmen, wie ein böswilliger Akteur versuchen könnte, künstliche Intelligenz einzusetzen, um Sicherheitskontrollen zu umgehen.
Das Team nutzte Open-Source-Modelle für das Proteindesign, um 72 gesetzlich regulierte Proteine digital neu zu formulieren, darunter Ricin, Botulinum- und Shiga-Toxine.
Insgesamt erstellten sie mehr als 70.000 synthetische DNA-Sequenzen, die für Varianten dieser Toxine kodieren könnten. Keine der Sequenzen wurde im Labor hergestellt, aber sie wurden durch dieselbe Biosecurity-Screeningsoftware geschickt, die DNA-Syntheseunternehmen verwenden, um gefährliche Bestellungen zu kennzeichnen.
Der erste KI-Biosecurity-„Zero-Day“
Als die Sequenzen getestet wurden, versagten die Schutzvorkehrungen weitgehend. Während Screening-Systeme häufig native Toxinsequenzen erkannten, übersahen sie viele von KI veränderte Varianten. In einigen Fällen sank die Erkennungsrate bei Ricin-Varianten auf null.
Eine Screening-Plattform erkannte etwa 23 % der toxischen Varianten; eine andere übersah mehr als drei Viertel. Nachdem Microsoft Alarm geschlagen hatte, veröffentlichten die meisten Anbieter Softwareupdates, durch die die durchschnittliche Erkennungsrate auf 72 % stieg und schließlich nahezu alle der gefährlichsten Designs erfasst wurden.
Die Forschenden bezeichneten den Vorfall als den ersten „Zero-Day“ im Bereich KI und Biosecurity, berichtete The Washington Post, wobei sie den Begriff aus der Cybersicherheit für eine zuvor unbekannte Schwachstelle verwendeten.
Schutzvorkehrungen müssen in KI-Tools integriert werden
Nach der Studie veröffentlichten die meisten Screening-Anbieter Updates, die die Leistung verbesserten; die Forschenden warnen jedoch, dass solche Korrekturen nur Übergangslösungen sind. Einige DNA-Anbieter screenen Bestellungen nach wie vor überhaupt nicht, wodurch potenzielle Möglichkeiten für Missbrauch bestehen bleiben.
Jaime Yassif von der Nuclear Threat Initiative sagte, Schutzmaßnahmen sollten früher in der Prozesskette greifen und direkt in KI-Tools für das Proteindesign integriert werden. Tessa Alexanian von IBBIS ergänzte, dass sensible Daten aus der Studie unter kontrolliertem Zugriff bereitgestellt werden sollen, um Missbrauch zu verhindern und zugleich wissenschaftlichen Fortschritt zu ermöglichen.
Andere warnten vor weiterreichenden Gefahren. Drew Endy von Stanford sagte, ein zu starker Fokus auf Softwarefehler drohe eine größere Gefahr zu übersehen: die Möglichkeit, dass Staaten geheime Biowaffenprogramme betreiben.
KI birgt in der Wissenschaft ein enormes Potenzial – von der Beschleunigung der Arzneimittelentwicklung bis zur Erkennung von Krankheiten –, doch die Studie zeigt, dass dieselbe Technologie auch für schädliche Zwecke eingesetzt werden kann. Forschende und Biosecurity-Experten warnen, dass sich Schutzvorkehrungen ebenso schnell weiterentwickeln müssen wie die KI, da dieselben Tools, die Durchbrüche vorantreiben, dazu verwendet werden könnten, neue Bedrohungen freizusetzen.
Führungskräfte im Gesundheitswesen setzen auf KI , um den Bedarf von Patienten und die Anforderungen des Systems präziser vorherzusagen. Erfahren Sie, wie eine Investition von 2 Millionen US-Dollar die nächste Generation prädiktiver Modelle vorantreibt.