In diesem Monat schlug der Blitz zweimal in Tumbler Ridge in British Columbia ein.
Zuerst in der unheimlichen Stille eines Klassenzimmers, in dem acht Menschen ums Leben kamen. Dann in Ottawas Machtzentralen, wo Politiker von Silicon Valley Antworten darüber verlangten, was ein Chatbot wusste und wann er es wusste.
Während Kanada mit einem der schlimmsten Schulamokläufe seiner Geschichte ringt, hat sich der Fokus von forensischen Ermittlungen auf die digitale Spur verlagert, die auf ChatGPT hinterlassen wurde. Das Unternehmen im Zentrum der heutigen Debatten, OpenAI, bestätigte, dass es vor dem Massaker am 10. Februar ein Konto des Schützen wegen gewalttätiger Inhalte markiert und gesperrt hatte, wie die Associated Press.
berichtete. Zu diesem Zeitpunkt informierte das Unternehmen die Strafverfolgungsbehörden jedoch nicht. Diese Entscheidung und die Tatsache, dass die Tatverdächtige anschließend ein zweites Konto erstellte, haben kanadische Politiker dazu veranlasst, neue Protokolle für den Umgang von KI-Unternehmen mit potenziellen Bedrohungen zu fordern.
Was geschah vor der Tat?
Im Juni 2025, etwa acht Monate vor der Tragödie, markierten die internen Systeme von OpenAI zur Erkennung von Missbrauch ein ChatGPT-Konto, das mit Jesse Van Rootselaar, einer 18-Jährigen, in Verbindung stand und dessen Nachrichten beunruhigende Beschreibungen gewalttätiger Szenarien enthielten.
Eine Prüfung des Unternehmens ergab, dass das Konto gegen die Nutzungsrichtlinien verstieß, und es wurde gesperrt. OpenAI OpenAIerklärte jedoch, den Fall damals nicht an die Royal Canadian Mounted Police weitergeleitet zu haben. Zur Begründung hieß es, die Inhalte hätten nicht die Schwelle für eine Weiterleitung erreicht – insbesondere habe es keinen „glaubwürdigen und unmittelbar bevorstehenden“ Plan für schwere körperliche Schäden gegeben.
Den Behörden damals unbekannt, erstellte Van Rootselaar später ein zweites ChatGPT-Konto, das die Erkennung auf ähnliche Weise umging. Dies wurde erst bekannt, nachdem die Polizei sie öffentlich als Tatverdächtige des Amoklaufs in Tumbler Ridge benannt hatte. Bei dem Angriff am 10. Februar wurden acht Menschen – darunter Kinder und eine Lehrkraft – getötet, bevor die Tatverdächtige durch Suizid starb.
In einem Schreiben an Ottawa legte OpenAI Maßnahmen dar, die das Unternehmen eigenen Angaben zufolge als Reaktion ergreift.
Das Unternehmen erklärte, es werde seine Systeme verbessern, um Versuche zur Umgehung von Sperren besser zu erkennen, seine internen Schwellenwerte anpassen, sodass Fälle wie dieser künftig eine Meldung an die Strafverfolgungsbehörden auslösen würden, und klarere direkte Kontaktstellen zu den kanadischen Behörden einrichten.
Ann O’Leary, OpenAIs Vizepräsidentin für globale Politik, erklärte, dass das frühere Konto den Behörden gemeldet worden wäre, wenn diese aktualisierten Protokolle bereits gegolten hätten.
Kanadas Forderung nach Rechenschaft
Kanadische Politiker haben klargemacht, dass sie dies als mehr als bloße Unternehmensverwaltung betrachten.
Der Minister für Künstliche Intelligenz, Evan Solomon, bestellte führende Sicherheitsvertreter von OpenAI nach Ottawa ein, damit sie die Entscheidungsfindung und Sicherheitsprotokolle des Unternehmens erläutern. Solomon erklärte, die Verzögerung bei der Meldung habe ihn zutiefst beunruhigt, und betonte, dass alle politischen Optionen – einschließlich einer Regulierung von KI-Chatbots – zum Schutz der öffentlichen Sicherheit geprüft würden.
Der Premierminister von British Columbia, David Eby, äußerte ähnliche Bedenken und sagte, von außen „sieht es so aus“, als habe OpenAI die Möglichkeit gehabt, diese Tragödie zu verhindern, indem das Unternehmen die Behörden früher informiert hätte. Er forderte eine detaillierte Aufschlüsselung der Kriterien für die Weiterleitung von Fällen sowie eine stärkere Zusammenarbeit zum Schutz der öffentlichen Sicherheit.
Die Debatte bewegt sich nun am Schnittpunkt von Datenschutz, Technologie und öffentlicher Sicherheit. OpenAI verteidigt seine Protokolle als Ausgleich zwischen der Wahrung der Privatsphäre der Nutzer und dem Umgang mit realen Schäden.
Das Unternehmen weist darauf hin, dass optionale Meldungen an Strafverfolgungsbehörden stets an eine hohe Schwelle geknüpft gewesen seien, die in diesem Fall nach eigener Einschätzung nicht erreicht wurde. Mit neuen Systemen und dem Versprechen einer engeren Zusammenarbeit mit den Strafverfolgungsbehörden will OpenAI dennoch zeigen, aus einer Tragödie gelernt zu haben, die eine ganze Nation erschüttert hat.
Die von Kanada angestoßene Debatte könnte weit über seine Grenzen hinaus Nachhall finden, während Regierungen und Technologieunternehmen gleichermaßen darum ringen, wo die Aufsicht über KI beginnen und enden sollte.
Mehr über die neuesten Sicherheitsmaßnahmen von OpenAI erfahren Sie in unserem Bericht über den neuen Lockdown Mode, der zur Abwehr von Prompt-Injection-Angriffen entwickelt wurde.