Papst Leo XIV. veröffentlichte am Montag Magnifica Humanitas (Die großartige Menschlichkeit), eine 43.000 Wörter umfassende päpstliche Enzyklika, die sich gegen den rasanten, profitorientierten Einsatz künstlicher Intelligenz durch die Technologiebranche richtet.
Als erster in den USA geborener Pontifex der Geschichte nutzte Leo sein erstes bedeutendes Lehrschreiben, um eine strenge externe Kontrolle von KI zu fordern.
Das Dokument erscheint inmitten eines sich verschärfenden Regulierungskampfs. Die Technologieführer OpenAI und Anthropic steuern derzeit auf fast-eine Billion US-Dollar schwere Börsengänge (IPOs) zu, während die Trump-Regierung die Deregulierung des heimischen KI-Sektors aggressiv vorantreibt.
Mit seinem Eingreifen in die Auseinandersetzung hat der Papst mit Mathematikabschluss weltweit einen gewaltigen neuen Maßstab für politische Entscheidungsträger und Technologieführer gesetzt.
Die Enzyklika richtet sich direkt gegen die Konzentration von Daten und Infrastruktur im Privatsektor. Leo argumentierte, die Zukunft einer derart mächtigen Technologie vollständig kommerziellen Akteuren zu überlassen, setze die Öffentlichkeit einem enormen Risiko aus.
»Es reicht nicht aus, abstrakt auf Ethik zu verweisen; erforderlich sind robuste rechtliche Rahmenbedingungen, unabhängige Aufsicht, informierte Nutzer und ein politisches System, das sich seiner Verantwortung nicht entzieht«, schrieb der Papst.
Papst Leo wandte sich direkt an Führungskräfte der Technologiebranche und politische Regulierungsbehörden, langsamer vorzugehen und über ihre Entwicklungspfade nachzudenken. Er forderte sie auf, sich von einer Haltung der bloßen Gewinnmaximierung abzuwenden und stattdessen das Wohl der Menschheit anzustreben.
Eine direkte Herausforderung für die Macht des Silicon Valley
Während der Vatikan Anthropic-Mitgründer Christopher Olah zur Teilnahme an der Auftaktveranstaltung einlud , kritisierte Leo wiederholt die Konzentration der KI-Macht in privaten Unternehmen. Der Papst warnte, die umfassende Kontrolle über Daten und Recheninfrastruktur durch eine Handvoll Firmen könne gefährdete Gemeinschaften, insbesondere Kinder und Arbeitnehmer, in Gefahr bringen.
»Eine moralischere KI reicht nicht aus, wenn diese Moral von wenigen bestimmt wird«, schrieb er. Die Kritik kommt zu einem Zeitpunkt, an dem führende KI-Unternehmen mit Hunderten Milliarden US-Dollar bewertet werden und aggressiv darum konkurrieren, die nächste Phase der generativen KI zu dominieren.
Bei der Veranstaltung im Vatikan räumte Olah diesen Druck offen ein. »Jedes KI-Labor an der technologischen Grenze, auch Anthropic, arbeitet innerhalb eines Geflechts aus Anreizen und Beschränkungen, die manchmal im Widerspruch dazu stehen können, das Richtige zu tun«, sagte er laut Reuters.
Olah unterstützte auch Forderungen nach einer externen Prüfung und sagte, KI-Unternehmen bräuchten wegen der enormen Tragweite der Zukunft dieser Technologie eine Aufsicht.
Das digitale Schlachtfeld entwaffnen
Die umstrittensten Kapitel von Magnifica Humanitas befassen sich mit der rasanten Militarisierung der KI.
Papst Leo warnte, autonome Algorithmen trügen zur Beschleunigung einer »Normalisierung des Krieges« bei, indem sie die Öffentlichkeit gegenüber menschlichen Opfern abstumpften. Dabei wies er darauf hin, dass einige ferngesteuerte Waffensysteme die menschliche Kontrolle bereits überschritten hätten.
Der Papst erklärte es für »nicht zulässig«, irreversible, tödliche Entscheidungen an automatisierte KI-Systeme zu übergeben. Er forderte von den Entwicklern vollständige Transparenz, damit die Befehlskette hinter jedem KI-gesteuerten Militärschlaglückenlos nachvollziehbar bleibt, und betonte die Verantwortung »derjenigen, die Technologie entwerfen, trainieren, autorisieren und einsetzen«.
Die Bedrohung von Arbeitsplätzen und menschlicher Identität durch KI
Über die Kriegsführung hinaus konzentrierte sich Leo stark auf die Umwälzungen in der Arbeitswelt und die wachsende Angst, dass KI-Systeme menschliche Arbeitskräfte in großem Maßstab ersetzen könnten.
»Das Streben nach höheren Gewinnen kann keine Entscheidungen rechtfertigen, bei denen systematisch Arbeitsplätze geopfert werden, denn der Mensch ist Zweck und nicht Mittel«, schrieb der Papst.
Das Dokument vergleicht die heutige KI-Revolution mit der Industriellen Revolution, mit der sich Papst Leo XIII. in der wegweisenden Enzyklika Rerum Novarum von 1891 befasste und in der er während der rasanten Industrialisierung die Rechte der Arbeitnehmer verteidigte.
Experten aus Technologie und Wissenschaft erklärten, die neue Enzyklika könne zu einem der prägenden ethischen Rahmenwerke für die Debatten über die Regulierung von KI werden.
Lesen Sie auch: Risiken durch Googles Manipulation der KI-Suche haben Google dazu gebracht klarzustellen, dass seine Spam-Richtlinien auch für Antworten generativer KI gelten.