Le pape Léon XIV a publié lundi Magnifica Humanitas (L’humanité magnifique), une encyclique papale de 43 000 mots, qui s’en prend au déploiement rapide de l’intelligence artificielle, dicté par la recherche du profit dans l’industrie technologique.
Premier pontife de l’histoire né aux États-Unis, Léon a utilisé son premier grand document d’enseignement pour réclamer une surveillance externe stricte de l’IA.
Le document intervient dans un contexte d’affrontement réglementaire croissant. Les poids lourds de la tech OpenAI et Anthropic se dirigent actuellement vers des introductions en Bourse proches demille milliards de dollars (IPO), tandis que l’administration Trump s’emploie activement à déréguler le secteur national de l’IA.
En entrant dans la mêlée, le pape diplômé en mathématiques a établi une nouvelle référence majeure pour les responsables politiques et les dirigeants technologiques du monde entier.
L’encyclique vise directement la concentration des données et des infrastructures entre les mains du secteur privé. Léon a soutenu que laisser entièrement l’avenir d’une technologie aussi puissante à des acteurs commerciaux exposait le public à des risques immenses.
« Il ne suffit pas d’invoquer l’éthique dans l’abstrait ; il faut des cadres juridiques solides, une supervision indépendante, des utilisateurs informés et un système politique qui n’abdique pas ses responsabilités », a écrit le pape.
Le pape Léon s’est directement adressé aux dirigeants de la tech et aux régulateurs politiques pour leur demander de ralentir et de réfléchir à leurs trajectoires, les exhortant à délaisser une mentalité guidée par le profit pur au profit de l’amélioration de la condition humaine.
Un défi direct au pouvoir de la Silicon Valley
Alors que le Vatican a invité le cofondateur d’Anthropic Christopher Olah à participer à l’événement de lancement, Léon a critiqué à plusieurs reprises la concentration du pouvoir de l’IA au sein des entreprises privées. Le pape a averti que le contrôle massif des données et des infrastructures informatiques par une poignée d’entreprises pouvait mettre en danger les communautés vulnérables, en particulier les enfants et les travailleurs.
« Une IA plus morale ne suffit pas si cette moralité est définie par quelques-uns », a-t-il écrit. Cette critique intervient à un moment où les principales entreprises d’IA sont valorisées à plusieurs centaines de milliards de dollars et se livrent une concurrence acharnée pour dominer la prochaine phase de l’IA générative.
Lors de l’événement organisé au Vatican, Olah a reconnu directement ces pressions. « Chaque laboratoire d’IA de pointe, y compris Anthropic, évolue dans un ensemble d’incitations et de contraintes qui peuvent parfois entrer en conflit avec la volonté de faire ce qui est juste », a-t-il déclaré, selon Reuters.
Olah a également soutenu les appels à un examen externe, affirmant que les entreprises d’IA avaient besoin d’une supervision en raison des enjeux considérables liés à l’avenir de cette technologie.
Désarmer le champ de bataille numérique
Les chapitres les plus controversés de Magnifica Humanitas portent sur la militarisation rapide de l’IA.
Le pape Léon a averti que les algorithmes autonomes contribuaient à accélérer une « normalisation de la guerre » en désensibilisant le public aux pertes humaines, soulignant que certains systèmes d’armes télécommandés avaient dépassé le contrôle humain.
Le pape a déclaré qu’il était « inadmissible » de confier des décisions irréversibles et mortelles à des systèmes d’IA automatisés. Il a exigé une transparence totale de la part des développeurs afin que la chaîne de commandement derrière toute frappe militaire pilotée par l’IA reste parfaitement traçable, en insistant sur la responsabilité de « ceux qui conçoivent, entraînent, autorisent et utilisent la technologie ».
La menace de l’IA pour l’emploi et l’identité humaine
Au-delà de la guerre, Léon s’est largement concentré sur les bouleversements du travail et la crainte grandissante que les systèmes d’IA puissent remplacer les travailleurs humains à grande échelle.
« La recherche de profits plus élevés ne peut justifier des choix qui sacrifient systématiquement des emplois, car la personne humaine est une fin et non un moyen », a écrit le pape.
Le document compare la révolution actuelle de l’IA à la révolution industrielle évoquée par le pape Léon XIII dans l’encyclique historique Rerum Novarum de 1891, qui défendait les droits des travailleurs pendant l’industrialisation rapide.
Des experts de la tech et du monde universitaire ont estimé que cette nouvelle encyclique pourrait devenir l’un des cadres éthiques de référence dans les débats sur la gouvernance de l’IA.
À lire également : les risques liés à la manipulation des recherches par l’IA de Google ont poussé Google à préciser que ses règles concernant le spam s’appliquaient également aux réponses de l’IA générative.