Léon XIV appelle à « désarmer» l’IA pour « l’empêcher de dominer l’humain »

Le pape Léon XIV a appelé lundi à une réglementation stricte de l’intelligence artificielle et a exhorté ses développeurs à œuvrer pour le bien commun plutôt que pour le profit, en publiant un manifeste ambitieux sur la protection de l’humanité, alors que cette technologie a des répercussions sur tous les domaines, du travail à la guerre.

« Magnifica Humanitas » (Magnifique humanité), la première encyclique de Léon, était très attendue depuis que le premier pape né aux États-Unis de l’histoire avait annoncé, quelques jours après son élection, qu’il considérait l’IA comme le plus grand défi auquel l’humanité est confrontée aujourd’hui.

Dans ce texte, Léon a dénoncé la « culture du pouvoir » qui anime la course à l’IA, en particulier dans le développement de méthodes de guerre à distance toujours plus sophistiquées.

Il a déclaré qu’il était « inadmissible » de confier des décisions irréversibles et mortelles à des systèmes d’IA, créant ainsi un nouveau point de friction entre le pape américain et l’administration Trump, qui s’est employée avec acharnement à déréglementer le développement de l’IA.

Des experts du secteur technologique, du monde universitaire et de la morale catholique ont déclaré que ce document deviendrait probablement une référence dans le débat sur l’IA, un point de repère tant pour les décideurs politiques que pour les chercheurs et le grand public.

Ce document intervient alors que les avancées quasi quotidiennes de cette technologie suscitent des inquiétudes quant au remplacement par l’IA des emplois humains, voire de l’intelligence humaine.

Le pape devait présenter le texte lors d’une cérémonie de lancement au Vatican lundi, en présence du cofondateur d’Anthropic, qui est actuellement engagé dans une bataille juridique avec l’administration Trump concernant l’accès à sa technologie d’IA.

Le Vatican a décidé d’impliquer Anthropic dans le cadre de ses efforts, menés depuis une décennie, pour engager la Silicon Valley dans un dialogue sur le coût humain de l’IA.

Et pourtant, dans son texte, Leo a dénoncé à plusieurs reprises la concentration du pouvoir et des données entre les mains d’une poignée de personnes du secteur privé comme un danger, en particulier pour les enfants et les plus vulnérables, et a appelé à une régulation externe de leurs activités.

« Il ne suffit pas d’invoquer l’éthique dans l’abstrait ; des cadres juridiques solides, une surveillance indépendante, des utilisateurs informés et un système politique qui n’abdique pas ses responsabilités sont nécessaires », a-t-il écrit.

« Une IA plus morale ne suffit pas si cette moralité est déterminée par une poignée de personnes. »

Leo a lancé plusieurs appels aux développeurs d’IA et aux dirigeants politiques chargés de les réglementer pour qu’ils ralentissent et réfléchissent à ce qu’ils font.

Les concurrents dans le domaine de l’IA, OpenAI et Anthropic, sont respectivement la deuxième et la troisième entreprise privée américaine la plus valorisée, chacune évaluée à des centaines de milliards de dollars, soit plus que le PIB de nombreux pays.

Dans ses chapitres les plus percutants, Leo a dénoncé la manière dont l’IA avait contribué à accélérer la « normalisation de la guerre » en désensibilisant les gens à son coût. Il n’a pas cité de conflits spécifiques, mais a évoqué « les impérialismes opposés, entre les puissances qui souhaitent préserver leur suprématie et celles qui aspirent à s’en emparer ».

Il a exigé de la transparence et de la responsabilité de la part des développeurs d’IA afin que la chaîne de commandement décisionnelle pour ordonner des frappes avec des armes basées sur l’IA soit toujours connue.

Il a déclaré que la théorie de la « guerre juste » de l’Église catholique, qui fournit des critères spécifiques pour déterminer quand le recours à la force peut être justifié, était désormais « dépassée » compte tenu des avancées technologiques en matière de guerre.

« La recherche de profits plus importants ne peut justifier des choix qui sacrifient systématiquement des emplois, car la personne humaine est une fin, et non un moyen, et l’ordre économique doit rester subordonné à la dignité humaine et au bien commun », a écrit Leo.