Alors que 20 000 pèlerins concluaient ce lundi leur fabuleux périple vers Chartres, le pape Léon XIV publiait Magnifica Humanitas, « Magnifique Humanité », sa toute première encyclique qu’il a voulu consacrer, comme c’était annoncé depuis le début de son pontificat, à l’intelligence artificielle.

Cette encyclique est signée du 15 mai, date du 135e anniversaire de Rerum Novarum, cette fameuse encyclique par laquelle son illustre prédécesseur Léon XIII donna l’impulsion première et décisive à la doctrine sociale de l’Église. Et c’est plus qu’un clin d’œil : avec cette première encyclique, le pape Léon XIV a indéniablement voulu marquer les esprits et se faire le pape de la doctrine sociale de l’Église 2.0.

L’Église au chevet du monde

Les deux premiers des cinq chapitres qui forment l’encyclique sont une réflexion de grande envergure sur l’essence de la doctrine sociale de l’Église, sans référence aucune à l’IA. Le pape y rappelle que si l’Église a la charge des âmes, elle chemine avec l’humanité dans la réalité concrète de l’histoire et que de ce fait, elle se soucie aussi des corps. Les réalités terrestres ont leur consistance propre bien sûr, mais l’Église se tient aux côtés du monde pour soigner ses blessures et éclairer ses agissements – n’en déplaise à ceux qui voudraient l’enfermer dans le strict champ de la morale, comme ce jeune catéchumène qui se trouve être vice-président des États-Unis.

L’Église éclaire donc le monde, et elle le fait de manière dynamique, en répondant aux « questions nouvelles », posées par le développement des sociétés humaines, à partir du dépôt de la foi, à partir d’une conception chrétienne de l’homme et de la vie, ceci au travers d’un dialogue fécond avec les sciences humaines, afin d’enrichir le discernement commun.

Lire aussi : Léon XIV vs Donald Trump : vrai Messie et faux prophète

Dans Magnifica Humanitas, le pape retrace ainsi le long cheminement du magistère social de l’Église, et expose les grands principes dégagés par ses prédécesseurs : la dignité de toute personne, le bien commun, la destination universelle des biens, la subsidiarité, la solidarité, la justice sociale, ou encore le développement humain intégral. Et c’est à partir de ce corpus de principes que Léon XIV peut alors juger l’intelligence artificielle – cette « question nouvelle » qui va bouleverser tous les aspects de nos existences, comme la révolution industrielle le fit au XIXè siècle.

Les risques du « paradigme technocratique »

Dans ce texte dont il faut souligner la clarté, l’envergure et la clairvoyance, le pape ne jette aucunement l’anathème sur l’IA : le développement technique fait après tout partie intégrante de l’histoire humaine. Seulement, toute technique est ambivalente ; elle peut servir le bien ou mal, selon l’esprit qui l’anime.

Toutefois, « nous ne pouvons pas considérer l’IA comme moralement neutre » nous alerte Léon XIV : elle reflète les valeurs et choix de ceux qui les ont conçus et qui les utilisent. Ainsi, l’IA serait notamment le relais de ce que le Saint-Père nomme le « paradigme technocratique ». La logique de l’efficacité, du contrôle et du profit devient notre unique critère de décision, et l’être humain est traité comme un matériau tordu à optimiser ou à surpasser – sans amour, sans charité, sans pardon.

Plus largement, le pape souligne que l’IA renforce les inégalités existantes, qu’elle concentre les pouvoirs dans les mains de quelques grandes féodalités technologiques, qu’elle falsifie notre rapport à la vérité, qu’elle installe une surveillance généralisée, qu’elle nous transforme en données à exploiter, qu’elle nous sépare les uns des autres par un simulacre d’interactions. Le risque, c’est que nous lui déléguions notre réflexion, notre mémoire, notre jugement et notre attention, y perdant au passage nos capacités cognitives, notre autonomie, notre liberté intérieure. À terme, c’est ni plus ni moins qu’un nouveau régime esclavagiste qui risque de s’instaurer.

Appel à désarmer l’IA

Alors que le progrès nous échappe, et que chaque innovation passe dans les faits sans qu’on puisse s’interroger sur son bien-fondé, cette encyclique signe une volonté de reprendre le contrôle sur le cours des choses, et fait de l’Église le rempart principal aux grandes sociétés technologiques.

De fait, une expression a fait grand bruit : il faudrait « désarmer l’IA », c’est-à-dire la soustraire à la logique de la compétition et de la puissance, que ce soit en matière militaire, économique ou cognitive. « Désarmer l’IA ne signifie pas renoncer à la technologie, mais l’empêcher de dominer l’humain. » L’IA ne doit plus être un moyen utilisé par les uns pour dominer les autres, mais un instrument nouveau pour édifier l’humanité tout entière. En fait, l’encyclique insiste à plusieurs reprises sur les rapports étroits que doivent entretenir science et morale. Si les acquis de la technique ne s’accompagnent pas d’un progrès moral et social en proportion, alors ils se retourneront contre nous pour faire advenir un monde antihumain où le salut sera purement technique. C’est toute l’ambition du transhumanisme dont les « Enhanced Games », ces jeux olympiques de dopés qui se déroulent actuellement à Las Vegas, se veulent la vitrine.

Lire aussi : Olivier Rey : leurre et malheur de l’IA

Il peut donc y avoir un bon comme un mauvais usage de l’IA, ce que le pape démontre en s’appuyant sur deux images bibliques. Du mauvais côté, celui de la domination, il y a la Tour de Babel où l’œuvre commune est guidée par la puissance et l’orgueil qui finissent par déshumaniser. Du bon côté, celui de la relation, il y a la reconstruction patiente de Jérusalem sous Néhémie, c’est-à-dire une œuvre commune à laquelle chacun est appelé à contribuer, dans le dialogue et le respect de la diversité, pour le bien de tous.

C’est ainsi qu’il faut comprendre le dernier chapitre de l’encyclique, consacrée à l’usage de l’IA dans le domaine militaire. Le Saint-Siège remarque que les systèmes d’armes autonomes, comme les drones, rendent la guerre plus accessible et la mise à mort d’autrui plus banale, sans égard à l’éthique ou à la responsabilité. À cette « culture de la puissance », il nous faut donc substituer la « civilisation de l’amour ».

Aimer la magnifique humanité

Si certains ont critiqué l’utopisme de l’encyclique, elle regorge au contraire de méthodes et de solutions assez concrètes pour tous les acteurs – utilisateurs, croyants, parents, écoles, entreprises, géants technologiques, États, communauté internationale –, au point qu’on pourrait y voir un véritable programme politique. Dans la veine de Léon XIII, il y a par exemple un magnifique développement sur la nécessité de préserver la dignité du travail à l’heure où les machines menacent de nous remplacer. « Contrairement aux avantages annoncés de l’IA, les approches actuelles de la technologie peuvent paradoxalement déqualifier les travailleurs, les soumettre à une surveillance automatisée et les reléguer à des tâches rigides et répétitives. »

Le nerf central de ce programme pontifical, c’est la défense et l’amour de la condition humaine. Seule l’Église – parce qu’elle sait que l’humanité, quoique branlante, a été faite à l’image de Dieu – peut aujourd’hui la défendre pour ce qu’elle est authentiquement et spécifiquement. Oui, cette humanité est singulière : si sa puissance de calcul est impressionnante, l’IA n’est pas assimilable à l’intelligence humaine car elle n’a ni sens, ni cœur, ni conscience ; elle ne peut aimer ni souffrir. Oui, cette humanité doit assumer les limites, les fragilités, les vulnérabilités de sa chair, qui sont les moyens de nous ouvrir vers ce qui nous transcende. « Pour un algorithme, l’erreur est quelque chose à corriger ; pour une personne, elle peut être le début d’un changement profond. »

Le « plus qu’humain » existe bien au-delà de l’imaginaire technique : c’est l’amour de Dieu qui nous transforme et vient accomplir notre humanité. En bon augustinien, Léon XIV voit bien que c’est encore et toujours le combat des deux cités qui fait rage dans notre cœur : ce sera l’immortalité technique, ou la résurrection. Comme l’écrit le Saint-Père : « À l’ère de l’intelligence artificielle où la dignité humaine risque d’être éclipsée par de nouvelles formes de déshumanisation, nous avons le devoir urgent de rester profondément humains, en préservant avec amour cette magnifique humanité qui nous a été donnée et manifestée dans sa plénitude dans le Christ, mais qu’aucune machine ne pourra jamais remplacer dans sa splendeur. »