Présentée au Vatican le 15 mai, l’encyclique de Léon XIV Magnifica Humanitas dresse un sombre portrait de l’intelligence artificielle, une technologie, souligne le Saint-Père, qui « transforme certains aspects de la vie et de la société, avec de graves répercussions sur la dignité humaine. »
Pour Augustin Landier, professeur à HEC, et David Thesmar, professeur au Massachusetts Institute of Technology (MIT), la réflexion papale vise parfois juste. Mais elle légitime un certain nombre d’angoisses dont rien ne dit, à ce stade, qu’elles se révéleront fondées.
L’Express : Dans son encyclique Magnifica Humanitas, le pape Léon XIV appelle à « désarmer l’IA » , pour « l’empêcher de dominer l’humain ». Qu’est-ce qui vous a frappé le plus dans ce long propos ?
David Thesmar : C’est un texte enlevé, argumenté et percutant. Mais le propos est globalement techno-anxieux : exclusion économique, isolement social, désinformation, automatisation de la guerre… Le pape se fait l’écho – de manière pas toujours très originale d’ailleurs – de nos angoisses. Pourtant, la technologie est aussi une source de bienfaits matériels et – plus important pour lui – humains et spirituels : elle libère du temps pour les proches, relie les individus, stimule la créativité, et peut rapprocher de Dieu autant qu’en éloigner. Certes, le souverain pontife mentionne occasionnellement ces vertus – 7 fois, selon l’IA que j’ai consultée -, mais systématiquement suivi d’un « mais » et d’une kyrielle d’effets pervers. Il passe à côté du potentiel de « croissance morale » de l’IA.
Augustin Landier : Le plus frappant, pour moi, c’est que l’Église reconnaît par cette encyclique un rôle considérable à l’IA. Elle acte le fait que nous sommes aux prémices d’un changement anthropologique majeur. Les modèles d’IA sont mis au même plan que « les biens de la terre – le sol, l’eau, l’air, les ressources naturelles », pour en réclamer la mise en commun, au motif que l’IA repose fondamentalement sur une somme de connaissances produites par l’homme. C’est un geste fort d’en faire un élément constitutif de notre environnement, qui valide la thèse que l’IA est une disruption fondamentale propre à remodeler nos sociétés.
La présentation de l’encyclique s’est faite en présence d’un des cofondateurs d’Anthropic, Christopher Olah. Quelle relation le pape entretient-il avec les patrons de la Silicon Valley ?
D.T : Ce texte attaque frontalement l’hubris des grands patrons de la tech. D’abord, par la référence à la Tour de Babel. Ensuite, par la condamnation répétée du culte de l’efficacité, qui détourne de Dieu et des humains, asservit l’homme à la machine, et peut conduire à l’élimination des plus faibles. Rerum Novarum, l’encyclique écrite en 1891 par Léon XIII, dénonçait le capitalisme sauvage, appelait les patrons à préserver la dignité de leurs ouvriers, et ceux-ci à s’organiser en syndicats. Magnifica Humanitas met à jour ces arguments, mais y ajoute la critique de la démesure des ingénieurs de la Silicon Valley. C’est sa grande originalité.
A.L : En même temps, Anthropic, l’inventeur du chatbot Claude, est directement mis en valeur comme partenaire dans la production de ce texte. On a l’impression qu’il s’agit d’un débat entre l’Église et eux. On sait qu’Anthropic s’intéresse beaucoup aux questions éthiques et philosophiques que pose l’intelligence artificielle. Leurs équipes ont le sentiment de créer une nouvelle forme de vie, dotée de quelque chose qui s’apparente à la conscience. Elles s’attendaient sans doute à ce que le pape ouvre cette discussion. Mais sur ces sujets métaphysiques ou science-fictionnels, il a refermé très clairement la porte, estimant que « les prétendues intelligences artificielles ne vivent pas d’expérience ». Elles restent un simple outil.
D.T : Pour le coup c’est assez compréhensible. Sans être religieux, il paraît assez intuitif de ne pas permettre aux utilisateurs d’IA de se défausser de leurs responsabilités morales quand les choses tournent mal. Les nombreux paragraphes consacrés à la guerre au temps de l’IA, où « l’ennemi est réduit à une donnée et la victime à un “dommage collatéral” », exposent clairement les risques d’automatiser la « kill chain » dans les conflits présents ou à venir. Ce genre de mise en garde, raisonnable, soulève le problème compliqué de la responsabilité des organisations modernes. Si une IA de Palantir envoie un missile sur une école, qui est responsable ? Le militaire qui doit valider 300 requêtes de ce genre par jour et a donné le « go » ? L’informaticien qui a programmé l’agent ? L’actionnaire ou le PDG de Palantir?
Le pape s’adresse aux patrons de la tech comme à des chefs d’Etats
La voie du désarmement, estime le pape, exige la coopération de tous : entreprises, Etats, sociétés civiles… Un vœu pieux ?
A.L : En économie, dans la théorie de l’équilibre général, il y a cette notion importante d’équilibres de premier rang et de second rang. Le « premier rang », c’est le mieux que l’on puisse faire avec nos ressources si on coopère les uns avec les autres. C’est un idéal qu’atteindrait une société de saints ; il est logique que l’Eglise appelle à s’en approcher. Dans nos modèles d’économistes, on suppose, en général, que les gens sont égoïstes. On n’atteint donc qu’un équilibre dégradé, le « second rang » : il y a des comportements de passager clandestin etc. La coopération à laquelle invite le pape pour maîtriser les développements de l’IA et allouer au mieux les ressources consiste à tenter de se rapprocher du « premier rang » en coopérant. De facto, la forte concurrence entre les acteurs ne nous met pas dans ce « bon équilibre » : si ce n’est pas Anthropic qui conçoit le meilleur modèle, d’autres le feront, peut-être les Chinois, et cela crée cette course folle que le pape appelle à ralentir. Les Etats-Unis et la Chine n’ont, jusqu’ici, pas décidé de coopérer. Cela ne veut pas dire que ces deux puissances ne le feront jamais. Le clonage humain est un bon exemple. Il est techniquement faisable, mais tous les gouvernements de la planète, même les pires dictatures, ont adopté une forme de consensus pour dire : « On ne se lance pas là-dedans ».
Le pape constate avec lucidité l’effondrement du multilatéralisme et le détricotage de l’Organisation des Nations unies. Il s’adresse donc aux patrons de la tech comme à des chefs d’Etats et leur dit en substance : « Maintenant, vous êtes les rois du monde terrestre, mais le pouvoir immense que vous détenez implique d’immenses responsabilités. » C’est comme si on était revenu à l’époque féodale précédant les Etats-nations : les géants de la tech sont nos nouveaux suzerains, et sont sommés de penser ensemble au bien commun.
D.T. Je suis moins favorable que le pape à une telle « paix de l’IA ». La paix de l’IA, c’est un ralentissement concerté du progrès technique, alors que nous devons au contraire accélérer. L’humanité fait face à de nombreux défis, et la solution de certains d’entre eux semble être à la portée de cette technologie.
L’encyclique fait sienne la crainte largement partagée d’une « apocalypse du marché du travail », une économie où coexisteraient chômage de masse et production abondante car complètement automatisée. Mais tout cela est très loin d’être sûr. La plupart des études sérieuses contredisent ce scénario noir, et les entreprises elles-mêmes n’anticipent pas de réduction d’effectifs à court terme. Bref, il n’est pas du tout certain que, pour le bien-être de l’humanité, même moral et spirituel, la stagnation organisée de l’IA soit une bonne chose.
Alors que le pape s’est exprimé sur l’IA, les responsables politiques français semblent briller par leur absence…
D.T. Il y a bien un peu d’activisme de la part du gouvernement autour de l’IA. Des financements, des accompagnements de filière, notamment par le nucléaire, des investissements étrangers. Mais c’est vrai que le sujet est absent du débat politique, alors que de nombreuses questions se posent. Comment éduquer les jeunes Français à l’ère de l’IA ? Faut-il apprendre l’informatique et l’ingénierie ou les mathématiques et les lettres ? Etudier avec un ordinateur ou un crayon ? Même si les Français sont intéressés par ces sujets, il est possible qu’ils n’attendent pas vraiment les politiques sur ce terrain.
A.L. L’Europe n’est pas parvenue aujourd’hui à la frontière technologique : elle ne dispose pas d’un modèle généraliste comparable à ceux d’OpenAI, d’Anthropic ou de DeepSeek. Cela pose une question de souveraineté, mais le fort niveau de concurrence de ces acteurs étrangers est un soulagement : ce ne sont pas des monopoles. L’enjeu immédiat est de rester dans la course côté usage, pour en capter les gains de productivité. Cela suppose notamment de disposer de centres de données et de l’énergie nécessaire. Je pense que les responsables politiques doivent parler clairement de cet enjeu. Le risque de déclassement technologique est tellement important qu’il limite, pour l’instant, l’émergence d’une opposition frontale à l’IA chez les jeunes. En tout cas, je ne l’observe pas chez mes étudiants. Ils ont des inquiétudes sur le futur du travail, bien sûr, mais leur crainte est plutôt de rejoindre une entreprise qui n’utiliserait pas cette technologie et de manquer ainsi le train.
Source link : https://www.lexpress.fr/economie/high-tech/thesmar-et-landier-la-paix-de-lia-proposee-par-le-pape-vise-a-ralentir-le-progres-alors-quil-faut-4KV37C7QDZCODIFMDKP3A3VLF4/
Author : Arnaud Bouillin, Thomas Mahler
Publish date : 2026-06-01 16:00:00
Copyright for syndicated content belongs to the linked Source.
