L’Express

« Il faut empêcher que l’IA ne conduise à l’anéantissement de l’être humain »: l’optimisme inquiet de l’écrivain Amin Maalouf

« Nous devons prendre la mesure de ce qui est en train de se passer, prévient l’écrivain Amin Maalouf. Comprendre ce qui émerge, et nous donner la volonté et les moyens d’orienter cette évolution, pour éviter qu’elle ne conduise à l’asservissement de l’être humain. » Il publie « Le siècle de notre métamorphose » (Grasset), un essai dans la lignée de ceux réunis dans le volume « Un monde sans boussole » (Bouquins) : « Les identités meurtrières », « Le dérèglement du monde », « Le naufrage des civilisations » et « Le Labyrinthe des égarés ».

Fin analyste des grands basculements, Amin Maalouf estime que nous vivons un moment sans précédent. « Pour la première fois depuis l’aube de l’histoire, dit-il à L’Express, nous sommes amenés à nous interroger sur la place de l’espèce humaine dans l’univers. » Le meilleur et le pire sont encore possibles. A condition de dompter « la bête » (l’intelligence artificielle). Et de réveiller l’humanisme.

L’Express : En quoi ce premier quart du XXI siècle est-il une métamorphose plutôt qu’une crise passagère ?

Amin Maalouf : Les crises dont j’ai parlé depuis trente ans demeurent : l’exacerbation des identités, les dérèglements économiques, climatiques, politiques, la disparition d’une véritable gouvernance mondiale. Mais ce que nous vivons aujourd’hui a une spécificité : c’est une évolution technologique vertigineuse, et sans précédent.

Sans précédent ? Et l’imprimerie alors !

Pour la première fois depuis l’aube de l’histoire, nous sommes amenés à nous interroger sur la place de l’espèce humaine dans l’univers. Nous avons soudain des machines qui imitent notre activité dans tous les domaines du savoir et même, de plus en plus, dans la création artistique et intellectuelle.

C’était d’ailleurs le projet de Turing, le fondateur emblématique de l’intelligence artificielle, avec ce qu’il appelait « le jeu d’imitation ». Depuis quelques années seulement, nous pouvons converser avec des machines en ayant le sentiment de parler à un spécialiste de haut niveau, et dans tous les domaines.

« La créature se croit le Créateur »…. L’IA relève-t-elle de cette démesure ?

Je ne suis pas sûr que les pionniers portaient, à titre individuel, des rêves prométhéens. En tant que scientifiques, ils voyaient qu’on commençait à cartographier le cerveau, et il leur est apparu qu’on pourrait un jour reproduire son fonctionnement. Etrangement, cet objectif, qui paraissait outrancier, s’est révélé atteignable. Et la résultante de tout cela, c’est effectivement l’émergence, dans les dernières décennies, d’un rêve prométhéen collectif de l’espèce humain.

Vivons-nous une révolution d’ordre anthropologique ?

Si les entreprises pionnières de l’intelligence artificielle comme OpenAI, Anthropic et les autres disent vrai, et nous avons suffisamment d’éléments pour les prendre au sérieux, sans tout prendre à la lettre, des dérapages sont possibles. Les programmes qui codent de plus en plus vite et de manière autonome pourraient bientôt s’améliorer, voire « se reproduire » eux-mêmes.

Il est alors tout à fait possible que nous perdions le contrôle. Ce n’est pas inéluctable, mais c’est devenu plausible. Je ne suis évidemment pas un spécialiste, je vous donne mon sentiment d’honnête homme qui essaie de comprendre le monde. Les intelligences artificielles pourraient-elles un jour acquérir une conscience ? Nous ne savons pas vraiment comment émerge la conscience d’être soi-même ? Mais précisément parce que nous ne le savons pas, nous ne pouvons pas l’exclure d’emblée.

Selon vous, nous marchons au même rythme vers deux avenirs opposés. Comme des funambules sur un fil. Qu’est-ce qui fera pencher la balance ?

Nous devons prendre la mesure de ce qui est en train de se passer. Comprendre ce qui émerge, et nous donner la volonté et les moyens d’orienter cette évolution, pour éviter qu’elle ne conduise à l’asservissement ou à l’anéantissement de l’être humain. Les deux avenirs, le meilleur et le pire, sont possibles. Ces technologies pourraient nous échapper, mais je suis persuadé qu’il est encore possible d’apprivoiser la bête.

Qui doit fixer les limites ? Les scientifiques, les États, les citoyens ?

Nous tous. Les scientifiques ont un rôle essentiel, et aussi les pouvoirs publics. Mais c’est à la société tout entière, à tous les citoyens responsables, et notamment à ceux qui disposent d’une certaine influence, de réfléchir à ce que l’évolution a mis entre nos mains ; pour déterminer ce qui doit être autorisé ou interdit, ce qui doit être restreint ou encouragé. Toute technologie gérée de manière responsable peut être mise au service de l’humain ; mal utilisée, elle se retourne contre lui.

Face aux robots, quelles qualités humaines faudra-t-il encore cultiver davantage ?

D’abord le sens de la responsabilité et de la solidarité. Les biotechnologies peuvent rendre notre vie plus saine, plus longue, plus heureuse. Mais entre des mains irresponsables ou malintentionnées, elles peuvent produire des pandémies, des armes bactériologiques dévastatrices. Un pays tenté d’utiliser des armes destructrices doit savoir qu’elles pourraient se retourner contre lui.

L’IA imposera-t-elle une grande réforme intellectuelle et morale, comme au temps de Montaigne ?

Les gens affirment aujourd’hui leur identité avec force, parfois avec violence. Ce sentiment est compréhensible. Mais il faut développer, à côté de l’appartenance à une nation ou à une communauté, le sentiment d’appartenir d’abord à l’espèce humaine. Une telle attitude est devenue indispensable.

Sans doute a-t-elle existé, tout au long de l’histoire, chez certaines personnalités exceptionnelles : chez Albert Camus, par exemple, pour qui j’ai une dévotion particulière, ou chez Claude Lévi-Strauss, qui a tant travaillé après la Seconde guerre pour que les haines ne renaissent pas.

Et on la devine aujourd’hui aussi chez certains de nos contemporains, comme le pape Léon XIV. Mais il est indispensable que cette vision des choses puisse désormais prévaloir. Sinon, la poursuite de l’aventure humaine serait sérieusement compromise.

Qu’avez-vous pensé de l’encyclique sur l’IA ?

Qu’un pape éprouve le besoin, quelques mois après son élection, de publier une encyclique sur une technologie nouvelle, c’est extrêmement significatif. D’habitude, un tel processus nécessite des années de préparation. Mais le pape a manifestement ressenti une menace existentielle proche. Le fait qu’il soit américain, qu’il connaisse bien ce phénomène d’accélération scientifique et technologique, explique peut-être ce sentiment d’urgence.

Il est clair, en tout cas, que lorsque le destin de l’espèce humaine est en jeu, nous avons tous besoin d’une réflexion approfondie, avec une dimension spirituelle, qui ne vienne pas d’une seule obédience. Ces questions nous concernent tous, quelles que soient nos origines ou nos croyances.

Vous convoquez le mythe du roi Midas. Quel est aujourd’hui l’or qui pourrait nous affamer ?

Midas voulait que tout ce qu’il touche se transforme en or, et son rêve avait été exaucé. Mais ce privilège était accompagné d’une malédiction : quand il a voulu manger, sa nourriture s’est également transformée en or, et il a failli mourir de faim.

Nous, les humains, nous avons rêvé de toute-puissance, de richesse et d’immortalité. Et beaucoup de nos rêves sont en train d’être exaucés. Mais nous découvrons aujourd’hui que notre bonne fortune pourrait être, comme pour Midas, aussi bien une bénédiction et une malédiction. Elle pourrait résoudre beaucoup de nos problèmes, mais elle pourrait aussi se retourner contre nous.

Comment l’IA va-t-elle transformer la transmission du savoir ?

Elle provoque déjà chez nous tous un affaiblissement de la mémoire, et une diminution de notre capacité d’attention et de concentration. Mais il ne faut pas céder au catastrophisme. Ces technologies viennent d’arriver, il est normal qu’il y ait des turbulences, nous n’avons pas encore eu le temps de prendre toute leur mesure. Avec le temps, nous saurons mieux les utiliser, les encadrer, les canaliser. Du moins, il faut l’espérer…

Si Léon l’Africain avait disposé de l’IA, qu’en aurait-il fait ?

Il y a vingt ans, nous ne pouvions pas encore imaginer ce qui existe aujourd’hui. Alors, au seizième siècle ! Une idée de livre amusante serait de « convoquer » Montesquieu ou Tocqueville, et de s’efforcer à leur expliquer les réalités de notre siècle.

Mais pourquoi aller si loin ? Même à un personnage proche de nous, comme le général de Gaulle, nous aurions du mal à expliquer un phénomène comme l’intelligence artificielle ! Songez qu’il y a quatre ans, ChatGPT n’existait pas encore. Il a été lancé fin novembre 2022, et les grands modèles de langage occupent déjà une bonne partie de nos conversations.

Vous sentez-vous concurrencé voire menacé par l’IA, en tant qu’écrivain ?

Sincèrement, non. Mon devoir, c’est d’essayer de comprendre le monde. Je sais que ces outils finiront par produire, dans presque tous les domaines, des œuvres qui égalent ou dépassent les nôtres.

J’espère qu’une spécificité humaine restera perceptible, mais je n’en suis pas certain. Une autre civilisation est en train de naître, et nous ne savons pas ce qu’elle sera. J’ai la chance de ne pas avoir un très grand ego : laisser sa trace individuelle sur les temps à venir m’apparaît comme une illusion.

Dans quelques années verra-t-on siéger à l’Académie française des écrivains et des penseurs assumant d’avoir écrit leurs livres avec l’intelligence artificielle ? Un Thélyson Orelien par exemple !

Je ne le crois pas. Mais beaucoup d’œuvres mêleront activité humaine et intelligence artificielle, et la plupart de nos semblables ne se soucieront peut-être plus de savoir ce qui vient de l’une ou de l’autre. Dans l’intervalle, il serait raisonnable d’indiquer quand un livre a été écrit avec l’IA ou sans.

J’ai 77 ans, je serai toujours plus à l’aise avec un livre écrit par un être de chair comme moi. Mais mes petits-enfants – j’espère qu’ils continueront à lire des livres ! – ne seront sans doute pas sensibles à cette différence.

Qu’y a-t-il d’inimitable, dans votre œuvre, pour une machine ?

Probablement mes doutes.

Un roman d’Amin Maalouf existe aussi parce qu’il y a une vie derrière…

Ce qui fait la spécificité d’une œuvre humaine, c’est la vie, la souffrance, le plaisir. Tant qu’on ne les aura pas « synthétisés », il restera quelque chose de spécifiquement humain. Le livre, en tant qu’objet, est quasiment le même depuis très longtemps. On peut espérer qu’il restera un marqueur de civilisation et d’humanité.

En relisant vos essais, que pensez-vous de vos intuitions ? Lesquelles se sont révélées fausses ?

Sur les identités, mon intuition était juste : trente ans après, le repli identitaire est plus fort que jamais. Ce qui a changé, c’est que la technologie est devenue le moteur essentiel de l’histoire. Je ne voyais pas à quel point elle allait être déterminante.

Si vous écriviez un roman sur ce siècle, qui en serait le héros ?

Il n’est pas facile de trouver un espace pour la fiction dans un monde où la réalité la dépasse. Fahrenheit 451 indique une voie : comment préserver l’âme des livres quand l’objet lui-même est en train de disparaître. J’ai une passion pour Isaac Asimov, notamment pour sa trilogie intitulée Fondation. Mais la loi qu’il a énoncée, selon laquelle un robot ne doit jamais nuire à un humain, se révèle aujourd’hui trompeuse : nous la tenons pour une réalité, alors que c’est l’invention d’un romancier.

Vous vous méfiez de la religion dès qu’elle devient identitaire. Quelle place pour le spirituel dans notre monde gouverné par la technique ?

J’ai toujours eu un intérêt profond pour la transcendance, doublé d’une méfiance envers les religions comme marqueurs identitaires. C’est en éloignant la religion de sa dimension identitaire qu’on lui redonne sa raison d’être.

L’IA va-t-elle rebattre les cartes géopolitiques ?

Sûrement. Pour l’instant, elle conforte la bipolarisation entre la puissance installée, les États-Unis, et la puissance montante, la Chine. Mais certaines régions pourraient s’élever grâce à elle : l’Europe, l’Inde…

Comment l’Europe peut-elle peser sans géants technologiques ?

Elle a peut-être davantage conscience que d’autres de la dimension éthique. Mais elle doit devenir une véritable puissance dans ce domaine. Marginale, elle ne pourra rien influencer. Présente, comme les États-Unis et la Chine, elle pourra peser en faveur d’une réglementation éthique.

Donald Trump a-t-il détruit l’Occident ?

Il en a compromis une certaine image. L’Occident s’est toujours prévalu d’être le promoteur de la démocratie et des libertés ; ce n’était pas toujours vrai, mais cela avait l’avantage de fixer une exigence morale. Trump a clairement indiqué que ce n’était pas sa priorité, ce qui aura des effets durables. La chance actuelle de l’Occident, c’est que ses adversaires ne sont pas en mesure, eux non plus, de se présenter en champions de la démocratie.

Il me semble que l’Europe pourrait reconstruire l’image de l’Occident dans le monde, et rétablir sa crédibilité. Mais pour cela, elle devrait se transformer elle-même, se reconstruire, se refonder. Elle en a les moyens. En a-t-elle la volonté politique ? C’est une autre question.

La France vous inquiète-t-elle ?

Nous traversons une période angoissante, avec des élections majeures à l’horizon, une situation sociale tendue, des problèmes budgétaires qui semblent inextricables. Mais, comme le disait le général de Gaulle, la France est un « vieux pays » qui a connu dans son histoire tant de turbulences…

Le président de la République est le protecteur de l’Académie française. En mai prochain, ce pourrait être Marine Le Pen voire Jean-Luc Mélenchon. Qu’est-ce que cela vous inspire ?

Il ne sert à rien de spéculer. J’aurai la patience d’attendre : au soir du second tour, nous saurons. La sagesse — la mienne, autant que celle de l’institution que je représente, — exige de préserver sa confiance en l’avenir et son équanimité.

L’Académie est-elle imperméable à l’effervescence française ?

Elle n’est évidemment pas imperméable à ce qui traverse la nation et le monde. Mais elle cherche à se préserver de l’agitation quotidienne. On nous reproche parfois d’être hors-sol ; je le prends comme un compliment. À une époque de grand bouillonnement, une société humaine a besoin d’institutions « hors-sol », qui traversent les siècles, qui observent sereinement, qui gardent le sens de la durée et de la permanence.

Seigneurs de la tech, transhumanistes, autocrates comme Poutine rêvent tous d’immortalité. Ils pourraient vous envier !

Disons que notre immortalité est encore plus passagère que la leur !

Beaucoup de jeunes ont manifesté ces dernières semaines. Que diriez-vous à un lecteur de 20 ans qui craint d’être remplacé par l’IA ?

Les jeunes ont raison d’être inquiets. Mais ils doivent garder à l’esprit que le monde leur appartient, et qu’ils doivent y être des acteurs, non de simples spectateurs. Il faut œuvrer pour que l’IA soit au service de la société entière, non au service des autocrates, des ploutocrates ou des docteurs Folamour.

Tant qu’on agit en citoyen, on peut rester maître de l’évolution. Pour ma part, je me suis toujours défini comme un optimiste inquiet : il y a beaucoup de raisons de s’inquiéter, mais le pire n’est jamais inéluctable.



Source link : https://www.lexpress.fr/culture/livre/il-faut-empecher-que-lia-ne-conduise-a-laneantissement-de-letre-humain-loptimisme-inquiet-de-SY6SYSKCH5B7ZLC4WTFOBDDR5I/

Author : Sébastien Le Fol

Publish date : 2026-11-22 16:00:00

Copyright for syndicated content belongs to the linked Source.

Tags : L’Express