L’ »IApocalypse » fait parler d’elle. Deux événements ont mis le feu aux poudres. D’une part, l’attaque de la société Hugging Face (qui propose des solutions d’IA) par des IA d’OpenAI (le géant de l’IA générative qui détient ChatGPT). L’attaque a été lancée de manière autonome par les modèles d’OpenAI sans avoir été commanditée par des responsables humains. D’autre part, la démission fracassante de Jacob Coxon, jeune ingénieur d’Anthropic (l’autre géant de l’IA générative qui commercialise Claude). Coxon a quitté ses fonctions en postant une série de messages sur X s’inquiétant que l’on s’achemine à grands pas vers une « superintelligence » capable de « tous nous tuer d’ici à la fin de la décennie ». Depuis, toute l’attention se focalise sur le risque, bien réel, de perte de contrôle de l’IA. Au point que, pour la première fois, les patrons des trois plus importantes entreprises du secteur, à savoir Sam Altman (OpenAI), Dario Amodei (Anthropic) et Elon Musk (xAI) aient publiquement exprimé leur accord pour ralentir le développement des modèles les plus puissants.
Sans parler de ralentissement, un encadrement du développement de l’IA est-il réaliste ? De prime abord, c’est le scepticisme qui semble devoir s’imposer. Les géants de l’IA générative, de même que, sur le plan géopolitique, la Chine et les Etats-Unis, sont lancés dans une course au développement de l’IA la plus puissante. Ce qui n’est évidemment pas propice à la coopération. C’est le fameux dilemme du prisonnier. Les acteurs doivent arbitrer entre une coopération bénéfique à tous et une fuite en avant qui pourrait leur permettre de rafler la mise. Dans ce cas de figure, c’est évidemment la fuite en avant qui l’emporte. A plus forte raison lorsque l’on ignore si les concurrents respectent vraiment leurs engagements. C’est bien pourquoi il est totalement illusoire d’attendre un ralentissement du développement de l’IA qui viendrait des entreprises en compétition ou qui leur serait imposé par les Etats dont elles sont ressortissantes.
Encadrement supranational
En revanche, rien n’interdit d’imaginer un encadrement supranational. C’est là que le parallèle avec l’arme nucléaire, de plus en plus souvent fait dans le débat public, s’impose. En effet, avec la bombe atomique, nous disposons d’un précédent exploitable. En 1945, le monde pouvait légitimement craindre que, tôt ou tard, la plupart des Etats se dotent de l’arme nucléaire. Quatre-vingts ans plus tard, il n’en est rien. Aujourd’hui, le monde compte neuf puissances nucléaires. Entre-temps, la communauté internationale a adopté un traité de non-prolifération et créé une organisation internationale, l’Agence internationale de l’énergie atomique (AIEA), chargée de le faire respecter. Une architecture comparable pour encadrer le développement de l’IA pourrait voir le jour avec la signature d’un traité de non-prolifération de l’IA et la création d’une Agence internationale de l’IA (AIIA). Cela constituerait la seule solution pour encadrer le développement de l’intelligence artificielle.
Une solution qui ne constituerait pas une panacée, de la même manière que la non-prolifération nucléaire n’en a pas été une. Primo, il faut relativiser le rôle qu’elle a joué. Si la prolifération internationale a été limitée, ce n’est pas seulement en raison du cadre onusien. D’autres facteurs ont joué, que l’on retrouverait dans la course à l’IA. Ainsi, de la même manière qu’il est techniquement difficile et coûteux de mettre au point une bombe atomique, il est techniquement difficile et coûteux de développer une IA de pointe (dite IA de frontière). Secondo, le succès de la non-prolifération nucléaire est partiel. Certains Etats se sont dotés de l’arme nucléaire après l’entrée en vigueur du traité (Israël, Inde, Pakistan, Corée du Nord) et le cas iranien montre à quel point il est difficile à faire respecter par à une puissance déterminée à l’enfreindre.
Maintenant ou jamais
Plus problématique encore, le traité de non-prolifération nucléaire n’a pas empêché les puissances déjà nucléaires de faire proliférer leur arsenal. Or, c’est très exactement contre un phénomène comparable qu’il faudrait adopter un mécanisme de non-prolifération de l’IA. Son objet ne serait pas d’interdire aux puissances dépourvues d’IA de frontière d’en développer une, mais d’empêcher les puissances les plus en avancées dans le domaine de développer des modèles qui deviendraient trop dangereux et incontrôlables. La non-prolifération de l’IA viserait à éviter une fuite en avant non-coordonnée des modèles de pointe. De la même manière que les observateurs de l’AIEA contrôlent les installations nucléaires des pays suspects de prolifération atomique, des observateurs de l’AIIA devraient contrôler en permanence les activités d’OpenAI et de DeepSeek.
Tertio, le cadre de la non-prolifération nucléaire a mis un quart de siècle à se mettre en place. Pour l’IA, nous n’avons pas ce temps. C’est maintenant qu’il faudrait s’en occuper. Maintenant ou jamais. Or, Donald Trump, pour ne mentionner que lui, n’en veut pas. Etant coutumier des palinodies, il pourrait changer d’avis du jour au lendemain, surtout si une catastrophe imputable à l’IA se produisait. Mais, dans le cas contraire, il faudrait au moins attendre son départ pour que les choses commencent à bouger. C’est-à-dire deux ans, c’est-à-dire un siècle en temps IA. Car, dans deux ans, nul ne sait où en seront les modèles de frontière.
En restant réaliste, on peut se dire qu’un cadre de non-prolifération de l’IA ne verra probablement pas le jour. A tout le moins, pas tout de suite. Mais il faut avoir conscience que c’est la seule solution. Par ailleurs, le réalisme n’interdit pas le volontarisme. Que proposent les candidats à la présidentielle de 2027 en matière d’IA ? Pour l’heure, pas grand-chose. S’ils s’engageaient à ce que la France pousse à la mise en place d’un encadrement international de l’IA, ils afficheraient une position à la hauteur de l’enjeu. Il faut pousser l’idée, qu’elle fasse son chemin. La sécurisation de l’IA sera déjà au cœur de la réunion du conseil de sécurité de l’ONU de la semaine prochaine. Même si tous les feux sont au rouge, cela constitue indéniablement un signal encourageant.
*Antoine Buéno est conseiller au Sénat et essayiste. Il vient de publier Guidance (Tallandier).
Source link : https://www.lexpress.fr/idees-et-debats/face-a-liapocalypse-un-traite-de-non-proliferation-est-la-seule-solution-DWYKLI737JCW5E3BK5S5X27QVM/
Author :
Publish date : 2026-09-18 10:15:00
Copyright for syndicated content belongs to the linked Source.