L’intelligence artificielle est-elle hors de contrôle ? Récemment, les mises en garde des géants du secteur se sont multipliées. Dario Amodei (Anthropic), Sam Altman (OpenAI) et Elon Musk (SpaceX), pourtant rivaux, ont exhorté à une meilleure surveillance de la technologie, notamment après le piratage de la plateforme Hugging Face, cet été, par un essaim d’agents d’OpenAI. La démission fracassante début septembre de Jacob Coxon, un chercheur d’Anthropic dénonçant la manière dont les entreprises développent leurs modèles, a remis une pièce dans la machine.
Ces derniers mois, des personnalités influentes de l’IA ont dressé le parallèle avec l’arme nucléaire, à la fois en matière de dégâts potentiels et de pistes de régulation. Sam Altman a souvent fait référence à l’idée d’une Agence internationale de l’énergie atomique (AIEA) dédiée à l’IA. Une comparaison reprise par le directeur de la CIA, John Ratcliffe. D’autres ont évoqué un accord sur le modèle du traité de non-prolifération (TNP).
Dans une analyse parue dans Foreign Affairs, le chercheur canadien Christopher David LaRoche, enseignant à la Central European University (Autriche) et au Bard College (Etats-Unis), explique pourquoi l’analogie est tentante mais compte de nombreuses limites. Auprès de L’Express, il évoque ses craintes liées à un développement incontrôlé de l’IA, qui pourrait entraîner « des scénarios d’escalade involontaires » bien connus du monde nucléaire : « des situations mal comprises et des informations ambiguës, que les gens lisent souvent à travers le prisme du pire. »
L’Express : De nombreux dirigeants issus du monde de l’intelligence artificielle ont comparé l’IA aux armes nucléaires. Selon eux, les deux secteurs pourraient bénéficier des mêmes garde-fous. Cela vous a-t-il surpris ?
Christopher David LaRoche : Pas du tout. Nous comprenons pourquoi la communauté de l’IA au sens large convoque si souvent cette analogie. Il existe deux raisons principales. La première : le nucléaire a été la dernière grande technologie de rupture à comporter un potentiel catastrophique. On débat encore pour savoir si Internet a été globalement bénéfique ou néfaste pour l’humanité – et le jugement peut varier si l’on y inclut les réseaux sociaux. Mais dans l’ensemble, rien à voir avec la dimension que revêt le nucléaire, et que l’on retrouve aujourd’hui avec l’IA.
La seconde raison tient aux institutions nées du besoin de réduire les risques liés au nucléaire, aussi bien au niveau national qu’international. Le traité de non-prolifération (TNP) bénéficie d’une adhésion quasi universelle. Si l’on remonte en arrière, John Fitzgerald Kennedy prédisait par exemple bien plus d’États dotés de l’arme nucléaire qu’il n’y en a finalement eus. Sur le papier, cela ressemble à un succès. Donc le monde de l’IA se dit que c’est peut-être ce qu’il lui faut.
Si l’analogie est justifiée, quelles en sont les limites ?
Les différences entre les deux technologies sont nombreuses. Les armes nucléaires n’ont qu’un seul usage : exploser. Même en incluant la filière civile, les services rendus par l’atome restent assez limités : la santé avec la radiologie, et la production d’énergie. L’IA, elle, est partout. Elle complète ou accélère d’autres technologies : les systèmes de contrôle nucléaire, l’aviation, la santé, notre vie quotidienne à travers les chatbots… Ses usages sont presque illimités. C’est une technologie très transversale.
Regardons ensuite les matières indispensables aux deux technologies. Pour le nucléaire, il faut un isotope minoritaire d’uranium, que l’on obtient en enrichissant de l’uranium ordinaire, ou du plutonium, qui n’existe pas à l’état naturel et qu’il faut produire. L’écart entre l’uranium nécessaire pour faire tourner une centrale et celui pour une arme n’est pas très grand. Le principal défi du traité de non-prolifération et des inspecteurs de l’AIEA consiste à comptabiliser les matières et leur niveau d’enrichissement. Avec l’IA, l’affaire est bien plus compliquée que d’évaluer le nombre d’ogives nucléaires.
La mesure sur laquelle tout le monde s’accorde, un peu comme le PIB en économie, c’est la puissance de calcul, qui requiert une importante empreinte industrielle. Et pour l’IA frontière, c’est-à-dire les modèles les plus avancés d’Anthropic ou d’OpenAI, il faut les puces les plus perfectionnées. Beaucoup sont fabriquées à Taïwan, et l’entreprise néerlandaise ASML occupe une place cruciale dans le processus. Les États-Unis ont mis en place un contrôle des exportations. Mais il peut être contourné. Privée d’accès aux puces les plus avancées, la Chine en achète des plus anciennes, recourt à des techniques comme la distillation et mise sur les modèles open weight [NDLR : dont les paramètres sont mis à disposition du public], si bien qu’elle se retrouve très proche des États-Unis. C’est la preuve que contrôler les capacités de l’IA par le biais des matériaux servant à fabriquer les modèles est un vœu pieux.
Autre différence majeure : les armes nucléaires sont nées comme des projets gouvernementaux, contrairement à l’IA…
Tout à fait. Elles étaient déjà sous contrôle étatique partout où elles sont apparues. Aux Etats-Unis, c’était le projet Manhattan. Cela ne veut pas dire que l’industrie privée n’y a eu aucune part : elle a notamment fourni des matériaux. A l’inverse, l’IA est portée et pilotée par des acteurs non publics. Ce qui pose un défi de gouvernance. L’Union européenne tente de la réguler de façon bien plus ambitieuse que les États-Unis, où se déroule la quasi-totalité de la recherche en IA frontière.
Enfin, dernière différence de taille : les armes nucléaires ont eu leur « moment Hiroshima et Nagasaki » avec les bombardements des deux villes japonaises à la fin de la Seconde Guerre mondiale. Une apparition d’une très grande violence sur la scène mondiale.
L’IA pourrait-elle bientôt connaître ce « moment décisif » ?
Les prédictions de personnes plus renseignées que moi ne se sont pas réalisées, donc je reste prudent. La série actuelle d’incidents, notamment l’attaque des serveurs de Hugging Face, suivie d’une tentative d’inflitration au Canada et d’une intrusion réussie en Australie, a incontestablement attiré l’attention de la communauté de l’IA sur les risques encourus. L’idée qu’il est dangereux de la développer à toute vitesse gagne du terrain. Mais la plupart de ces incidents n’ont pas encore causé de dommages humains à grande échelle, contrairement à Hiroshima et Nagasaki, ou aux quasi-catastrophes qui ont suivi, comme la crise de Cuba et Tchernobyl. De plus, les débats qui ont suivi sont assez techniques. Comment décrire ce qu’ont fait les agents d’OpenAI avec Hugging Face ? Est-ce une perte de contrôle, un piratage, un simple accès ? Les développeurs leur ont-ils simplement rendu la tâche facile, ou la technologie devient-elle trop puissante pour que nous la maîtrisions ? Cette complexité empêche encore le grand public de sentir que le risque est proche.
Si les incidents se multiplient et ont des effets réels, comme des perturbations du réseau électrique ou la publication de données personnelles, une fenêtre politique pourrait s’ouvrir aux États-Unis en faveur d’une régulation fédérale contraignante. Mais à moins d’un incident qui tue des gens ou cause des dégâts considérables, je crains qu’il faille attendre un nouvel occupant à la Maison-Blanche. À l’inverse, si les développeurs parviennent à ralentir et agir de façon plus responsable, il n’y aura peut-être plus d’incidents pendant un temps. Le danger, c’est qu’ils reviennent plus tard, et que nous nous retrouvions à la case départ.
Pensez-vous que la non-utilisation ou la non-prolifération de l’IA soit possible ?
Dans le nucléaire, un volet politique s’ajoutait au contrôle des matières : des garanties de sécurité offertes par les États-Unis et l’URSS à leurs alliés. D’autres pays, comme le Brésil, l’Argentine ou dans une certaine mesure la Suède, ont renoncé parce qu’ils n’y voyaient pas un bénéfice de sécurité à la hauteur du coût très élevé pour les obtenir. J’ai plus de mal à voir comment cela fonctionnerait dans l’IA. La plupart des gouvernements veulent la technologie et ses bénéfices. Ils ont des politiques essentiellement tournées vers l’industrie, la croissance, l’emploi. Rarement vers les risques et les préjudices, dont le spectre reste encore diffus.
Il est donc très difficile de dire quel arrangement international pourrait voir le jour. La Chine et les États-Unis ont pris une très grande avance sur tous les autres dans le domaine. Et des blocs géopolitiques se forment autour d’eux. Avec ses modèles open weight, la Chine tente de gagner en influence auprès d’un large ensemble de pays qui ne sont pas dans le giron des Etats-Unis. Ces derniers pourraient aussi partager leurs technologies avancées avec leurs alliés, comme il existe déjà le programme Pax Silica sur les matériaux.
Une des grandes idées qui circule pour imiter l’ordre nucléaire, c’est un accord entre les États-Unis et la Chine. Washington et Pékin s’accorderaient sur des limites, par exemple des seuils de puissance de calcul afin de ralentir le rythme. On peut aussi imaginer un traité multilatéral de type TNP. Chacun accepterait de limiter ce qu’il fait, et la technologie serait fournie à un groupe plus large d’États qui la souhaitent. Mais tous seraient tenus par certaines interdictions, comme développer une superintelligence artificielle, si tant est qu’on puisse la définir et la mesurer. Sauf que politiquement, les deux pays ne semblent pas alignés pour un tel accord. Peut-être le sont-ils davantage sur la mise en place d’une ligne directe ou d’un mécanisme de signalement des incidents. Mais soyons réalistes. La compétition devrait se poursuivre. Seul un événement désastreux semble pouvoir faire converger les intérêts.
Même si l’on arrivait à se mettre d’accord sur quoi contrôler, qui pourrait en être le garant ?
Au tout début de l’ère nucléaire, avant même que l’URSS ne se dote de l’arme, Robert Oppenheimer a rédigé l’essentiel du plan Acheson-Lilienthal. Celui-ci proposait de confier toutes les matières nucléaires à un organisme international, qui les distribuerait pour des usages civils, tout le monde se surveillant mutuellement. Très ambitieux, ce plan n’a jamais abouti. L’ordre nucléaire a donc en réalité commencé par un échec. La logique de la guerre froide a pris le dessus et nous a donné l’équilibre que nous connaissons, imparfait, et qui repose en partie sur la chance. Nous vivons aujourd’hui un moment de plasticité comparable pour l’IA. Les idées vont d’un « TNP+ », un grand marché mondial avec accès à la technologie, réduction des risques et vérification, à un organisme international qui contrôlerait les puces les plus avancées. Mais le lien entre puissance de calcul et capacités évolue sans cesse : des ingénieurs astucieux obtiennent toujours plus avec moins. Toute ligne rouge entre ce qui est autorisé ou interdit serait une cible mouvante. C’est un problème à la fois technique et politique.
Les meilleures idées partent de là où nous en sommes : un processus bilatéral de réduction des risques entre les États-Unis et la Chine, avec une vérification peu intrusive, par satellite par exemple, avant d’envisager un grand marché global. C’est un cheminement par étapes, comme avec le nucléaire, qui a avancé sur fond de crises : Cuba, Berlin… Avec l’IA, nous n’avons pas encore connu ce type de quasi-catastrophe, où les deux superpuissances se diraient : « Attendez une seconde, que pouvons-nous faire ? »
Le contrôle du nucléaire a mis des décennies à se construire. Avons-nous autant de temps avec l’IA, vu sa vitesse de progression ?
Sans détour, non. Les développeurs de l’IA frontière semblent aujourd’hui très préoccupés – du moins en apparence – par les risques qui émergent de leurs modèles. Ils semblent pour l’instant s’imposer une forme d’autolimitation, peut-être pour devancer l’opinion publique. Mais cela pourrait changer si le nombre d’incidents diminuait et si la couverture médiatique retombait. Je pense que les développeurs sont en réalité beaucoup plus préoccupés par les autres usages malveillants, comme la fabrication d’armes biologiques, sur lesquels ils ont mis en place de nombreux garde-fous. Face aux pertes de contrôle, nous dépendons entièrement de leur autorégulation. Ce n’est pas satisfaisant. Les avancées ont toujours plusieurs longueurs d’avance sur la gouvernance.
Revenons sur le cas Hugging Face. Imaginez maintenant que les agents d’OpenAI aient accédé par inadvertance à un site chinois important ou à l’infrastructure de cybersécurité du pays. Non pas pour pirater la Chine, mais parce qu’ils jugeaient que cette action était une étape pour atteindre l’objectif assigné. Pékin le découvre avant tout le monde. Soit la Chine croit sur-le-champ subir une cyberattaque. Soit elle va voir les Etats-Unis en exigeant une preuve attestant que ce n’était pas un acte malveillant. Vous ouvririez la boîte de Pandore d’une crise internationale. La situation pourrait très vite dégénérer, détériorant au minimum les relations entre les deux pays.
Ce scénario réunit toutes les failles dont nous avons parlé. Des technologies non régulées ni supervisées. Une entière confiance dans la capacité des développeurs à s’en charger eux-mêmes. Le manque d’une enceinte internationale permettant le partage d’informations et la mise en place de mesures de réduction des risques. Je crains vraiment que de tels incidents ne dégénèrent complètement. Cela ressemble aux scénarios d’escalade involontaire que nous étudions depuis longtemps dans le monde nucléaire : des situations mal comprises et des informations ambiguës, que les gens lisent souvent à travers le prisme du pire.
Source link : https://www.lexpress.fr/environnement/christopher-david-laroche-controler-lia-est-bien-plus-complique-que-devaluer-le-nombre-dogives-WU3UM2IEFBBWFNOLPRP6IJD6ZU/
Author : Baptiste Langlois
Publish date : 2026-10-05 03:45:00
Copyright for syndicated content belongs to the linked Source.