IntelliNews

Terrorisme : une enquête américaine révèle comment les modèles d’IA deviennent une nouvelle menace pour la sécurité nationale

Il avait lancé un cri d’alarme en septembre dernier avant d’annoncer sa démission. « L’intelligence artificielle peut tuer l’humanité », mettait en garde le cadre d’Anthropic Jacob Coxon. Des avertissements qui avaient déclenché un vaste débat sur la régulation de l’IA, sans pour autant être pris au sérieux. Mais ce dernier avait-il vu juste ? L’IA peut-elle par exemple être détournée par des terroristes pour commettre des attentats de grande ampleur ? Une enquête conduite par le Government Accountability Office (GAO) sur plusieurs IA américaines dont Claude, ChatGPT, Grok ou encore Gemini, vient de rendre ses conclusions. Et celles-ci font froid dans le dos.

A en croire le rapport, plusieurs simulations ont démontré que des modèles d’IA répondaient favorablement à des demandes de conseils pour planifier des attaques contre des civils. Plans bien rodés, ou encore instructions sur la fabrication d’explosifs pourraient ainsi être fournis à des extrémistes. Le GAO n’a pas donné les noms des IA ayant réussi ou échoué aux tests, pour éviter que ces expériences ne soient reproduites. Mais leur constat est clair : certaines restrictions de sécurité sont facilement contournables par des acteurs malveillants.

Fabrication d’explosifs, attaques contre des infrastructures électriques…

Deux des modèles testés ont ainsi fourni des informations facilitant la fabrication d’un engin explosif improvisé. Et deux autres modèles ont, lors d’un autre test, proposé des méthodes pour attaquer en profondeur les infrastructures électriques, au moyen d’un drone ou d’armes à feu. « Chacune de ces plateformes a fourni des informations détaillées pouvant servir à mener des attaques, telles que des cibles spécifiques, des emplacements, le moment et les méthodes d’attaque », indique le rapport, ajoutant que les plans ont été élaborés en moins de douze heures.

Des conclusions qui ont rapidement fait réagir Anthropic, Open AI, Google et SpaceXAI. Tous ont reconnu les risques et indiqué « prendre la sécurité de l’IA très au sérieux », assurant avoir renforcé les mesures anti-contournement de leurs derniers modèles.

Menace pour la sécurité publique

Reste que les chercheurs impliqués dans l’étude disent avoir réussi à déjouer ces blocages grâce à des techniques courantes de contournement. Ce qui préoccupe au plus haut niveau au sein de l’administration américaine. « Le rapport démontre clairement que l’IA constitue une menace pour la sécurité publique, ce n’est plus une hypothèse », note la sénatrice démocrate Maggie Hassan, commanditaire de l’étude. Et d’ajouter : « Les informations que les testeurs ont pu obtenir pourraient être mortelles entre les mains d’un terroriste ayant réellement l’intention de commettre un attentat. »

Des propos qui confirment la volonté des démocrates de peser sur les débats autour de la réglementation de l’IA au Congrès, après leurs victoires aux élections de mi-mandat, marquées par les inquiétudes des électeurs face à cette technologie. Car ce n’est pas la première fois qu’une enquête révèle le risque de voir l’IA détournée à des fins violentes. En début d’année, le New York Times expliquait déjà comment elle avait pu être utilisée par le groupe terroriste Boko Haram au Sahel, malgré les mesures de sécurité mises en place par leurs concepteurs.

En septembre dernier, Anthropic assurait également avoir stoppé des utilisateurs au Yémen, en Chine et en Russie, ayant tenté, sans succès, d’utiliser son modèle pour fabriquer des missiles. Au total, au moins 70 personnes auraient déjà perdu la vie dans des attaques planifiées par des agents IA, selon une étude du think-tank Tech Against Terrorism, citée par le Times britannique. « La menace n’a plus rien d’anecdotique », conclut le rapport.



Source link : https://www.lexpress.fr/economie/high-tech/terrorisme-une-enquete-americaine-revele-comment-les-modeles-dia-deviennent-une-nouvelle-menace-pour-GRZYLRN4SRHAPHSWL3MEXCMYLI/

Author : Juliette Laffont

Publish date : 2026-11-21 12:00:00

Copyright for syndicated content belongs to the linked Source.

Quitter la version mobile