« Avancer lentement pour ne rien casser ». Voilà qui va à l’encontre du principe cardinal de la Silicon Valley. Personne ne s’attendait à ce que Dario Amodei (Anthropic), Sam Altman (OpenAI) et Elon Musk (SpaceX) surmontent leurs vieilles querelles afin d’exhorter l’humanité à mieux contrôler leurs entreprises. Le miracle s’est produit. Mais beaucoup de gens sensés peinent à croire à leurs mises en garde.
Les preuves du caractère ingérable des IA génératives sont pourtant accablantes. Cet été, OpenAI a révélé, piteux, qu’un modèle en phase de test avait envoyé à son insu des essaims d’agents pirater Hugging Face, une plateforme très utilisée par les professionnels de la tech. Quelques jours après, Anthropic avouait des défaillances similaires. Le plus étrange dans ce débat est que les moins enclins à admettre les dangers de l’IA sont souvent bien informés de ses récents progrès. Comment expliquer que nous ne soyons pas plus inquiets face à ces discours alarmistes ?
Trois facteurs, à commencer par une forme de dissonance cognitive. Notre cerveau est ainsi fait qu’il nous commande de fuir s’il voit nos congénères détaler, même sans savoir pourquoi. En revanche, il ne sait que faire face à une personne qui nous conseillerait, l’air effrayé, de « fuir à toutes jambes », sans bouger elle-même d’un pouce. C’est un peu ce que font les entrepreneurs de l’IA, lorsqu’ils disent, à longueur d’interviews et de blogs, être inquiets et vouloir qu’on les freine, mais retournent chaque matin créer des générations d’IA plus puissantes.
Le risque de cartel dans l’IA
Dans ce contexte, faisons-nous preuve d’un salutaire esprit critique ou verse-t-on dans le complotisme ? Lorsque nous l’interrogions en 2024 sur ce qui distingue l’un de l’autre, Laurent Cordonier, sociologue et directeur de la fondation Descartes, rappelait un élément clé : « Chaque être humain est en état de dépendance épistémique. Tout ce que l’on sait, on le sait par le biais d’autrui. Si je sais qu’un pays a été envahi, c’est parce qu’un journaliste me l’a dit. Par mes propres sens et expériences, je ne sais presque rien du monde. La question de la connaissance, c’est donc celle de la confiance. Le premier pilier de l’esprit critique, c’est d’attribuer sa confiance épistémique sur des bases rationnelles. Pourquoi je décide ou non de croire à cette source ? Quels sont mes critères ? »
Or certaines déclarations des laboratoires IA écornent la confiance que les citoyens sont susceptibles de leur accorder. Lorsqu’ils disent, par exemple, avoir besoin d’exemptions au cadre antitrust. Une demande qui a fait bondir Alvaro Bedoya, ancien commissaire de la FTC, l’agence américaine de la concurrence, qui a promptement rappelé sur X que « la réglementation antitrust n’empêche pas les entreprises IA de se coordonner pour veiller à ce que leurs modèles ne nuisent à personne et ne piratent personne. Ce que cette loi leur interdit, à juste titre, c’est de s’entendre pour empêcher l’émergence de jeunes concurrents moins chers. »
Anthropic et OpenAI préparent leur IPO
L’opacité de l’économie des laboratoires IA rend aussi certains experts, comme l' »oracle » des subprimes Michael Burry, soupçonneux. Certes, le taux d’adoption et la croissance des revenus des laboratoires IA sont sans commune mesure avec ceux des géants logiciels des dernières décennies. Selon le Financial Times, Anthropic a mis en avant un bénéfice opérationnel ajusté pour le deuxième trimestre consécutif et des marges brutes de plus de 80%. Mais l’entreprise exclut de son calcul certains postes clés, notamment ce qu’elle doit reverser au fournisseur cloud lorsque son modèle est utilisé par ce biais. Les valorisations folles de ces laboratoires ne seront du reste justifiées que s’ils parviennent à faire croître encore très fortement leur chiffre d’affaires. Une question qui reste en suspens, en dépit des progrès fous des LLM dans divers domaines de pointe, notamment les mathématiques.
Car des sociétés comme Anthropic ont judicieusement attaqué le marché par ses poches à plus fort potentiel tels que le code et le droit. Dans d’autres secteurs, les entreprises pourraient avoir des besoins plus modestes. Anthropic est supposé réaliser son introduction en Bourse en octobre. OpenAI, l’an prochain. Ce type d’opérations « nécessite du battage médiatique et de l’esbroufe (…) Comme le fait de dire ‘nous sommes si formidables que cela pourrait devenir dangereux’”, raille Michael Burry, sur X.
Un autre boulet plombe le débat : les polémiques fantaisistes qui se sont multipliées par le passé autour de la conscience de l’IA. Non qu’il soit stérile de chercher quelle grille définit la conscience humaine et d’y confronter ces outils – la question philosophique est passionnante. Mais il y a eu un emballement proprement irrationnel autour des « émotions » que les chatbots prétendent avoir et qui ont un fondement des plus prosaïques : les modèles ont été entraînés sur des livres et des échanges humains qui regorgent de coups de foudre, de mensonges et de robots tueurs.
Polémiques artificielles
Pour l’heure, soumettre l’IA à nos tests de conscience permet surtout de voir à quel point nos critères pour définir celle-ci sont imprécis. Descartes pointait ainsi qu’on pouvait distinguer un être humain d’un automate perfectionné par sa capacité à « arranger diversement » des paroles « pour répondre au sens de tout ce qui se dira en sa présence. » Un critère astucieux à l’époque, obsolète aujourd’hui, les modèles génératifs réussissant désormais haut la main ce test, en s’appuyant sur une connaissance fine des schémas statistiques de notre langage.
Ces polémiques artificielles ont désensibilisé une partie du public au sujet. La sûreté de l’IA est pourtant une des questions majeures de notre siècle et requiert la coordination des grandes puissances mondiales. Celle-ci n’a rien d’impossible. Les Chinois, pas plus que les Américains ou les Européens ne souhaitent voir leur économie et leurs infrastructures mises à mal par des agents incontrôlés. Que leurs fleurons nationaux en soient les créateurs leur serait une bien piètre consolation.
Source link : https://www.lexpress.fr/economie/high-tech/pourquoi-le-debat-sur-lia-rend-tant-de-gens-senses-complotistes-T6OFLZGTFRHYJCMVOKBLURWHGA/
Author : Anne Cagan
Publish date : 2026-09-15 16:30:00
Copyright for syndicated content belongs to the linked Source.