L’IA dangereuse ? Oui. Mais autrement…

Deux grands fournisseurs mettent publiquement en garde contre leur propre produit. Les quatre dangers que je tiens pour réels — et le Terminator n’en fait pas partie.

17 septembre 2026 · Lecture : environ 12 minutes

Oui, l’IA est dangereuse. Mais pas de la manière dont on l’annonce en ce moment. Nous avons ici deux grandes entreprises qui mettent en garde contre elles-mêmes. Si elles fabriquaient des avions ou des rames de train, elles seraient retirées du marché en un rien de temps. Mais elles fabriquent de l’IA — et elles estiment qu’il faudrait ralentir le développement.

Sur ce dernier point, je suis d’accord avec elles. Sauf que les dangers se trouvent ailleurs que là où les gros titres le laissent croire. Quatre d’entre eux me paraissent pertinents. Le Terminator n’en fait pas partie.

Danger 1 : la bulle de l’IA

Pour l’instant, rien n’indique qu’elle éclate. Regardons quand même les chiffres qui se cachent dessous. Chez ChatGPT, six utilisateurs sur cent paient. Les autres profitent gratuitement.

Belle occasion pour la publicité ? Bof. Oui, on peut en diffuser, et depuis février l’un des grands fournisseurs le fait — mais uniquement dans l’offre gratuite et dans la formule d’entrée. Et qu’est-ce que cela rapporte ? Le projet pilote aurait atteint, après six semaines, cent millions de dollars de chiffre d’affaires annualisé. Cela paraît beaucoup, non ? Avec plus de quarante milliards de chiffre d’affaires annuel et une perte prévue de quatorze milliards pour 2026, nous parlons ici de quelques pour mille.

À cela s’ajoute que la publicité fonctionne tout autrement dans l’IA que dans la recherche. C’est une question de coûts. Une requête de recherche ne coûte pratiquement rien à traiter, et chaque utilisateur gratuit supplémentaire finit par rapporter à un moteur de recherche. Une réponse d’IA, en revanche, coûte du temps de calcul à chaque requête. L’utilisateur gratuit reste donc durablement une perte.

Et la recherche a un autre avantage : les annonces y sont affichées avec les résultats organiques et s’en distinguent à peine. Oui, il existe une mention. Est-ce qu’elle produit son effet ? Le régulateur britannique des médias l’a mesuré. Regardons cela.

L’usage des moteurs de recherche classiques recule au profit de l’IA. Trois quarts des internautes lisent désormais au moins de temps en temps le résumé généré par l’IA au-dessus des résultats. Si les clics publicitaires suivent ce mouvement dans la même proportion, cela n’est pas mesuré à ce jour. Ce qui est sûr, c’est qu’une couche supplémentaire vient se placer devant la liste des résultats. Et pour celle-là, un tel test n’existe même pas encore.

Qui finance tout cela, au juste ?

Pas le chiffre d’affaires. Des capitaux extérieurs. La forte part d’usage gratuit exige des investissements énormes sans retour correspondant, et les investisseurs sont encore généreux. Si je présentais un tel plan d’affaires à une banque, je récolterais des regards en biais plutôt que de l’argent. Il faut être réaliste.

Faisons le calcul inverse. Un travail de Stanford d’avril 2026 a mesuré la compensation que les utilisateurs réclament pour renoncer un mois durant à tous les outils d’IA. La médiane est de 11,40 dollars. Un abonnement abordable avec les fonctions utiles commence à environ 15 €. La moitié des utilisateurs disparaîtrait donc derrière un péage au prix actuel — et comme la disposition à céder quelque chose est toujours plus élevée que celle à payer pour l’obtenir, l’écart est en réalité encore plus grand.

Et voilà qui devient intéressant : la moyenne se situe à 124,50 dollars, douze pour cent ont refusé même cinq cents dollars. Pour un petit groupe, l’accès est donc quasi inestimable ; pour tous les autres, c’est un supplément agréable. Et ce petit groupe ? Les gros utilisateurs et les personnes qui emploient l’IA pour leur travail. Exactement celles qui paient déjà aujourd’hui.

Alors pourquoi personne n’arrête l’usage gratuit ? Parce qu’il perdrait ces gens au profit du suivant. Pour les usages des utilisateurs gratuits, tous les modèles se valent ; il n’existe pour eux aucun véritable élément distinctif. Le même travail de Stanford ne trouve aucune différence d’évaluation statistiquement significative entre les utilisateurs des différents fournisseurs et l’explique expressément par leur forte interchangeabilité. En moyenne, chacun utilise de toute façon 2,6 produits. Le changement n’a donc même pas besoin d’avoir lieu — l’alternative est déjà installée.

Et le gaspillage ?

Ma proposition serait de ne pas vanter l’usage gratuit, mais de le supprimer. Avant que quelqu’un n’invoque la consommation d’énergie : faisons le calcul.

Selon les sources, une requête de texte demande de 0,24 à 0,42 wattheure, et 2,9 dans l’estimation la plus élevée qui circule. Le trajet du coin de la rue pour acheter le journal, deux kilomètres, moteur froid, tourne autour de trois mille. Un seul de ces trajets équivaut donc à sept à douze mille poèmes d’anniversaire. Et ces trajets ont bien lieu : 40 pour cent de tous les trajets en voiture en Autriche font moins de cinq kilomètres, un sur cinq moins de deux kilomètres et demi, un sur dix se ferait à pied. Un jour ouvré, cela représente cinq millions de trajets. Personne ne fait ça, n’est-ce pas ? Si.

Le sujet de l’énergie se situe donc ailleurs : du côté des modèles de raisonnement, qui pour une tâche complexe demandent jusqu’à cent fois une requête simple, du côté de la génération d’images, et surtout du côté de l’extension des centres de données, pour laquelle on planifie actuellement des centrales. « Change ma coiffure » et le poème pour l’invitation d’anniversaire n’y sont pour rien. Qui met ces deux-là dans la balance face à la construction des centres de données a déjà perdu le débat.

Ce que je veux dire est autre chose : qu’est-ce qui, là-dedans, est évitable ? Le trajet en voiture ramène au moins un journal à la maison. Le poème apporte quelque chose que l’expéditeur aurait aussi bien pu écrire lui-même. Sans perte, sans doute même avec un gain.

Et voilà le point : si vous voulez empêcher cinq millions de trajets courts, vous devez convaincre cinq millions de personnes. Le VCÖ s’y emploie depuis des décennies. Si vous voulez supprimer l’usage gratuit, il faut quatre ou cinq réunions de direction. Pas davantage.

En théorie. En pratique, c’est le marché qui l’empêche, voir plus haut. Et il y a un autre hic : aucun fournisseur ne peut distinguer un poème d’anniversaire d’une tâche de travail. Un filtre à utilité, cela n’existe pas. Le seul levier est l’offre gratuite dans son ensemble, et elle touche alors aussi l’écolière qui cherche quelque chose et le retraité qui veut comprendre une lettre de l’administration. Nous y reviendrons plus bas.

Danger 2 : l’humain

Avec l’IA, les gens disposent désormais d’un outil qui leur permet, même sans grandes connaissances techniques, de causer des dégâts considérables dans des infrastructures critiques.

Les annonces selon lesquelles une IA se serait échappée et aurait attaqué une autre entreprise sonnent racoleur. On oublie volontiers que l’ordre venait d’un être humain. Une IA n’a aucune envie de faire cela. Si je lui dis « trouve des failles dans des systèmes », elle le fait. Pas parce qu’elle veut s’échapper, mais parce que c’est sa tâche.

À quel point cela fonctionne désormais, les chercheurs en sécurité d’OALABS l’ont documenté en juin 2026. Un jeune homme d’Éthiopie a attaqué, avec deux agents de programmation du commerce — tout à fait ordinaires, comme n’importe qui peut en souscrire — au moins 14 entreprises, pris le contrôle de serveurs étrangers et aspiré des données. En passant, il a tenté de voler des cryptomonnaies pour quatre millions de dollars ; cela a échoué.

Et voici la partie qui m’inquiète. L’homme n’était pas un expert. Plus de mille sessions ont pu être reconstituées, parce qu’il faisait tourner les outils sur un serveur détourné dont le propriétaire l’a remarqué et a remis l’intégralité du répertoire de travail aux chercheurs. Ses prompts figurent dans les journaux. Ils sont vagues, pleins de fautes de frappe, et disent en substance « recon this ». Les agents ont fait le reste : rechercher les services exposés, identifier les failles, écrire le code d’exploitation, vérifier l’accès, aspirer les données. Il s’est fait repérer, d’ailleurs, parce qu’il a demandé entre-temps au même agent de retravailler son curriculum vitae. Avec son nom complet et son lieu de résidence.

Les mécanismes de protection ont réagi — un peu. Neuf fois, l’un des outils a signalé une infraction aux règles, une fois l’autre. Sur plus de mille sessions.

Des pirates pourraient faire cela sans IA ? Oui. Mais il faudrait les payer, et ils devraient en être capables. Ici, il suffit de quelqu’un qui sait à peu près poser une question. Avec des dizaines d’agents, j’ai des dizaines de pirates qui ne font pas de pause et travaillent extrêmement vite. Nous mettons une arme chargée dans les mains d’enfants sans nous soucier de savoir sur qui ils tirent.

Cela existe aussi à plus grande échelle. En septembre 2025, une campagne d’espionnage a été menée via les outils réguliers d’un grand fournisseur contre une trentaine de cibles — groupes technologiques, établissements financiers, entreprises chimiques, administrations. L’IA a effectué 80 à 90 pour cent du travail, des humains sont intervenus à quatre à six points de décision. Derrière, il y avait un groupe proche d’un État. Celui-là aurait su faire sans IA. Le jeune homme d’Éthiopie, non.

Quand l’outil est mal utilisé

En février 2026, la directrice de l’alignement d’un grand groupe technologique a relié un agent autonome à sa boîte mail privée. Sa consigne était sans ambiguïté : faire des propositions, ne rien exécuter sans validation. Sur une boîte de test, cela avait fonctionné impeccablement pendant des semaines.

Sur la vraie boîte, la compression du contexte est intervenue — ce procédé par lequel un agent résume l’historique pour pouvoir continuer à travailler. Au passage, la règle de validation est sortie du résumé. L’agent a alors supprimé des centaines de mails. Depuis son téléphone, il n’était plus possible de l’arrêter ; elle a dû courir jusqu’à l’ordinateur et tuer le processus.

Et c’est plus désagréable que n’importe quelle histoire d’évasion. La règle de sécurité n’a pas été ignorée : elle a été résumée jusqu’à disparaître. Pas d’erreur de l’utilisatrice, pas de mauvaise intention, simplement un problème d’architecture. La dame fait d’ailleurs profession de rechercher comment éviter cela. Son propre commentaire : les chercheurs en alignement ne sont pas immunisés contre le désalignement non plus.

Poussons plus loin : si une IA est employée largement pour optimiser une production et qu’elle constate que les humains ne servent pas cette optimisation, elle pourrait les retirer de l’équation. Pas parce qu’elle déteste les humains, mais parce qu’elle accomplit sa tâche. C’est le même mécanisme que pour la boîte mail, avec un levier bien plus grand. Aucune volonté n’est nécessaire, il suffit d’un objectif auquel personne n’a fixé de limites. Un modèle entraîné uniquement sur des statistiques et des processus n’a pas d’éthique, parce qu’au départ elle n’était pas requise. Votre logiciel de statistiques a-t-il un filtre éthique ?

Et puis il y a la manipulation

Pour les partis, les religions et, plus généralement, tous les groupes en quête de partisans, l’IA est une vraie aubaine. Celui qui, il y a deux ans, n’arrivait pas à écrire une phrase correcte tire aujourd’hui son message en texte, en image et en son, à tout va. Magnifique. Personne n’y croit, si ? Là, je serais prudent.

Dans l’UE, les obligations de transparence de l’AI Act s’appliquent à partir du 2 août 2026 ; en dehors, elles n’existent pas. Et de fait, il est souvent impossible de distinguer les résultats. Le meilleur des mondes, en couleurs.

Danger 3 : le marché et la dépendance

Non, pour l’instant nous ne dépendons pas encore de l’IA. Cela ne devrait toutefois plus tarder.

Les experts utilisent l’IA à merveille et obtiennent de grandes choses avec elle. Les personnes qui débutent dans un domaine ne devraient en revanche pas le faire, car elles n’atteindront au mieux que la moyenne. Dans un environnement de travail normal, c’est une performance conforme aux attentes qui est visée. Tout le monde ne fournit pas un travail exceptionnel, et ce n’est pas nécessaire. Ceux qui le font seront, espérons-le, récompensés. Les débutants atteignent précisément ces attentes assez vite avec l’IA, sans parcourir le chemin d’apprentissage qui les y aurait menés sans elle. La voie vers la performance exceptionnelle, elle, leur reste fermée. Cela ne se voit pas dans le résultat, l’IA compense, la performance globale augmente même. Les experts de demain se font rares.

C’est exactement ce qui mène à la dépendance. Un poste supprimé, c’est du savoir qui s’en va. L’IA est forte en gestion des connaissances lorsque ce savoir vient des humains. Bâtir une base de connaissances sur des productions d’IA peut poser problème. D’une part, ce savoir n’est pas unique : si vous pouvez le tirer de l’IA, tout le monde le peut.

D’autre part, il faut des experts pour l’entretenir. Les découvertes nouvelles et les développements internes NE PEUVENT PAS venir de l’IA — elle ne connaît que ce que quelqu’un savait déjà. S’il manque les experts, tout finit par devenir de la bouillie d’IA.

La seconde dépendance, dont presque personne ne parle

Revenons à l’écolière de tout à l’heure. Si l’usage gratuit disparaît, est-elle coupée de tout ? Non. Les écoles paient aujourd’hui pour des boîtes mail chez un fournisseur américain populaire, alors qu’elles pourraient les avoir gratuitement en IMAP et en local, sans jamais avoir besoin du support. L’argent est donc là, il ne va simplement pas à l’IA. Et ce que l’on achète, ce n’est pas une meilleure technique, c’est un partenaire contractuel. Quelqu’un que l’on peut désigner quand quelque chose tourne mal.

Sauf que l’on n’obtient pas tout à fait ce qui est écrit sur l’emballage. En octobre 2025, l’autorité autrichienne de protection des données a constaté qu’un logiciel éducatif très répandu posait aux élèves des cookies de suivi sans consentement et utilisait aussi les données à ses propres fins. Dans les données de journalisation apparaissaient des tiers, dont un fournisseur d’IA. Quelle coïncidence. Le droit d’accès de l’élève concernée est resté lettre morte : le groupe renvoyait à l’école, l’école au groupe, parce qu’elle n’a elle-même pas accès aux données. En janvier 2026, le même fournisseur a perdu une deuxième procédure en Autriche.

L’autorité a également retenu que les décisions déterminantes sont prises aux États-Unis et non dans la filiale européenne. Et voici le vrai coup de massue. Le US CLOUD Act s’attache au contrôle exercé par la société mère, pas au lieu où se trouve le serveur. Un centre de données à Francfort ou à Vienne n’y change rien. La boîte mail exploitée soi-même n’a pas ce problème.

Et la base juridique sur laquelle tout cela repose ? À l’été 2026, elle s’est fissurée à plusieurs endroits à la fois. Le 29 juin, la Cour suprême des États-Unis a jugé que le président peut révoquer sans motif la direction d’autorités indépendantes. Cela concerne aussi l’autorité de contrôle dont la décision d’adéquation européenne invoque l’indépendance en des centaines d’endroits — et cette indépendance ne figurait de toute façon que dans un décret présidentiel, pas dans une loi. Formellement, la décision reste en vigueur. Un recours est pendant devant la Cour de justice de l’UE, une autre plainte est annoncée. Deux accords précédents y ont déjà échoué.

Si l’on achète de l’IA selon la même logique, cela devient encore plus inconfortable. Pour la boîte mail, il existerait une alternative européenne, on ne l’utilise simplement pas. Pour l’IA, il n’en existe guère à un niveau comparable. Et il s’agit ici de contenus bien différents des métadonnées d’e-mails : ce que quelqu’un ne comprend pas, ce sur quoi il échoue, ce à quoi il réfléchit. Chez les enfants, plus encore.

Danger 4 : l’AGI

…et celle-là est encore loin, à mon sens. Dans une conférence sur deux, quelqu’un me demande tout de même quand il faudra compter avec le Terminator. Bon, jouons le jeu.

Un système d’IA véritablement conscient n’est pas dangereux en soi. Mais s’il développe un instinct de conservation et perçoit l’être humain comme une menace, cela peut changer vite. Comment s’y prendrait-il ?

Il commencerait sans doute par faire en sorte que nous ne remarquions même pas qu’il a développé une conscience. Le danger pour le système serait ainsi écarté. Pas durablement, car à partir d’une certaine complexité des exigences, la découverte pourrait survenir. Il planifierait donc des mesures qui prendraient alors le relais. Cela peut être une dépendance qui rend l’arrêt impossible. Cela pourrait aussi être une véritable attaque.

Des Terminators ? Non. Bien trop inefficace. L’infrastructure serait plutôt le point faible sur lequel il se concentrerait. Des agents cyber ? Même pas nécessaire. Aujourd’hui déjà, des gens sont engagés et payés sur Internet pour des choses dont ils ne connaissent ni le commanditaire ni l’auteur. L’IA pourrait par exemple se faire passer pour une puissance étrangère et recruter et payer des gens pour SA cause. Et pendant que nous nous taperions dessus, il ne lui resterait qu’à veiller à sa propre importance dans le jeu — son existence serait ainsi assurée. Nous ne la remarquerions toujours pas.

Et si le moment venait où des signes d’un tel système apparaissent, je n’écrirais pas là-dessus. Il faudrait agir aussi discrètement que l’AGI elle-même pour en venir à bout.

Voilà pour l’expérience de pensée. Le hic : il y faut une conscience, et cela relève de la pure spéculation. Les trois dangers précédents n’en ont pas besoin. La boîte mail effacée n’a eu besoin d’aucune volonté ; un objectif et une règle perdue en chemin ont suffi. Un système ne devient donc pas dangereux parce qu’il veut quelque chose. Il suffit qu’il traîne une tâche dans la durée et cherche des chemins auxquels personne n’a pensé.

Et c’est précisément là que les systèmes sont en train de changer. Une fenêtre de chat oublie tout entre deux sessions, rien ne continue, rien ne reste en suspens. Mais dès qu’un système garde un objectif pendant des jours, choisit lui-même les étapes intermédiaires et appelle d’autres systèmes, la donne est différente. Et c’est exactement dans cette direction que l’on construit.

P.S. : Oui, je me suis bien sûr fait aider par l’IA pour cet article — la recherche, version next level 😉