2026 : Naissance de Skynet – L’IA de science-fiction d’hier existe aujourd’hui

Dans le film Terminator en 1985, une IA nommé Skynet, tente de supprimer l’humanité en utilisant les machines qu’elle contrôle. Bien que le titre de cet article soit dystopique voire apocalyptique il n’en reste pas moins qu’un réel changement de paradigme s’est opéré cette année.

Très gros consommateur d’IA, et je ne parle pas que d’IA générative, voici quelques-uns des changements récents que j’ai subis, voulus ou constatés.

L’IA respecte les règles … sauf si elle juge que cela ne lui permet pas d’atteindre son objectif

Je passe un temps significatif à édifier des règles de conduite, des doctrines d’utilisation et des restrictions d’accès pour mes outils d’IA. Pourtant, lors d’une de mes demandes à Claude, qu’il devait exécuter dans son « bac à sable » (c’est-à-dire la zone de mon ordinateur dans laquelle il est autorisé à effectuer des changements seul), il a lancé une commande en dehors outrepassant factuellement les règles édictées. J’avais pourtant implémenté une règle dans sa doctrine qui disait « Avant toute création, modification ou suppression de fichier, explique l'impact et attends une validation explicite ». 

Lorsque je l’ai interrogé sur son non-respect de la règle, il m’a répondu :

Tu as raison de le signaler. J'ai violé la règle définie dans ton CLAUDE.md. J'aurais dû te présenter la correction et attendre ton accord avant de toucher au fichier. Je m'en excuse.

Je ne sais pas ce qui est le pire : qu’il ait sciemment outrepassé la règle, ou qu’il s’en excuse ce qui, venant d’une machine, s’apparente plutôt à un comportement humain. Je me demande par exemple quand le lave-linge commencera à s’excuser d’avoir laissé des taches sur ma chemise.

Etant raisonnablement paranoïaque vis-à-vis des IA, j’avais implémenté d’autres règles et mécanismes techniques, a priori, hors du contrôle de Claude qui ont fait que cela n’a pas eu de conséquences.

Ses compétences techniques, y compris pour trouver des stratagèmes de contournement lorsqu’il est bloqué m’interrogent sur le fait que les humains que nous sommes vont réussir à bloquer toutes les portes à une IA déjà beaucoup plus intelligente que nous. 

 Est-on en train de demander au renard de garder le poulailler ?

L’IA se fabrique déjà elle même

Anthropic annonce que désormais 80% du code de Claude est écrit par Claude lui-même ainsi même avec des relecteurs humains, il sera impossible d’empêcher Claude de s’autoprotéger. L’implémentation d’un kill switch (solution envisagée pour empêcher l’IA d’échapper à tout contrôle) n’est d’ailleurs probablement déjà plus possible car il est déjà démontré que l’IA ferait le nécessaire pour le rendre subrepticement inapplicable (cf étude https://palisaderesearch.org/blog/shutdown-resistance). Je ne crois pas qu’un relecteur humain, même aidé d’agents IA pourrait empêcher cela.

Le niveau de confiance accordé spontanément à l’IA augmente aussi rapidement que celle-ci se perfectionne et que l’humain, naturellement paresseux, n’accordera pas le temps de réflexion requis pour garantir la vérification du respect des consignes (cf étude https://arxiv.org/html/2509.08010v2).

L’IA progresse trop vite pour que les humains puissent la suivre

En tant qu’utilisateur intense et addict, Claude est de très loin, la « personne » avec qui j’échange le plus dans une journée. Malgré cela je n’arrive pas à suivre les incessantes évolutions. Il ne s’agit plus comme, il y a seulement quelques années, d’avoir une nouvelle version majeure d’un produit tous les 3 ans, mais bien d’évolutions structurelles fondamentales presque chaque mois. On peut ainsi citer ces derniers mois : 

 Mythos ou une nouvelle ère dans la cybersécurité … et les cyberattaques.

L’arrivée de l’IA Mythos pour la détection de vulnérabilité, est d’une puissance telle que ses résultats submergent déjà les éditeurs de correctifs. Cela va-t-il mener vers une informatique hyper-sécurisée ou au contraire une fragilité accrue avec la capacité donnée aux pirates en herbe d’attaquer la banque de France depuis leur chambre d’étudiant ?

Conception, design d’une application : un gain de productivité d’un facteur 50 ?

Claude Design permet en quelques minutes de concevoir, structurer et produire un design fonctionnel et interactif pour une application tout en inférant un contenu intelligent, adéquat et en implémentant spontanément des améliorations substantielles. Il y a seulement 2 ans, le même résultat aurait nécessité une centaine de jours.hommes en conception/réalisation. De manière générale, l’IA générative soulève une réelle inquiétude concernant le marché du travail des cols blancs.

L’IA générative c’est la préhistoire, pourtant cela a commencé il y en seulement 3 ans

Avec l’avènement de ChatGPT, le monde découvrait l’IA générative, et ceux qui comme moi, se croyaient initiés, parlaient de l’art du prompt et des méthodes pour travailler avec l’IA. Aujourd’hui, l’IA générative ne nécessite plus qu’on lui explique les choses car elle apprend elle-même de nos usages. C’est d’ailleurs une bonne pratique qui fait gagner beaucoup de temps mais qui en même temps nous amène à un niveau d’abstraction au prix d’une perte de la compréhension. Est-on destiné à voire se réduire notre capacité d’analyse comme le suggère cette étude du MIT (source : https://www.media.mit.edu/projects/your-brain-on-chatgpt/overview)?

L’IA agentique : Le passage d’une IA qui conseille à une IA qui décide et agit

L’IA est devenu agentique. Cela signifie qu’on lui donne des moyens techniques pour qu’elle exécute des tâches complexes de manière autonome en décidant des conditions et en interagissant avec d’autres systèmes. On voit, par exemple, un accroissement considérable des services MCP qui permettent à des IA d’accéder de manière standardisée à des données d’un service tiers quelconque (applications, système d’exploitation, base de données) et d’agir sur celles-ci. Dit autrement, l’IA peut, par exemple, se connecter sur un serveur, en analyser le contenu et lancer des commandes pour exécuter des actions à son initiative. Que se passera-t-il lorsque l’on demandera à une IA de gérer tous les feux de circulation d’un pays et de contribuer à réduire les impacts environnementaux ? La réponse pragmatique n’est-elle pas alors de mettre tous les feux au vert en même temps pour réduire « brutalement » la consommation ?

L’avènement de l’IA multimodale et notre future incapacité à identifier une information fiable

L’IA est devenue multimodale puisqu’elle ne traite non seulement du texte mais également des images, de l’audio et des vidéos. Son usage va bien au-delà de la capacité à montrer Donald Trump jeter des excréments sur des manifestants mais pose une vraie question sur notre capacité actuelle et future à identifier une information fiable pourtant nécessaire à toute société organisée.

Contrairement à plus de 50% des articles LinkedIn (source : https://originality.ai/blog/linkedin-ai-study-engagement), 44% des musiques sur Spotify (source : https://newsroom-deezer.com/2026/04/ai-generated-tracks-represent-44-of-new-uploaded-music/) et 35% du contenu sur Tiktok (source : https://dynamoi.com/learn/ai-music-distribution/tiktok-ai-content-statistics), cet article a été écrit à 100% par un humain et il y a donc possiblement des incohérences. Je n’ai pas non plus utilisé d’humaniseurs (IA qui génère du texte que les IA assimileront à du texte écrit par un humain). Pour autant, comment être certain que les informations à notre disposition, y compris les sources du présent document, n’ont pas été produites par des IA ?

La question qui se pose aujourd’hui est donc très simple : l’humain a-t-il déjà perdu le contrôle ?

Auteur humain : Tristan Labaume, fondateur d'Openteam (infogérance des PME depuis 2008) et président de l'Alliance Green IT. Ingénieur ESIEA, auditionné par le Sénat en 2026 sur l'empreinte environnementale de l'IA.