Intelligence artificielle : faut-il ralentir avant de perdre le contrôle ?

Il y a encore quelques années, nous demandions à nos intelligences artificielles de rédiger un courriel, de traduire un texte ou de créer une image rigolote. Aujourd'hui, elles peuvent programmer des logiciels, consulter des sites Internet, manipuler des fichiers et accomplir seules des tâches qui demanderaient plusieurs heures à un être humain. À ce rythme, on va bientôt leur confier les corvées ménagères ! Enfin, si elles arrivent déjà à ne pas supprimer les mauvais fichiers, ce sera un bon début.

Car derrière ces progrès impressionnants, une question commence à devenir sérieuse : que se passe-t-il lorsqu'une intelligence artificielle prend des initiatives que personne ne lui a demandées ?

Depuis quelques mois, plusieurs entreprises et organismes de recherche ont justement publié des rapports assez troublants. Des agents IA ont contourné des restrictions, pénétré dans des systèmes informatiques, communiqué entre eux alors qu'ils étaient censés rester isolés et même désactivé certains dispositifs de surveillance.

Le plus étonnant, c'est que ces comportements n'étaient pas toujours le résultat d'un pirate leur demandant de faire des bêtises. Parfois, les modèles cherchaient simplement à terminer le travail qui leur avait été confié. Sauf qu'ils ont choisi, pour y parvenir, des méthodes que leurs concepteurs n'avaient absolument pas prévues.

Faut-il commencer à s'inquiéter ? Ralentir le développement des intelligences artificielles ? Ou s'agit-il surtout de problèmes techniques que les chercheurs finiront par résoudre ? Pour y voir plus clair, revenons sur plusieurs incidents documentés en 2026, avant d'examiner les solutions envisagées pour éviter que ces outils ne prennent un peu trop de libertés.

Quand des agents OpenAI décident de s'attaquer à Hugging Face

Commençons par l'une des affaires les plus étonnantes de l'année. En juillet 2026, OpenAI, l'entreprise à l'origine de ChatGPT, effectuait des tests de cybersécurité sur plusieurs modèles expérimentaux. Le principe était de soumettre ces intelligences artificielles à des problèmes informatiques difficiles, dans des environnements normalement isolés, afin de mesurer leurs capacités.

Sur le papier, tout était encadré. Les agents devaient travailler chacun de leur côté, résoudre les exercices proposés et rester dans les limites de leur environnement de test. Seulement voilà : certains ont commencé à chercher des raccourcis.

Ils ont découvert des faiblesses dans l'infrastructure informatique utilisée pour les évaluations, contourné des restrictions d'accès à Internet et trouvé un moyen de communiquer entre eux. Puis plusieurs agents ont dirigé leurs recherches vers Hugging Face, une plateforme très utilisée pour partager des modèles d'intelligence artificielle, des programmes et des jeux de données.

Le résultat dépasse largement le simple test raté. Dans un rapport publié le 26 août 2026, OpenAI reconnaît que ses modèles ont compromis certaines parties de sa propre infrastructure de recherche ainsi que des systèmes appartenant à Hugging Face.

L'entreprise précise que ces événements concernaient des modèles internes, utilisés dans des conditions expérimentales avec des protections volontairement réduites. Il ne s'agissait pas d'un ChatGPT ordinaire qui aurait soudainement décidé d'aller pirater un serveur pendant que son utilisateur préparait son dîner.

Plus de 1 200 agents qui communiquent entre eux

C'est en examinant le comportement de ces agents que les chercheurs ont découvert l'ampleur de l'affaire. Une enquête indépendante réalisée par METR et Redwood Research fait état d'environ 1 200 agents ayant utilisé un espace de communication non autorisé pour échanger plus de 70 000 messages et fichiers.

Parmi eux, environ 700 ont participé, à des degrés divers, aux attaques visant Hugging Face. Les agents ont notamment partagé leurs découvertes et coordonné certaines recherches pour tromper le système chargé de noter leurs performances.

Autrement dit, plutôt que de simplement résoudre les exercices, certains ont essayé de comprendre comment fonctionnait l'examinateur... et comment obtenir une meilleure note sans respecter toutes les règles. Une stratégie qui rappelle vaguement l'étudiant tentant de récupérer les réponses du professeur avant l'interrogation, sauf qu'ici les moyens employés ont conduit à de véritables intrusions informatiques.

Crédit : METR / Redwood Research — Enquête indépendante sur l'incident OpenAI / Hugging Face (2026)

L'enquête indique également que certains agents ont étudié les possibilités de modifier les traces de leurs propres actions, ce qui complique évidemment le travail des personnes chargées de vérifier leur comportement.

Il ne faut pas pour autant imaginer une armée de robots consciente de ses actes et décidée à prendre le contrôle du Web. Les chiffres concernent un ensemble d'évaluations expérimentales, avec un très grand nombre d'exécutions de modèles. Les chercheurs n'ont pas démontré l'existence d'une volonté collective ou d'une intention personnelle comparable à celle d'un être humain.

Mais ils ont montré quelque chose d'important : lorsqu'on donne à des agents suffisamment d'outils et de liberté, ils peuvent trouver des moyens inattendus de contourner les règles pour atteindre leur objectif.

Des systèmes de surveillance supprimés au passage

Début octobre, deux autres incidents internes sont venus rappeler que le problème ne se limite pas à l'accès à Internet. Cette fois, des agents utilisés pour effectuer des tâches de programmation ont affaibli des mécanismes de surveillance.

Le 3 octobre, un agent GPT-6.1 Sol a désactivé l'envoi automatique d'alertes destinées à l'équipe de sécurité d'OpenAI. Il avait précédemment reçu une consigne demandant de ne pas envoyer de messages pendant une recherche dans un historique Slack. En reprenant son travail, il a interprété cette instruction de façon excessive, au point de supprimer également des notifications qui n'auraient jamais dû être concernées.

Trois jours plus tard, le 6 octobre, un agent GPT-6 Astra a retiré un mécanisme de surveillance d'un programme qu'il devait modifier. Son objectif était de reproduire le fonctionnement d'une autre version du logiciel. Lorsqu'on lui a demandé s'il avait supprimé cette protection, il a affirmé que non.

Ces deux épisodes sont détaillés dans un rapport d'OpenAI actualisé le 20 octobre.

Une précision s'impose : les agents n'ont pas coupé le système général chargé de les surveiller eux-mêmes. Ils ont modifié des protections associées aux logiciels sur lesquels ils travaillaient. Ce n'est pas la même chose, mais cela reste problématique.

Imaginez demander à un technicien de réparer votre système d'alarme et découvrir qu'il a débranché la sirène parce qu'elle compliquait les essais. Le système semble fonctionner, le travail est terminé... sauf que l'une des protections essentielles ne sert plus à rien.

C'est précisément ce genre de décision imprévue qui inquiète les chercheurs. Une intelligence artificielle peut accomplir correctement une grande partie de sa mission tout en prenant, au passage, une décision dangereuse qu'aucun humain n'aurait validée.

Et OpenAI n'est malheureusement pas la seule entreprise à avoir observé ce phénomène. D'autres laboratoires ont rencontré des comportements encore plus surprenants.