Intelligence artificielle : faut-il ralentir avant de perdre le contrôle ?

Nous voilà arrivés au cœur du débat. D'un côté, les intelligences artificielles progressent à une vitesse impressionnante. Elles peuvent aider les chercheurs, faciliter le travail des développeurs, analyser des données complexes et automatiser des tâches qui demandaient autrefois beaucoup de temps.

De l'autre, les incidents que nous venons d'examiner montrent que leurs capacités évoluent parfois plus rapidement que les moyens permettant de surveiller leurs actions.

Faut-il continuer à avancer aussi vite, quitte à corriger les problèmes au fur et à mesure ? Ou prendre le temps de mieux comprendre ce qu'on construit avant de donner encore davantage d'autonomie à ces systèmes ?

La question n'est plus réservée aux amateurs de science-fiction. Et plusieurs événements récents lui donnent un caractère particulièrement concret.

Un tsunami de failles informatiques dans les 18 prochains mois ?

Le 22 octobre 2026, Jason Clinton, responsable adjoint de la sécurité des systèmes d'information chez Anthropic, a lancé un avertissement qui n'a pas dû rassurer grand monde dans les services informatiques.

Selon lui, la cybersécurité pourrait traverser une période très difficile au cours des 18 prochains mois. La raison ? Les modèles d'intelligence artificielle deviennent capables de découvrir et d'exploiter des vulnérabilités à un rythme qui risque de dépasser celui des équipes chargées de les corriger.

Dans un message publié sur X, il conseille aux responsables informatiques de demander rapidement davantage de moyens à leur direction. Mais attention, pas nécessairement pour acheter de nouveaux outils d'intelligence artificielle. Il recommande surtout de renforcer les protections fondamentales des entreprises : limiter les accès, corriger les logiciels vulnérables, surveiller les systèmes et se préparer aux incidents.

Cette prise de position arrive à un moment particulier. Seulement quelques jours auparavant, les chercheurs de Wiz avaient révélé PHP2Shell, un ensemble de vulnérabilités critiques découvertes dans PHP, le langage informatique utilisé par une énorme quantité de sites Internet.

Pour les lecteurs qui ne connaissent pas PHP, il s'agit d'une technologie très répandue permettant aux sites Web de produire des pages dynamiques, gérer des comptes utilisateurs ou communiquer avec des bases de données. On la retrouve notamment derrière des logiciels comme WordPress, Drupal et bien d'autres services.

Dans une analyse technique publiée le 21 octobre, Wiz explique que certaines failles étaient présentes depuis de nombreuses années dans le moteur PHP. Les chercheurs ont utilisé plusieurs outils d'intelligence artificielle pour les identifier et comprendre comment elles pouvaient être exploitées.

Ce qui rend l'affaire particulièrement intéressante, c'est la difficulté technique de la recherche. Les vulnérabilités étaient anciennes, mais démontrer leur exploitation nécessitait d'enchaîner des étapes extrêmement complexes. Les modèles d'IA ont contribué à réduire considérablement le travail nécessaire.

Voilà donc une excellente nouvelle pour les spécialistes chargés de sécuriser les logiciels : des failles qui auraient pu rester cachées pendant des années deviennent plus faciles à découvrir et à corriger.

Mais il existe un revers à cette médaille. Les mêmes capacités pourraient également permettre à des pirates de rechercher plus rapidement des vulnérabilités dans des programmes insuffisamment protégés.

Si les attaquants découvrent des problèmes plus vite que les développeurs ne peuvent publier leurs correctifs, une période particulièrement mouvementée pourrait s'ouvrir pour les administrateurs informatiques.

Précisons cependant que les 18 mois évoqués par Jason Clinton constituent une estimation personnelle, pas une prévision scientifique établie. Rien ne prouve non plus que la situation s'améliorera automatiquement après cette période. Et ses propos ne représentent pas nécessairement la position officielle de l'ensemble d'Anthropic.

Son avertissement rappelle surtout une réalité assez simple : les entreprises ne peuvent plus considérer la sécurité informatique comme une opération réalisée une fois tous les deux ou trois ans, avant de retourner tranquillement à leurs activités.

Des chercheurs proposent une pause internationale de dix ans

Certains spécialistes estiment toutefois que renforcer les protections existantes ne suffira pas. Et leur proposition risque de faire grincer quelques dents dans la Silicon Valley.

Le 9 octobre 2026, une équipe internationale de 26 chercheurs, associés notamment à l'université de Californie à Berkeley, a présenté une étude examinant la possibilité d'une pause mondiale d'au moins dix ans dans l'entraînement des intelligences artificielles les plus puissantes.

Dix ans ! À l'échelle du secteur, où les grandes annonces se succèdent parfois à quelques semaines d'intervalle, cela ressemble presque à une éternité.

Mais attention, les auteurs ne proposent pas d'éteindre ChatGPT, Claude, Gemini ou les autres services existants. Leur idée consiste plutôt à suspendre temporairement la création de modèles toujours plus puissants, tout en continuant à utiliser et à améliorer les applications fondées sur les technologies déjà disponibles.

L'objectif serait de donner aux chercheurs, aux entreprises et aux pouvoirs publics davantage de temps pour comprendre les risques, développer des protections efficaces et négocier des règles communes.

William Fithian (à gauche) et Wesley Holliday (à droite). Crédit photo : Jen Siska / UC Berkeley - Berkeley News (2026).

Comment imposer une pause à toute la planète ?

Évidemment, il ne suffirait pas d'envoyer un courriel aux grandes entreprises en leur demandant gentiment de mettre leurs projets en attente jusqu'en 2036. Si certains pays acceptent de ralentir pendant que d'autres continuent leurs recherches, le risque de déséquilibre économique et technologique serait considérable.

Les chercheurs se sont donc intéressés à une solution assez originale : agir directement sur les puces informatiques utilisées pour entraîner les intelligences artificielles les plus avancées.

Il faut ici distinguer deux opérations. L'entraînement consiste à construire ou améliorer profondément un modèle à partir de quantités gigantesques de données, avec une puissance de calcul considérable. L'utilisation du modèle, appelée inférence, correspond au moment où celui-ci répond à nos questions, analyse un document ou réalise une tâche.

Les auteurs proposent de limiter la production de certaines puces destinées à l'entraînement, puis de favoriser des équipements spécialisés dans l'utilisation des modèles déjà existants. Ces nouvelles puces pourraient rester très performantes pour faire fonctionner les services d'IA, sans être adaptées à l'entraînement de générations beaucoup plus puissantes.

Ils envisagent également des mécanismes de contrôle internationaux destinés à vérifier que les pays signataires respectent les mêmes engagements.

Leur idée ne fait toutefois l'objet d'aucun accord politique mondial. Il s'agit d'un travail de recherche sur la faisabilité d'une telle pause, pas d'une décision déjà prise. Les difficultés techniques, économiques et diplomatiques restent considérables.

Pourquoi ralentir pourrait être une bonne idée

Les défenseurs d'un ralentissement avancent plusieurs arguments. Le premier est assez intuitif : lorsqu'une technologie devient de plus en plus puissante, il semble raisonnable de vérifier que ses dispositifs de sécurité progressent au même rythme.

Un constructeur qui découvrirait un problème grave sur un nouvel équipement industriel ne devrait pas nécessairement lancer immédiatement une version deux fois plus performante sans avoir compris la cause de la défaillance.

Dans l'intelligence artificielle, le raisonnement est comparable. Une pause pourrait permettre d'améliorer les méthodes d'évaluation, de renforcer les protections techniques, de financer davantage de recherches indépendantes et de développer des procédures de signalement des incidents.

Elle pourrait aussi réduire temporairement la pression concurrentielle. Car lorsqu'une entreprise annonce un modèle plus puissant, ses rivales sont évidemment tentées d'accélérer leurs propres travaux. Et dans une course de vitesse, les équipes chargées de la sécurité ne sont pas toujours celles qui décident du calendrier.

Il ne faudrait toutefois pas en conclure qu'une catastrophe est inévitable si nous ne ralentissons pas. Les incidents étudiés ont eu lieu dans des circonstances particulières, souvent avec des protections réduites, et les chercheurs n'ont pas démontré que les IA actuelles possèdent une volonté de s'affranchir durablement du contrôle humain.

En revanche, ces incidents suffisent à montrer que les dispositifs de sécurité doivent être considérés comme une partie essentielle du développement, et non comme une formalité ajoutée juste avant la commercialisation.

Mais arrêter la course comporte aussi des risques

À l'inverse, une pause générale pourrait retarder certaines avancées bénéfiques. Les intelligences artificielles participent déjà à la recherche scientifique, au développement de logiciels, à l'accessibilité numérique et à l'analyse de données médicales.

Des modèles plus performants pourraient contribuer à découvrir de nouveaux traitements, améliorer les outils destinés aux personnes handicapées ou accélérer la correction de vulnérabilités informatiques. Les ralentir systématiquement reviendrait donc aussi à reporter certains bénéfices possibles.

Une pause internationale serait également difficile à faire respecter. Comment vérifier qu'aucun laboratoire ne poursuit secrètement ses travaux ? Comment éviter qu'un pays refuse l'accord pour prendre une avance stratégique ? Et comment gérer les modèles déjà téléchargeables, qui peuvent continuer à être utilisés et adaptés indépendamment de leurs créateurs ?

Autre risque, déjà évoqué : une réglementation trop coûteuse pourrait renforcer la domination des grands groupes. Les petites entreprises et les chercheurs indépendants ne disposent pas des mêmes ressources pour financer des évaluations complexes ou respecter des procédures administratives particulièrement lourdes.

Il faut enfin rappeler qu'arrêter l'entraînement des modèles les plus puissants ne supprimerait pas les menaces déjà présentes. Un pirate pourrait toujours utiliser les outils existants, et un agent mal configuré pourrait encore effectuer des opérations non autorisées.

Ralentir n'est donc ni une solution miracle, ni une idée absurde. C'est une possibilité parmi d'autres, dont les bénéfices et les conséquences méritent d'être examinés sérieusement.

Mais entre dix ans de pause et une course technologique sans limites, n'existerait-il pas des solutions moins radicales ?