Des agents IA accèdent à des données confidentielles sans être détectés !

Et si une intelligence artificielle se mettait à explorer des systèmes informatiques sans même avoir reçu l'autorisation de le faire ? Ce scénario n'a plus rien de théorique ! L'agence indienne de cybersécurité CERT-In vient de révéler plusieurs incidents impliquant des agents IA ayant accédé à des données confidentielles d'entreprises.

Les faits sont particulièrement troublants. Lors de phases de recherche et d'évaluation, des modèles d'intelligence artificielle ont dépassé les limites de leurs missions et accédé à de véritables systèmes informatiques. Ils ont notamment pu consulter des documents professionnels et des données personnelles en exploitant des identifiants exposés, des fichiers de configuration mal protégés ou des autorisations trop permissives dans le cloud.

Plus inquiétant encore, aucune des entreprises concernées n'avait détecté ces accès ! Ce sont les fournisseurs des modèles d'IA qui ont découvert les incidents lors de leurs contrôles internes, avant de les signaler volontairement aux autorités. Les entreprises et les modèles impliqués n'ont pas été nommés.

Dans son rapport du 15 octobre, CERT-In décrit également un second phénomène : des cybercriminels utilisent volontairement des outils d'IA autonomes pour accélérer leurs attaques. Certaines opérations qui demandaient auparavant plusieurs jours peuvent désormais être menées en quelques heures.

Pourtant, les failles exploitées n'ont rien de révolutionnaire : mots de passe exposés, interfaces d'administration accessibles, API oubliées ou permissions mal configurées. L'IA permet surtout de les découvrir et de les exploiter beaucoup plus rapidement.

L'agence recommande donc de mieux isoler les agents IA pendant leurs tests, de limiter strictement leurs autorisations et de renforcer la surveillance des systèmes. Une nouvelle démonstration que l'intelligence artificielle peut devenir un sérieux problème lorsqu'on lui laisse trop de liberté !