L'ONU veut garder l'humain aux commandes de l'IA dans nos villes
Vous contactez votre commune pour signaler un problème de voirie, demander un document administratif ou obtenir des informations sur les travaux prévus dans votre quartier. Jusqu'ici, rien de particulièrement extraordinaire. Mais imaginez maintenant que votre demande soit analysée par une intelligence artificielle, qui pourrait également déterminer quelles rues doivent être réparées en priorité ou aider l'administration à prendre certaines décisions. Pratique, certes. Mais qui sera responsable si la machine se trompe ?
C'est précisément à cette question que les Nations unies souhaitent apporter des réponses. À l'occasion du Smart City Expo World Congress de Barcelone, l'ONU a présenté un nouveau guide destiné aux villes qui utilisent, ou envisagent d'utiliser, l'intelligence artificielle dans leurs services publics. Et son message est assez clair : les technologies peuvent assister les administrations, mais les décisions qui concernent les citoyens doivent rester sous un véritable contrôle humain.
Quand l'intelligence artificielle s'invite à la mairie
L'utilisation de l'IA dans les villes n'est plus une simple expérience de laboratoire. Certaines administrations s'appuient déjà sur des agents conversationnels pour répondre aux habitants, sur des algorithmes pour identifier les infrastructures à entretenir ou sur des outils capables d'analyser rapidement d'importantes quantités de données urbaines.
Ces technologies peuvent représenter un gain de temps considérable. Imaginez un système capable de repérer les routes qui se dégradent avant que les nids-de-poule ne se multiplient, ou d'identifier les quartiers où les équipements publics répondent le moins bien aux besoins des habitants. Pour les administrations, les possibilités sont nombreuses.
Le problème apparaît lorsque les recommandations d'un logiciel commencent à peser sur des décisions ayant des conséquences directes pour les citoyens. Une intelligence artificielle peut produire des résultats biaisés si les données utilisées sont incomplètes, mal représentatives ou incorrectes. Certains quartiers pourraient alors être défavorisés sans que personne ne s'en aperçoive immédiatement. Et lorsqu'une décision est contestée, difficile de se satisfaire d'un simple « c'est l'ordinateur qui l'a décidé » !
Quatre principes pour éviter les dérives
Le document, élaboré par l'Union internationale des télécommunications (UIT) et ONU-Habitat, repose sur quatre grandes recommandations. La première consiste à partir des besoins réels des habitants, plutôt que de chercher à installer de l'intelligence artificielle simplement parce que la technologie est à la mode.
La deuxième insiste sur le maintien d'un contrôle humain significatif. Les responsables municipaux doivent pouvoir comprendre, surveiller et remettre en question les résultats des systèmes utilisés. Le troisième principe prévoit des protections proportionnelles aux risques : un assistant qui renseigne les horaires d'ouverture d'une piscine ne nécessite évidemment pas les mêmes précautions qu'un outil intervenant dans des décisions concernant le logement ou l'accès aux services publics.
Enfin, l'ONU rappelle une idée parfois oubliée dans la course à l'innovation : décider de ne pas utiliser l'intelligence artificielle peut parfaitement être une bonne décision. Si un système présente trop de risques, ne répond pas à un véritable besoin ou n'apporte aucune amélioration démontrable, mieux vaut parfois conserver une méthode classique.
Un guide pratique plutôt qu'une nouvelle obligation
Baptisé U4SSC Toolbox for People-Centred Smart Cities in the AI Era, ce nouveau référentiel ne se limite pas à quelques grands principes. Il propose notamment une démarche en huit étapes, depuis l'identification du problème jusqu'à l'évaluation des résultats, avec la possibilité de modifier ou d'abandonner un projet lorsque celui-ci ne fonctionne pas comme prévu.
Les responsables municipaux peuvent également s'appuyer sur des modèles de documents, des listes de vérification et des recommandations concernant les contrats conclus avec les fournisseurs de technologies. Le guide prévoit notamment des outils permettant de répertorier les systèmes d'IA utilisés par une ville et de préciser qui en assume la responsabilité.
Il ne s'agit toutefois pas d'une nouvelle loi imposée aux communes françaises ou belges. Ce document constitue un ensemble de recommandations internationales que les autorités locales peuvent utiliser pour préparer et encadrer leurs projets. Il s'appuie notamment sur des expériences menées dans différentes villes, d'Helsinki, en Finlande, à eThekwini, en Afrique du Sud.
Le guide est accessible gratuitement sur le site officiel de l'initiative U4SSC, accompagné d'autres publications consacrées aux infrastructures numériques, à la gestion des données et à la transformation des villes.
Une question de confiance entre les citoyens et leur commune
Cette publication marque également les dix ans de l'initiative United for Smart Sustainable Cities, lancée en 2016 et aujourd'hui soutenue par 22 agences et programmes des Nations unies. Son objectif est d'aider les villes à utiliser les technologies numériques pour améliorer les services publics, sans oublier les questions de confidentialité, d'accessibilité et de droits fondamentaux.
Pour les habitants, l'enjeu est finalement assez simple : profiter des avantages de l'intelligence artificielle sans perdre la possibilité de comprendre et de contester une décision qui les concerne. Car si un algorithme peut probablement aider une commune à déterminer quelle route mérite d'être réparée en premier, il serait tout de même préférable qu'un responsable humain puisse encore expliquer pourquoi votre rue attend depuis trois ans !