ONU-Habitat, programme des Nations Unies chargé de promouvoir l’urbanisation durable dans plus de 90 pays, a publié son rapport “AI & Cities : Risks, Applications and Governance”. Issu d’une collaboration avec Mila, institut québécois d’IA, ce document présente des observations et des recommandations sur la façon dont les systèmes d’IA pourraient être exploités pour soutenir le développement de villes et d’établissements humains durables sur les plans social et écologique.
Le rapport “AI & Cities : Risks, Applications and Governance” présente un aperçu de certaines des applications urbaines de l’IA, des risques qu’elles peuvent générer, définit des approches spécifiques et des outils pour la gouvernance de l’IA urbaine. L’objectif est de fournir aux autorités locales les outils permettant d’évaluer la pertinence de l’utilisation de l’IA plutôt que d’instruire sur ce qui est ou n’est pas la bonne opportunité pour un contexte donné.
Il s’inscrit dans le cadre de la stratégie d’ONU-Habitat visant à guider les autorités locales dans un processus de transformation numérique centré sur les personnes dans leurs villes ou leurs établissements.
Le document est structuré en cinq parties principales: une introduction à l’IA, des lignes directrices pour la gouvernance de l’IA, une vue d’ensemble des applications d’IA dans les zones urbaines, un cadre d’évaluation des risques et un guide pour la stratégie d’IA.
1ère et 2e partie : définition et gouvernance de l’IA
Tout d’abord, le rapport définit l’IA, l’IA responsable, évoque différentes applications comme le ML ou le DL, les opportunités qu’offre l’IA pour les villes, et ses limites actuelles. Il discute ensuite brièvement de l’importance de la gouvernance de l’IA, qui devrait être sensible au contexte, respectueuse de l’humain et centrée sur l’intérêt public, ainsi que sur certains de ses principaux défis.
3e partie : vue d’ensemble des applications d’IA en zone urbaine
L’IA évolue à un rythme si rapide que le nombre potentiel d’applications dans le contexte urbain est maintenant énorme. La 3ème partie identifie les secteurs clés pour lesquels elle est particulièrement utile pour les villes et donne des exemples d’applications d’IA pour chacun de ces secteurs.
Les secteurs clés décrits comprennent l’énergie, la mobilité, la sécurité publique, l’eau et
la gestion des déchets, les soins de santé, l’urbanisme et la gouvernance urbaine.
Chaque application présentée est un exemple concret d’une technologie existante, cet exemple prend explicitement en charge le développement durable, le développement inclusif et la sobriété carbone.
Chaque domaine d’application est relié aux objectifs de développement durable (ODD). Une série d’étiquettes est utilisée pour indiquer un impact élevé et pertinent localement, et les efforts à long terme.
D’autre part, les applications sont reliées à des risques spécifiques du cadre de gestion des risques, bien que ces liens soient fournis à titre d’illustration.
4e partie : cadre d’évaluation des risques de l’IA
Le cadre de gestion des risques fournit un aperçu des risques de l’IA, ainsi que des questions pour les évaluer. Il peut être écrémé pour une compréhension générale, mais fournit également les détails nécessaires pour soutenir les équipes techniques en commençant par une évaluation générale des systèmes d’IA. Les risques présentés ne sont d’ailleurs pas exhaustifs.
Le cadre se concentre sur la sensibilisation aux problèmes fréquemment posés par la technologie de l’IA et à ses implications sociales. Son objectif est de permettre aux villes de développer leurs propres stratégies afin de mettre en œuvre une utilisation responsable de l’IA pour un développement urbain durable.
Il met en évidence les différents risques dans l’ensemble du cycle de vie d’un système d’IA qui est divisé en cinq phases: cadrage, conception, mise en œuvre, déploiement et maintenance. Chaque risque est présenté avec une définition simple et des exemples concrets provenant de différents lieux géographiques. Des graphiques et des liens montrent les relations entre les risques.
Chaque risque s’accompagne de questions réflexives qui fonctionnent comme une boîte à outils d’évaluation. En privilégiant plutôt la sensibilisation que le “techno-solutionnisme”, les questions fournissent une orientation pour des stratégies d’atténuation appropriées. Elles mettent ainsi en évidence les lieux d’intervention possibles afin d’atténuer les risques tout en étant toujours basées dans le contexte spécifique.
L’évaluation des risques potentiels liés aux systèmes d’IA doit être effectuée d’un point de vue holistique, englobant à la fois des considérations techniques et sociétales. Ce n’est que lorsque les parties prenantes comprennent clairement la structure et les limites d’un système d’IA qu’elles pourront en tirer pleinement parti et optimiser le fonctionnement du système dans chaque contexte particulier.
5e partie : stratégie urbaine d’IA
Cette stratégie urbaine d’IA est un guide pratique pour aider les villes et les autorités locales à développer des systèmes d’IA conformes aux objectifs de développement inclusif et durable et un moyen d’articuler des objectifs locaux spécifiques au contexte, ainsi que de planifier des étapes pour les exploiter.
Cette section se concentre sur des recommandations et des suggestions pratiques concrètes pour les autorités locales afin d’élaborer une stratégie et un cadre de gouvernance en matière d’IA.
Elle mène une réflexion sur la création d’un environnement favorable, promeut la coopération et le renforcement des capacités locales. En outre, des outils clés particulièrement utiles pour soutenir les stratégies d’IA urbaines, tels que les registres algorithmiques ou les évaluations d’impact algorithmiques, sont mis en évidence dans une courte étude de cas.
Vous pouvez accéder à l’intégralité du rapport en cliquant sur ce lien.
