"Le rapport d’Amnesty International dresse un tableau affligeant caractérisé par une répression alarmante des droits humains et de multiples violations des règles internationales, sur fond d’accroissement des inégalités mondiales, de rivalités entre superpuissances pour la suprématie et d’aggravation de la crise climatique".
Pour l'organisation, l’effondrement de l’état de droit constaté en 2023 risque de s’accélérer avec le développement rapide de l’IA qui, couplé à la domination des géants de la haute technologie, pourrait entraîner une multiplication des violations des droits humains si la réglementation reste à la traîne. Selon elle :"Le mépris de la loi, la discrimination et l’impunité dans les conflits et ailleurs ont été favorisés par l’utilisation incontrôlée de technologies nouvelles ou familières, qui sont aujourd’hui couramment utilisées comme armes par des acteurs militaires, politiques et du monde de l’entreprise. Les plateformes des géants technologiques alimentent les conflits. Des logiciels espions et des outils de surveillance de masse sont utilisés pour attenter aux libertés et aux droits fondamentaux, tandis que les gouvernements déploient des outils automatisés visant les groupes les plus marginalisés de la société".
De l'urgence d'une réglementation de l'IA plus stricte
Pour Amnesty International, bien qu’imparfait et incomplet, l'AI Act a eu le mérite d’ouvrir un débat indispensable sur la réglementation de l’IA. Cependant, elle estime que l’évolution rapide de l’IA générative a fait changer d’échelle la menace que constituait l’éventail de technologies déjà existantes, des logiciels espions à l’automatisation des services publics en passant par les algorithmes incontrôlables des réseaux sociaux. Agnès Callamard souligne :"Nous avons vu combien la haine, la discrimination et la désinformation étaient amplifiées et diffusées par les algorithmes des réseaux sociaux, qui sont optimisés avant tout pour obtenir un taux d’“engagement” maximal. Ils créent une boucle de commentaires infinie et dangereuse, en particulier dans les périodes particulièrement sensibles sur le plan politique. Les outils actuels peuvent générer des images, des enregistrements audio et des vidéos virtuels en quelques secondes, ainsi que prendre pour cible des publics précis par groupes entiers. Or, la réglementation électorale est en retard face à cette menace. Jusqu’à présent, nous avons vu trop de discours mais pas assez d’actes".
Pour Amnesty International, les gouvernements doivent prendre des mesures législatives et réglementaires fermes pour lutter contre les risques et les préjudices liés aux technologies de l’IA et au règne des géants technologiques.