Prochain numéro du magazine ActuIA le 15 octobre
Actualité Projet Maven de Google avec l'armée américaine : plus de 3100 employés...

Pour approfondir le sujet

La start-up française Deepomatic démocratise l’Intelligence Artificielle grâce à sa plateforme de reconnaissance visuelle

Depuis trois ans, Deepomatic travaille au développement d’une plateforme logicielle d’Intelligence Artificielle permettant à toute entreprise de concevoir et d’intégrer sa propre solution de...

NTT Corp. a développé un moteur de recommandation de livres pour enfants

NTT Corp. a annoncé avoir développé un système IA conçu pour proposer aux enfants le meilleur livre d'images en fonction de leurs préférences et...

Défense Connect : le plan de transformation numérique du Ministère des Armées français

Le 19 avril dernier, Florence Parly, ministre des Armées, et Mounir Mahjoubi, présentaient Défense Connect, le plan de transformation numérique du ministère des Armées....

Le Français Simon Cazals remporte 3 des 4 prix d’XPress Challenge, la compétition d’intelligence artificielle internationale

Le Bureau du Directeur du Renseignement National américain (ODNI), en partenariat avec le Bureau du Sous-secrétaire à la Défense pour le Renseignement (OUSD(I)), a...

Projet Maven de Google avec l’armée américaine : plus de 3100 employés protestent

Plus de 3100 employés de Google ont envoyé une lettre à Sundar Pichai, dévoilée par le New York Times, pour protester contre la participation du groupe américain à un programme du Pentagone. Des critiques contre “le business de la guerre” qui mettent de nouveau en avant les problèmes éthiques que pose le développement de l’intelligence artificielle mais aussi “le conflit culturel opposant Silicon Valley au gouvernement fédéral”.

Google avait reconnu en mars dans le magazine Gizmodo la mise à disposition d’un programme d’intelligence artificielle à l’armée américaine dans le cadre du projet Maven, lancé en avril 2017. Ces technologies étaient destinées selon le Pentagone à “rendre rapidement intelligible l’énorme volume de données accessibles au ministère de la défense”.

Ce projet découle de l’investissement de 7,4 milliards de dollars réalisé par  le Pentagone pour l’intelligence artificielle et le traitement des données. C’est à ce titre que le Ministère de la Défense a contacté des entreprises, experts, chercheurs et universitaires pour développer l’application de ces nouvelles technologies. Google avait indiqué dans son communiqué aider à analyser des images de drones en fournissant des accès à TensorFlow. Utilisé à des fins de renseignement sur des photos ou des vidéos, le logiciel permet de mieux identifier des individus, des véhicules ou des bâtiments et donc d’améliorer tant la surveillance que la reconnaissance de cibles potentielles.

Si Google avait indiqué que ces technologies mises à disposition dans le cadre du projet Maven avaient “un usage non-offensif” et que des précautions avaient été prises, notamment des “règles et garde-fous autour du développement et de l’usage de ses technologies de machine learning”, cela n’a pas suffi à rassurer de nombreux employés de la firme américaine.

“Nous estimons que Google ne devrait pas être impliqué dans le business de la guerre. Par conséquent, nous demandons que le projet Maven soit annulé et que Google rédige, publie et applique une politique claire stipulant que ni Google ni ses sous-traitants ne construiront de technologie de guerre”.

Les employés ayant rédigé et signé la lettre sont en désaccord avec la participation à ce projet. Pour eux :

“Construire cette technologie pour aider le gouvernement américain dans la surveillance militaire, avec donc des conséquences potentiellement mortelles, n’est pas acceptable”.

Une telle participation pourrait en effet avoir des répercutions pour la firme et les employés évoquaient notamment que cela :

“endommagera irrémédiablement la marque de Google et sa capacité à rivaliser pour attirer les talents dans l’entreprise (…)

L’argument selon lequel d’autres entreprises comme Microsoft et Amazon participent également ne rendent pas l’opération moins risquée pour Google
(…) Nous ne pouvons pas nous dédouaner de la responsabilité de nos technologies et la laisser peser sur les tiers.

Le lettre reprend également le slogan informel de Google “Do not Be Evil” (Ne soyez pas malveillants).

Ce n’est pas la première fois que des craintes et des protestations se font entendre quant à l’utilisation de l’intelligence artificielle à des fins militaires. Et, comme l’indique le New York Times, cela risque de “s’intensifier avec l’utilisation de plus en plus fréquente de l’intelligence artificielle à des fins militaires”. Il n’existe actuellement aucune loi internationale contraignante et on ne sait pas à quel degré les systèmes IA seront utilisés en cas de guerre. La course à l’armement a déjà bien commencé dans ce domaine. En France, la défense fait partie des quatre secteurs prioritaires en matière d’IA identifiés par le rapport de la mission Villani, avec la santé, l’environnement et les transport.

Thomas Calvi

Partager l'article

8 startups et PME françaises lauréates de l’appel à projets EUREKA – Challenge international COVID-19

Bpifrance a annoncé ce jour les lauréats du Challenge international Covid-19. Suite à l'appel à projets ouvert du 15 avril au 15 mai 2020,...

Une approche européenne de l’intelligence artificielle : EIT Digital fait part de ses recommandations

EIT Digital a présenté son troisième rapport de sa série Policy Perspective. Il aborde la manière dont l'Europe devrait gérer l'intelligence artificielle et fournit...

Replay – Conférence 1re Pierre : Cité de l’Intelligence Artificielle organisée par le département des Alpes-Maritimes et l’Institut EuropIA

Le lundi 14 septembre 2020 s'est déroulé le troisième #IADATES organisé par le département des Alpes-Maritimes et l’Institut EuropIA. Intitulée "1re Pierre : Cité...

reciTAL, spécialiste du TAL, lève 3,5 M€ auprès de Breega

Paris, le 10 septembre 2020 - reciTAL, start-up IA spécialisée dans les solutions de Document Intelligence, effectue une première levée de fonds de 3,5 M€...