Intelligence artificielle Intégration de l’autonomie des systèmes d’armes létaux : Le Comité d’éthique de...

Pour approfondir le sujet

Sur le même thème :

Etats-Unis : les dernières nouvelles autour de l’IA du Pentagone et du Joint Artificial Intelligence Center

L'intelligence artificielle dans le secteur de la défense est un sujet qui fait son arrivée progressive en France : fin avril dernier, le comité...

L’OTAN travaille à l’encadrement de l’utilisation de l’intelligence artificielle dans le domaine militaire

L'Organisation du Traité de l'Atlantique Nord (OTAN) travaille à l'établissement d'un cadre de normes et de règles quant à l'utilisation de l'intelligence artificielle dans...

L’UNESCO présente ses recommandations pour le développement de l’écosystème de l’intelligence artificielle africain

En 2018, un forum sur l'intelligence artificielle en Afrique avait été organisé par l'UNESCO et l'Université Mohamed VI Polytechnique. L'objectif était d'explorer les opportunités...

L’OMS publie son rapport mondial sur l’intelligence artificielle appliquée au domaine de la santé

Le 29 juin 2021, l'Organisation mondiale de la santé (OMS) a publié son rapport consacré à la gouvernance et à l'éthique de l'intelligence artificielle...

Intégration de l’autonomie des systèmes d’armes létaux : Le Comité d’éthique de la défense remet son avis

Après la publication de ses travaux sur le soldat augmenté, le Comité d’éthique de la défense a remis à Florence Parly et au ministère des Armées son avis sur l’intégration de l’autonomie dans les systèmes d’armes létaux. Sujet central choisi du fait de la mesure des enjeux stratégiques, juridiques et éthiques soulevés par le développement des applications militaires de l’intelligence artificielle, et en particulier par l’émergence potentielle de Systèmes d’armes létaux pleinement autonomes (SALA).

Les conclusions du Comité confortent les positions prises par la France depuis plusieurs années sur le sujet des SALA : la France confirme qu’elle ne développera et n’emploiera pas de systèmes d’armes létaux pleinement autonomes.

Un comité éthique constitué de spécialistes du monde de la technologie

Le Comité d’éthique de la défense est une structure de réflexion permanente sur les enjeux éthiques des nouvelles technologies dans le domaine de la défense mis en place sur décision du ministère des Armées. Constitué en janvier 2020, il est composé de personnalités qualifiées, civiles et militaires, offrant des compétences dans les domaines opérationnels, scientifiques, médicaux, philosophiques, historiques et juridiques. Il a pour objectif d’apporter ses perspectives à la ministre des Armées et à ses grands subordonnés autour de deux questions :

  • les questions éthiques soulevées par les innovations scientifiques et techniques et leurs applications militaires éventuelles
  • les questions liées aux évolutions de la fonction militaire

La mise en place de ce comité émane de la volonté affichée par la France de s’impliquer sur ces questions autour du développement des applications militaires de l’intelligence artificielle, et en particulier les systèmes d’armes létaux autonomes.

Un rapport sur l’intégration de l’autonomie dans les systèmes d’armes létaux

Après avoir suivi un processus de réflexion, le Comité a identifié 6 principes directeurs et a proposé 25 recommandations en ce qui concerne la recherche, l’emploi, la méthodologie, la formation et la conception de techniques permettant l’autonomisation des systèmes d’armes. Dans son avis, le comité d’éthique de la défense a réalisé un travail approfondi de définition qui attire l’attention sur les pièges du champ lexical comparant à tort la machine à l’homme (l’anthropomorphisme).

Au terme de cette analyse initiale, le Comité d’éthique de la défense a choisi d’établir une stricte distinction entre :

  • Les Systèmes d’armes létaux autonomes (SALA), qui sont des systèmes d’armes létaux programmés pour être capables de faire évoluer leurs règles de fonctionnement, d’échapper au contrôle humain et de redéfinir tout seuls leur mission ;
  • Et les Systèmes d’armes létaux intégrant de l’autonomie (SALIA) qui sont des systèmes comportant des fonctions automatisées, mais sous contrôle humain, dans des conditions qui garantissent :
    • Le respect du principe constitutionnel de nécessaire libre disposition de la force armée,
    • le respect du principe de continuité de la chaîne de commandement de l’ordre à son application,
    • Un SALIA ne pourrait prendre d’initiatives létales – sans contrôle humain. Il ne pourrait pas modifier seul ses conditions de fonctionnement.

En somme, il existe une différence de nature entre les SALA, et la notion de SALIA introduite par le Comité, qui désigne un système ne pouvant pas être déployé sans intervention humaine : l’humain reste au cœur des décisions d’usage de la force létale.

Le rapport évoque également la notion d’autonomie et explicite l’ensemble des définitions existantes autour du sujet. Le ministère des Armées a annoncé qu’il allait attentivement étudier cet avis afin de s’exprimer autour de l’utilisation de ces systèmes et qu’il “condamne toute volonté de développement, d’emploi ou d’export de systèmes d’armes pleinement autonomes c’est-à-dire capables de faire évoluer, au-delà du cadre d’emploi fixé initialement, leurs règles d’emploi de la force létale”.

La ministre des Armées s’exprimera sur l’avis indépendant rendu par le comité d’éthique de la défense, lorsque ses conclusions auront fait l’objet d’études d’appropriation au sein des services du ministère. Elle salue le travail et l’investissement du comité au service d’une meilleure connaissance critique des enjeux éthiques de la défense.

Les avis sont consultables ici en version française et anglaise.


1ère Marketplace de l'IA et de la transformation numérique vous recommande :
 
Zacharie Tazrout

Partager l'article

Le groupe Manutan investit dans la Robotic Process Automatisation pour dynamiser son département Finances

Manutan, fournisseur européen de produits et services aux entreprises et aux collectivités et spécialiste du e-commerce BtoB, investit dans la Robotic Process Automatisation (RPA)...

Spice AI veut faciliter l’intégration de l’intelligence artificielle dans les applications

Spice AI, startup basée à Seattle, a pour objectif de faciliter le travail des développeurs lors du développement d'applications intelligentes. Bien que l'IA ait...

Podcast : L’université Paris Dauphine-PSL dévoile le premier épisode de « EX MACHINA, l’ère des algorithmes »

"IA : qui sont les humains derrière la machine ?", c'est le titre du tout premier podcast d'EX MACHINE, lancé par l'université Paris Dauphine-PSL....

Les startups Manitty, PaIRe et Beyond Aero récompensées lors de la 11e édition du prix Jean-Louis Gerondeau – Safran

Manitty, PaIRe et Beyond Aero sont les startups lauréates du prix Jean-Louis Gerondeau - Safran 2021. Leurs innovations dans les domaines de l’aéronautique, des...