Intelligence artificielle Intégration de l’autonomie des systèmes d’armes létaux : Le Comité d’éthique de...

Pour approfondir le sujet

Sur le même thème :

Etats-Unis : les dernières nouvelles autour de l’IA du Pentagone et du Joint Artificial Intelligence Center

L'intelligence artificielle dans le secteur de la défense est un sujet qui fait son arrivée progressive en France : fin avril dernier, le comité...

L’OTAN travaille à l’encadrement de l’utilisation de l’intelligence artificielle dans le domaine militaire

L'Organisation du Traité de l'Atlantique Nord (OTAN) travaille à l'établissement d'un cadre de normes et de règles quant à l'utilisation de l'intelligence artificielle dans...

L’UNESCO présente ses recommandations pour le développement de l’écosystème de l’intelligence artificielle africain

En 2018, un forum sur l'intelligence artificielle en Afrique avait été organisé par l'UNESCO et l'Université Mohamed VI Polytechnique. L'objectif était d'explorer les opportunités...

L’OMS publie son rapport mondial sur l’intelligence artificielle appliquée au domaine de la santé

Le 29 juin 2021, l'Organisation mondiale de la santé (OMS) a publié son rapport consacré à la gouvernance et à l'éthique de l'intelligence artificielle...

Intégration de l’autonomie des systèmes d’armes létaux : Le Comité d’éthique de la défense remet son avis

Après la publication de ses travaux sur le soldat augmenté, le Comité d’éthique de la défense a remis à Florence Parly et au ministère des Armées son avis sur l’intégration de l’autonomie dans les systèmes d’armes létaux. Sujet central choisi du fait de la mesure des enjeux stratégiques, juridiques et éthiques soulevés par le développement des applications militaires de l’intelligence artificielle, et en particulier par l’émergence potentielle de Systèmes d’armes létaux pleinement autonomes (SALA).

Les conclusions du Comité confortent les positions prises par la France depuis plusieurs années sur le sujet des SALA : la France confirme qu’elle ne développera et n’emploiera pas de systèmes d’armes létaux pleinement autonomes.

Un comité éthique constitué de spécialistes du monde de la technologie

Le Comité d’éthique de la défense est une structure de réflexion permanente sur les enjeux éthiques des nouvelles technologies dans le domaine de la défense mis en place sur décision du ministère des Armées. Constitué en janvier 2020, il est composé de personnalités qualifiées, civiles et militaires, offrant des compétences dans les domaines opérationnels, scientifiques, médicaux, philosophiques, historiques et juridiques. Il a pour objectif d’apporter ses perspectives à la ministre des Armées et à ses grands subordonnés autour de deux questions :

  • les questions éthiques soulevées par les innovations scientifiques et techniques et leurs applications militaires éventuelles
  • les questions liées aux évolutions de la fonction militaire

La mise en place de ce comité émane de la volonté affichée par la France de s’impliquer sur ces questions autour du développement des applications militaires de l’intelligence artificielle, et en particulier les systèmes d’armes létaux autonomes.

Un rapport sur l’intégration de l’autonomie dans les systèmes d’armes létaux

Après avoir suivi un processus de réflexion, le Comité a identifié 6 principes directeurs et a proposé 25 recommandations en ce qui concerne la recherche, l’emploi, la méthodologie, la formation et la conception de techniques permettant l’autonomisation des systèmes d’armes. Dans son avis, le comité d’éthique de la défense a réalisé un travail approfondi de définition qui attire l’attention sur les pièges du champ lexical comparant à tort la machine à l’homme (l’anthropomorphisme).

Au terme de cette analyse initiale, le Comité d’éthique de la défense a choisi d’établir une stricte distinction entre :

  • Les Systèmes d’armes létaux autonomes (SALA), qui sont des systèmes d’armes létaux programmés pour être capables de faire évoluer leurs règles de fonctionnement, d’échapper au contrôle humain et de redéfinir tout seuls leur mission ;
  • Et les Systèmes d’armes létaux intégrant de l’autonomie (SALIA) qui sont des systèmes comportant des fonctions automatisées, mais sous contrôle humain, dans des conditions qui garantissent :
    • Le respect du principe constitutionnel de nécessaire libre disposition de la force armée,
    • le respect du principe de continuité de la chaîne de commandement de l’ordre à son application,
    • Un SALIA ne pourrait prendre d’initiatives létales – sans contrôle humain. Il ne pourrait pas modifier seul ses conditions de fonctionnement.

En somme, il existe une différence de nature entre les SALA, et la notion de SALIA introduite par le Comité, qui désigne un système ne pouvant pas être déployé sans intervention humaine : l’humain reste au cœur des décisions d’usage de la force létale.

Le rapport évoque également la notion d’autonomie et explicite l’ensemble des définitions existantes autour du sujet. Le ministère des Armées a annoncé qu’il allait attentivement étudier cet avis afin de s’exprimer autour de l’utilisation de ces systèmes et qu’il “condamne toute volonté de développement, d’emploi ou d’export de systèmes d’armes pleinement autonomes c’est-à-dire capables de faire évoluer, au-delà du cadre d’emploi fixé initialement, leurs règles d’emploi de la force létale”.

La ministre des Armées s’exprimera sur l’avis indépendant rendu par le comité d’éthique de la défense, lorsque ses conclusions auront fait l’objet d’études d’appropriation au sein des services du ministère. Elle salue le travail et l’investissement du comité au service d’une meilleure connaissance critique des enjeux éthiques de la défense.

Les avis sont consultables ici en version française et anglaise.


1ère Marketplace de l'IA et de la transformation numérique vous recommande :
 
Zacharie Tazrout

Partager l'article

La France et l’Allemagne débloquent 17,5 millions d’euros pour financer les cinq projets lauréats de leur APP commun

Dans le cadre de la Présidence française du Conseil de l’Union européenne, la Direction générale des Entreprises (DGE) organise, avec le soutien du Hub...

La start-up marseillaise Telaqua annonce une levée de fonds de 4 millions d’euros

Telaqua, startup marseillaise spécialisée dans la gestion des systèmes d’irrigation agricoles et viticoles, a annoncé le 11 mai dernier une levée de fonds de...

L’accélérateur de start-ups Future4care inaugure officiellement ses locaux et sa plateforme numérique

Le 10 juin 2021, Sanofi, Capgemini, Generali et Orange annonçaient la création de Future4care qui a pour ambition d’accélérer le développement de solutions européennes...

Hewlett Packard Enterprise annonce la construction de sa première usine dédiée au HPC et à l’IA en Europe

Hewlett Packard Enterprise (HPE) a annoncé, le 18 mai, la construction de sa première usine en Europe destinée à soutenir le développement de supercalculateurs...
Recevoir une notification en cas d'actualité importante    OK Non merci