Prochain numéro du magazine ActuIA le 15 octobre
Actualité Le Pentagone dévoile ses « principes éthiques » pour l'usage de l'intelligence...

Pour approfondir le sujet

Les interactions client reposant sur l’IA auraient doublé en 2 ans selon un rapport du Capgemini Research Institute

Le Capgemini Research Institute a publié un nouveau rapport intitulé "The Art of Customer-Centric Artificial Intelligence: How organizations can unleash the full potential of...

Women in AI Awards – Postulez avant le 31 mars 2019

Women in AI et Capgemini ont ouvert les candidatures pour les Women in AI Awards qui seront remis à l'occasion de l'AI Night. Une...

Le machine learning au service de l’oncologie digestive au coeur de l’accord entre la FFCD et Owkin

Owkin et la Fédération Francophone de Cancérologie Digestive (FFCD) ont annoncé avoir signé un accord de coopération pour les 5 prochaines années. Au coeur...

International : Le Québec et la France poursuivent leur partenariat stratégique en intelligence artificielle

Le 25 juin dernier, une première mission virtuelle a été organisée à Paris entre Nadine Girault, Ministre des Relations internationales et de la Francophonie et ministre...

Le Pentagone dévoile ses « principes éthiques » pour l’usage de l’intelligence artificielle par l’armée

Le Pentagone a dévoilé ce lundi 24 février une série de principes éthiques pour l’utilisation des technologies d’intelligence artificielle. Leur adoption fait suite aux recommandations fournies au Secrétaire à la Défense par le Defense Innovation Board en octobre dernier.

Ces recommandations ont été formulées après 15 mois de consultation avec les principaux experts en IA de l’industrie commerciale, du gouvernement, des universités et des citoyens américains. Elles ont donné lieu à un processus rigoureux de retour d’information et d’analyse entre les principaux experts en IA du pays, avec de multiples possibilités de participation et de commentaires du public. L’adoption de principes éthiques en matière d’IA s’aligne sur l’objectif de la stratégie du Pentagone en matière d’IA, qui consiste à faire de l’armée américaine le chef de file de l’éthique de l’IA et de l’utilisation légale des systèmes d’IA.

“Les États-Unis, avec leurs alliés et partenaires, doivent accélérer l’adoption de l’IA et prendre la tête de leurs applications de sécurité nationale pour maintenir leur position stratégique, s’imposer sur les futurs champs de bataille et préserver l’ordre international fondé sur des règles”, a déclaré la secrétaire d’État Esper.

“La technologie de l’IA changera beaucoup de choses sur le champ de bataille du futur, mais rien ne fera changer l’engagement inébranlable de l’Amérique à se comporter de façon responsable et légale. L’adoption de principes éthiques en matière d’IA renforcera l’engagement du ministère à respecter les normes éthiques les plus élevées, comme le souligne la stratégie du Pentagone en matière d’IA, tout en s’appuyant sur la solide expérience de l’armée américaine en matière d’application de normes rigoureuses de test et de mise en œuvre des innovations technologiques”.

Ces principes s’alignent étroitement sur les efforts actuels de l’administration Trump pour faire progresser des technologies d’IA fiables. L’année dernière, le président Trump a lancé l’American AI Initiative, la stratégie nationale des États-Unis pour le leadership en matière d’intelligence artificielle, qui encourage les utilisations innovantes de l’IA tout en protégeant les libertés civiles, la vie privée et les valeurs américaines.

Les principes éthiques du Pentagone en matière d’IA s’appuieront sur le cadre éthique existant de l’armée américaine, basé sur la Constitution américaine, le Title 10 du U.S. Code, la Law of War, les traités internationaux existants et les normes et valeurs établies. Alors que le cadre existant fournit une base durable et technologiquement neutre pour un comportement éthique, l’utilisation de l’IA soulève de nouvelles ambiguïtés et de nouveaux risques éthiques. Les principes éthiques adoptés par le Pentagone cherchent donc, selon le DOD, à répondre à ces nouveaux défis et à garantir l’utilisation responsable de l’IA par le Pentagone.

Ces principes s’appliqueront à la fois aux fonctions de combat et hors combat et aideront l’armée américaine à respecter ses engagements juridiques, éthiques et politiques dans le domaine de l’IA. Les principes éthiques du département en matière d’IA couvrent cinq domaines principaux :

  1. Responsabilité. Le personnel du Pentagone fera preuve d’un niveau de jugement et de prudence approprié, tout en restant responsable du développement, du déploiement et de l’utilisation des capacités d’IA.
  2. Équité. Le département prendra des mesures délibérées pour minimiser les biais involontaires dans les capacités d’IA.
  3. Traçabilité. Les capacités en IA du Pentagone seront développées et déployées de telle sorte que le personnel concerné dispose une compréhension appropriée de la technologie, des processus de développement et des méthodes opérationnelles applicables aux technologies d’IA, avec notamment des méthodologies transparentes et vérifiables, des sources de données et des procédures de conception et de documentation.
  4. Fiabilité. Les usages de l’IA du Pentagone auront des utilisations explicites et bien définies, et la sûreté, la sécurité et l’efficacité de ces capacités seront soumises à des tests et à une assurance dans le cadre de ces utilisations définies tout au long de leur cycle de vie.
  5. Gouvernance. Le Pentagone concevra et développera des outils d’IA pour remplir les fonctions prévues tout en ayant la capacité de détecter et d’éviter les conséquences involontaires, et la capacité de désengager ou de désactiver les systèmes déployés qui présentent un comportement involontaire.

“Le leadership du secrétaire d’État Esper en matière d’IA et sa décision de publier des principes d’IA pour le Pentagone montrent non seulement au ministère de la défense, mais aussi aux pays du monde entier, que les États-Unis et le ministère de la défense sont attachés à l’éthique et qu’ils joueront un rôle de premier plan pour garantir que les démocraties adoptent les nouvelles technologies de manière responsable”, a déclaré le Dr Eric Schmidt, président du Defense Innovation Board.

“Je salue également le leadership de Dana Deasy et du lieutenant général Shanahan, qui, par l’intermédiaire du Joint AI Center, ont été les meneurs de cet effort”.

Le Joint Artificial Intelligence Center du ministère de la défense sera le point névralgique de la coordination de la mise en œuvre des principes éthiques de l’IA pour le ministère. Le JAIC dirige et anime actuellement une série de groupes de travail qui sollicitent la contribution des services et des experts en IA et en technologie dans l’ensemble du DOD.

“Nous sommes reconnaissants au Defense Innovation Board pour ses recommandations approfondies et perspicaces qui ont conduit à l’adoption des principes éthiques du DoD en matière d’IA”, a déclaré l’honorable Dana Deasy, directeur de l’information du DOD.

“L’éthique reste au premier plan de tout ce que le département fait avec la technologie de l’IA, et nos équipes utiliseront ces principes pour guider les tests, la mise en œuvre et l’extension des capacités d’IA dans tout le DOD”.

Pierre-yves Gerlat

Partager l'article

reciTAL, spécialiste du TAL, lève 3,5 M€ auprès de Breega

Paris, le 10 septembre 2020 - reciTAL, start-up IA spécialisée dans les solutions de Document Intelligence, effectue une première levée de fonds de 3,5 M€...

IA et Expérience client : Axys Consultants présente son offre Smart Customer Care Insight

Les centres de relation clients gèrent plusieurs millions d'appels par an et le téléphone reste le 1er moyen de contacter une entreprise (Enquête :...

Le magazine de l’IA nomme un comité scientifique

L'édition du 2ème numéro du magazine ActuIA qui paraîtra le 15 octobre a été l'occasion de constituer son comité scientifique. Composé de 9 femmes...

La vague VI du Concours Innovation – i-Nov ouvert aux PME et aux start-ups est lancée avec 8 thématiques

Financé par le Programme d’Investissements d’Avenir (PIA), l’appel à projets « Concours d’innovation - i-Nov » a pour vocation de sélectionner des projets d’innovation...