Le gouvernement britannique officialise la création de l'AI Safety Institute

Le 1er jour du AI Safety Summit a été consacré à des discussions sur les risques associés aux modèles de pointe, sur l’atténuation de ces risques et sur les opportunités de ces modèles. A la fin de la journée, 28 pays participants ont signé La déclaration de Bletchley, s'engageant à œuvrer pour une IA "conçue, développée, déployée et utilisée de manière sûre, de manière à être centrée sur l’humain, digne de confiance et responsable". Le Premier ministre Rishi Sunak misait sur ce consensus pour présenter le projet de l’UK de mettre en place un “AI Safety Institute”, qui a reçu le soutien de certains pays et entreprises d'IA. L'Institut de sécurité de l'IA a pour mission de tester rigoureusement les nouveaux modèles d'IA, avant et après leur sortie, afin "d’aborder les capacités potentiellement dangereuses des modèles d’IA, y compris en explorant tous les risques, des préjudices sociaux tels que les préjugés et la désinformation, aux risques les plus improbables mais extrêmes, tels que la perte complète du contrôle de l’IA par l’humanité".  Ian Hogarth dirigeait le "Frontier AI Task Force", créé en juin dernier, dont l'objectif était d'évaluer et atténuer les risques posés par les formes les plus avancées d’IA pour la sécurité nationale, notamment le développement d’armes biologiques et les cyberattaques. Ce groupe de travail évolue pour devenir l’Institut de sécurité de l’IA, avec Ian Hogarth à sa présidence. Le comité consultatif externe du Frontier AI Task Force, composé de poids lourds de l’industrie, de la sécurité nationale à l’informatique, conseillera désormais l'institut, dont le PDG devrait être recruté prochainement.

Soutien international et collaboration

L'Institut a reçu un soutien massif de la part de dirigeants mondiaux et de grandes entreprises de l'IA lors du sommet sur la sécurité de l'IA. Des gouvernements tels que les Etats-Unis qui ont annoncé la veille du sommet la création d'un “Comité de sécurité et de sûreté de l’IA", le Japon, le Canada ainsi que des géants de la technologie comme Microsoft, Meta, Google DeepMind et AWS ont exprimé leur engagement en faveur d'une collaboration avec l'institut pour un développement sûr de l'IA. Des start-ups d'IA comme Anthropic, Inflection, OpenAI et l'Institut Alan Turing y sont également favorables. Le Royaume-Uni a d'ores et déjà conclu des partenariats avec l'Institut américain de sécurité de l'IA et le gouvernement de Singapour pour collaborer sur les tests de sécurité de l'IA. Le gouvernement allemand a également exprimé son intérêt et se dit prêt à explorer les possibilités de coopération. Le président de l’Institut de sécurité, Ian Hogarth, déclare :

"Le soutien des gouvernements et des entreprises du monde entier est une validation importante du travail que nous allons mener pour faire progresser la sécurité de l’IA et assurer son développement responsable.

Par l’intermédiaire de l’AI Safety Institute, nous jouerons un rôle important dans le ralliement de la communauté mondiale pour relever les défis de cette technologie en évolution rapide".

De son côté, le Premier ministre Rishi Sunak affirme :

"Notre Institut de sécurité de l’IA agira comme une plaque tournante mondiale de la sécurité de l’IA, en menant des recherches vitales sur les capacités et les risques de cette technologie en évolution rapide.

C’est fantastique de voir un tel soutien de la part des partenaires mondiaux et des entreprises d’IA elles-mêmes pour travailler ensemble afin que nous puissions nous assurer que l’IA se développe en toute sécurité au profit de tous nos employés. C’est la bonne approche pour les intérêts à long terme du Royaume-Uni".