Séoul accueille la seconde édition du AI Safety Summit

C'est finalement à Séoul, en Corée du Sud, que va se dérouler, ces 21 et 22 mai, la seconde édition du "AI Safety Summit", co-organisée par Séoul et le Royaume-Uni. Ce sommet mondial sur l'IA, organisé pour la 1re fois en novembre dernier à Londres pour trouver des réponses aux risques induits par les modèles de fondation comme ChatGPT, se déroulera en virtuel ce mardi et en présentiel le lendemain. L'"AI Safety Summit" est un événement crucial pour aborder les enjeux liés à l'IA, et garantir son développement sûr et éthique. À l'occasion de sa 1re édition, 28 pays et l’Europe ont co-signé La déclaration de Bletchley, un engagement de principe peu contraignant, pour une IA développée, déployée et utilisée de manière sûre, centrée sur l’humain, digne de confiance et responsable. Ce second sommet s'appuiera sur les avancées de la 1ère édition, mais également sur le rapport que le gouvernement britannique avait demandé alors à Yoshua Bengio de superviser. Cet éminent expert en IA a été l'un des signataires de la lettre demandant une pause dans le développement des grands modèles de fondation et a fait partie des militants pour un encadrement strict de l'IA en Europe, en amont de l'AI Act. Si la première version, provisoire, de ce rapport présentée pour le sommet, souligne les dangers des modèles d'IA de pointe en matière de désinformation, notamment via les deepfakes, de fraudes, de cyberattaques, les dangers de leurs biais, elle met également en lumière de profondes divergences entre les experts et entre les pays.

Le Sommet de Séoul

Outre la poursuite de l’élaboration d’une feuille de route pour assurer la sécurité de l’IA,  la promotion de l'innovation et le partage équitable des opportunités et des avantages de l’IA seront également à l'ordre du jour. Ce 21 mai, la session virtuelle coprésidée par le Premier ministre Rishi Sunak et le président de la République de Corée Yoon Suk Yeol, réunira des dirigeants de pays, dont Emmanuel Macron. Des leaders mondiaux de l’industrie seront également invités à faire le point sur la manière dont ils respectent les engagements pris à Bletchley Park pour assurer la sécurité de leurs modèles. Parmi eux, Anthropic, Google DeepMind, OpenAI, Microsoft et côté français, Mistral AI. La réunion en présentiel des ministres du numérique, le lendemain, sera co-organisée par la secrétaire britannique à la technologie, Michelle Donelan, et le ministre coréen des Sciences et des TIC, Lee Jong-Ho. À l'Elysée, plusieurs tables rondes seront organisées à la suite de la session virtuelle avec des acteurs de l'IA comme Eric Schmidt, ancien PDG de Google, ou encore Yann LeCun, vice-président de Meta. La France a quant à elle repoussé le Sommet de Paris prévu en novembre prochain au mois de février 2025. Plusieurs groupes de travail devraient d'ailleurs être annoncés par Emmanuel Macron pour préparer son ordre du jour. Si, tout comme le Royaume-Uni,  la France a l'ambition de se positionner en tant que l'un des leaders mondiaux de l'IA, elle ne veut pas limiter le débat sur l’IA aux "risques existentiels de cette technologie" selon un communiqué de presse de la présidence, ajoutant "Il y a d’autres enjeux plus urgents et concrets sur le déploiement de l’IA et son utilisation pour le bien commun".