Mardi dernier, lors de la conférence annuelle sur le cadre de capital des grandes banques, Sam Altman, PDG d’OpenAI, a été interrogé par Michelle Bowman, la vice-présidente de la Réserve fédérale. L’échange s’est concentré sur l'impact de l'IA sur le système bancaire, la sécurité nationale et l’organisation du travail.
Après avoir évoqué l'essor fulgurant de l'IA et les gains de productivité qu'elle permet, Sam Altman a alerté sur la vulnérabilité croissante des systèmes d’authentification face aux capacités des modèles génératifs. Selon lui, les deepfakes ont rendu obsolètes des mécanismes largement utilisés comme l’empreinte vocale ou l'authentification visuelle et continuer à utiliser ces méthodes sans remise en question relève de l’inconscience :
"Une chose qui me terrifie, c’est qu’il y a apparemment encore des institutions financières qui accepteront une empreinte vocale comme authentification pour que vous puissiez transférer beaucoup d’argent ou faire autre chose. C’est une chose folle à faire encore".
"L’IA a complètement vaincu la plupart des moyens dont les gens s’authentifient actuellement, à l’exception des mots de passe, mais tous ces "prendre un selfie et saluer" ou "faire sa voix" ou quoi que ce soit... Je suis très nerveux à l’idée que nous ayons une importante crise de fraude imminente à cause de cela".
Côté travail, Sam Altman anticipe la disparition progressive de certaines catégories d’emplois, notamment le support client, remplacé par des agents conversationnels capables d’exécuter des tâches complexes avec rapidité et précision.
"Il y a quelques années, vous aimiez appeler le service client, vous aimiez parcourir une arborescence téléphonique, vous parliez à quatre personnes différentes, elles faisaient le mauvais choix, vous rappeliez, vous attendiez."
Maintenant, vous appelez l’une de ces choses et l’IA répond. C’est comme une personne super intelligente et capable. Il n’y a pas d’arbre téléphonique, il n’y a pas de transferts. Il peut faire tout ce que n’importe quel agent du service client de cette entreprise pourrait faire. Il ne fait pas d’erreurs. C’est très rapide".
Il souligne cependant que dans des domaines comme la santé, le rôle humain demeure central, "Peut-être que je suis un dinosaure ici, mais je ne veux vraiment pas confier mon destin médical à ChatGPT sans aucun médecin humain dans la boucle".
L’entretien a également abordé les risques géopolitiques associés à la superintelligence . Le PDG a évoqué la possibilité que des adversaires utilisent des modèles d’IA plus avancés pour déstabiliser des infrastructures critiques américaines. Ils pourraient ainsi "concevoir une arme biologique, démanteler le réseau électrique des États-Unis, ou pénétrer dans le système financier et prendre l’argent de tout le monde".