Afgelopen dinsdag, tijdens de jaarlijkse conferentie over het kapitaalkader van grote banken, werd Sam Altman, CEO van OpenAI, ondervraagd door Michelle Bowman, de vicevoorzitter van de Federal Reserve. De uitwisseling concentreerde zich op de impact van AI op het banksysteem, nationale veiligheid en de organisatie van werk.
Nadat hij de snelle opkomst van AI en de productiviteitswinsten die het mogelijk maakt had besproken, waarschuwde Sam Altman voor de toenemende kwetsbaarheid van authenticatiesystemen als gevolg van de capaciteiten van generatieve modellen. Volgens hem hebben deepfakes veelgebruikte mechanismen zoals stemafdrukken of visuele authenticatie verouderd gemaakt, en deze methoden blijven gebruiken zonder ze in twijfel te trekken, is onverantwoordelijk:
"Iets wat me beangstigt, is dat er blijkbaar nog steeds financiële instellingen zijn die een stemafdruk accepteren als authenticatie zodat u veel geld kunt overmaken of iets anders kunt doen. Het is gek om dat nog steeds te doen".
"AI heeft de meeste middelen waarmee mensen zich momenteel authenticeren volledig overwonnen, behalve wachtwoorden. Maar al die "neem een selfie en zwaai" of "doe je stem" of wat dan ook... Ik ben erg nerveus dat we een grote fraudecrisis tegemoet gaan hierdoor".
Op het gebied van werk anticipeert Sam Altman op de geleidelijke verdwijning van bepaalde categorieën banen, met name klantenondersteuning, die worden vervangen door conversatieagenten die in staat zijn complexe taken snel en nauwkeurig uit te voeren.
"Een paar jaar geleden belde je graag de klantenservice, je doorliep graag een telefoonboom, je sprak met vier verschillende mensen, zij maakten de verkeerde keuze, je belde terug, je wachtte".
Nu bel je een van die dingen en AI beantwoordt. Het is als een superintelligent en capabel persoon. Er is geen telefoonboom, er zijn geen overdrachten. Het kan alles doen wat elke klantenserviceagent van dat bedrijf zou kunnen doen. Het maakt geen fouten. Het is erg snel".
Hij benadrukt echter dat in gebieden zoals de gezondheidszorg de menselijke rol centraal blijft, "Misschien ben ik hier een dinosaurus, maar ik wil echt niet mijn medische lot overlaten aan ChatGPT zonder enige menselijke arts in de kring".
Het gesprek behandelde ook de geopolitieke risico's die gepaard gaan met de superintelligentie. De CEO sprak over de mogelijkheid dat tegenstanders geavanceerdere AI-modellen gebruiken om kritieke Amerikaanse infrastructuren te destabiliseren. Ze zouden bijvoorbeeld "een biologisch wapen kunnen ontwikkelen, het elektriciteitsnet van de Verenigde Staten kunnen ontmantelen, of het financiële systeem kunnen binnendringen en ieders geld kunnen stelen".