Na última terça-feira, durante a conferência anual sobre o quadro de capital dos grandes bancos, Sam Altman, CEO da OpenAI, foi questionado por Michelle Bowman, a vice-presidente do Federal Reserve. A troca de ideias focou no impacto da IA no sistema bancário, na segurança nacional e na organização do trabalho.
Após mencionar o rápido crescimento da IA e os ganhos de produtividade que ela possibilita, Sam Altman alertou sobre a crescente vulnerabilidade dos sistemas de autenticação frente às capacidades dos modelos generativos. Segundo ele, os deepfakes tornaram obsoletos mecanismos amplamente utilizados como a impressão vocal ou a autenticação visual, e continuar a usar esses métodos sem questionamento é imprudente:
"Uma coisa que me aterroriza é que aparentemente ainda há instituições financeiras que aceitarão uma impressão vocal como autenticação para que você possa transferir muito dinheiro ou fazer outra coisa. É uma loucura continuar fazendo isso".
"A IA venceu completamente a maioria dos meios que as pessoas usam atualmente para se autenticar, com exceção das senhas, mas todos esses 'tire uma selfie e acene' ou 'faça sua voz' ou qualquer outra coisa... Estou muito nervoso com a ideia de que teremos uma grande crise de fraude iminente por causa disso".
Em termos de trabalho, Sam Altman antecipa o desaparecimento progressivo de certas categorias de emprego, especialmente o suporte ao cliente, substituído por agentes conversacionais capazes de executar tarefas complexas com rapidez e precisão.
"Há alguns anos, você gostava de ligar para o serviço de atendimento ao cliente, adorava percorrer uma árvore de telefone, falava com quatro pessoas diferentes, elas faziam a escolha errada, você ligava novamente, esperava".
Agora, você liga para uma dessas coisas e a IA atende. É como uma pessoa superinteligente e capaz. Não há árvore telefônica, não há transferências. Ela pode fazer tudo o que qualquer agente de atendimento ao cliente dessa empresa poderia fazer. Não comete erros. É muito rápida".
No entanto, ele destaca que em áreas como a saúde, o papel humano permanece central, "Talvez eu seja um dinossauro aqui, mas realmente não quero confiar meu destino médico ao ChatGPT sem nenhum médico humano no circuito".
A entrevista também abordou os riscos geopolíticos associados à superinteligência. O CEO mencionou a possibilidade de que adversários usem modelos de IA mais avançados para desestabilizar infraestruturas críticas americanas. Eles poderiam assim "conceber uma arma biológica, desmantelar a rede elétrica dos Estados Unidos, ou penetrar no sistema financeiro e roubar o dinheiro de todos".