지난 화요일, 주요 은행의 자본 구조 연례 회의에서 OpenAI의 CEO Sam Altman은 연방준비제도 부의장 Michelle Bowman과 대화를 나누었습니다. 이 대화는 인공지능이 은행 시스템, 국가 안보, 그리고 업무 조직에 미치는 영향에 중점을 두었습니다.
Sam Altman은 인공지능의 폭발적인 성장과 이를 통해 얻어지는 생산성 향상을 언급한 후, 생성 모델의 능력에 대한 인증 시스템의 취약성이 증가하고 있다고 경고했습니다. 그에 따르면, 딥페이크는 음성 지문이나 시각적 인증과 같은 널리 사용되던 메커니즘을 무용지물로 만들어버렸으며, 이러한 방법을 의문 없이 계속 사용하는 것은 무모하다고 합니다:
"저를 두렵게 하는 것 중 하나는 아직도 음성 지문을 인증 방식으로 받아들여 많은 돈을 이체하거나 다른 일을 할 수 있게 해주는 금융 기관이 있다는 것입니다. 이건 정말 미친 짓입니다".
"인공지능은 현재 사람들이 인증하는 대부분의 수단을 완전히 무너뜨렸습니다. 비밀번호를 제외하고는, '셀피를 찍고 인사하기'나 '목소리를 녹음하기' 같은 모든 것들... 저는 이것 때문에 큰 사기 위기가 임박해 있는 것에 대해 매우 불안합니다".
업무 측면에서, Sam Altman은 고객 지원과 같은 일부 직종의 점진적인 소멸을 예상하고 있으며, 이는 복잡한 작업을 신속하고 정확하게 수행할 수 있는 대화형 에이전트로 대체될 것입니다.
"몇 년 전만 해도, 여러분은 고객 서비스에 전화하는 것을 좋아했으며, 전화 메뉴를 따라가며 네 명의 다른 사람과 이야기를 나누고, 그들이 잘못된 선택을 하면 다시 전화하고, 기다렸습니다."
이제, 여러분은 이러한 것들 중 하나에 전화하면 인공지능이 응답합니다. 이는 매우 똑똑하고 유능한 사람과 같습니다. 전화 메뉴도 없고, 전환도 없습니다. 해당 회사의 어떤 고객 서비스 에이전트가 할 수 있는 모든 것을 할 수 있습니다. 실수도 없습니다. 매우 빠릅니다."
하지만 그는 의료와 같은 분야에서는 인간의 역할이 여전히 중요하다고 강조합니다, "아마도 저는 여기서 고리타분한 사람일 수 있지만, 인간 의사가 없는 상태로 제 의료 운명을 ChatGPT에 맡기고 싶지 않습니다".
인터뷰는 또한 초지능과 관련된 지정학적 위험을 다루었습니다. CEO는 경쟁자들이 더 발전된 인공지능 모델을 사용하여 미국의 중요한 인프라를 불안정하게 만들 가능성을 언급했습니다. 그들은 이렇게 "생물 무기를 설계하거나, 미국의 전력망을 해체하거나, 금융 시스템에 침입하여 모든 사람의 돈을 빼앗을 수 있습니다".