샘 올트먼 오픈AI(OpenAI) 최고경영자(CEO)가 인공지능(AI) 기술이 악용될 경우 세계는 심각한 '사기 위기(fraud crisis)'에 직면할 수 있다고 경고했다. 특히 음성 기반 인증 시스템이 이미 AI에 의해 무력화됐으며, 현실과 구별되지 않는 영상 사기까지 곧 등장할 것이라는 우려를 내놓았다고 CNN이 23일(이하 현지시간) 보도했다. .

올트먼 CEO는 23일 미국 연방준비제도(연준·Fed)가 주최한 공개 토론회에서 "음성 인식만으로 거액 송금이 가능한 금융기관이 아직도 존재한다는 사실이 충격적"이라며 "AI는 비밀번호를 제외한 대부분의 신원 인증 수단을 이미 무력화시켰다"고 밝혔다. 이 자리에는 미국 주요 금융기관 대표들이 대거 참석했다.

올트먼은 "이제 AI 음성 복제본, 그리고 결국에는 비디오 복제본도 사람을 사칭할 수 있게 되었는데, 이것이 점점 '현실과 구별할 수 없을 정도'가 될 것이며 이를 검증하기 위한 새로운 방법이 필요할 것"이라고 말했다

이날 올트먼과 토론 진행한 미셸 보먼 연준 부의장은 "그것은 우리가 협력을 고려할만한 사항일 수도 있다"고 말했다. 

올트먼은 "현재는 음성 사기로 시작했지만, 머지않아 영상 통화와 페이스타임(FaceTime) 영상까지 현실과 구별이 어려워질 것"이라며 "오픈AI는 이러한 기술을 개발하지 않지만, 전 세계가 반드시 직면해야 할 도전과제"라고 말했다. 

이어 그는 신원 진위 여부를 검증할 수 있는 기술로 '휴먼 증명(Proof of Human)' 기능을 내세운 '오브(The Orb)' 프로젝트를 언급하며 AI가 만든 디지털 혼란 속에서 진짜 인간임을 확인하는 수단이 중요하다고 강조했다.

'오브(The Orb)' 프로젝트는 인공지능(AI) 시대의 '진짜 인간' 식별을 위한 생체인증 장치이자, 세계 디지털 신원 인증 프로젝트 '월트코인(Worldcoin)'의 핵심 기술이다. 이 장치는 개인의 홍채를 스캔해 생물학적 고유성을 바탕으로 ‘한 사람당 하나의 디지털 ID’를 부여하는 것을 목표로 한다. 

이날 올트먼 CEO의 발언은 미국 정부가 곧 공개할 예정인 'AI 행동 계획(AI Action Plan)'을 앞두고 이뤄졌다. 오픈AI는 해당 정책 문서에 대해 자문을 제공했으며, 최근 미 의회 주변 활동을 강화하고 있다. 내년 초에는 미국 워싱턴 D.C.에 약 30명 규모의 사무소를 개설할 계획으로, 정책 입안자 대상 교육과 AI의 경제적 영향 분석, 기술 체험 등을 진행할 예정이다.

AI 사기 경고, 현실이 되고 있다

올트먼의 우려는 과장이 아니다. 미 연방수사국(FBI)은 지난해 AI 음성·영상 복제 기술을 이용한 사기 시도가 늘고 있다고 경고했다. 실제로 다수의 부모가 자녀의 목소리를 사칭한 AI 전화를 받고 금전을 요구받는 피해를 경험한 것으로 알려졌다. 이달 초에는 미국 국무장관 마르코 루비오의 음성을 AI로 복제한 사기범이 외국 외교장관과 주지사, 연방의회 의원에게 연락을 취했다는 사례도 보고됐다.

올트먼은 "사이버 공간에서 무엇이 진짜인지 구분이 점점 어려워지는 시대에, AI가 새로운 사기 형태를 촉발할 것"이라며 "AI 슈퍼지능(superintelligence)이 인간의 방어 역량을 앞지르기 전에 악용될 수 있다는 점이 가장 우려스럽다"고 말했다. 그는 AI가 미국 전력망을 공격하거나 생물학적 무기를 생성하는 등 현실적인 위협으로 이어질 가능성도 배제하지 않았다.

또한 그는 "AI가 너무 빠르게 발전하고 있는 반면, 사회적·제도적 대응은 이에 비해 매우 느리다"고 지적했다.

일자리 영향? "아무도 모른다"

일자리와 관련해선 다소 유보적인 입장을 취했다. 올트먼은 "AI가 노동시장에 미칠 영향을 정확히 예측하는 것은 불가능하다"며 "기술이 워낙 복잡하고 새로운 만큼, 지금의 모든 예측은 추측일 뿐"이라고 강조했다. 그는 "일부 직종은 사라지겠지만, 새로운 직업도 생겨날 것"이라고 덧붙였다.

그러면서도 "100년 후에는 지금의 '일'이라는 개념이 사라질 수도 있다"며 "사람들은 생존을 위해 일하지 않고, 사회적 역할을 위한 '게임 같은' 일을 하며 시간을 보내게 될지도 모른다"고 말했다. 다만 그는 AI가 의료, 법률, 건설 등 실질적 노동을 완전히 대체할 수 있을지는 언급하지 않았다.

오픈AI는 이날 자사의 첫 수석 이코노미스트인 로니 채터지(Ronnie Chatterji)가 작성한 보고서도 함께 공개했다. 그는 AI를 전기, 트랜지스터 같은 경제사적 전환 기술로 평가하며, 챗GPT가 전 세계 5억 명 이상이 사용하는 도구가 되었다고 소개했다. 특히 미국 사용자 중 20%는 챗GPT를 '개인 튜터(가정교사)'로 사용 중이며, 사용자 절반 이상은 18~34세로 장기적인 노동 생산성 향상에 기여할 가능성이 있다고 분석했다.

채터지 박사는 향후 1년간 하버드대 제이슨 퍼먼 교수, 아메리칸엔터프라이즈연구소(AEI)의 마이클 스트레인 박사와 함께 AI의 고용 및 노동시장에 미치는 영향을 종합 분석할 계획이다. 관련 연구는 워싱턴 D.C. 신설 오피스에서 진행될 예정이다.