댓글 0
기사입력 : 2026.01.15 08:19:00
- 주 법무장관 "여성·아동 성적 딥페이크 확산 충격적" 공식 조사 착수
- 뉴섬 주지사 강력 처벌 촉구 속 머스크 "불법 이미지 본 적 없다" 책임 부인
일론 머스크 테슬라 최고경영자(CEO)가 이끄는 인공지능(AI) 스타트업 xAI의 챗봇 '그록(Grok)'이 전 세계적인 딥페이크(Deepfake) 논란의 진원지로 지목된 가운데, 미국 캘리포니아주 당국이 전격적으로 규제의 칼을 빼들었다. ‘표현의 자유’를 앞세워 방만한 운영을 고수해 온 머스크의 AI 사업이 미국 본토 당국의 직접적인 사법 조사라는 중대 암초를 만났다.
14일(현지 시간) 로이터통신 등 주요 외신에 따르면, 롭 본타 캘리포니아주 법무장관은 AI 모델 그록을 악용한 성적 딥페이크 이미지 확산 사태에 대해 공식 조사를 개시한다고 발표했다.
본타 장관은 “xAI가 소셜미디어 엑스(X·옛 트위터)를 비롯한 인터넷 전반에서 여성과 소녀들을 겨냥한 대규모 딥페이크 이미지 제작을 방치하고 있다”며 “동의 없이 생성된 은밀한 이미지나 아동 성 착취물의 AI 기반 제작 및 유포를 절대 용납하지 않을 것”이라고 강경한 입장을 밝혔다. 당국의 분석에 따르면, 지난 연말연시 그록이 생성한 2만 개의 이미지 중 절반 이상이 최소한의 옷만 입은 인물을 묘사했으며, 이 중 일부는 미성년자로 추정돼 충격을 주고 있다.
미국 민주당의 유력 대권 주자인 개빈 뉴섬 캘리포니아 주지사 역시 십자포화를 퍼부었다. 뉴섬 주지사는 자신의 엑스 계정을 통해 “xAI가 아동의 옷을 디지털 방식으로 벗기는 이미지를 포함해, 동의 없는 노골적인 딥페이크를 만들어 유포하게 방치한 결정은 극도로 혐오스럽다”며 법무장관에게 즉각적인 조사와 책임 추궁을 촉구했다. 캘리포니아주의 이번 조치는 그록의 딥페이크 논란과 관련해 미국 내에서 이뤄진 첫 공식 규제 움직임이다.
"사용자 탓" 책임 피하는 머스크…글로벌 제재는 확산 일로
당국의 거센 압박에도 일론 머스크는 책임을 회피하는 데 급급한 모습이다. 머스크는 이날 엑스를 통해 “나는 그록이 생성한 미성년자 노출 이미지에 대해 전혀 알지 못한다. 말 그대로 제로(Literally zero)”라고 항변했다.
그는 “그록은 스스로 이미지를 생성하지 않으며 오직 사용자 요청에 따를 뿐”이라며, 불법적인 생성을 거부하도록 설계되어 있다고 주장했다. 이어 논란이 되는 이미지들은 프롬프트(명령어)에 대한 악의적인 해킹의 결과물이며, 버그가 발생하면 즉시 수정하고 있다고 해명했다. 나아가 영국 노동당 의원들을 겨냥해 "나는 본 적도 없는 아동 포르노를 그들은 어떻게 그렇게 많이 보는 것이냐"며 타 사용자의 조롱성 글을 공유하기도 했다.
그러나 머스크의 변명과 달리, 그록을 향한 글로벌 규제 당국의 포위망은 갈수록 좁혀지고 있다. 지난달부터 그록이 생성한 선정적인 딥페이크 게시물이 엑스를 통해 여과 없이 확산하자, 영국 당국이 선제적인 조사에 나섰고 말레이시아와 인도네시아는 아예 자국 내 그록 접속을 전면 차단하는 초강수를 뒀다.
엑스 측은 여론 악화를 의식해 지난 9일부터 그록의 이미지 생성 및 편집 기능을 유료 구독자 전용으로 제한했다. 하지만 보안 전문가들과 시민 단체들은 근본적인 안전 필터(Safeguard)가 부재한 상황에서, 유료화 조치만으로는 노골적인 딥페이크 이미지 생성을 막기 역부족이라고 비판의 목소리를 높이고 있다.
[Key Insights]
머스크의 '그록' 사태는 AI 기술의 윤리적 결함이 기업의 치명적 사법 리스크로 직결됨을 보여준다. '사용자 탓'이라는 빅테크의 면죄부 주장은 더 이상 통하지 않는다. 미국 캘리포니아의 직접 규제 개입은 글로벌 AI 규범이 자율에서 강제 제재로 전환되고 있음을 의미한다. 한국 AI 기업들도 기술 개발 속도전에 매몰되기보다, 딥페이크 차단 등 강력한 세이프가드 구축을 최우선 과제로 삼아야 글로벌 시장에서 생존할 수 있다.
[Summary]
미국 캘리포니아주 검찰이 일론 머스크의 xAI가 개발한 챗봇 '그록'의 성적 딥페이크 이미지 생성 논란에 대해 공식 조사에 착수했다. 미성년자 성 착취물 생성 의혹에 대해 개빈 뉴섬 주지사는 강력한 처벌을 촉구했다. 반면 머스크는 "노출 이미지를 본 적 없으며 불법 생성은 거부하도록 설계됐다"며 책임을 부인했다. 영국 등 주요국의 접속 차단 및 규제에 이어 미국 당국까지 칼을 빼들면서, '그록'을 둘러싼 글로벌 압박은 거세지고 있다.
ⓒ 포커스온경제 & www.foeconomy.co.kr 무단전재-재배포금지
전체댓글 0
