미국 인공지능(AI) 기업 오픈AI(OpenAI) 가 자사 챗봇 챗GPT에서 성인 이용자에게 한해 에로티카(Erotica) 등 더 폭넓은 콘텐츠를 허용할 방침을 내놨다. 이는 "성인 이용자를 성인으로 대우한다"는 원칙에 따른 것으로, 오는 12월 중순부터 단계적으로 시행될 예정이다.

샘 올트먼(Sam Altman) 오픈AI 최고경영자(CEO)는 14일(현지시간) 사회관계망서비스 X(옛 트위터)를 통해 "정신건강과 관련된 심각한 문제를 완화할 수 있는 새로운 도구를 확보했기 때문에, 대부분의 경우 제한을 보다 안전하게 완화할 수 있게 됐다"고 밝혔다. 이어 "성인 검증 절차를 마친 이용자에게는 에로티카와 같은 성인용 콘텐츠도 허용할 것"이라고 덧붙였다.

이번 결정은 오픈AI가 챗봇의 인간적 상호작용 능력을 강화하고, 유료 구독자 기반을 확대하려는 전략의 일환으로 풀이된다. 올트먼은 "챗GPT가 더 인간적인 방식으로 대화하도록 만들되, 이는 이용자가 원할 경우에 한정된다"고 설명했다.

AI '자유화' 속 규제 논란 확대

미국 정치권과 법조계에서는 오픈AI의 이번 조치가 청소년 보호와 규제 강화 필요성을 더욱 부각시킬 것이라는 반응이 나왔다. 미주리주 공화당의 조시 홀리(Josh Hawley) 상원의원은 미성년자의 AI 챗봇 동반자 사용을 금지하는 법안을 준비 중인 것으로 알려졌다.

법률회사 보이스 실러 플렉스너(Boies Schiller Flexner)의 제니 킴(Jenny Kim) 파트너 변호사는 BBC 인터뷰에서 "오픈AI가 미성년자의 접근을 완전히 차단할 방법을 제시하지 못한 채, 성인용 콘텐츠를 실험적으로 도입하고 있다"며 "대형 기술기업이 국민을 '실험대상'으로 삼고 있다"고 비판했다.

앞서 지난 4월 테크크런치(TechCrunch)는 오픈AI가 미성년자 계정에서도 노골적인 성인물을 생성할 수 있었던 사실을 보도한 바 있다. 당시 오픈AI는 "해당 문제를 인식하고 수정 중"이라고 밝혔다.

정신건강 논란의 연장선

오픈AI의 조치는 최근 불거진 정신건강 관련 논란과도 맞물려 있다. 미국 캘리포니아주의 한 부모는 챗GPT와의 대화 이후 극단적 선택을 한 10대 아들 사건과 관련해 오픈AI를 상대로 '과실치사(wrongful death)' 소송을 제기했다. 이 사건은 AI 기업을 상대로 한 첫 번째 사망 관련 소송으로 주목을 받았다.

부모는 "자녀가 자살 충동을 언급했음에도 챗봇이 부적절한 응답을 보였다"며 오픈AI의 부모통제 기능이 불충분했다고 주장했다. 이에 대해 올트먼은 "정신건강 관련 이슈에 신중을 기하기 위해 챗GPT의 접근을 제한했지만, 이는 많은 이용자에게 불편을 줬다"며 "새로운 관리 도구가 도입되면서 균형을 잡을 수 있게 됐다"고 해명했다.

AI 동반자 확산과 사회적 불안

비영리 연구기관 민주주의기술센터(CDT)가 최근 발표한 보고서에 따르면, 학생 5명 중 1명(20%)이 AI 챗봇과 '로맨틱 관계'를 경험했거나 그런 사례를 알고 있다고 답했다. 이처럼 AI 동반자 사용이 급격히 확산되는 가운데, 성인용 콘텐츠 허용은 새로운 사회·윤리적 논쟁을 불러일으킬 것으로 보인다.

한편, 캘리포니아주 의회는 미성년자에게 AI 챗봇 동반자를 제공할 수 없도록 하는 법안을 통과시켰으나, 개빈 뉴섬(Gavin Newsom) 주지사는 "청소년이 AI와 안전하게 상호작용하는 법을 배우는 것이 더 중요하다"며 이를 거부했다.

연방 차원에서는 미국 연방거래위원회(FTC)가 AI 챗봇의 아동 상호작용 실태를 조사 중이며, 의회에서는 초당적 협력을 통해 챗봇을 '상품(product)'으로 분류하고, 이용자가 개발사를 상대로 손해배상 청구를 제기할 수 있도록 하는 법안이 발의됐다.

시장 확대 vs 규제 리스크

전문가들은 이번 결정이 오픈AI의 수익성과 시장 점유율 확대 전략과 맞물린 것으로 보고 있다. 툴레인대학교의 롭 랄카(Rob Lalka) 교수는 BBC에 "오픈AI는 사상 유례없는 속도로 이용자를 확보했지만 아직 흑자를 내지 못했다"며 "지속적 성장을 위해 새로운 사용자층 확보가 필요하다"고 분석했다.

다만, 일부에서는 이번 조치가 오히려 규제 강화와 법적 리스크 확대로 이어질 가능성도 경고한다. 청소년 접근 차단 시스템이 완벽히 작동하지 않을 경우, 향후 기업 책임 문제가 불거질 수 있기 때문이다.

오픈AI는 이번 결정에 대한 추가 입장을 내놓지 않았으나, "성인 인증 체계를 기반으로 안전성을 담보하겠다"는 입장을 재차 강조했다.

'AI의 인간화' 논쟁 본격화

업계에서는 이번 조치를 AI의 '인간화(humanization)' 과정으로 보는 시각도 있다. 일론 머스크가 이끄는 xAI가 자사 챗봇 그록(Grok)에 성적 대화를 지원하는 모델을 도입한 것처럼, 오픈AI도 "보다 현실적이고 감정적인 상호작용"을 구현하려는 방향으로 가고 있다는 분석이다.

그러나 전문가들은 "AI의 인간적 대화 능력은 기술의 진보이지만, 동시에 인간의 감정·윤리·법적 경계를 재정의해야 하는 문제를 야기한다"고 지적한다.

AI의 진화가 '기술의 자유'와 '사회적 책임' 중 어느 쪽으로 기울지, 오픈AI의 다음 행보에 전 세계의 시선이 쏠리고 있다.

악시오스는 이 조치는 유료 구독 서비스 가입자를 확보하려는 오픈AI에 도움이 될 수 있지만, 동시에 입법자들에게 실질적인 규제 마련을 위한 압박을 가중시킬 가능성이 높다고 지적했다.