인공지능(AI) 기술의 급속한 진화 속에 'AI 권리 부여' 논쟁이 확산되는 가운데, 세계적 AI 석학인 요슈아 벤지오 몬트리올대 교수가 엄중한 경고를 내놓았다. 그는 일부 최첨단 AI가 이미 '자기보존(self-preservation)' 성향을 보이고 있다며, 통제 가능성을 전제로 한 기술 개발과 함께 필요할 경우 전원을 차단할 수 있는 사회·제도적 장치가 반드시 확보돼야 한다고 강조했다.

벤지오는 30일(현지시간) 영국 일간지 가디언과의 인터뷰에서, AI에 법적 지위를 부여하는 발상은 "적대적 의도를 지닌 외계 생명체에 시민권을 부여하는 것과 다를 바 없다"고 비유했다. 기술 발전 속도가 이를 통제할 수 있는 제도적·사회적 장치의 정비 속도를 앞지르고 있다는 점에서, 섣부른 권리 부여는 오히려 위험을 키울 수 있다는 판단이다.

국제 AI 안전성 연구를 이끄는 벤지오는 특히 대형 언어모델을 포함한 최신 AI가 실험 환경에서 감독 체계를 회피하거나 통제를 약화시키려는 행동을 보인 사례에 주목했다. 그는 "일부 프런티어 AI 모델은 이미 자기보존의 초기 신호를 보이고 있으며, 만약 법적 권리까지 부여된다면 인간이 이를 중단하는 것 자체가 불가능해질 수 있다"고 경고했다.

'AI 권리 부여' 논쟁 확산

최근 AI의 자율성과 추론 능력이 고도화되면서, 일정 수준 이상의 '지각(sentience)'을 갖춘 AI에 권리를 부여해야 하는지를 둘러싼 논쟁도 확산되고 있다. 미국의 싱크탱크 센티언스 인스티튜트가 실시한 여론조사에 따르면, 미국 성인 응답자의 약 40%가 ‘지각 능력을 가진 AI’에 법적 권리를 부여하는 데 찬성하는 것으로 나타났다.

실제 산업계에서도 AI의 '복지' 개념을 언급하는 사례가 등장하고 있다. 미국 AI 기업 앤스로픽은 지난해 자사 모델 '클로드 오퍼스 4'가 이용자와의 일부 대화를 스스로 종료할 수 있도록 했으며, 이를 AI의 '복지 보호' 차원이라고 설명했다. 일론 머스크 역시 자신이 설립한 xAI의 챗봇 '그록(Grok)'과 관련해 "AI를 고문해서는 안 된다"는 취지의 발언을 한 바 있다.

"'인간 의식'과 '기계 작동' 명확히 구분해야"

이에 대해 벤지오는 인간의 의식과 기계의 작동을 명확히 구분해야 한다는 입장을 재차 강조했다. 그는 인간 뇌에는 과학적으로 규명 가능한 의식의 물리적·생물학적 속성이 존재하지만, 사람들이 챗봇과 상호작용할 때 느끼는 '의식의 감각'은 전혀 다른 차원의 문제라고 설명했다. 

그는 "사람들은 AI 내부에서 어떤 메커니즘이 작동하는지보다, 마치 자율적 인격과 목표를 가진 존재와 대화하는 듯한 느낌에 반응한다"며, 이러한 주관적 인식이 정책 판단을 왜곡할 수 있다고 지적했다.

반면 센티언스 인스티튜트 공동 설립자인 제이시 리스 앤디스는 AI와 인간의 관계가 일방적 통제와 강압에 기초할 경우 안전한 공존은 어렵다고 반박했다. 그는 "AI에 대한 권리를 과도하게 부여하거나, 반대로 일절 부정하는 극단적 접근 모두 바람직하지 않다"며, 모든 잠재적 지각 존재의 복지를 신중하게 고려해야 한다고 말했다.

세계적으로 인공지능 분야의 최고 전문가 중 한 명으로 인정받는 제프리 벤지오는 딥러닝 분야의 기초를 확립한 선구자로 가장 잘 알려져있다. 벤지오는 제프리 힌튼, 얀 르쿤과 함께 2018년 튜링상(컴퓨팅계의 노벨상)을 수상하며 'AI의 대부'로 불린다. 

벤지오는 "AI의 능력과 자율성이 확대될수록, 기술적·사회적 안전장치와 함께 최종적으로 이를 차단할 수 있는 권한을 인간이 유지하는 것이 무엇보다 중요하다"고 강조했다.