인공지능(AI) 기술이 비약적으로 발전하고 있음에도 불구하고, '환각(hallucination)'으로 알려진 오류 현상이 오히려 증가하고 있어 우려를 낳고 있다. 

'AI 할루시네이션(AI hallucination)'이라고도 불리는 'AI 환각'은 인공지능이 실제로 존재하지 않는 정보나 사실과 다른 내용을 마치 진짜인 것처럼 만들어내는 현상을 말한다.

특히, 오픈AI의 최신 모델인 GPT-o3와 GPT 오포 미니(GPT o4-mini)는 이전 버전보다 더 높은 환각률을 보이며, AI의 신뢰성과 활용 가능성에 대한 근본적인 질문을 제기하고 있다고 퓨처리즘이 지난 5일(현지시간) 지적했다.

환각률 증가-성능 향상의 그늘

오픈AI의 내부 평가에 따르면, o3 모델은 퍼슨QA(PersonQA) 벤치마크에서 33%의 환각률을 기록했으며, o4-mini는 48%에 달하는 것으로 나타났다. 이는 이전 모델인 o1의 16%와 비교해 두 배 이상 높은 수치다. 이러한 결과는 AI 모델의 성능이 향상됨에 따라 환각 현상이 줄어들 것이라는 일반적인 기대와는 상반된다.

원인 불명-AI 개발의 불확실성

더욱 우려스러운 점은 이러한 환각률 증가의 정확한 원인이 아직 명확하게 밝혀지지 않았다는 것이다. 오픈AI는 기술 보고서에서 "이러한 결과의 원인을 이해하기 위해 더 많은 연구가 필요하다"고 언급하며, AI 모델의 복잡성과 예측 불가능성을 인정했다.

산업 전반의 과제-신뢰성 확보의 중요성

AI 환각 문제는 오픈AI에 국한되지 않는다. 구글과 중국 인공지능 스타트업 딥시크(DeepSeek)의 최신 모델들도 유사한 문제를 겪고 있어, 이는 산업 전반의 과제로 부상하고 있다. 

AI 스타트업 벡타라(Vectara)의 CEO인 암르 아와달라(Amr Awadallah)는 "최선의 노력을 다하더라도 AI는 항상 환각을 일으킬 것이다. 이는 결코 사라지지 않을 문제"라고 지적했다.

이러한 상황에서 AI의 신뢰성을 확보하기 위한 노력이 더욱 중요해지고 있다. 

AI 컨설팅 기업 오카후(Okahu)의 공동 창립자인 프라틱 베르마(Pratik Verma)는 "이러한 오류를 제대로 처리하지 않으면 AI 시스템의 가치는 사실상 사라진다"고 강조했다.

AI 발전의 딜레마

AI 기술의 발전은 새로운 가능성을 열어주고 있지만, 동시에 새로운 도전과제를 안겨주고 있다. 

환각 현상의 증가는 AI의 신뢰성과 활용 가능성에 대한 근본적인 질문을 제기하며, 이를 해결하기 위한 산업 전반의 노력이 요구된다. AI의 미래를 위해서는 기술적 성능 향상뿐만 아니라, 신뢰성과 정확성 확보에 대한 지속적인 연구와 투자가 필요하다.