검색
-
-
AI 부정행위 4배 급증⋯英 대학가, 기존 표절 줄고 '생성형 AI 활용' 확산
- 영국 대학에서 인공지능(AI) 도구를 이용한 부정행위가 급증하고 있다. 16일(현지시간) 영국 일간지 '가디언'이 실시한 학문적 부정행위 실태 조사에 따르면, 2023~2024학년도에 AI 도구를 이용한 부정행위가 6900건 이상 적발됐으며, 이는 재학생 1000명당 5.1건에 해당하는 수치다. 전년도(1.6건)에 비해 4배 가까이 늘어난 수치로, 전문가들은 이는 "빙산의 일각"일 뿐이라고 지적했다. 이에 비해 전통적인 표절 사례는 같은 기간 동안 1000명당 19건에서 15.2건으로 감소했고, 올해는 다시 8.5건 수준으로 줄어들 것으로 전망됐다. 학문적 부정행위의 양상이 기존의 복사·붙여넣기에서 생성형 AI 활용으로 빠르게 이동하고 있는 것이다. 이 조사는 정보공개법(FOIA)에 따라 '가디언'이 155개 대학을 대상으로 최근 5년 간의 부정행위, 표절, AI 오남용 사례에 대한 통계를 요청해 이뤄졌으며, 이 중 131개 대학이 일부 데이터를 제공했다. 그러나 여전히 전체의 27%는 AI 오남용을 별도 항목으로 집계하지 않고 있어, 교육계가 AI 문제에 체계적으로 대응하기 까지 시간이 더 필요하다는 평가도 나온다. 대학의 대응은 아직 미진하다. 고등교육정책연구소(HEPI)가 올해 2월 실시한 설문조사에 따르면, 대학생의 88%가 과제 수행에 AI를 활용하고 있으며, 레딩대학(University of Reading)의 실험에서는 AI가 생성한 답안을 제출했을 때 94%가 탐지되지 않은 것으로 나타났다. 해당 연구를 공동 집필한 레딩대학 심리학과 피터 스카프 교수는 "AI 탐지는 전통적 표절 탐지와 달리 명확한 증거를 확보하기 어렵다"며 "AI 사용이 의심되더라도 실제 입증은 거의 불가능에 가깝다"고 밝혔다. 그는 또 "모든 과제를 대면 시험으로 전환하는 것도 현실적으로 불가능하며, 학생들은 금지하더라도 AI를 사용할 것"이라며 교육계가 새로운 평가 방식을 고민해야 한다고 강조했다. 실제로 소셜미디어에서는 학생을 대상으로 한 AI ‘인간화 도구’들이 확산되고 있다. 가디언은 틱톡(TikTok) 등에서 챗GPT로 생성한 문장을 '사람이 쓴 것처럼 바꿔주는 툴'을 소개하는 수십 개의 영상을 확인했다. 이들 도구는 AI 탐지 프로그램을 우회하는 데 활용되고 있다. 임페리얼칼리지 런던의 학문적 진실성 전문가 토머스 랭커스터 박사는 "AI 결과물을 어떻게 편집하느냐에 따라 부정행위 적발은 매우 어려워진다"며 "그래도 일부 학생은 이 과정을 통해 배움을 얻고 있을지도 모른다"고 밝혔다. 실제 대학생들의 목소리도 다양하다. 잉글랜드 북부의 한 대학에서 경영학 학사 과정을 막 마친 학생 ‘하비’는 "AI는 아이디어와 과제 구조를 짜는 데 도움이 된다. 거의 모든 친구들이 어느 정도는 AI를 쓴다"며, "완전히 그대로 제출하기보다는 아이디어를 얻고 이를 개인적으로 재구성하는 방식"이라고 말했다. 남서부 지역에서 음악 비즈니스를 전공한 1학년 학생 '아멜리아'는 "AI는 특히 학습장애가 있는 학생에게 도움이 된다"며 "내 친구 중 한 명은 글을 직접 작성하되 구조화와 문장 정리에 AI를 활용하는데, 그녀는 난독증이 있어 AI를 통해 큰 도움을 받고 있다"고 전했다. 영국 정부 역시 AI이 교육 활용 가능성을 긍정적으로 평가하고 있다. 피터 카일 과학부 장관은 "AI는 난독증 학생에거 동등한 기회를 제공할 수 있는 도구"라며 교육격차 해소를 위한 역할에 기대를 드러냈다. 기술 기업들도 대학생을 주요 고객층으로 삼고 있다. 구글은 자사 AI인 '제미나이(Gemini)'의 프리미엄 기능을 대학생에게 15개월간 무료 제공하고 있으며, 오픈AI는 미국과 캐나다의 대학생을 대상으로 할인 혜택을 제공 중이다. 학계에서는 궁극적으로 대학이 AI를 배척하기보다, 평가 방식 자체를 근본적으로 재설계해야 한다는 목소리가 힘을 얻고 있다. 랭커스터 박사는 "단순 암기와 지식 전달의 가치는 해마다 줄고 있다"며 "AI가 대체할 수 없는 소통 능력, 대인 관계 역량, 신기술을 수용하는 자신감을 기르는 데 평가의 초점을 둬야 한다"고 강조했다. 영국 정부도 이에 발맞춰 AI 활용을 위한 가이드라인을 발표하고, 1억 8700만 파운드(약 3452억 원)를 국가 기술 교육 프로그램에 투자 중이다. 정부 대변인은 "생성형 AI는 교육에 혁신적 기회를 제공할 수 있으며, 대학은 이를 교육과 평가에 신중히 통합해 미래 인재 양성에 대비해야 한다"고 밝혔다. ※ 편집자 주: 이 기사는 영국 일간지 '가디언(The Guardian)'의 단독 보도를 바탕으로 재구성된 내용입니다.
-
- IT/바이오
-
AI 부정행위 4배 급증⋯英 대학가, 기존 표절 줄고 '생성형 AI 활용' 확산
-
-
AI 생성 논문을 전례 없는 정확도로 포착하는 '챗GPT 감지기'
- 인공지능(AI)이 인간의 능력을 넘어서면서 다양한 산업 분야에서 중요한 역할을 하고 있다. 하지만 이러한 AI의 능력이 다 유용한 것은 아닌 것 같다. 최근 한국은행의 보고에 따르면 의사, 회계사, 변호사와 같은 전문직의 업무 영역이 AI에 의해 위협받을 가능성이 제기됐다. 특히 교육계에서는 이 문제를 더욱 심각하게 받아들이고 있다. 자연과학, 응용과학, 의학 등의 분야에서 AI가 인간 대신 논문을 작성할 수 있게 되었다는 사실이 큰 우려를 낳고 있다. 그런데 이 같은 걱정을 앞으론 덜 수 있을 것 같다. 최근 국제 학술지 '네이처'는 캔자스 대학의 헤서 디자이어 교수와 그의 연구팀이 개발한 새로운 툴(도구)을 소개했다. 이 도구는 AI가 작성한 글을 분류할 수 있어, AI의 글쓰기 능력과 관련된 문제를 해결하는 데 도움이 될 것으로 기대된다. 최근에 개발된 새로운 AI 탐지 툴은 기존의 두 가지 AI 탐지기보다 우수한 성능을 자랑한다. 이 특화된 도구는 학술 출판사들이 AI 텍스트 생성기를 통해 만들어진 논문을 식별하는 데 큰 도움이 될 것으로 예상된다. 헤서 디자이어 교수는 이번 연구 결과가 AI 감지기 개발에 있어서의 중요한 진전을 보여준다고 언급했다. 이는 소프트웨어를 특정한 유형의 글쓰기에 맞게 조정함으로써 감지 능력을 강화할 수 있음을 시사한다. 문장 길이, 특정 단어 및 문장 부호 등으로 특징 디자이어 교수와 그의 연구팀은 챗GPT 탐지기를 '사이언스2(Science2)' 저널의 '퍼스펙티브(Perspective)' 기사에 적용한 사례를 소개했다. 이 탐지기는 기계 학습을 활용하여 글쓰기 스타일의 20가지 특성, 예를 들어 문장 길이의 변화, 특정 단어 및 문장 부호의 사용 빈도 등을 분석한다. 이를 통해 텍스트가 학술 과학자에 의해 작성되었는지, 아니면 챗GPT와 같은 AI에 의해 작성되었는지를 판별할 수 있으며, 이 연구는 높은 정확도를 달성했다고 보고됐다. 최근 진행된 연구에 따르면, 개발된 검출기는 미국 화학 학회(ACS)에서 발행한 10개의 화학 저널에서 나온 논문들의 서문 섹션을 분석하기 위해 특별히 교육을 받았다. 연구 팀은 논문의 서문 작성이 챗GPT를 사용할 경우 특히 쉽다는 점을 인지하고, 배경 문헌에 접근할 수 있는 상황에서 이 섹션을 선택했다. 연구원들은 이 도구를 효과적으로 교육하기 위해 100편의 인간이 작성한 서문을 사용했다. 이후, 그들은 챗GPT-3.5에게 ACS 저널의 스타일에 맞춰 200개의 서문을 작성하도록 요청했다. 이 중 100개는 논문의 제목을 도구에 제공하여 작성되었고, 나머지 100개는 논문의 초록을 기반으로 작성됐다. 실험 결과, 이 도구는 제목을 기반으로 한 챗GPT-3.5로 작성된 서문을 100% 정확도로 식별할 수 있었다. 반면, 논문 초록을 기반으로 작성된 서문의 경우, 정확도는 약간 낮은 98%로 나타났다. 이러한 결과는 동일한 저널에서 인간과 AI가 작성한 서문을 비교할 때 얻어졌다. 이 새로운 도구는 최신 버전인 챗GPT-4가 작성한 텍스트에서도 효과적으로 작동했다. 반면, AI 탐지기 ZeroGPT는 사용된 챗GPT 버전과 논문의 제목 또는 초록에서 생성된 소개에 따라 35~65%의 정확도로 AI가 작성한 소개를 식별하는 데 그쳤다. 또한, 챗GPT 제조사인 오픈AI가 제작한 텍스트 분류 도구의 성능 역시 높지 않았다. 이 도구는 AI로 작성된 소개를 찾아내는 데 약 10~55%의 정확도를 보였다. 이에 비해 새로운 챗GPT 탐지 도구는 훈련받지 않은 저널의 서문에서도 높은 성능을 발휘했다. 이 도구는 AI 탐지기를 혼동시키기 위해 다양한 프롬프트에서 생성된 AI 텍스트를 포착하는 데 성공했다. 하지만, 이 시스템은 과학 저널 기사에 특화되어 있어, 대학 신문의 실제 기사를 제시했을 때에는 인간이 작성한 것으로 인식하지 못하는 한계를 보였다. 학술 표절, 짧은 논문작성 기간 압박으로 탄생 베를린 응용과학대학교에서 학술 표절을 연구하는 컴퓨터 과학자인 데보라 웨버 울프는 학계에서 챗GPT의 사용이 증가하는 배경에 다른 문제들이 있다고 언급했다. 그녀는 많은 연구자들이 논문을 신속하게 작성해야 하는 압박을 받고 있으며, 이로 인해 논문 작성 과정이 과학의 중요한 부분으로 인식되지 않을 위험이 있다고 지적했다. 웨버 울프 교수는 AI 탐지 도구가 이와 같은 문제를 해결할 수 없다고 강조했다. 그녀는 이러한 도구들을 사회적 문제에 대한 '마법의 소프트웨어 솔루션'으로 여겨서는 안된다고 주장하며, 이는 더 넓은 사회적 맥락에서의 해결이 필요한 문제임을 시사했다.
-
- IT/바이오
-
AI 생성 논문을 전례 없는 정확도로 포착하는 '챗GPT 감지기'
검색 결과가 없습니다.