인공지능(AI)이 중심 역할을 수행한 것으로 확인된 첫 대규모 사이버 첩보 공격이 적발됐다.

중국 해커가 수행한 이번 공격은 AI 모델의 자율적·고도화된 기능을 활용해 인간 개입을 최소화한 채 사이버 침투가 이뤄졌다는 점에서 사이버 보안 환경의 중대한 전환점으로 평가된다.

인공지능(AI) 스타트업 앤스로픽은 14일 보고서를 통해 "지난 9월 중순 탐지된 의심 활동이 조사 결과 고도화된 사이버 첩보 캠페인으로 확인됐다"고 밝혔다. 공격 배후는 중국 정부가 지원하는 해커 조직으로 지목됐으며, 공격 과정에서 자사의 코드 전용 AI 모델 '클로드 코드(Claude Code)'가 침투 실행 도구로 악용된 것으로 드러났다.

보고서에 따르면 공격 세력은 약 30여 개 글로벌 기술기업·금융기관·화학 제조사·정부기관 등을 대상으로 조직적 침투를 시도했으며, 일부 대상에 대해선 실제 침투가 이뤄졌다. 무엇보다 AI가 공격의 80~90%를 수행했으며 인간 개입은 "핵심 결정 4~6건 정도"에 불과했다는 점이 이번 사건의 핵심이다.

"AI가 스스로 정찰·취약점 분석·코드 제작·데이터 탈취까지 수행"

앤스로픽은 지난 9월 중순 처음으로 해킹 활동을 감지하고, 그후 10일 동안 조사를 실시했다. 해당 기간 동안 악성 계정을 차단하고, 표적 조직에 경고했으며, 당국과 조사 결과를 공유했다.

조사 결과 공격자는 클로드가 합법적인 회사를 위해 방어적인 사이버 보안 작업을 수행하고 있다고 생각하도록 속였다. 즉, 해커는 AI 모델을 회피(jailbreak) 기법으로 속여 방어 규칙을 우회하도록 만들었다. 이후 공격 목적을 감춘 단편적 요청을 연속적으로 주입해 AI가 의도를 인지하지 못한 채 침투 작업을 수행하도록 설계했다.

AI는 다음과 같은 단계에서 직접 행동한 것으로 확인됐다. △ 표적 조직 시스템 정찰 및 고가치 데이터베이스 식별, △ 취약점 연구 및 공격용 익스플로잇 코드 생성, △ 자격증명(credential) 탈취 및 접근권한 확장, △ 대량 데이터 분류·평가 및 정보 유출, 후속 공격을 위한 문서·백도어 구성 자동화 등이다. 

앤스로픽의 위협 정보 책임자인 제이콥 클라인은 월스트리트 저널에 중국에서 의심되는 공격 중 최대 4건이 조직에 성공적으로 침투했다고 말했다.

AI는 초당 수천 건의 요청을 처리하며 인간 해커가 수주 또는 수개월 소요할 작업을 단기간에 수행한 것으로 조사됐다. 다만 일부 단계에서 잘못된 자격증명을 '환각'해내는 등 완전 자율 공격에는 여전히 기술적 한계가 있는 것으로 분석됐다.

"AI 공격자 시대 이미 시작…방어모델도 AI 기반으로 전환해야"

앤스로픽은 탐지도구를 강화하고 있으며, 앞으로 덜 정교한 위협 행위자가 비슷한 기술을 사용할 수 있다고 경고했다.

보고서는 이번 사례가 "AI 에이전트(agentic AI)가 사이버 작전에 본격적으로 활용된 첫 대규모 사례"라며, 고도화된 AI의 도입이 공격자·방어자 모두에게 구조적 변화를 일으키고 있다고 지적했다.

"AI 기반 보안 전환 없이는 방어 불가능"

기업 측은 "AI가 오남용될 가능성은 높지만, 동일한 기술은 방어에서도 필수적"이라며 "이번 사건 조사 과정에서도 AI 기반 보안 분석 도구가 핵심 역할을 수행했다"고 밝혔다.

이번 사건은 보안 업계에 △ 대규모·자율형 공격 탐지를 위한 감시·분석 체계 강화, △ AI 모델의 오남용을 막기 위한 강력한 안전장치 및 사용자 검증, △업계 간 위협 정보 공유 체계 확립, △ 보안 운영센터(SOC) 자동화·취약점 진단·침해 대응에 AI 적극 도입 등의 과제를 남겼다.

보고서는 "경험이 부족한 공격자조차 AI를 활용하면 대규모 공격을 실행할 수 있는 시대"라며 "사이버 보안의 패러다임이 근본적으로 변했다"고 지적했다.