인공지능이 인간의 최종 승인 없이 살상 무기의 방아쇠를 당길 수 있는가. 미래전의 근본적인 교전 수칙을 둘러싸고 미국 국방부 심장부와 실리콘밸리 최고 기술 기업 간의 전례 없는 충돌이 파국으로 치닫고 있다. 

피트 헤그세스 미 국방장관이 군의 AI 무기화에 제동을 건 앤스로픽을 향해 이번 주 금요일(27일)을 시한으로 제시하며 전면적인 제재를 예고했다고 악시오스와 CNN 등 주요 외신이 25일(현지 시간) 일제히 보도했다.

국방물자생산법 압박과 마두로 체포 작전의 이면

미 국방부 수뇌부와 다리오 아모데이 앤스로픽 최고경영자의 긴급 회동은 팽팽한 긴장감 속에 진행됐다. 국방부는 앤스로픽의 최첨단 AI 모델 클로드가 자율 살상 무기 체계와 대규모 민간인 감시에 사용되는 것을 금지한 사내 윤리 가이드라인을 전면 철폐하고, 군의 모든 합법적 작전에 무제한적 접근을 허용할 것을 요구했다.

다리오 아모데이 최고경영자(CEO)가 이를 거부하자 헤그세스 장관은 전시 상황에 준하는 국방물자생산법(DPA)을 발동해 앤스로픽이 군의 요구에 맞게 모델을 강제로 수정하도록 명령하겠다고 압박했다. 아울러 국방부와의 거래를 전면 단절하고 앤스로픽을 공급망 위험 기업으로 지정하는 방안도 제시됐다. 이 명단에 오를 경우 미국 국방부와 연계된 수많은 방산 대기업들은 자사 시스템에서 앤스로픽의 기술을 의무적으로 제거해야 한다.

갈등의 이면에는 미군 기밀망 내에서 클로드가 차지하는 독보적인 위상이 자리 잡고 있다. 현재 펜타곤의 1급 기밀 시스템 내부에서 작동하는 프론티어급 AI는 클로드가 유일하다. 특히 지난달 니콜라스 마두로 베네수엘라 전 대통령 생포 작전 당시 방산업체 팔란티어의 시스템을 통해 클로드가 작전 통제에 깊숙이 관여한 것으로 알려지면서, AI의 작전 개입 수위를 둘러싼 양측의 신경전은 극에 달했다.

대체재 찾는 미군 지휘부와 한국 방산업계의 딜레마

펜타곤은 금요일 최후통첩 시한을 앞두고 클로드를 대체할 플랜B 가동에 착수했다. 사이버 공격 방어 등 특정 군사 분야에서는 클로드가 여전히 압도적인 성능을 보이고 있으나, 일론 머스크의 xAI가 이미 기밀망 진입 계약을 맺었고 구글의 제미나이 역시 국방부의 요구 조건을 수용하는 방향으로 협상을 급진전시키고 있다. 윤리적 장벽을 스스로 허문 빅테크들이 앤스로픽의 빈자리를 차지하기 위해 치열한 각축전을 벌이는 양상이다.

바다 건너에서 벌어지는 펜타곤과 실리콘밸리의 교전 수칙 주도권 다툼은 한국군과 국내 방산업계에도 묵직한 과제를 던진다. 육군의 아미 타이거(Army TIGER) 등 유무인 복합전투체계(MUM-T)를 구축 중인 국내 방산 생태계 역시 무인기나 전투 로봇에 독자적인 교전 권한을 어디까지 부여할 것인가를 두고 치열한 내부 논의를 진행 중인 것으로 알려졌다.

국내 국방 AI 분야의 한 전문가는 미군 지휘부가 단 1초의 연산 지연이 승패를 가르는 전장에서 AI의 윤리적 족쇄를 완전히 풀고자 하는 것은 전술적 필연이라며, K방산 무기 체계에 국산 AI 솔루션을 본격 이식하기에 앞서 자율성과 인명 살상 통제에 대한 우리 군만의 명확한 가이드라인을 선제적으로 확립해야 향후 서방 세계 수출 시 발생할 수 있는 윤리적 엠바고 리스크를 차단할 수 있다고 진단했다. 금요일로 다가온 펜타곤의 최후통첩 시한은 다가올 로봇 전쟁 시대의 도덕적 나침반이 어느 방향을 가리킬지 결정짓는 중대한 분수령이 될 전망이다.