“전쟁에 AI 쓰지 마” 앤트로픽-미 국방부, 사용 범위 놓고 정면 충돌

미국 AI 기업 앤트로픽이 자사 대형 언어모델 ‘클로드(Claude)’의 군사적 활용 범위를 둘러싸고 미국 국방부와 갈등을 빚고 있다. 사용처에 대한 통제권 문제 때문이다. 

국방부는 합법적 군사 목적이라면 AI를 폭넓게 활용할 수 있어야 한다는 입장인 반면 앤트로픽은 미국인에 대한 대규모 감시와 인간의 직접 개입 없이 작동하는 완전 자율무기에는 자사 모델을 허용할 수 없다는 선을 긋고 있다.

갈등의 출발점은 2025년 7월 체결된 최대 2억달러 규모의 계약이다. 미 국방부 최고디지털인공지능책임자실(CDAO)은 앤트로픽과 2년 한도의 프로토타입 계약을 체결하고 군사 작전과 정보 분석에 활용할 수 있는 AI 도구 개발을 추진했다.

당시 앤트로픽은 “책임 있는 국방용 AI 개발”을 강조하며 정부와 협력하겠다는 방침을 공개했다. 같은 해 6월에는 정보기관과 국방기관이 보안 환경에서 활용할 수 있도록 설계된 ‘Claude Gov’ 모델을 발표하며 기밀 환경에서도 안전장치를 유지하는 구조를 도입했다고 밝혔다.

문제는 실제 작전에서의 활용이었다. 2026년 1월 3일 진행된 베네수엘라 특수작전에서 클로드가 정보 분석에 활용됐다는 보도가 2월 중순 공개되면서 양측의 이견이 수면 위로 떠올랐다. 

해당 작전에서 미군은 클로드의 도움을 받아 베네수엘라 대통령 니콜라스 마두로를 체포하는 데 성공한 것으로 전해졌으며 클로드는 여기서 방대한 정보 데이터를 정리하고 작전 판단을 보조하는 데 쓰인 것으로 알려졌다. 이 과정에서 앤트로픽 내부에서는 계약상 허용 범위를 넘어선 사용이 있었는지에 대한 문제 제기가 있었다.

이후 쟁점은 두 가지로 좁혀졌다. 첫째는 미국 시민을 대상으로 한 대규모 감시 체계에 AI를 투입하는 문제다. 앤트로픽은 자사 모델이 광범위한 국내 감시에 활용되는 것을 허용할 수 없다는 원칙을 유지하고 있다. 

둘째는 인간의 최종 판단 없이 무기가 자동으로 발사되거나 살상 결정을 내리는 완전 자율무기 체계다. 앤트로픽은 인간의 개입이 배제된 무기 시스템에는 자사 기술을 제공하지 않겠다는 입장을 분명히 하고 있다.

국방부의 입장은 다르다. 합법적 군사 목적과 국가 안보 필요성이 인정되는 상황에서 기술 활용 범위를 기업이 일방적으로 제한하는 것은 작전 효율성을 저해할 수 있다는 시각이 존재한다. 

특히 생성형 AI는 대규모 데이터를 신속히 정리하고 패턴을 도출하는 능력이 뛰어나 정보전과 특수작전 환경에서 유용한 도구로 평가받고 있다. 이런 상황에서 모델 사용 범위에 기업이 별도의 윤리적 제약을 두는 것이 적절한지에 대한 내부 논의가 이어지고 있다. 

미 국방부는 앤트로픽의 비협조가 지속될 경우 앤트로픽을 ‘공급망 위험’ 기업으로 지정하는 방안도 검토 중이다.

공급망 위험 지정은 일반적으로 외국 적대 세력이나 안보상 우려 기업에 적용되는 조치로 해당 기업의 기술을 국방 관련 계약에서 배제하도록 하는 효과를 가진다. 

만약 이 조치가 현실화될 경우 앤트로픽과의 기존 계약은 무효화되고 국방부와 협력 중인 다른 방산·IT 기업들 역시 클로드 사용을 중단해야 할 가능성이 있다.

앤트로픽 입장에서 국방부와의 계약은 기업 매출 측면에서도 중요하지만 동시에 자사의 ‘책임 있는 AI’ 전략을 시험하는 사례이기도 하다. 회사는 군사 분야에서 AI가 활용될 수 있다는 점을 인정하면서도 기술이 통제 불가능한 방향으로 확장되는 것을 막기 위한 안전장치를 유지하겠다는 원칙을 고수해왔다.