AI, 전쟁에 어디까지 허용할 것인가…미 국방부와 앤트로픽의 정면 충돌

미국 국방부가 민간 AI 기업에 군사 목적의 전면적 사용 허용을 요구하면서 기술 기업과 군 당국 사이의 긴장이 수면 위로 떠올랐다. 핵심 쟁점은 AI 모델을 ‘모든 합법적 목적’에 사용할 수 있도록 할 것인지 여부이다. 이 요구에 가장 강하게 제동을 건 곳이 앤트로픽이다.

미국 국방부는 주요 AI 기업들에게 자사 기술을 군이 필요로 하는 모든 합법적 범위 안에서 활용할 수 있도록 정책 제한을 완화하라는 입장을 전달했다. 

여기에는 정보 분석, 작전 지원, 무기 체계 개발 지원, 기밀 네트워크 내부 운용 등이 포함된다. 군이 요구하는 ‘합법적 목적’에는 법률상 허용된 군사 작전 전반이 포함된다. 이는 군 내부 판단에 따라 AI 모델 자체를 폭넓게 활용할 수 있도록 하겠다는 의미이다.

이 요구는 오픈AI, 구글, xAI 등 다른 AI 기업에도 동일하게 전달된 것으로 전해졌다. 행정부 내부에서는 일부 기업이 이미 광범위한 허용에 동의했고 다른 기업도 일정 부분 유연성을 보이고 있다는 평가가 나온다. 다만 구체적으로 어느 기업이 어떤 수준의 동의를 했는지는 공개되지 않았다.

앤트로픽은 자사 모델이 완전 자율 무기 체계나 대규모 국내 감시 시스템에 활용되는 것을 엄격히 제한해 왔다. 완전 자율 무기는 사람이 개입하지 않은 상태에서 목표를 탐지하고 공격까지 수행하는 체계를 뜻하며 대규모 국내 감시는 국가가 AI를 활용해 자국민의 행동과 통신을 광범위하게 추적하는 시스템을 의미한다. 

회사는 이러한 영역에 대한 ‘하드 리밋’을 유지하겠다는 내부 정책을 고수하고 있다. 이 갈등은 계약 문제로 번졌다. 국방부는 앤트로픽과 약 2억 달러 규모의 계약을 맺고 자사 AI 모델을 기밀 네트워크에 도입했다. 이 모델은 상업용 AI 가운데 처음으로 국방부의 분류 보안망에 배치된 사례로 알려졌다. 

자세한 정보는 알 수 없지만 일각의 예상으로는 군 내부 분석과 문서 처리, 정보 정리에 활용된 것으로 전해진다. 국방부는 계약 재검토 가능성을 시사했다. 사용 제한이 계속될 경우 계약을 중단할 수 있다는 메시지도 흘러나왔다.

논란을 키운 사건은 베네수엘라와 관련된 군사 작전 보도였다. 월스트리트저널은 미군이 베네수엘라에서 진행한 작전에 앤트로픽의 모델이 활용됐다고 전했다. 이 작전은 당시 베네수엘라 대통령이었던 니콜라스 마두로를 체포하는 과정과 연관된 것으로 보도됐다. 구체적인 활용 방식은 공개되지 않았으나, 정보 분석이나 의사결정 지원 과정에 모델이 사용됐다는 취지였다.

앤트로픽은 특정 작전에 대한 논의는 없었다는 입장을 유지하고 있다. 회사는 군과의 협의가 개별 작전 참여가 아니라 사용 정책 범위에 관한 문제라고 설명했다. 자사 모델의 군사적 활용을 원천적으로 금지하지는 않되, 완전 자율 무기와 대규모 감시처럼 명확히 선을 긋는 영역은 허용할 수 없다는 방향이다.

이 사안은 펜타곤 내부에서도 중요한 문제로 다뤄지고 있다. AI는 방대한 문서를 빠르게 요약하고 복잡한 데이터를 분류하며 작전 계획 수립 과정에서 시뮬레이션을 지원하는 데 활용된다. 현대 군사 체계에서 데이터 분석 속도는 전투 준비와 직결된다. 

미군은 상업용 AI 모델이 가진 성능을 그대로 활용하고자 하지만 기업이 설정한 정책 제한이 작전 효율을 떨어뜨릴 수 있다는 판단이 깔려 있는 것이다.

이 갈등은 기술 기업이 만든 AI가 어느 선까지 국가 안보 체계에 편입될 수 있는지를 둘러싼 첫 대형 충돌 사례로 기록될 가능성이 있다.

국방부는 모든 사용이 미국 법률 체계 안에서 이루어진다는 점을 강조한다. 기업은 법적 허용과 별개로 윤리적 제한을 유지하겠다는 입장이다. 양측은 수개월째 정책 문구와 적용 범위를 두고 협의를 이어가고 있다. 계약 유지 여부와 모델 사용 범위는 여전히 확정되지 않았다.