오픈AI, 펜타곤과 기밀 AI 계약 공개에 ‘감시 논란’ 확산

미국 AI 기업 오픈AI가 미 국방부와 체결한 기밀 환경용 모델 공급 계약의 구체적 내용을 공개했다. 1일(현지시간) 오픈AI는 자사 블로그를 통해 국방부와의 계약 구조와 안전장치 설계를 설명했다. 

앞서 경쟁사 앤트로픽이 국방부와의 협상에서 이견을 좁히지 못한 직후, 오픈AI가 기밀 환경에 자사 모델을 배치하는 계약을 전격 발표하면서 의문이 제기된 데 따른 조치다.

이번 논란의 출발점은 앤트로픽이었다. 앤트로픽은 자사 AI가 완전 자율무기 체계나 대규모 국내 감시 체계에 사용되는 것을 철저히 금지하겠다는 입장을 고수했다. 그러나 협상은 결렬됐고 도널드 트럼프 대통령은 연방 기관에 대해 6개월의 전환 기간 이후 앤트로픽 기술 사용을 중단하라고 지시했다. 

피트 헤그세스 국방장관은 앤트로픽을 공급망 위험 요소로 지정하겠다는 입장을 밝혔다. 사실상 정부 조달 시장에서 배제하겠다는 뜻이다.

이 직후 오픈AI가 국방부와의 계약을 발표했다. 기밀망 등 보안 환경에 자사 모델을 배치한다는 내용이었다. 문제는 오픈AI 역시 자율무기와 대규모 감시를 허용하지 않는다는 기존 입장을 밝혀온 기업이라는 데 있다. 앤트로픽과 같은 선을 긋고 있다면 왜 오픈AI는 계약이 가능했는지에 대해 많은 의문이 제기됐다.

오픈AI는 블로그 글에서 자사 모델이 사용될 수 없는 영역을 세 가지로 명시했다. 대규모 국내 감시, 자율무기 시스템, 사회신용점수와 같은 고위험 자동 의사결정 시스템이다. 

사회신용점수는 개인의 행동이나 이력을 종합해 점수를 매기고 그에 따라 권리를 제한하는 시스템을 의미한다. 오픈AI는 이러한 영역에서는 모델 사용을 허용하지 않는다고 밝혔다.

회사는 자사의 안전 통제 체계를 스스로 유지하며 모델은 클라우드 기반 응용프로그램 인터페이스(API) 형태로만 배포하고 보안 인가를 받은 오픈AI 인력이 운영 과정에 관여하는 등의 안전장치를 갖췄다고 설명했다. 계약상 보호 조항도 삽입되어 있고 기존 미국 법률 체계에 따른 통제도 적용된다고 덧붙였다.

그러나 비판을 피할 수는 없었다. 일부 전문가들은 이 계약 문구에 미국 행정명령 12333호를 준수한다는 조항이 포함돼 있다는 점을 지적했다. 

해당 행정명령은 해외에서 통신 정보를 수집하는 정보 활동의 근거가 되는 규정으로 미국 외부에서 수집된 통신이라도 미국인 관련 정보가 포함될 수 있다는 점에서 국내 감시의 우회 통로로 활용될 수 있다는 비판을 받아왔다. 이러한 법적 틀 안에서라면 국내 감시가 완전히 배제됐다고 보기 어렵다.

이에 대해 오픈AI의 국가안보 파트너십 책임자인 카트리나 멀리건은 계약 문구 한 줄이 미국인의 권리를 좌우하는 구조가 아니라는 점을 강조했다. 

원론적으로 모델이 클라우드 API로만 배포되기 때문에 무기 시스템이나 센서, 현장 장비에 직접 통합될 수 없도록 기술적으로 제한하고 있으며 배포 아키텍처 자체가 통제 장치라는 설명이다. 계약서의 표현보다 실제 운용 방식이 더 중요하다는 주장이다.

올트먼은 소셜미디어를 통해 계약이 서둘러 체결된 점을 인정했다. 외부에서 보기에 좋지 않은 모양새였고 회사에 상당한 반발이 있었다고 밝혔다. 실제로 계약 발표 직후 애플 앱스토어에서 앤트로픽의 클로드가 오픈AI의 챗GPT를 제치고 순위가 올라가는 등 여론의 움직임도 나타났다.

그럼에도 계약을 체결한 이유에 대해 올트먼은 국방부와 AI 업계 사이의 긴장을 완화하려는 목적이 있었다고 설명했다. 제안된 조건이 업계 전체에 도움이 될 수 있다고 판단했으며 결과적으로 긴장 완화로 이어진다면 비판을 감수한 선택이 의미를 가질 것이라는 입장이다. 

반대로 그렇지 않을 경우 성급하고 신중하지 못했다는 평가를 계속 받게 될 것이라는 점도 인정했다.

최근 미 국방부와 AI 기업 간 협력은 더욱 확대되는 추세다. 그러나 기밀 환경에서의 모델 배치가 국내 감시와 자율무기 논쟁으로 연결되면서 정부 조달 시장에서 AI 기업들의 입장은 더욱 미묘해질 전망이다.