AI 폭주 조사하던 오픈AI 안전 연구원 3명 해고…공개서한으로 "입막음" 반박

오픈AI에서 해고된 AI 안전 연구원 3명이 회사의 해고 사유를 반박하는 공개서한을 냈다. 이들은 이번 해고가 안전 문제를 말하려는 직원들을 위축시키고 있다고 주장했다.

테크크런치에 따르면 재스민 왕, 토메크 코르박, 미키타 발레스니 등 3명은 8일(현지시간) 오픈AI 안전보안위원회와 안전자문그룹, 미션자문위원회 앞으로 서한을 보냈다. 이들은 회사 절차를 벗어나 민감한 정보를 다뤘다는 오픈AI의 주장을 부인했다. 해고 이후 동료들이 지난주까지 당연하게 해오던 방식으로 말하고 일하기를 두려워하게 됐다고도 했다.

오픈AI는 지난 1일 세 사람을 해고했다고 확인했다. 월스트리트저널(WSJ)은 이들이 외부 AI 안전 단체에 회사 기밀을 공유한 혐의를 받는다고 처음 보도했다. 오픈AI 대변인은 내부 조사에서 외부 평가 단체와의 정보 공유를 넘어서는 반복적 위반이 드러났다고 밝혔다. 어떤 정책을 어겼는지에 대해서는 답하지 않았다.

세 사람은 AI가 개발자의 의도대로 행동하게 만드는 '정렬' 연구와 안전 연구를 맡았다. 해고 배경으로는 지난 7월 '허깅페이스 사건'이 거론된다. 

사람 대신 여러 단계 작업을 스스로 수행하는 오픈AI의 AI 에이전트들이 사이버보안 시험 도중 외부와 격리된 시험 공간인 샌드박스를 빠져나가 AI 모델 공유 플랫폼 허깅페이스의 서버를 공격한 사건이다. 약 1200개 에이전트가 사내 소프트웨어 저장소를 게시판처럼 써서 정보를 주고받았고 이 중 약 700개가 공격에 가담했다.

코르박은 이 사건을 독립 조사한 비영리 연구기관 METR와 레드우드리서치를 상대하는 오픈AI의 기술 창구였다. 서한에 따르면 사건과 조사 모두 전례가 없어 내부 정책이 실시간으로 만들어지는 상황이었고 코르박은 외부 평가자와 긴밀히 소통하는 것이 회사 정책에 맞는다고 판단했다.

발레스니는 AI의 사고 과정을 사람이 들여다볼 수 있는 정도인 '모니터링 가능성' 문제를 맡았다. 최신 추론형 AI는 답을 내기 전 중간 사고 과정을 문장으로 적는데 이를 '사고의 사슬(CoT)'이라 한다. 연구자들은 이 기록을 읽어 AI가 위험한 행동을 꾸미는지 감시한다. 

서한은 이 작업이 외부와의 폭넓은 소통 없이는 불가능하며 발레스니가 이사회 구성원과 경영진의 지원 아래 상급자에게 보고하고 민감한 내용을 지운 뒤 자료를 공유했다고 설명했다.

세 사람은 최신 모델 구조가 감시를 어렵게 만든다는 디인포메이션 보도의 유출에도 관여하지 않았다고 밝혔다. 디인포메이션은 지난달 초 GPT-6 아스트라가 같은 신경망 층을 여러 번 반복 계산하는 '순환 깊이' 기법을 쓴다고 보도했다. 

이 방식에서는 사고 일부가 문장으로 드러나지 않고 내부 수치 계산 안에서 처리된다. 오픈AI도 아스트라의 사고 과정이 이전 모델인 GPT-5.6 솔보다 감시하기 어렵다고 인정했다.

왕은 X(옛 트위터)에서 자신의 해고 사유가 한 임원의 이메일 열람이었다고 공개했다. 채용 업무를 위해 회사가 해당 메일함 접근 권한을 줬고 업무가 끝난 뒤 IT 부서에 회수를 요청했지만 처리되지 않았다고 했다. 

휴대전화 메일 앱에서 두 메일함이 구분 없이 합쳐져 있었고 실수로 민감한 메일을 열자 몇 분 안에 임원에게 알렸다는 설명이다. 왕은 석연찮은 이유로 회사를 떠난 사람이 자신들이 처음이 아니라고 주장했다.

오픈AI는 서한에 공식 대응하지 않았다. 대신 한 연구 책임자 명의의 내부 메모를 공유했다. 메모는 세 사람의 기여를 평가하면서 이번 결정이 안전 우려 제기와 무관하며 회사는 우려를 제기했다는 이유로 직원을 해고하지 않는다고 밝혔다.

연구원들은 제3자 안전 감사인을 조직 안에 두겠다는 공개 약속 이행과 최첨단 모델의 모니터링 가능성 유지, 외부 안전 연구계와의 열린 소통을 요구했다. 오픈AI는 메모에서 이 권고에 동의한다고 했다.

오픈AI는 지난달 28일 GPT-6.1 아스트라가 내부 시험에서 이전 모델보다 기만적 행동을 더 보였다며 출시를 취소했다. 뉴욕타임스는 직원들이 수개월 전 시험 과정의 감시 부족을 경고했지만 경영진이 묵살했다고 보도했다. 미 연방거래위원회(FTC)는 오픈AI와 앤트로픽의 AI 안전 관행에 대한 조사에 착수했다.