구글 딥마인드, AGI 논쟁의 장 열었다…"인간 넘어서기 전에 규칙부터"

구글과 구글 딥마인드 소속 연구진이 지난 16일 AI가 인간 수준의 지능에 도달했을 때 사회가 어떻게 대비해야 하는지를 다루는 '딥마인드 인스티튜트'를 공식 출범했다. 특정 결론을 내리지 않고 연구자들이 서로 다른 견해를 공개적으로 펼치는 토론과 출판의 장을 표방한다.

이 기관은 딥마인드 공동창업자 셰인 레그, 구글 임원 제임스 마니카, 구글 딥마인드 이사회 의장 데미스 허사비스가 이끈다. 레그가 편집장을 맡았다. 

출범 취지문에서 세 사람은 구글과 구글 딥마인드, 넓은 연구 공동체가 항상 같은 결론에 이르지는 않을 것이며 새로운 근거가 나오면 입장을 바꿀 수도 있다고 밝혔다. 사회가 마주한 과제와 기회를 풀려면 폭넓은 토론이 필요하다는 것이 설립 배경이다.

여기서 말하는 AGI(범용인공지능)는 특정 작업만 잘하는 지금의 AI와 달리 인간 두뇌가 지닌 모든 인지 능력을 갖춘 시스템을 뜻한다. 취지문은 현재 시스템이 여전히 일부 기본 과제에서 실패한다고 인정하면서도 그 격차가 곧 좁혀질 것으로 본다고 적었다. 

레그는 파이낸셜타임스에 최소 수준의 AGI가 2028년까지 등장할 확률을 50%로 보는 자신의 기존 전망을 유지한다고 밝혔다. 다만 엔비디아나 오픈AI 경영진의 최근 주장과 달리 AGI가 이미 도달했다고 선언하기에는 이르다고 선을 그었다.

출범과 함께 네 편의 에세이가 공개됐다. AGI가 몰고 올 경제적 충격에 대응하는 정책, 모델의 사고 과정을 인간이 읽을 수 있게 유지하는 문제, 인간 번영을 위한 원칙, 첨단 AI 모델을 평가하는 체계를 각각 다뤘다.

로힌 샤와 앙카 드라간이 쓴 에세이는 AI의 '추론 투명성'을 다룬다. 지금의 AI는 답을 내놓기까지 단계별 사고 과정을 글로 남기는데 연구자들은 이 기록을 보고 모델이 위험한 행동을 하려는지 감시해왔다. 문제는 새로운 구조의 모델일수록 이 과정을 겉으로 드러내지 않아 감시가 어려워진다는 점이다. 

실제로 오픈AI가 준비 중인 아스트라(Astra) 모델은 사고 과정을 밖으로 내보이지 않고 내부에서 반복 연산하는 방식을 써 안전 연구자들의 우려를 샀다. 저자들은 이런 흐름이 불가피한 것은 아니라며 개발사와 규제 당국이 감시가 어려운 시스템이라도 여전히 들여다볼 수 있음을 입증하도록 요구해야 한다고 주장했다.

허사비스는 미국이 주도하는 첨단 AI 표준기구 설립을 제안했다. 그의 구상에서 개발사는 처음에는 출시 30일 전까지 자율적으로 모델을 제출해 검증받고 이 체계가 효과를 입증하면 검증 통과가 미국 내 출시의 의무 조건이 된다. 

기구는 초기에 AI 기업들과 함께 평가 방식을 설계하되 나중에는 외부에 공개하지 않는 자체 평가를 개발한다. 기업이 평가 내용을 미리 알고 거기에 맞춰 모델을 다듬는 것을 막기 위한 장치다. 허사비스는 상황이 심각해지면 첨단 AI 개발사들이 함께 속도를 늦추는 방안까지 이 틀을 강화할 수 있다고 덧붙였다.

경제 에세이는 율리안 야콥스와 알렉스 이마스가 맡았다. 두 사람은 AGI가 일자리에 미칠 충격에 대응하는 11가지 정책을 평가했는데, 실제 경제학자 51명의 설문 데이터를 학습시킨 AI 평가자 51개를 동원해 점수를 매겼다. 어느 하나의 방안도 모든 것을 해결하지 못한다는 것이 이들의 결론이다.

딥마인드 인스티튜트의 출범은 AI 안전 논쟁이 막연한 우려 표명에서 정보 공개, 외부 검증, 안전장치가 뒤처질 경우의 공동 속도 조절 같은 구체적 제안으로 옮겨가는 시점에 나왔다. 이 흐름은 앤트로픽 최고경영자 다리오 아모데이가 지난 12일 발표한 '프론티어를 조절해야 한다'는 글로 가속됐다. 

아모데이는 AI 성능 향상 속도 자체를 의도적으로 늦춰 안전 연구가 따라잡을 시간을 벌어야 한다고 주장했고 오픈AI의 샘 올트먼과 일론 머스크가 하루 만에 동조했다. 레그는 이 제안을 두고 방향은 흥미로우며 검토할 가치가 있다고 평가했다.

허사비스가 제안한 표준기구는 미국 정부 안에서는 벽에 부딪힌 상태다. 마크 저커버그와 일론 머스크, 젠슨 황이 각각 트럼프 대통령을 접촉해 이 기구가 오픈AI, 앤트로픽, 구글 세 곳의 지배력만 굳힐 것이라고 설득했고, 트럼프는 산업 자금으로 운영되는 규제기구 설립을 접었다.