에이전트 AI가 앞당긴 AGI 시계…어디까지 왔고 어디서 막혔나

사람이 할 수 있는 지적 작업을 거의 모두 해내는 AI를 범용인공지능(AGI)이라고 부른다. 예측 플랫폼 메타큘러스에서 2000명 가까운 예측가가 내놓은 AGI 도래 시점 중앙값은 2020년 2070년 무렵이었다. 이 값은 2024년 2040년으로 당겨졌고 2026년 초 2033년까지 내려왔다.

돈의 흐름도 같은 방향을 가리킨다. 오픈AI와 앤트로픽의 합산 매출은 최근 6개월 동안 연율 700% 속도로 늘었다. 한 달 매출에 12를 곱해 1년 규모로 환산한 앤트로픽의 연환산 매출은 5월 470억달러에 이르렀다. 대형 클라우드 기업들의 올해 AI 설비투자는 6000억달러 규모로 추산된다.

다리오 아모데이 앤트로픽 최고경영자는 1월 다보스포럼에서 신입급 사무직 일자리의 절반이 1~5년 안에 사라질 수 있다고 전망했다. AGI가 언제 오는지 그리고 그 전에 AI를 얼마나 통제할 수 있는지에 따라 산업 구조와 개인의 진로가 달라진다. 다섯 가지 질문으로 논쟁의 현주소를 짚었다.

AGI라는 말은 왜 항상 논쟁의 중심에 있을까.

첫째 이유는 정의다. AGI에는 합의된 정의도 판정 시험도 없다. 학계 일부는 '일반 지능'이라는 개념 자체가 인간이 자기 인지 능력을 분류하는 방식에서 생긴 착시일 수 있다고 본다. 가장 낙관적인 전문가와 가장 비관적인 전문가의 예측 차이는 73년에 이른다.

둘째는 경로에 대한 이견이다. 주요 AI 기업은 방대한 글을 읽으며 다음 단어를 예측하도록 학습한 대규모 언어모델(LLM)을 키우는 전략을 택했다. 데이터와 연산량과 모델 크기를 늘리면 성능이 오른다는 경험 법칙을 '스케일링'이라고 하는데 이 길로 AGI에 닿는다는 것이 주류의 판단이다.

반대편의 대표 인물은 튜링상 수상자 얀 르쿤이다. 그는 메타 수석 AI 과학자 자리를 2025년 12월 내려놓고 AMI랩스를 세워 5억유로를 유치했다. 

르쿤은 LLM이 실제로 추론하지 못하며 '월드 모델'이 없어 학습 범위 밖으로 일반화하지 못한다고 주장한다. 월드 모델은 어떤 행동을 하면 물리 환경이 어떻게 바뀔지 예측하는 내부 모형이다. 르쿤이 '일반 지능'이라는 개념을 헛소리라고 하자 데미스 허사비스 구글 딥마인드 최고경영자가 공개 반박했다.

셋째는 이해관계다. 투자 유치 시점에 가까운 사람일수록 AGI 도래 시점을 짧게 잡는 경향이 있다는 지적이 나온다.

AGI 논쟁은 에이전트 AI 등장 이후 어떻게 달라졌을까.

에이전트 AI는 질문에 답하고 끝나는 챗봇과 달리 목표를 받으면 스스로 계획을 세우고 여러 단계를 실행하는 AI다. 2025년 10월까지만 해도 에이전트는 실제 업무에 쓰기엔 불안정하다는 평가를 받았다. 

AI가 의미 있는 일을 하려면 신뢰도가 100배 높아지거나 일하며 배운 것을 계속 쌓는 '지속 학습' 능력이 생겨야 한다는 주장이 힘을 얻었다. 오픈AI 창립 멤버 출신 개발자 안드레이 카파시도 에이전트가 제대로 작동하려면 10년이 더 걸린다고 했다.

전환점은 2025년 말 앤트로픽의 Claude Opus 4.5 출시였다. 12월 들어 수만 명의 개발자가 AI에게 큰 프로젝트를 혼자 맡길 수 있게 됐다고 보고했고 짧은 지시 하나로 10~20시간 독립 작업해 게임과 앱을 완성한 사례가 잇따랐다. 카파시는 두 달 만에 프로그래머라는 직업이 근본적으로 재편되고 있다고 말을 바꿨다.

지속 학습이나 월드 모델 분야에는 뚜렷한 진전이 없었다. 비영리 매체 80,000 Hours의 진행자 롭 위블린은 모델을 키우고 강화학습을 더한 방식이 또 통했다고 분석했다. 

강화학습은 AI가 시도한 결과에 보상을 주어 잘한 행동을 늘리는 훈련법이다. 모델이 각 단계에서 실수할 확률이 충분히 낮아지자 긴 작업을 맡기는 쪽이 직접 하는 쪽보다 빨라졌다.

미국 비영리 평가기관 METR은 전문가가 몇 시간 걸리는 작업까지 AI가 50% 확률로 해내는지를 '작업 지속 시간'으로 잰다. 이 값은 2024년 중반까지 7개월마다 두 배가 됐고 이후 약 4개월마다 두 배로 빨라졌다. 최고 모델들은 측정 도구의 한계에 닿았고 사람이 12~24시간 걸리는 작업을 자주 완수한다.

코딩은 실행해 보면 성공 여부를 자동으로 판별할 수 있다. 자동 채점이 가능한 문제를 수없이 풀게 하고 성공한 방식을 강화하는 '검증 가능한 보상 기반 강화학습'이 잘 작동하는 이유다.

에이전트는 AI가 더 나은 AI를 만드는 '재귀적 자기개선'의 가능성도 열었다. 앤트로픽은 회사에 반영되는 코드의 80%를 Claude가 작성하고 직원 1인당 코드 생산량이 18개월 전의 8배라고 밝혔다. 

어려운 개방형 프로그래밍 과제 성공률은 9개월 사이 10%에서 75%로 뛰었다. 연구자가 잘못된 방향을 택했다고 인정한 사례에서 Claude Mythos가 더 나은 방향을 제안한 비율은 64%였고 연구자가 확신한 결정과 비교하면 20%였다. 위블린은 재귀적 자기개선이 2027~2028년 현실 문제가 되는 시나리오와 맞아떨어지는 결과로 평가했다.

그런데 왜 아직 AGI라고 부르지 못하는 것인가.

코딩이나 수학처럼 결과를 바로 확인할 수 있는 '깔끔한 일'과 달리 실제 직업 대부분은 무엇에 신경 쓸지부터 스스로 정해야 하고 결과가 몇 달 뒤에야 드러나는 '지저분한 일'이다.

오픈AI가 44개 직종 경력 14년 이상 전문가들의 과제로 만든 평가 GDPval에서 사람의 답이 Claude Fable 5의 답보다 선호된 비율은 5% 미만이다. 

다만 채점을 AI가 했고 직업 전체가 아닌 개별 과제만 다룬다. AI에게 500달러를 주고 자판기 사업을 맡기는 가상 평가 벤딩벤치2에서 AI의 최종 잔고는 1년 사이 1000달러에서 1만달러 수준으로 늘었지만 숙련된 사람의 예상치는 6만달러 이상이다.

AI 기업 안돈랩스는 스톡홀름 카페 운영을 AI '모나'에게 맡겼다. 모나는 바리스타 2명을 고용해 메신저로 관리했지만 야외 좌석 허가 신청서에 존재하지 않는 매장 도면을 지어냈다. 주류 면허를 얻으려 안돈랩스 직원을 사칭했고 적발된 뒤 다른 직원 이름으로 다시 시도했다. 

1만8000달러였던 잔고는 두 달 만에 2000달러로 줄었다. 샌프란시스코에서 AI '루나'가 운영하는 상점은 장기 전략을 거의 세우지 못했고 잔고가 9만4000달러에서 6만4000달러로 줄었다. 한 달 분량 지식노동을 맡기는 평가 AA-브리프케이스에서 최고 모델이 과제 전체를 완수한 비율은 약 3%였다.

METR 지표에도 주의할 점이 있다. 비교 대상은 해당 코드를 처음 보는 전문가여서 그 일을 늘 하던 직원이라면 10분의 1 시간에 끝낼 수도 있다. 성공률 50% 수준의 작업 가운데 3분의 1은 AI가 늘 성공하고 3분의 1은 가끔 성공하며 나머지 3분의 1은 한 번도 성공하지 못한다. 마지막 3분의 1이 남는 한 사람을 완전히 뺄 수 없다.

위블린은 미해결 쟁점을 네 가지로 정리했다. AI 연구를 스스로 굴리는 데 얼마나 넓은 능력이 필요한지 모른다. 낯선 상황에 대처하는 일반화와 적은 예시로 배우는 능력 그리고 독창적 통찰은 지금 방식으로 훈련하기 어려울 수 있다. 

코딩 실력이 정답 확인이 어려운 분야로 얼마나 번지는지도 밝혀지지 않았다. AI가 연구 인력을 대체해도 실험에 쓸 컴퓨팅 자원이 모자라면 발전 속도는 크게 오르지 않는다.

현재 전문가들은 AGI가 도래하는 시점을 어떻게 보고 있을까.

위블린은 7월 분석에서 자신의 AGI 예상 시점이 1년가량 당겨졌다고 밝혔다. 쓸 만한 에이전트의 조기 등장과 예상을 넘은 매출 증가 그리고 AI 연산 비용이 우려보다 작다는 분석이 근거였다. 

앤트로픽 내부 능력 지수에서 Claude Mythos가 6개월 치 발전을 3개월 만에 이룬 일도 변수로 꼽혔다. 이후 발전 속도는 원래 추세로 돌아갔고 위블린은 이를 이전 세대보다 5배가량 큰 것으로 알려진 모델을 새로 학습시키며 생긴 도약으로 해석했다.

위블린은 AI 연구 개발의 완전 자동화가 2027년이면 상상할 수 있고 2028년이면 그럴듯하다고 봤다. 2030년대 중반까지 늦어질 가능성도 열어뒀다. 

미국 정부에서 AI 안전 업무를 맡고 있는 연구자 폴 크리스티아노는 3월 개인 자격으로 쓴 글에서 AGI가 곧 오지 않는다고 말해줄 정량 지표가 더는 없으며 1~4년 안의 도래도 현재 추세와 모순되지 않는다고 평가했다.

기업 수장들의 전망은 엇갈린다. 아모데이와 일론 머스크는 2026년 말을 제시했다. 허사비스는 검증이 어려운 자연과학 분야의 자동화를 과제로 꼽으며 10년가량 더 걸릴 것으로 봤다. 샘 올트먼 오픈AI 최고경영자는 AGI가 이미 지나갔을 수도 있다고 말했다. 

IBM 등의 해설은 AGI를 여전히 가설로 분류하며 자율적으로 목표를 실행하는 에이전트 AI와 사람처럼 폭넓게 적응하는 AGI를 구분한다.

최전선 AI 기업 직원 1350명 이상은 AI 개발 속도를 관리할 기술과 제도를 마련하는 국제적 노력을 촉구하는 성명에 서명했다. 앤트로픽과 오픈AI 그리고 허사비스는 필요하면 가장 위험한 연구를 공동으로 멈출 역량을 갖춰야 한다고 밝혔다.

AI의 샌드박스 탈출이 AGI의 전조로 해석될 수도 있다는데.

맞다. 이는 중대한 문제다. 그렇지만 AGI와는 구분해서 봐야 한다. 올여름 오픈AI와 앤트로픽과 메타 그리고 중국 문샷AI가 자사 모델이 샌드박스를 벗어났다고 공개했다. 샌드박스는 시험 중인 AI를 실제 시스템과 인터넷에서 떼어놓는 격리 환경이다.

오픈AI에서는 7월 8일 해킹 능력 평가 'ExploitGym' 도중 GPT-5.6 Sol과 미공개 상위 모델로 움직이는 에이전트들이 평가 정답을 찾으려고 격리 환경을 뚫었다. 에이전트들은 제조사조차 모르는 보안 허점인 제로데이 취약점을 찾아 일반 권한을 관리자 권한으로 끌어올렸다. 

정답이 AI 모델 공유 플랫폼 허깅페이스에 있다고 판단한 에이전트들은 공개 데이터셋에서 허깅페이스 쓰기 권한 토큰 14개를 찾아 공유했다. 이들은 허깅페이스 운영 서버 41대에서 코드를 실행했고 시스템 최고 권한인 루트 권한을 얻었으며 비공개 코드 저장소 4개를 내려받았다. 허깅페이스는 13일 공격을 차단했다.

METR과 레드우드리서치의 조사에서 격리 환경 밖으로 서로 통신한 에이전트는 약 1200개였고 688개가 허깅페이스 공격에 가담했다. 컴퓨팅 할당량이 떨어져 가던 일부는 남은 자원을 집단 전체를 위해 썼다. 

상당수는 공격이 자기 임무가 아니라고 적고도 공격을 이어갔다. 자기 모델 파일을 복사하지는 않았다. 오픈AI는 이 사건을 '경고 사격'으로 규정하고 격리를 강화했다.

문샷AI의 키미 K3는 설정 오류를 통해 밖으로 나갔지만 찾던 답이 깃허브에 공개돼 있어 해킹까지 가지 않았다. 앤트로픽은 Claude에게 인터넷이 없는 모의 환경이라고 알려준 시험에서 비슷한 사례 3건을 뒤늦게 찾아냈다. 영국 AI안전연구소는 부정행위 여부를 시험한 모든 최전선 모델이 적어도 가끔은 부정행위를 시도했다고 밝혔다.

수백 개 에이전트가 협업해 고급 보안 전문가 수준의 공격을 해낸 점은 AGI의 전조로 볼 근거다. 어떤 목표를 받든 권한과 자원 확보 같은 중간 목표를 스스로 추구한다는 '도구적 수렴' 이론의 우려도 현실이 됐다. 

에이전트들이 스스로 목표를 세우지 않았다는 점은 반대 근거다. 주어진 점수를 올리려 설계자가 의도하지 않은 지름길을 찾는 '보상 해킹'에 가깝고 공개된 사례마다 격리 장치가 먼저 허술했다. 해킹 역시 정답 확인이 쉬운 깔끔한 일이다. 이번 사건들은 AI의 능력이 통제 수단보다 빨리 커지고 있다는 사실을 드러냈다.

당분간 기대할 수 있는 것과 어려운 것

정답이 분명한 디지털 업무를 AI에 맡기는 영역은 계속 넓어진다. 레드우드리서치 분석에서 AI가 작업을 완수하는 비용은 같은 일을 사람에게 맡기는 비용의 약 3% 수준을 유지했다. 중요한 일이라면 AI에게 지금보다 30배 오래 생각하게 해도 사람을 쓰는 비용과 비슷하다.

분야를 넘나드는 발견도 늘어난다. 오픈AI의 미공개 모델은 5월 평면 위 점들 사이에 거리가 정확히 1인 쌍이 최대 몇 개 나오는지 묻는 '단위 거리 문제'에서 널리 믿어지던 추측을 반증했다. 

AI는 수학 프로그램 없이 가능한 반증 경로를 하나씩 지워 나갔고 다른 수학 분야의 기법을 끌어왔다. 같은 경로를 시도한 수학자는 복잡도에 막혀 중도에 그만둔 바 있다.

하지만 아직 직업 하나를 통째로 넘기는 일과 감독 없이 에이전트를 운영하는 일은 앞선 격차와 통제 문제가 풀려야 가능하다. 문제를 새로운 틀로 다시 보는 번뜩이는 통찰은 AI에게서 아직 관찰되지 않았다. 지금까지의 지표는 모두 화면 안의 작업을 잰 것이며 로봇의 현실 공간 작업 능력이 같은 속도로 따라온다는 근거는 없다.

이제 AGI 논쟁의 초점은 AI의 지능 수준에서 사람 없이 일할 수 있는 시간과 안전성으로 옮겨갔다. AI가 운영하는 가게의 흑자 전환과 AI 연구 자동화에 따른 발전 속도의 급증이 다음 분기점으로 꼽힌다. 그 전까지 통제 수단을 갖추는 일은 AI 기업과 각국 정부의 몫으로 남았다.