구글 '메모리 6배 절감' 발표에 반도체 시총 100조 증발…그러나 수요는 오히려 늘 것

지난 25일 구글이 공개한 알고리즘 하나가 국내외 반도체 시장을 뒤흔들었다. 구글은 이날 AI 언어모델의 메모리 사용량을 획기적으로 줄이는 압축 알고리즘 '터보퀀트(TurboQuant)'를 공개했다. 

AI가 대화 맥락을 유지하기 위해 임시로 저장해두는 데이터, 이른바 'KV 캐시'에 쓰이는 메모리를 최대 6분의 1로 줄이면서도 처리 속도는 최대 8배 높였고 응답 정확도는 손실이 없다는 내용이다.

터보퀀트가 발표되자마자 한국 시장은 엄청난 타격을 받았는데, 26일 코스피는 3.22% 급락했다. SK하이닉스는 하루 만에 6% 빠졌고, 삼성전자도 동반 하락했다. 미국 시장도 마찬가지였다. 마이크론 주가는 5% 떨어졌고 낸드 플래시 메모리 전문 기업 샌디스크는 8% 폭락했다. 

이틀 사이에 국내 반도체 기업들의 시가총액에서 100조 원 넘게 사라졌다. AI가 메모리를 덜 쓰게 됐으니 반도체 수요도 줄어들 것이라는 해석이 투자자들 사이에 빠르게 퍼진 결과였다.

그러나 월가의 판단은 달랐다. 모건스탠리 반도체 담당 수석 애널리스트 조셉 무어는 26일 투자자 보고서를 통해 시장의 반응이 과장된 보도에서 비롯됐다고 짚었다. 그는 터보퀀트가 줄인 건 전체 메모리 사용량이 아니라 KV 캐시에 한정된 이야기라고 강조했다. 

KV 캐시는 AI가 긴 대화를 이어가는 데 쓰는 일종의 단기 기억 공간으로, AI 모델의 학습과 추론 전반에 걸쳐 소모되는 메모리 총량과는 별개다. 무어는 "메모리 사용이 6배 줄었다는 보도가 광범위하게 퍼지고 있지만 이는 핵심을 빠뜨린 과장"이라며 메모리 주식 매도세가 이 과장에서 비롯됐다고 봤다.

모건스탠리는 오히려 터보퀀트가 메모리 수요를 더 키울 것이라는 시나리오를 제시했다. AI 효율이 올라 비용이 낮아지면, 기업들은 절감된 비용을 주머니에 넣는 대신 더 크고 복잡한 AI 서비스를 구동하는 데 쓴다는 논리다. 

구글의 최신 AI 모델 제미나이 3와 2.5 프로는 현재 약 책 800권 분량에 해당하는 100만 토큰의 대화 맥락을 한 번에 처리할 수 있다. 구글은 내부적으로 이보다 10배 많은 1,000만 토큰 규모까지 실험을 마쳤으나 그만큼 추론 비용이 커지는 탓에 상용 출시를 미뤘다고 밝힌 바 있다. 

터보퀀트 같은 기술이 쌓이면 이런 초고성능 모델들이 현실적인 비용으로 서비스될 수 있고 그렇게 되면 메모리 수요는 지금보다 더 폭발적으로 늘어난다는 게 모건스탠리의 시각이다.

이는 경제학에서 '제본스의 역설'로 불리는 현상이다. 기술 발전으로 자원 사용 효율이 높아지면 오히려 소비 총량이 늘어나는 역설인데 19세기 영국 경제학자 윌리엄 스탠리 제본스가 석탄 증기기관 효율 개선이 석탄 소비 급증으로 이어지는 현상을 관찰하며 이론화했다. 

AI 메모리 시장 또한 같은 흐름을 따를 수 있다는 주장이다. 반도체 시장조사기관 트렌드포스도 이번 시장 반응이 단기적 우려를 과대 해석한 것일 수 있다는 입장을 냈다.

모건스탠리는 이 같은 판단을 근거로 마이크론과 샌디스크 두 종목에 대한 '비중 확대' 투자 의견을 유지했다. 무어는 "전 세계 어느 곳에서도 메모리·스토리지 수요가 줄고 있다는 신호를 접한 적 없다"고 했다. AI 데이터센터의 메모리 수요가 워낙 빠르게 늘고 있어 일반 PC와 스마트폰에 들어가는 메모리 생산까지 영향을 받을 정도라고도 했다.

실제 수치도 이를 뒷받침한다. 마이크론은 이달 초 2026 회계연도 2분기 실적을 발표하며 분기 매출 기준 사상 최대치를 기록했다. AI 서버에 탑재되는 고대역폭 메모리(HBM), 즉 수십 개의 메모리 칩을 수직으로 쌓아 데이터를 초고속으로 처리하는 제품의 수요 급증이 실적을 이끌었다.

(썸네일 사진 출처: 구글 터보퀀트 공식 홈페이지)