엔비디아에 정면 도전하는 AI 칩 스타트업 그록, 7억5천만달러 투자 유치

엔비디아의 독주 체제에 균열을 내려는 시도가 또 한 번 대형 자금 조달로 이어졌다. AI 추론용 반도체를 개발하는 미국 스타트업 그록(Groq)이 7억5천만달러를 새로 유치하며 기업가치를 69억달러로 끌어올렸다. 불과 1년 전과 비교하면 가치가 두 배 이상 뛴 수치다.

17일(현지시간) 테크크런치와 로이터 등 외신에 따르면 그록은 이번 투자 라운드에서 글로벌 자산운용사와 기술 분야 투자자들로부터 대규모 자금을 확보했다. 

회사는 이번 자금을 차세대 추론용 칩 생산 확대와 데이터센터 인프라 확충에 투입할 계획이다. AI 모델이 실제 서비스에 쓰이는 단계, 즉 ‘추론’ 과정에서 빠르고 안정적인 연산을 제공하는 것이 그록의 핵심 전략이다.

AI 반도체 시장은 현재 엔비디아가 사실상 표준을 장악하고 있다. 대형 언어모델을 학습시키는 데 쓰이는 고성능 GPU뿐 아니라 이미 학습된 모델을 사용자 요청에 따라 실행하는 추론 영역에서도 엔비디아 칩이 널리 사용된다. 

그록은 이 중 추론에 특화된 칩을 설계해 전력 효율과 응답 속도에서 차별화를 시도하고 있다. 대규모 모델을 돌릴 때 필요한 연산을 보다 단순하고 빠르게 처리하도록 구조를 단순화한 것이 특징이다.

투자자들이 주목하는 지점도 바로 이 부분이다. AI 서비스가 기업 업무와 소비자 서비스에 본격 도입되면서, 학습보다 실제 운영 단계에서 발생하는 연산 수요가 급증하고 있다. 검색, 챗봇, 코드 생성, 이미지 생성 등 다양한 서비스가 실시간으로 돌아가려면 막대한 추론 연산이 필요하다. 

이 시장이 커질수록 GPU 외 대안 아키텍처에 대한 수요도 커질 수밖에 없다.

외신은 그록이 이미 일부 클라우드 사업자와 기업 고객을 확보했으며 자체 데이터센터를 기반으로 칩과 서비스를 함께 제공하는 구조를 확대하고 있다고 전했다. 클라우드 형태로 연산 자원을 제공해 반복 매출을 만들겠다는 전략이다. 

이는 AI 인프라 기업들이 최근 선호하는 모델로 초기 고객 확보 이후 장기 계약으로 이어질 가능성이 크다.

이번 라운드로 그록의 기업가치는 69억달러로 평가됐다. 2024년 초 대비 크게 상승한 수준이다. AI 인프라 기업에 대한 시장의 기대가 여전히 높다는 점을 보여준다. 특히 엔비디아 의존도를 낮추려는 대형 기술 기업들의 움직임이 이어지는 상황에서, 대체 칩 설계사에 대한 전략적 투자 성격도 강하다는 해석이 나온다.

다만 경쟁 환경은 만만치 않다. 엔비디아는 지속적으로 새로운 아키텍처를 출시하며 학습과 추론 양쪽 모두에서 성능을 개선하고 있다. AMD와 인텔, 여러 스타트업도 자체 AI 가속기를 내놓고 있다. 

이 가운데 그록은 특정 용도에 최적화된 설계를 통해 틈새가 아닌 주류 시장을 노린다. 전력 대비 성능, 응답 지연 시간, 대규모 병렬 처리 구조 등 기술적 지표를 앞세워 차별화를 강조한다.

시장에서는 AI 인프라 전쟁이 모델 경쟁만큼 치열해졌다고 본다. 모델을 만드는 기업이 늘어날수록 이를 뒷받침하는 연산 인프라 수요도 기하급수적으로 증가한다. 

학습과 추론을 합친 전체 AI 반도체 시장 규모는 향후 수년간 빠르게 확대될 전망이다. AI가 산업 전반으로 스며드는 과정에서, 연산 인프라를 누가 장악하느냐가 향후 수익 구조를 좌우할 가능성이 크다.