중국의 AI 추격은 어디까지 왔나…화웨이 ‘어센드 910D’ 쇼크

미국의 강도 높은 반도체 제재 속에서도 중국 화웨이가 고성능 AI 반도체 개발을 멈추지 않고 있다. 화웨이는 최근 엔비디아의 대표 AI 가속기인 H100에 필적하는 성능을 목표로 한 신형 칩 ‘어센드 910D’를 준비 중인 것으로 알려졌다. 

2022년 출시된 H100은 대규모 AI 모델 학습과 추론을 사실상 표준으로 만든 제품으로 현재 글로벌 데이터센터 AI 시장의 중심에 있다. 화웨이가 이 칩을 정면으로 겨냥했다는 점에서 시장의 관심이 쏠리고 있다. 

화웨이의 도전은 하루아침에 시작된 것이 아니다. 그 전 단계인 어센드 910C는 미국의 제재로 최첨단 공정과 최신 메모리를 사용할 수 없는 상황에서 만들어졌다. 반도체 회로를 웨이퍼 위에 새기는 과정에서는 EUV라는 최신 노광 장비가 필요하지만 이 장비는 네덜란드 ASML만 공급하고 있으며 중국에는 수출되지 않는다. 

화웨이는 이를 대신해 이전 세대 장비인 DUV를 활용해 같은 공정을 여러 번 반복하는 방식으로 7나노급 공정을 구현했다. 이 방식은 공정 난이도가 급격히 높아지고 불량률이 치솟는 단점이 있다. 초기에는 생산된 칩 10개 중 2개만 쓸 수 있을 정도였으나 시행착오 끝에 수율을 끌어올려 양산을 이어갔다.

메모리 역시 제약의 대상이었다. H100이 사용하는 최신 HBM3 메모리는 중국이 접근할 수 없었기 때문에 화웨이는 한 세대 이전인 HBM2e를 선택했다. 

대신 여러 개의 칩과 메모리를 하나의 모듈처럼 묶는 이종 집적 패키징 기술을 활용해 데이터 이동 통로를 넓혔다. 이 방식으로 910C는 초당 약 3.2테라바이트 수준의 메모리 대역폭을 확보했다. 이는 단일 칩 성능만 놓고 보면 H100의 약 80퍼센트 수준으로 평가된다. 

최신 공정과 메모리 없이 설계와 패키징으로 격차를 줄였다는 점에서는 높은 평가를 받고 있지만 분명한 한계가 있었다. 대규모 AI 학습은 수많은 가속기를 동시에 연결해 사용하는데 이 과정에서 칩 간 통신 속도와 이를 제어하는 소프트웨어가 핵심이 된다. 

엔비디아는 NVLink와 NVSwitch 같은 전용 고속 인터커넥트와 이를 기반으로 한 소프트웨어 생태계를 갖추고 있다. 910C는 범용 인터페이스에 의존해 대규모 확장에서는 성능 격차가 커질 수밖에 없었다. 전력 효율에서도 최신 공정을 적용한 H100이 우위에 있었다.

어센드 910D는 이런 약점을 의식한 후속 도전으로 알려져 있다. 업계에 따르면 910D는 기존 설계를 단순히 개선한 수준을 넘어 내부 연산 구조를 대폭 수정했고 연산 유닛 수와 동작 속도도 높였을 가능성이 크다. 

최근 AI 학습에서 중요해진 저정밀 연산 지원도 추가됐을 것이라는 관측이 나온다. 메모리는 여전히 HBM2e를 사용할 수밖에 없지만 스택 수를 늘리고 패키지 크기를 키워 물리적인 대역폭을 확장하는 방식으로 대응하고 있다. 이는 최신 기술이 막힌 상황에서 가능한 선택지를 모두 동원한 접근으로 해석된다.

그럼에도 불구하고 910D가 엔비디아의 지위를 단기간에 위협할 수 있을지는 미지수다. AI 시스템 성능은 개별 칩의 계산 능력도 중요하지만 결정적으로는 수천 수만 개의 가속기를 얼마나 효율적으로 묶어 쓰느냐에 따라 좌우된다.

이 영역에서 엔비디아는 하드웨어와 소프트웨어를 함께 설계해온 경험을 앞세워 여전히 우위를 유지하고 있다. 화웨이가 칩 성능을 끌어올리더라도 대규모 클러스터 운영에서 같은 수준의 안정성과 효율을 확보하기까지는 시간이 필요하다는 평가가 많다.

시장에서는 이번 경쟁을 엔비디아에 대한 당장의 위협으로 간주하고 있지는 않다. 그러나 중국의 자급자족 전략이 한 단계 더 진전된 사례로 보면서 경계하는 상태다. 화웨이의 현재 목표는 제재 환경에서도 중국 내부의 AI 생태계를 유지하고 확장하는 데 있다. 

최신 장비와 부품을 쓰지 못해도 가능한 방법을 조합해 성능 격차를 좁히는 과정 자체가 전략의 핵심이다. 어센드 910D는 그 과정에서 등장한 결과물이다.

엔비디아는 이미 H100의 후속 제품을 시장에 내놓으며 다음 세대를 준비하고 있다. 반면 화웨이는 제한된 조건 속에서 설계와 패키징의 한계를 밀어붙이며 따라잡기를 시도하고 있다. 단기적으로 판도가 뒤집힐 가능성은 크지 않지만 AI 반도체를 둘러싼 미국과 중국 사이의 경쟁은 더욱 치열하게 계속될 전망이다.