미·중 양극화와 AI 반도체

6년 전, 나는 미·중 기술패권을 취재했다.

서울대 국제문제연구소가 '포스트 코로나 시대'를 주제로 4주간 연 전문가 토론회를, 중앙일보가 후원 미디어로 보도했다. 국제정치를 전공한 나는 은사님들이 정말 중요한데 언론이 다루지 않는다고 푸념하시는 걸 듣고, 어떻게든 시리즈 보도를 해봐야 겠다고 결심했고 최대한 이야기를 남겼다. 당시 교수님들의 결론은 하나였다. "누가 미국 대통령이 되든 미·중 갈등은 장기화한다." 그때 전선은 5G와 화웨이, 반도체 장비였다.

지금 그 전선은 AI 반도체로 옮겨왔다. 그리고 한국은 여전히 같은 자리에 서 있다. 기술은 미국에 기대고, 시장은 중국을 바라보며, 투자는 양쪽에서 받는다. 그 시절 한 전문가가 한국의 처지를 묘사한 문장이 지금도 그대로 유효하다.

온통 HBM, 그런데 그 너머는

요즘 국내 뉴스는 온통 HBM이다. 삼성과 SK하이닉스가 고대역폭 메모리에서 누가 앞서느냐, 엔비디아에 누가 먼저 더 많이 납품하느냐. 메모리 강국의 자부심이 묻어난다. 틀린 이야기는 아니다.

하지만 나는 이 풍경이 어딘가 익숙하다. 우리는 늘 '부품'을 잘 만들어 왔다. 질문은 그 너머에 있다. 칩이 들어가는 그 시스템, 그 위에서 돌아가는 모델.

무게중심은 어디에 있나?

AI 칩 시장의 무게중심이 이동하고 있다. 2023~2025년이 거대 모델을 '훈련(training)'시키는 시대였다면, 2026년은 그 모델을 실제로 굴리는 '추론(inference)'의 시대다. 업계는 올해 AI 컴퓨팅 지출의 3분의 2가 추론에서 나올 것으로 본다.

규모는 상상 이상이다. 추론 반도체 시장은 2024년 390억 달러에서 2030년 4,750억 달러로, 6년 만에 12배 넘게 커질 전망이다.

왜 이 구분이 중요한가. 훈련은 소수의 거대 기업이 한 번 크게 하는 일이다. 추론은 모두가, 매일, 끝없이 반복 하는 일이다. 챗봇에 질문을 던질 때마다, 기업이 자기 데이터로 답을 만들 때마다 추론이 돈다. 그래서 추론은 일회성 투자가 아니라 전기나 통신망 같은 '인프라'다. 인프라는 누가 쥐느냐가 곧 권력이 된다. 이는 어떻게 보면 지정학에 가깝다.

표준이라는 이름의 인질극

6년 전 토론회의 한 대목이 떠오른다. 한 발표자는 미·중 경쟁의 본질을 '표준의 문제'라 했다. 시장을 장악한 자가 표준을 쥐고, 표준을 쥔 자가 호환성을 인질로 잡는다. "관계의 세계에서는 양쪽 모두와 지낼 수 있지만, 기술의 세계에서는 하나를 선택하고 그에 맞춰야 한다."

엔비디아의 진짜 해자는 칩이 아니라 CUDA다. 전 세계 개발자가 CUDA 위에서 코드를 짠다. 한번 올라타면 내려오기 어렵다. 이것이 현대판 표준의 문제이고, 호환성이라는 이름의 락인(lock-in)이다.

그 무렵 또 다른 자리에서 한 학자는 더 근본적인 이야기를 했다. 과학 지식 그 자체가 권력의 원천이 되는 시대, 그는 이를 '내인적(內因的) 힘'이라 불렀다. AI 시대의 컴퓨팅 능력이 정확히 그렇다. 군사·정보·의료·금융의 판단이 누군가의 칩, 누군가의 모델 위에서 내려진다면, 그 '누군가'가 곧 권력이다.

소버린 AI는 구호가 아니라 생존이다

그래서 소버린 AI(주권 AI)는 멋진 구호가 아니라 생존의 문제다. '안보는 미국, 경제는 중국'이라는 익숙한 줄타기로는 답이 안 나온다. 양극이 더 단단해질수록 한국 같은 중간 국가에 돌아오는 반사이익은 줄고, 양자택일의 압박은 커진다. 6년 전 전문가들이 정확히 그렇게 경고했다.

소버린 AI의 본질은 거창하지 않다. "어떤 데이터와 어떤 추론이 국경 밖으로 나가서는 안 되는가"를 우리가 정하는 것이다. 국방, 정보보안, 핵심 인프라, 의료·법률 같은 민감한 판단만큼은 국내 칩과 국내 인프라 위에서 돌아야 한다. 모든 걸 다 만들자는 게 아니다. 나가면 안 되는 것을 우리 손 위에 둘 필요성이 있는 거다.

HBM 너머, 칩을 깎는 사람들

다시 HBM으로 돌아오자. 메모리는 여전히 우리의 강점이고, 추론 시대에 HBM은 단순 부품을 넘어 '추론 효율을 좌우하는 전략 자산'이 됐다. 추론은 결국 메모리 대역폭과 전력 효율의 싸움이기 때문이다. 좋은 소식이다.

하지만 부품만으로는 주권이 되지 않는다. 우리에게 부족했던 건 칩과 모델을 잇는 '추론하는 두뇌', 곧 NPU였다. 그리고 이 빈자리를 스타트업들이 채우기 시작했다.

퓨리오사AI와 리벨리온. 창업 58년 차에 나란히 유니콘이 된 회사들이다. 이들은 실제 사용 환경에서 엔비디아 대비 57배의 가격 효율을 낸다고 한다. CUDA라는 성벽을 정면으로 들이받는 대신, 파이토치(PyTorch)와 vLLM 같은 오픈소스 생태계를 우회로로 택하며 새로운 길을 찾은 거다. 표준 싸움에서 약자가 쓸 수 있는 영리한 전술이다.

'국산 칩 — 국산 모델'의 조합. 정부도 K-클라우드, 통신사의 인프라, 스타트업의 칩, 그리고 산업 현장의 데이터 처럼 흩어져 있던 역량을 엮어 답을 찾아가는 중이다.

특히 우리의 승부처는 범용 LLM이 아니다. 미국·중국과 모델 크기로 겨루는 건 규모의 게임이라 시작부터 진 싸움이다. 최근 선전 출장을 다녀와서 다시한 번 느꼈다. 대신 반도체·조선·배터리·제조처럼 한국이 데이터와 현장을 모두 가진 영역에 특화된 '산업 추론'으로 가야 한다. 이것이 규모를 비껴가는 비대칭 전략이다. 6년 전 토론회의 또 다른 결론과도 맞닿는다. "AI는 생태계를 하나만 골라야 하는 분야가 아니다. 글로벌에서 경쟁력 있는 개별 서비스를 발굴해야 한다."

작은 기회의 창

나는 기자로 미·중 기술패권의 서막을 취재했고, 지금은 그 전쟁이 AI 반도체에서 본게임에 들어서는 걸 본다. 변한 건 전선의 위치뿐이다. 구조는 그대로다. 거인은 더 빨리 자라고, 표준을 쥔 자가 룰을 쓴다.

그 사이에서 칩을 만든다는 것. 그것은 더 이상 산업의 문제만이 아니라 주권의 문제다. 우리가 우리의 추론을 우리 손 위에서 돌릴 수 있는가.

다행히 우리는 답을 찾아가고 있다. 메모리라는 발판이 있고, 칩을 만드는 스타트업이 나왔고, 무엇을 지킬지 묻기 시작했다. 늦지는 않았다. 하지만 늘 그렇듯 기회는 순식간에 지나간다.

질문은 결국 이것이다. 정말 우리가 AI 3대 강국이 될 수 있을까? 그 결과는 지금 주어진 짧은 몇년 안에 결정될지도 모른다. 아직은 기회가 있다.