최태원 회장 “메모리칩 요청 너무 많아 어떻게 소화할지 걱정”

데이터센터 시장, 매년 24%씩 성장해 2025년 6000억 달러 달해…2027년 용인 클러스터 오픈, 청주 팹 24개 규모

박혜연 기자

phy@datanews.co.kr | 2025.11.03 12:17:06

▲최태원 SK 회장이 서울 삼성동 코엑스에서 열린 'SK AI 서밋T 2025'에서 키노트를 진행하고 있다. / 사진=데이터뉴스

“사실 요즘은 너무 많은 기업으로부터 메모리칩 공급 요청을 받고 있어서 이걸 다 어떻게 소화하나 걱정하고 있습니다.”

최태원 SK 회장은 3일 서울 삼성동 코엑스에서 열린 ‘SK AI SUMMIT 2025’에서 인공지능(AI) 투자 확대에 따른 고대역폭메모리(HBM) 수요 급증과 이를 대응하기 위한 설비투자 및 기술 개발 대응 방안을 소개했다.

최 회장은 “AI 수요는 데이터센터에 돈이 얼마나 들어가는 지를 보면 되는데, 이 시장은 2020년 2300억 달러(약 329조 원)에서 2025년 6000억 달러(약 858조 원)로, 매년 24%씩 성장했다”며, “앞으로도 성장할 것이고, AI 수요가 어마어마하게 늘어날 수밖에 없다”고 말했다.

특히 기업간 거래(B2B) 영역에서 본격적으로 AI 도입이 이뤄지고 있다. 최근 IDC 발표에 따르면, 2025년 기업들이 AI 도입을 위해 약 70억 달러를 썼다. 이 트렌드는 모든 기업들이 AI를 사업에 적용하지 않으면 도태될 수 있다는 생각에 기인한다.

최 회장은 AI 컴퓨팅 파워에 대한 공급이 수요 성장세를 따라가기 어려워 상당한 미스매치가 일어날 것이라고 내다봤다.

최 회장은 “공급자 측면에서 생각해 보면 되게 어려운 문제가 정확한 수요 예측이 안된다는 것”이라며, “얼마나 늘어날지 알 수가 없다”고 말했다.

엔비디아 등 AI 칩 업체들은 더 빠른 처리 성능을 갖춘 차세대 칩을 계속 출시하고 있다. 하지만 이 칩들의 성능 향상을 가로막는 제약은 메모리 밴드위스로, 부족한 밴드위스로 인해 프로세서의 계산 능력을 다 사용하지 못하는 상황이 생긴다.

▲최태원 SK회장이 서울 삼성동 코엑스에서 열린 'SK AI 서밋 2025'에서 GPU당 HBM 사용량 추이를 설명하고 있다. / 사진=데이터뉴스

최 회장은 “결국 현재 메모리 밴드위스를 늘리기 위해 할 수 있는 유일한 솔루션은 HBM 사용 개수를 늘리는 일”이라고 강조했다.

기존에는 HBM 하나에 GPU 하나를 매칭했지만, 현재 12개 이상으로 늘어났다. 이 때문에 메모리 칩의 공급량이 전례 없이 빠른 속도로 소진되고 있다. 이 여파는 스마트폰이나 PC 서버 등 기존 메모리칩 시장 전체에 영향을 주고 있다. 이제는 성능이 아니라 공급 자체가 병목에 이르렀다.

최 회장은 “오픈AI(OpenAI)가 스타게이트(Stargate) 프로젝트에 월 90만 장의 HBM을 공급해달라고 요청했는데, 이는 현재 전 세계 HBM 월 생산량의 두 배에 달하는 규모”라며, “결국 오픈AI도 미래에 데이터센터를 구축하고, AI 인프라를 최적화하기 위해 남보다 더 많은 HBM을 확보를 하려는 것으로 보인다”고 말했다.

최 회장은 메모리칩의 병목을 해결하기 위해 SK하이닉스의 설비투자(CAPEX)를 진행하고, 기술을 개선할 것이라고 밝혔다.

SK하이닉스는 최근 청주 HBM 공장을 완공하고 내년에 본격적인 생산에 돌입한다. 또 2027년 용인 클러스터를 오픈할 예정이다. 이 클러스터에 4개의 대규모 팹이 들어선다. 용인 클러스터에 들어서는 팹 하나는 청주 팹이 6개가 들어갈 수 있는 규모다. 용인 클러스터가 완성되면 청주 팹 24개가 만들어지는 셈이다.

또 SK하이닉스는 메모리칩과 데이터센터에 AI를 적용해 생산 효율과 스피드를 높일 계획이다.

최 회장은 “미래 메모리 칩과 컴퓨팅이 가장 효율적으로 돌아가기 위해서는 근본적으로 설계부터 다르게 구축된 AI 인프라가 필요하다”며, “스스로 데이터센터를 구축하고, 칩 레벨부터 시스템과 전력은 물론이고 운영까지 포함해 가장 효율적인 인프라 솔루션을 제공하고자 한다”고 말했다.

SK는 지난 8월 가산에 정부와 협력으로 국내에서 단일 규모로 가장 큰 블랙웰(Blackwell) B200 기반의 AI 컴퓨팅 클러스터를 구축했다.

SK는 장기적으로 울산에 1기가급 AI 데이터센터 구축을 추진하고 있다. 우선 AWS와 100메가와트(MW) 규모의 계약을 했고 2027년에 오픈할 예정이다. 또 오픈AI와 공동으로 서남권에 새로운 형태의 미래 AI 데이터센터를 구축할 계획이다.

박혜연 기자 phy@datanews.co.kr