▲(왼쪽부터) 박성현 리벨리온 대표, 정석근 SK텔레콤 CTO 겸 AI CIC장, 아쉬시 카란디카르 엔비디아 NVLink Fusion 부문 부사장이 9일 서울 삼성동 코엑스에서 GPU·NPU 통합 시스템 개발 업무협약을 체결한 뒤 기념촬영을 하고 있다. / 사진=SK텔레콤
SK텔레콤이 엔비디아, 리벨리온과 손잡고 그래픽처리장치(GPU)와 신경망처리장치(NPU)를 결합한 인공지능(AI) 인프라 개발에 나선다.
SK텔레콤(대표 정재헌)은 9일 서울 삼성동 코엑스에서 열린 ‘엔비디아 AI 데이 서울’에서 엔비디아, 리벨리온과 한국형 소버린 AI 인프라 구축을 위한 업무협약을 체결했다고 밝혔다.
3사는 엔비디아의 고속 반도체 연결 기술인 ‘NVLink Fusion’을 활용해 리벨리온이 개발 중인 NPU ‘Rebel R200’을 엔비디아 GPU 플랫폼과 연동할 계획이다. 여기에 엔비디아의 서버 설계 표준인 MGX를 적용해 랙 단위의 통합 시스템을 구현한다.
핵심은 AI 추론 작업을 GPU와 NPU에 나눠 처리하는 ‘분리형 추론’ 기술이다. AI 에이전트 확산으로 추론 수요가 증가하면서 데이터센터의 연산 성능뿐 아니라 전력 소비와 운영비용을 줄이는 기술이 중요해지고 있다.
▲자료=SK텔레콤
AI 추론은 사용자의 질문을 분석하는 ‘프리필(Prefill)’과 답변을 순차적으로 생성하는 ‘디코드(Decode)’ 단계로 구분된다. 프리필은 대규모 연산 능력이, 디코드는 빠른 메모리 접근 성능이 중요하다.
3사는 엔비디아 GPU에 프리필을, 리벨리온 NPU에 디코드를 맡겨 각 반도체의 장점을 활용할 계획이다. 이를 통해 AI 응답 처리 속도를 높이고 전력 사용량을 줄이는 것이 목표다.
SK텔레콤은 자체 AI 데이터센터 구축·운영 역량을 활용해 통합 시스템의 성능과 안정성을 검증한다. 이후 실제 AI 서비스 적용과 상용화 가능성을 평가하고, 독자 AI 모델 ‘A.X K2’ 및 ‘모두의 AI’ 서비스와 연계할 방침이다.
또 과학기술정보통신부의 국산 AI 반도체 육성 및 소버린 AI 정책과 연계해 공공·민간 분야에서 활용할 수 있는 국내 AI 인프라 구축 사례를 확보할 계획이다.
강동식 기자 lavita@datanews.co.kr
[ⓒ데이터저널리즘의 중심 데이터뉴스 - 무단전재 & 재배포 금지]
최신뉴스
많이 본 뉴스
Copyright © Datanews Corp. All Rights Reserved.