국산 NPU 위에 국산 LLM 올린다

코난테크놀로지-리벨리온, ATOM 서버 내 코난 AI스테이션 서버 제품화 협력

  • 카카오공유 
  • 메타공유 
  • X공유 
  • 네이버밴드 공유 
  • 프린트
  • 메일
  • 스크랩
  • 목록
  • 글자크기
  • 크게
  • 작게
국산 NPU 위에 국산 LLM 올린다
코난테크놀로지(대표 김영섭)는 리벨리온(대표 박성현)과 협력해 리벨리온의 NPU에 코난 대규모언어모델(LLM)이 탑재된 ‘코난 AI스테이션 서버’를 접목할 예정이라고 5일 밝혔다.

앞서 두 회사는 지난해 8월 생성형 AI와 AI 반도체 기술을 결합한 공동 연구개발을 위해 전략적 업무협약을 체결했다. 

협력의 핵심은 국산 AI 소프트웨어와 반도체 기술의 융합으로, 코난테크놀로지의 생성형 AI 기술과 리벨리온의 고성능 NPU가 결합되면 국산 기술 기반의 독자적 AI 생태계를 구축하고 장기적으로는 소버린 AI 기술 자립도를 끌어올린다는 점에서 주목받았다.

협력의 성과는 제품화 단계로 이어지고 있다. 

지난달 코난테크놀로지는 기업형 AI 서버 ‘코난 AI스테이션 서버를 출시했다. 기본 탑재된 코난 LLM은 리벨리온의 최신 NPU인 ATOM 서버에서도 원활하게 작동한다. 이에 두 회사는 현재 코난 AI스테이션 서버를 활용한 테스트와 최적화 작업을 진행 중이다. 

리벨리온은 향후 시범 적용 결과를 바탕으로, 자사 NPU에 코난 LLM이 탑재된 코난 AI스테이션 서버를 접목해 국산 AI 인프라 도입을 희망하는 고객사에 제공할 계획이다.

코난테크놀로지 관계자는 “국산 NPU 위에서 국산 LLM이 자연스럽게 구동되는 환경을 구현함으로써 AI 시장에서 기술적 주도권을 확보할 수 있는 가능성을 확인했다”며 “앞으로도 국산 AI 인프라 자립을 이끌 수 있도록 매진하겠다”고 말했다. 

코난 AI스테이션 서버는 팀이나 조직 단위가 함께 사용하는 생성형 AI 인프라다. 사용자 수에 따라 GPU, 메모리, 스토리지를 유연하게 구성할 수 있고, 외부 연결 없이도 온프레미스 환경에서 완전한 AI 기능을 구현해 보안이 중요한 조직에서도 안심하고 도입, 운영할 수 있다.

한편, 코난테크놀로지는 국가 주도 초거대 AI 개발 프로젝트 ‘월드베스트 LLM(WBL)’ 참여도 계획하고 있다. 한국산 파운데이션 모델로 스탠퍼드대 에코시스템 그래프에 등재되는 등 생성형 AI 분야에서 국내외 기술력을 입증받은 만큼 다양한 사업 수행 경험과 우수한 인하우스 연구 인력을 바탕으로 준비에 나설 방침이다.

강동식 기자 lavita@datanews.co.kr