통신 거인 AT&T, AI에 폐쇄형 독점모델 버리려

미국 최대 통신사인 에이티앤티(AT&T)가 인공지능(AI) 전략의 무게중심을 ‘오픈웨이트(open-weight)’ 모델로 완전히 옮기고 있다. 이 회사는 현재 25% 수준인 오픈 모델 활용 비중을 향후 70~80%까지 끌어올리려 한다고 미국 경제지 월스트리트저널(WSJ)이 최근 보도했다. 

오픈AI·앤스로픽·구글 등 소수 빅테크의 폐쇄형 독점 모델에 의존해온 기업 AI 지형이, 비용과 데이터 주권을 앞세운 오픈 모델 쪽으로 급속히 재편되고 있다는 신호로 해석된다. AT&T는 하루 평균 450억 개의 AI 토큰을 소비한다. 이 회사는 작업별로 가장 저렴하고 적합한 모델을 자동 배정하는 ‘스마트 라우터’를 자체 구축했다. 

AI 시대 기업 전략의 근본적 재편

전문가들은 이같은 AT&T 사례가 AI 시대 기업 전략의 근본적 재편을 예고한다고 본다. 하루 수백억 토큰을 소비하는 대기업일수록, AI 모델 선택과 라우팅 기술 자체가 곧 경쟁력이 된다. 데이터를 외부 벤더에 노출하지 않으려는 ‘주권형 AI’ 수요는 특히 규제 산업일수록 더 커질 수밖에 없다는 진단이다.

WSJ에 따르면, 폐쇄형 독점 모델에서 오픈 모델로 전환한 일부 업무에서 AT&A는 비용을 80~90%까지 줄였다. 고객 상담 녹취록 요약·분석 업무는 전면적으로 오픈 모델이 맡고 있다. 통신 특화 데이터로 커스터마이징한 오픈 모델 ‘오텔(OTel)’은 네트워크 장애의 근본 원인을 진단하는 AI 에이전트를 구동한다. 

실리콘밸리에서는 AI가 ‘개방형’이어야 하는지 ‘폐쇄형’이어야 하는지를 둘러싼 논쟁이 계속되고 있다. 엔비디아는 오픈 모델을 지지하는 대표적인 빅테크 기업 중 하나이며, 메타 플랫폼스는 새로운 오픈웨이트 모델 ‘뮤즈 글리머(Muse Glimmer)’를 이달 발표했다.

오픈AI, 앤스로픽, 구글 같은 기업의 독점 모델은 사용자가 자유롭게 내려받거나 수정할 수 없다. 오픈소스 및 오픈웨이트 모델은 그것이 가능하다. 오픈소스 모델은 학습 데이터와 코드까지 전면 공개하는 반면, 오픈웨이트 모델은 대개 모델을 구성하는 ‘가중치’만 공개한다. AT&T는 오픈소스와 오픈웨이트 모델을 모두 활용하고 있다.

AT&T의 앤디 마커스 최고데이터·AI책임자(CDAO)는 “기업 데이터는 금맥이고, AI 도구는 그 금을 캐내는 수단일 뿐”이라고 설명했다. 중국산 모델을 포함한 다양한 오픈 모델을 실험 중이라며 그는 “어느 한 솔루션에 종속되지 않기 위한 것”이라고 WSJ에 밝혔다. 

AT&T는 하루 평균 450억 개의 AI 토큰을 사용하기 때문에, 사용자 프롬프트를 더 저렴한 모델로 유도하는 것만으로도 상당한 효과를 낼 수 있다. 오픈 모델은 AT&T 자체 데이터센터에서 구동할 수 있어, 외부 클라우드 임대 비용까지 절감하는 효과가 있다. 그는 “토큰 대란(token apocalypse)이라는 말들이 나오지만, 우리는 토큰이 늘어나는 미래를 두려워하지 않는다. 충분히 관리 가능한 문제”라고 말했다.

배경에는 ‘데이터 주권’ 논리가 자리한다고 WSJ는 설명했다. 마커스 CDAO는 “우리 정보를 안전하게 지켜야 하고, 모델의 입력과 출력을 통제해야 한다”며 “AI 주권 개념이 우리에게 정말로 가장 중요한 문제가 됐다”고 강조했다. 오픈AI·앤스로픽 등이 기업 고객 데이터를 학습에 쓰지 않는다고 밝혀왔지만, 일부 대기업은 이를 완전히 신뢰하지 못한 채 자체 인프라로 데이터를 봉쇄하는 쪽을 택하고 있다는 것이다.

시장조사업체 가트너의 치라그 데카테 애널리스트는 “많은 기업이 처음엔 최상급 폐쇄형 독점모델의 성능이 필요하다고 말하지만, 곧 비용이 감당 불가능해지는 변곡점에 도달한다”고 지적했다. 가트너는 향후 2년 내 오픈 모델이 기업 AI 활용 사례의 50% 이상을 차지할 것으로 내다봤다. 현재 10% 미만에서 큰 폭의 증가다. 

한국 금융권, “이미 걷고 있는 길”

이런 흐름은 한국 금융권에도 낯설지 않다. 신한은행은 오픈소스 생성형 AI를 기반으로 자체 모델을 구축했고, 케이뱅크는 업스테이지의 ‘솔라(Solar) 대형언어모델(LLM)'을 베이스로 금융 특화 모델을 만들었다. 

’딥시크 쇼크‘ 이후 시중은행권에서는 딥시크 오픈소스를 자체 연구하거나 특화 업체와 협업해 온프레미스(On-premises. 기업이나 기관이 자체적으로 서버, 소프트웨어, 네트워크, 스토리지 등 정보기술 인프라를 구축하고 직접 관리·운영하는 방식)형의 소형언어모델(sLLM)로 전환하려는 움직임도 나타났다. 망분리 규제를 지켜야 하는 국내 금융사 입장에서는 자체 인프라에서 구동 가능한 오픈 모델이 AT&T식 ’자체 데이터센터 전략‘과 맞닿아 있다는 평가다.

금융권 한 고위 관계자는 “국내 금융사들도 특화 데이터 구축과 온프레미스 인프라 투자를 병행해야 유사한 비용 절감 효과를 거둘 수 있을 것”이라고 말했다.

권선무 기자

[ⓒ데이터저널리즘의 중심 데이터뉴스 - 무단전재 & 재배포 금지]