엔비디아·리벨리온·SK텔레콤, 한국형 AI 인프라 구축 협력

한국산 AI 반도체와 엔비디아 기술 결합
SK텔레콤 데이터센터에 도입…2028년 상용화 목표

산타클라라에 본사를 둔 인공지능(AI) 반도체 기업 엔비디아가 한국의 AI 반도체 기업 리벨리온, SK텔레콤과 손잡고 한국형 독자 AI 인프라 구축에 나선다. 엔비디아의 고속 연결 기술에 한국 기업이 개발한 AI 반도체를 결합하고, 이를 SK텔레콤의 AI 데이터센터에 도입하는 것이 핵심이다.

엔비디아는 9일 발표한 보도자료에서 리벨리온, SK텔레콤과 한국의 ‘소버린 AI(Sovereign AI)’ 인프라 발전을 위한 협력을 추진한다고 밝혔다. 이번 협력에는 한국 과학기술정보통신부도 참여해 국내 AI 반도체 산업과 글로벌 AI 인프라 기술의 연계를 지원한다.

소버린 AI는 국가가 자국의 언어와 문화, 산업 환경에 맞는 AI 기술과 서비스를 개발하고 운영할 수 있도록 핵심 기술과 인프라에 대한 통제 역량을 확보하는 개념이다. 해외 기업의 AI 서비스에 전적으로 의존하지 않고 자국의 데이터와 기술을 활용해 AI 경쟁력을 높이겠다는 전략이다.

이번 협력에서 엔비디아는 AI 반도체를 고속으로 연결하는 ‘NVLink Fusion’ 기술과 데이터센터용 표준 설계인 ‘MGX’를 제공한다. 리벨리온은 차세대 AI 반도체인 ‘리벨 R200′을 개발하고, SK텔레콤은 이를 자사의 AI 데이터센터와 AI 모델 및 서비스에 적용할 계획이다.

특히 주목할 부분은 엔비디아의 그래픽처리장치(GPU)와 한국 기업이 개발한 신경망처리장치(NPU)를 하나의 AI 인프라 안에서 활용할 수 있도록 한다는 점이다.

GPU는 대규모 AI 연산에 폭넓게 활용되는 반면, NPU는 AI 연산에 특화된 반도체로 특정 작업에서 전력 소비와 처리 효율을 개선할 수 있다. 리벨리온은 자사의 NPU를 엔비디아의 연결 기술과 결합해 대규모 AI 서비스에 필요한 연산 성능과 에너지 효율을 확보한다는 구상이다.

리벨리온이 개발 중인 R200은 대규모 AI 모델의 추론 작업에 최적화된 차세대 반도체다. AI 추론은 이미 학습된 AI 모델이 사용자의 질문을 이해하고 답변을 생성하는 과정으로, 챗봇과 검색, 기업용 AI 서비스 등에서 핵심적인 역할을 한다.

리벨리온은 R200을 통해 응답 지연 시간을 줄이고 전력 효율을 높이는 데 초점을 맞추고 있다. 특히 여러 전문 모델을 선택적으로 활용하는 ‘전문가 혼합(MoE)’ 방식의 초대형 AI 모델도 효율적으로 처리할 수 있도록 설계하고 있다.

엔비디아의 NVLink Fusion은 서로 다른 종류의 AI 프로세서를 고속으로 연결하는 기술이다. 이를 활용하면 반도체 기업들은 엔비디아의 기존 AI 인프라와 연결되는 자체 AI 칩을 개발할 수 있다.

또한 엔비디아의 MGX 아키텍처는 데이터센터에서 사용하는 서버 랙의 크기와 전력 공급, 냉각 시스템 등을 표준화한 설계 기반이다. 리벨리온은 이를 활용해 서버 시스템 개발 부담을 줄이고 기존 부품 공급망과 제조 생태계를 활용할 수 있을 것으로 기대하고 있다.

이번 협력에서 특히 관심을 끄는 기술은 AI가 답변을 생성하는 작업을 두 종류의 반도체가 나누어 처리하는 방식이다.

AI의 답변 생성 과정은 크게 입력된 질문과 자료를 분석하는 ‘프리필(Prefill)’ 단계와 실제 답변을 순차적으로 만들어 내는 ‘디코드(Decode)’ 단계로 구분된다.

세 회사는 프리필 작업에는 엔비디아 GPU를 사용하고, 디코드 작업에는 리벨리온 NPU를 활용하는 방안을 추진한다. 각 반도체가 상대적으로 효율적으로 처리할 수 있는 작업을 나누어 맡도록 해 전체 AI 시스템의 처리량을 높이고 전력 소비를 줄이겠다는 것이다.

이러한 방식이 실제 대규모 데이터센터에서 구현된다면 AI 서비스를 운영하는 데 필요한 전력과 비용을 줄이는 데 도움이 될 수 있다. 다만 구체적인 성능 개선 수치나 비용 절감 효과는 이번 발표에서 공개되지 않았다.

SK텔레콤은 이번 협력을 통해 AI 데이터센터 운영부터 자체 AI 모델 개발, 일반 이용자를 대상으로 하는 서비스까지 연결하는 ‘풀스택 소버린 AI’ 전략을 강화할 계획이다.

SK텔레콤은 자체 개발한 AI 모델 ‘A.X K2’를 비롯해 다양한 AI 기술과 서비스를 보유하고 있다. 앞으로 리벨리온의 반도체와 엔비디아의 인프라 기술을 결합한 시스템을 자사 AI 데이터센터에 도입하고, 정부의 ‘모두의 AI(AI for All)’ 사업과 연계되는 서비스에도 활용할 방침이다.

젠슨 황 엔비디아 최고경영자는 이번 협력에 대해 “한국은 AI 분야에서 세계적인 선도국가가 될 수 있는 인재와 기술, 산업적 역량을 갖추고 있다“고 평가했다.

황 CEO는 “소버린 AI는 국가가 자신의 언어와 문화, 전문성을 지능으로 전환할 수 있는 힘을 제공한다“며 “NVLink Fusion을 통해 한국 반도체 기업들이 자체 개발한 칩을 엔비디아의 AI 인프라와 연결할 수 있다“고 설명했다.

이어 과학기술정보통신부, 리벨리온, SK텔레콤과 함께 한국이 자체 AI 역량을 구축하고 차세대 산업 발전을 이끌 수 있는 컴퓨팅 기반을 마련하겠다고 강조했다.

박성현 리벨리온 공동창업자 겸 최고경영자는 이번 발표를 한국의 AI 반도체와 모델이 글로벌 시스템 기술과 결합하는 전환점으로 평가했다.

박 CEO는 리벨리온의 반도체 설계 기술과 엔비디아의 고속 연결 기술, SK텔레콤의 AI 모델 및 데이터센터 운영 역량을 결합해 대규모 AI 모델의 추론 속도와 전력 효율을 개선하겠다고 밝혔다.

정재헌 SK텔레콤 최고경영자는 “글로벌 AI 인프라 기술과 한국 AI 반도체를 결합해 차세대 소버린 AI 인프라의 가능성을 확인했다는 점에서 의미가 크다“고 밝혔다.

정 CEO는 SK텔레콤의 AI 데이터센터와 자체 AI 모델, 공공 AI 서비스를 연계해 한국의 독자적인 AI 생태계 경쟁력을 높이겠다고 설명했다.

한국 정부도 이번 협력을 국내 AI 반도체 산업의 새로운 성장 기회로 보고 있다. 배경훈 부총리 겸 과학기술정보통신부 장관은 한국에서 개발한 NPU가 엔비디아의 NVLink Fusion을 통해 글로벌 AI 컴퓨팅 인프라 시장에 진입할 수 있게 됐다는 점을 강조했다. 배 장관은 이번 협력이 실질적인 성과로 이어질 수 있도록 적극 지원하고, 피지컬 AI와 GPU 공급 확보 등 다양한 분야에서도 엔비디아와 협력을 확대하겠다고 밝혔다.