〈정책 노트〉 한국형 AI 고속도로를 까는 일¶

“정말 미국과 중국에 뒤처지는 것 아닐까요?”라는 질문과 관련하여 정부의 AI 인프라 전략은 크게 네 가지 축으로 구성됩니다. 첫째, 한국이 가진 강점을 바탕으로 글로벌 협력망을 확대하는 일입니다. 둘째, GPU와 데이터센터 같은 물리적 기반을 구축하는 일입니다. 셋째, 그 위에서 청년과 중소기업, 연구자가 연구와 창업을 이어 갈 수 있도록 지원하는 일입니다. 넷째, 전력 비용과 운영 부담을 줄여 우리 산업 환경에 적합한 AI 생태계를 만드는 일입니다.

메모리에서 GPU 26만 장까지: 경주 APEC과 한·미 AI 동맹

2025년 가을 경주 APEC 정상회의를 계기로 엔비디아 젠슨 황 CEO가 한국을 방문해 국내 주요 기업들과 AI 협력 확대 방안을 논의했습니다. 이를 통해 한국은 향후 5년간 약 26만 장 규모의 최신 GPU를 우선 공급받는 기반을 마련했습니다. 이 수치는 단순한 장비 확보 이상의 의미를 가집니다. 불과 얼마 전까지도 국가 GPU 확보 목표는 2030년까지 3만 장 수준이었습니다. 그러나 AI 경쟁이 예상보다 빠르게 전개되면서 필요한 인프라 규모도 크게 확대되고 있습니다.

정부가 확보하는 약 5만 장과 민간이 도입하는 약 21만 장의 GPU는 산업 현장과 연구기관, 데이터센터 등 다양한 곳에서 활용될 예정입니다. 다음은 GPU 활용 계획을 정리한 표입니다.

AI 인프라 투자에 대한 세제 지원도 함께 강화됐습니다. 조세특례제한법상 AI 분야가 국가전략기술로 지정되면서 시설 및 연구개발 투자에 대한 세액공제율이 대·중견기업은 15%, 중소기업은 25% 수준까지 상향됐습니다. AI 인프라를 구축하는 기업 입장에서는 보다 적극적인 투자를 검토할수 있는 환경이 마련된 셈입니다.

또한 국내에서 개발된 AI 모델이 미국 스탠퍼드대 인간중심AI연구소(HAI)의 ‘Notable AI Models’에 이름을 올리는 등 국제적으로 주목받는 성과를 내기 시작하면서 한정된 자원 속에서도 경쟁력을 확보할 수 있다는 가능성이 확인되었습니다.

단, GPU 26만 장은 마침표가 아닌 출발선에 가깝습니다. 최근의 프런티어급 AI 모델은 학습에 필요한 연산량과 데이터 규모가 계속 증가하고 있습니다. 결국 AI 고속도로를 구축한다는 것은 현재 필요한 장비를 확보하는 데 그치지 않고 앞으로 등장할 더 큰 모델과 더 많은 데이터를 국내에서 안정적으로 처리할 수 있는 기반을 마련하는 일입니다.

해남 들판 위의 국가 AI 컴퓨팅 센터: 누구를 위한 인프라인가

해남 솔라시도에는 대한민국 AI 컴퓨팅 자원의 핵심 거점이 될 국가 AI 컴퓨팅 센터가 들어설 예정입니다. 이 사업은 정부와 민간이 함께 참여하는 특수목적법인(SPC) 방식으로 추진됩니다. 정부 단독으로는 시장의 변화 속도를 충분히 반영하기 어렵고, 민간 단독으로는 초기 투자 부담이 크다는 현실을 고려한 선택입니다. 작년 가을 민간 참여자 공모에서 삼성SDS 주관 컨소시엄이 우선협상자로 선정됐고 내년 상반기에 SPC를 세워 2년 내에 문을 여는 일정으로 진행됩니다. 센터가 문을 열면 15,000장 규모의 GPU와 대규모 클라우드 서비스 환경이 구축될 예정입니다.

하지만 여기서 더 중요한 점은 이 자원이 누구에게 제공되는가 하는 것입니다. 정부 발표 문서에는 ‘AI 스타트업·중소기업·대학 등의 AI 컴퓨팅 인프라 접근성 증진’이 사업 목표로 명시되어 있고 자부담 비율도 학·연 무상·중소기업 10% 미만으로 설계되어 있습니다.

새로운 알고리즘을 연구하는 대학 연구실도, AI 서비스를 개발하는 스타트업도, 제조업 현장에 AI를 도입하려는 중견 기업도 이 인프라를 활용할 수 있도록 설계되고 있습니다. 국가 차원의 AI 기반 시설을 특정 기업의 전유물이 아니라 생태계 전체의 자산으로 활용하겠다는 취지입니다.

청년과 중소기업에게 돌아가는 GPU와 AI 바우처

청년 창업가들과 신진 연구자들이 겪는 이른바 ‘AI 보릿고개’를 해소하기 위해 정부는 2025년 추경을 통해 확보한 첨단 13,000장의 첨단 GPU 가운데 우산 활용 가능한 4,000여 장을 2026년 3월부터 산학연에 배분하기 시작했습니다. 또한 민간 클라우드 사업자(CSP)로부터 추가 GPU 자원 2,000여 장을 확보해 공급 규모를 확대했습니다.

지원 대상은 단순히 청년 기업으로 한정되지 않습니다. 자금 여력이 부족한 청년 기업에는 AI 바우처를 통해 사용료 일부를 지원하고, 기존 대형 연구실에 비해 장비 접근 기회가 적었던 신진 연구자에게는 전체 자원의 30%가 우선 배정됩니다. 중소기업 역시 자부담 규정에 따라 10% 미만의 부담으로 GPU 자원을 빌릴 수 있고 대학과 출연연 연구자는 무상으로 활용할 수 있습니다. 일반 산업 분야의 회사에서 AI를 도입하려고 할 때는 3장에서 살펴본 산업맞춤형 혁신바우처와 청년 창업 지원 정책, 4장에서 살펴본 AI 기본법 지원데스크 익명 컨설팅을 통해 문의할 수 있습니다.

다음 세대 연구실에 닿는 GPU

앞서 소개한 카이스트 연구실의 사례에서 살펴보았듯이 국가가 확보한 GPU 자원의 일부는 대학과 연구기관에 공급됩니다. 오늘날의 작은 연구 성과가 내일의 산업 경쟁력으로 이어질 수 있다는 점에서 대학원생과 연구자들이 충분한 연산 자원을 활용할 수 있도록 지원하는 일은 미래를 위한 투자이기도 합니다.

한편 초중고 학생을 위한 AI 학습 자원은 5장의 GPU 인프라와 별도의 체계를 통해 지원됩니다. 2장에서 살펴본 ICT 이노베이션스퀘어가 지역 단위로 운영되고 있고 학교 및 학원의 AI 사용 원칙은 4장에서 살펴본 AI 기본법의 투명성 확보 의무(제31조)와 함께 교육부 차원에서 따로 마련하고 있습니다.

전기료와 발열을 줄이는 국산 AI 반도체

데이터센터 운영의 가장 큰 과제 중 하나는 전력과 발열입니다. 영토가 넓고 에너지 자원이 풍부한 미국이나 중국과 달리 우리나라는 제한된 공간과 전력 환경 속에서 보다 효율적인 해법을 찾아야 합니다. 정부가 구축하고 있는 국가 데이터센터는 이러한 문제를 해결하기 위해 연산 과정에서 전력 소모와 열 발생이 상대적으로 적은 국산 저전력 AI 반도체(NPU)를 활용할 계획입니다. 이는 외국산 반도체에 기대지 않고 우리 기술로 개발한 AI 반도체를 데이터센터의 핵심 인프라에 적용해 에너지 효율과 기술 자립성을 함께 높이려는 시도입니다. 즉, 외국산 칩에 의존하지 않고 우리 기술로 만든 가볍고 효율적인 ‘AI 두뇌’를 데이터센터에 이식해 전력 부담과 발열 문제를 동시에 줄여 보겠다는 것입니다.

용어 사전

고대역폭 메모리(High Bandwidth Memory: HBM)

여러 층의 메모리 칩을 수직으로 쌓아 데이터 전송량을 크게 늘린 반도체입니다. AI 연산에서 GPU가 빠르게 처리한 데이터를 제때 공급하는 역할을 하며 AI 시대의 핵심 부품으로 꼽힙니다. 삼성전자와 SK하이닉스는 이 분야에서 세계 최고 수준의 기술을 보유하고 있습니다.

그래픽처리장치(Graphics Processing Unit: GPU)

본래 게임 그래픽 처리를 위해 개발된 반도체입니다. 그러나 같은 형태의 계산을 대량으로 동시에 처리하는 구조적 특성 덕분에 오늘날에는 AI 학습과 추론을 수행하는 핵심 연산 장치로 활용되고 있습니다.

신경망처리장치(Neural Processing Unit: NPU)

처음부터 인공신경망 연산을 효율적으로 처리하도록 설계된 AI 전용 반도체입니다. 같은 작업을 수행해도 GPU보다 더 적은 전력을 사용하며 발열도 낮아 차세대 AI 인프라의 핵심 기술로 주목받고 있습니다.

특수목적법인(Special Purpose Company: SPC)

특정 사업을 추진하기 위해 정부와 민간이 함께 설립하는 법인입니다. 대규모 자본이 필요하거나 사업 위험을 분담해야 하는 국가적 프로젝트에서 자주 활용됩니다.

추가경정예산(추경)

한 해 예산이 이미 확정된 뒤 긴급한 현안에 대응하기 위해 국회 의결을 거쳐 추가로 편성하는 예산을 말합니다. 2025년 봄 추경에는 첨단 GPU 13,000장을 선제적으로 확보하기 위한 예산도 포함되었습니다.