GPU 품귀 현상에 광주AI데이터센터 뜬다 아시아 최초 엔비디아 ‘H100’ 탑재된 서버 갖춰 AI기업·공공기관·대학 등 742건 과제 무상 지원 박선강 기자

2024년 05월 12일(일) 20:14

광주 국가 인공지능(AI) 데이터센터가 최근 그래픽처리장치(GPU) 품귀 현상으로 어려움을 겪고 있는 인공지능 기업과 기관의 단비가 되고 있다.

특히 AI 제품 개발에 최적화된 것으로 알려진 엔비디아의 그래픽처리장치(GPU) ‘H100’이 탑재된 서버를 갖춘 국가 AI 데이터센터에 수요가 몰리면서 ‘AI 중심도시 광주’의 존재감이 부각되고 있다.

12일 광주시에 따르면 북구 첨단3지구에 건립된 국가 AI 데이터센터는 지난해 11월15일 서비스를 시작했다.

국가 AI 데이터센터는 총 연산량 88.5페타플롭스(PF)와 저장 용량 107페타바이트(PB) 규모로 구축됐다. 센터는 현재 국내 AI기업, 공공기관, 대학 등 총 742건의 과제를 무상 지원하고 있다.

국가 AI 데이터센터는 고성능 AI 가속기를 통해 짧은 시간 내 방대한 데이터의 딥러닝 학습과 데이터 분석·활용을 지원하는 등 AI 연구 개발에 최적화된 기반시설을 제공한다.

특히 전체 가속기의 3분의2를 엔비디아의 최신 그래픽처리장치(GPU)인 ‘H100’으로 구성했다. H100을 이용해 서비스를 제공하는 것은 아시아 최초다.

생성형 AI가 등장하며 그래픽처리장치(GPU) 기반시설(인프라)을 이용하려는 수요가 폭발적으로 늘고 있다. AI 모델 개발을 위한 학습과 추론에 필수적인 컴퓨팅 자원을 지원받기 위한 경쟁률은 2대1 수준이다.

광주시는 국내 AI 산업 수요와 성장 속도에 비춰 볼 때 앞으로 컴퓨팅 자원을 할당받기 위한 경쟁률은 지속 상승할 것으로 내다봤다. 최근 전 세계적으로 AI 관련 기업들의 수요가 폭증하고 있는 데 반해, 기업과 연구기관들은 그래픽처리장치(GPU) 자원 수급에 어려움을 겪고 있기 때문이다.

국가 AI 데이터센터는 오는 7월부터 대형 AI 모델과 생성형 인공지능 개발 등을 본격 지원하기 위해 ‘H100’으로만 구성된 20페타플롭스(PF) 규모의 초고성능 컴퓨팅 지원(HPC) 서비스를 갖춰 초거대 AI 맞춤형 대형 과제도 지원할 예정이다.

광주시는 과학기술정보통신부와 함께 2021년부터 AI 기업들에게 컴퓨팅 자원을 지원하고 있다. 지금까지 약 1천500여건의 과제를 지원하며 성과를 지속 창출하고 있다.

김용승 인공지능산업실장은 “최근 AI 기업들이 GPU 수급에 어려움을 겪고 있는 상황”이라며 “혁신적인 아이디어를 갖고 있는 AI 기업들이 광주에 찾아온다면 최신의 GPU를 적시에 제공할 수 있도록 최선을 다해 지원하겠다”고 말했다./박선강 기자