작년 개소한 광주 AI 특화 데이터센터
亞 최초 ‘엔비디아 H100’ 대규모 도입
“AI DC 중심으로 인프라 시장 이끌 것”

김동훈 NHN클라우드 대표가 21일 광주 김대중컨벤션센터에서 열린 기자간담회에서 발언하고 있다. 사진=채승혁 기자
김동훈 NHN클라우드 대표가 21일 광주 김대중컨벤션센터에서 열린 기자간담회에서 발언하고 있다. 사진=채승혁 기자

“NHN클라우드가 뭘 하고 싶냐고 물어보신다면, ‘누구나 쉽게 인공지능(AI) 서비스를 개발할 수 있는 환경을 제공하는 것’이 최종 목표라고 답하겠습니다.”

21일 광주광역시에서 만난 김동훈 NHN클라우드 대표는 ‘NHN클라우드 2.0 전략’을 공개하며 이같이 말했다. 목소리에선 자신감이 넘쳤다. 그의 입에서 수차례 오르내린 ‘유일’과 ‘선도’라는 단어는 지난 2년간 NHN클라우드가 수확한 성과이자 자신감의 원천이기도 했다.

NHN클라우드의 ‘넥스트 스텝’은 딥러닝 중심의 기존 AI 시장이 생성형 AI의 등장으로 새 국면을 맞이하며 비롯됐다. 기존에 구축해 온 ‘버티컬 서비스 역량’과 오픈스택 기반의 ‘클라우드 네이티브’에 AI 데이터센터 중심 초고성능 인프라 서비스를 융합하는 것이 바로 2.0 전략의 핵심이다.

궁극적으로는 누구나 AI 서비스를 개발 및 활용할 수 있도록 총체적인 환경을 제공하는 ‘풀스택 AI 클라우드 서비스 사업자(CSP)’로 거듭나겠다는 포부다. 이를 위해 NHN클라우드는 국내 최대 수준의 ‘멀티 AI GPU(그래픽처리장치) 팜’을 무기로 앞세웠다.

NHN클라우드는 전국 데이터센터에 엔비디아 기반 77.3 페타플롭스(이하 PF), 그래프코어 기반 11.2PF, 사피온 기반 11PF까지 총 99.5PF에 달하는 AI GPU 팜을 구축하며 AI 인프라 기반을 마련했다. 작년 10월 개소한 광주 ‘국가 AI 데이터센터’는 개중에서도 핵심 거점으로 꼽힌다.

광주 AI 데이터센터 내 전산실의 모습. 사진=NHN
광주 AI 데이터센터 내 전산실의 모습. 사진=NHN

‘국가 AI 데이터센터’는 NHN클라우드가 과학기술정보통신부와 광주광역시가 추진하는 ‘인공지능 중심 산업융합 집적단지 조성 사업’ 클라우드 인프라 구축 및 운영 사업자로서 광주광역시 첨단3지구 인공지능중심산업융합집적단지 내 구축한 민관협력 데이터센터다. 

작년 11월부터 정식 운영을 시작해 현재 470여개 기업·기관이 이용하고 있다. ▲기업 ▲연구기관 ▲대학 등에 AI 연구개발을 지원할 수 있는 총 연산 능력은 88.5PF에 달하며 저장 용량은 107페타바이트(PB)에 육박한다. 아시아 최초로 ‘엔비디아 H100’을 대거 도입하면서 많은 이목을 끌기도 했다.

AI 데이터센터의 중심은 GPU다. 그러나 기존 서버(x86) 대비 GPU 서버의 소비 전력 및 요구 풍량이 30~50배에 달하는 만큼, 일반적인 방식으론 설계가 불가능했다는 설명이다. 고밀도전력·효율적 소비 전력 설비를 구축하기 위해 10년 이상 자사 데이터센터를 운영하며 쌓은 NHN클라우드의 경험과 역량이 총동원됐다.

초고성능 GPU의 무중단 운영을 위해서 전력 공급 최적화 기술을 적용해 전력 효율을 극대화했다. 서버 랙(Rack, 시스템 구성 장비를 보관하는 틀)당 전력밀도 15킬로와트(kw)를 도입해 AI 특화 데이터센터로서 GPU 서버가 안정적으로 동작할 수 있도록 구성했는데, 이는 한국데이터센터에너지효율협회가 발표한 국내 데이터센터 평균 전력밀도의 3배 수준이다.

높은 발열을 잡아낼 방법도 핵심 과제였다. 그렇다 보니 내부 건축 단계에선 운영 편의성보다는 열기를 식힐 수 있는 공조 효율이 최우선적으로 고려됐다. 7.5m에 달하는 전산실의 높은 층고가 대표적이다. 전산실 양측면에는 찬 공기를 동시 공급하는 월 타입 쿨링 유닛이 설치돼있었다.

NHN클라우드는 열을 식히기 위해 프리쿨링(사전 냉각) 방식을 택했다. 건물 옥상에 설치된 공랭식 프리쿨링 냉동기는 외기 온도가 영상 5도 이하일 때 100% 프리쿨링으로 가동돼 일반 쿨링 장비 대비 20% 에너지가 절감된다. 외기를 직접적으로 끌어다 쓰는 방안도 고려됐지만, 고가의 GPU 장비에 도입하기에는 리스크가 컸다.

윤용수 데이터센터엔지니어링실 기술리더(이사)는 “작은 선풍기를 강으로 계속 돌리는 것과 더 큰 사이즈를 천천히 돌리는 것이 풍량은 같다. 그런 개념으로 접근해 GPU가 풀로 가동되더라도 가장 좋은 효율 곡선에서 움직일 것”이라고 부연했다. 

광주 AI 데이터센터 전경. 사진=NHN
광주 AI 데이터센터 전경. 사진=NHN

AI 특화 데이터센터를 구축한 NHN클라우드는 강력한 인프라 역량과 AI 플랫폼 ‘AI 이지메이커’ 등 서비스 역량을 결합해 ‘AX(AI 전환) 패러다임’을 이끌겠다는 포부를 밝혔다.

이를 위해 네이버클라우드·솔트룩스 등 국내외 AI 얼라이언스들과의 협력 관계도 한층 강화한다. 행사 현장에 참석한 정현용 지코어 지사장은 “클라우드 시장의 경쟁이 매우 치열한 상황에서 경험 많고 전략적인 파트너가 필요하다고 생각했다”며 “오픈스택 기술력 융합에 이어 AI 인프라 사업에서도 NHN클라우드와 긴밀하게 협업할 것”이라고 말했다.

김동훈 NHN클라우드 대표는 “비록 오픈AI가 선도하긴 했지만 하나의 기업만이 생성형 AI 시대에서 살아남을 것이라곤 생각하지 않는다”라면서 “버티컬(특화형)하게 강점을 가진 다양한 기업들이 존재할 것이고, 이는 혼자만 할 수 있는 게 아니라 다양한 CSP랑 연계돼야만 가능한 부분”이라고 강조했다. 

“(풀스택 AI CSP로서의) 전 역량을 갖춘 기업은 국내에서 저희가 유일하다”라고 자부한 김 대표는 “앞으로 GPU 기반의 AI 가속기 시장을 선도하는 기업으로 성장하겠다는 것이 저희의 전략이자 목표”라고 힘줘 말했다.

파이낸셜투데이 채승혁 기자

저작권자 © 파이낸셜투데이 무단전재 및 재배포 금지