서울 영등포구에 위치한 NHN의 데이터센터 ‘팩토리X 서울’ 내부 모습 [사진 = NHN] 서울 도심 한복판인 당산역에서 15분 정도 걷자 홀로 우뚝 솟아있는 회색빛의 투박한 건물이 나타났다. 평범한 건물처럼 보이지만 이 곳은 한국의 국가대표 인공지능(AI) 모델을 개발하는 ‘독자 AI 파운데이션 모델’(독파모) 사업부터 크고 작은 국가의 AI 과제를 지원하는 핵심 AI 인프라다. 시설명은 ‘NHN 팩토리X 서울’. 정부 사업을 통해 조성된 AI 인프라이자 NHN클라우드가 운영을 맡아 지난 4월부터 가동을 시작했다. 지난 6일 찾은 NHN 팩토리X 서울에서는 엔비디아 그래픽처리장치(GPU) 4080장을 하나로 묶은 초대형 클러스터가 ‘웅웅’ 거리는 소리와 함께 돌아가고 있었다. NHN 팩토리X 서울은 AI 모델 학습과 추론에 특화된 AI 데이터센터다. 건물의 3층부터 6층까지 4개 층에 자리잡고 있으며, 각 층마다 엔비디아 B200 기반 GPU 서버 6대로 구성된 서버 랙이 질서 있게 정렬돼 있다. 랙 하나는 가정용 냉장고 한 대 정도의 크기지만, GPU를 포함해 하나의 랙을 구성하는 장비 비용은 약 60억원에 달한다. NHN 팩토리X 서울에 있는 GPU 서버 전면부 [사진 = NHN] GPU 기반 서버는 이제 국내 여러 데이터센터에서 흔히 볼 수 있는 풍경이지만 NHN 팩토리X 서울의 특징은 규모에 있다 모바일 바다이야기릴게임솔루션 . 4080장 규모 ‘NIPA-CL1’ 클러스터, 2040장 규모 ‘NIPA-CL2’ 클러스터를 포함해 이 데이터센터에 투입된 GPU는 7656장에 달한다. 글로벌 슈퍼컴퓨터 성능 평가 지표인 ‘톱 500’에서 각각 20위와 40위를 기록했다. NIPA-CL1은 국내 인프라 중에서는 최고 순위다. NHN클라우드가 집중한 것은 대규모 GPU를 하나로 연결해 동시에 활용하도록 하는 클러스터링과 안정적인 운영을 위한 냉각 인프라다. 수많은 GPU를 클러스터로 연결하면 대규모 AI 작업이 가능해지기 때문이다. NHN클라우드는 GPU를 연결하는 통신 네트워크 기술인 인피니밴드를 기반으로 클러스터를 구축했으며, 3층과 4층에 배치된 서버들이 하나로 묶여 ‘NIPA-CL1’ 클러스터로 동작한다. 5층의 서버는 ‘NIPA-CL2’ 클러스터로 구성된다. NHN 팩토리X 서울에 있는 GPU 서버 상부의 수랭 배관 장비 [사진 = NHN] 대규모 GPU 자원을 구동할 때 항상 언급되는 것이 발열 관리다. NHN은 GPU 집적 환경에 대응하기 위해 수랭식 냉각 방식을 적용했다. 냉각수가 서버 내부로 흘러 들어가 GPU와 CPU의 열을 흡수하는 방식이다. 야마토게임기 또한 공랭도 함께 작동해 인피니밴드 등 기타 장비의 발열을 관리한다. 이일준 NHN클라우드 기술사업부장은 “B200 서버는 공랭을 적용하면 14.3㎾ 전력을 사용하는데, 수랭을 적용하면 12.3㎾ 정도로 전력을 덜 사용한다”고 설명했다. 3층에서 5층에 있는 서버가 모두 정부의 AI 컴퓨팅 자원으로 활용된다면, 6층은 NHN이 자체 운영하는 인프라로 NHN클라우드의 AI 클라우드 사업에 쓰인다. 5년 간 NHN이 정부 인프라를 운영해주는 대신, NHN은 정부 자산의 약 20%를 자체 활용해 수익을 창출함으로써 운영비를 충당하는 구조다. 이일준 NHN클라우드 기술사업부장은 “해당 활용분은 이미 완판됐으며, 사용하려는 고객들이 줄 서 있는 상황”이라며 “AI 서버에 대한 높은 수요가 이어지고 있다”고 말했다. 이 AI 데이터센터의 이름에 들어간 ‘팩토리X’는 NHN클라우드가 올해 공개한 AI 풀스택 브랜드 명칭이기도 하다. GPU 확보부터 운영, AI 서비스 구동까지 풀스택으로 제공하는 솔루션으로, NHN클라우드는 ‘팩토리X 서울’ 운영 경험을 기반으로 AI 인프라 경쟁에서 주도권을 잡겠다는 포부다. 이 부장은 “대규모 GPU 자원을 구축하고 운영해 본 경험은 NHN이 제일 많을 것”이라며 “단순히 클라우드 사업 경쟁에서 이기기 위해 사업을 하는 것이 아닌, 고객 서비스를 안정적으로 운영하기 위해 가장 중요한 기준을 수립하고 지켜나가는 것이 NHN의 방향성”이라고 강조했다. 지 풀스택으로 제공