양자컴퓨팅 연구개발 및 양자보안, AI 인프라 운영 기업인 한국퀀텀컴퓨팅(이하 KQC, 대표 김준영)은 디지털엣지 부평 데이터센터에 엔비디아(NVIDIA) H200 GPU 기반의 초고성능 ‘AI GPU 팜(AI GPU Farm)’을 구축하고, 7월 4일부터 클라우드 기반 고성능 컴퓨팅서비스(이하 GPUaaS)를 시작한다고 밝혔다.

KQC는 LLM과 AI 코파일럿, 멀티모델 AI 등 새로운 응용 시장이 성장하고 보다 더 큰 메모리에 대한 니즈와 연산 수요가 폭증하고 있는 최근 시장에 발맞춰, 국내 기업과 기관들이 클라우드를 통해 유연하게 컴퓨팅 자원을 이용할 수 있도록 할 예정이다. 이제 고객들은 직접 운영체제를 설치하고 제어할 수 있는 물리서버(Dedicated Bare Metal) 환경에서 직접 GPU를 사용하는 것과 같은 높은 성능과 안정성을 누릴 수 있다.

KQC가 이번에 선보인 AI GPU 팜은 엔비디아의 최신 GPU 아키텍처 호퍼(Hopper) 기반으로 병렬 배치한 클러스터로 구성되었으며, GPT-4, Claude, Gemini 등 초거대 언어모델(이하 LLM), 생성형 AI(GenAI), 복잡한 시뮬레이션, 고성능 데이터 분석 등 연산 집약적인 워크로드에 최적화된 인프라이다. H200 GPU는 기존 H100 대비 메모리 용량과 속도가 대폭 향상되었으며, 내장된 Transformer Engine을 통해 LLM 훈련과 추론 효율을 극대화할 수 있다.

KQC 김준영 대표는 “KQC의 GPU 팜은 빅테크 기업, AI 스타트업, 복잡한 시뮬레이션 및 데이터 분석을 요하는 산업군, 국가 연구기관, HPC 센터 등에게 많은 수요가 있을 것이다”라면서 “안정적이고 합리적인 가격으로 AI 및 HPC에 최적화된 인프라를 제공함으로써 향후 양자컴퓨팅 인프라와 연계한 고도화된 서비스도 선보일 계획이다”라고 밝혔다.

KQC의 AI GPUaaS(서비스형 GPU) 서비스는 대규모 데이터셋 처리와 복잡한 AI 모델 학습을 가속화할 수 있으며, GPU 가상화 및 공유 기능을 통해 여러 사용자가 동시에 효율적으로 GPU 리소스를 활용할 수 있다. 또한, 엔비디아(NVIDIA) AI Enterprise 소프트웨어 스택이 포함되어 있어 최신 기술 환경에서의 개발과 운영을 원활히 지원한다.

뿐만 아니라, 사용자의 필요에 따라 컴퓨팅, 스토리지, 네트워크 리소스를 탄력적으로 조정할 수 있으며, 종량제 과금 방식을 통해 초기 투자 부담 없이 경제적으로 이용할 수 있다. 예측 분석 기능을 통해 예산 관리를 보다 효과적으로 수행할 수 있으며, 인프라 모니터링, 자동 배포, 업데이트 등 운영 효율성을 대폭 향상시킬 수 있다.

이번 서비스 런칭을 총괄한 KQC 김창회 전무는 “서비스 안정성이나 비용적 측면에서 매우 경쟁력 있는 서비스가 될 것이다.’라며 ‘시장의 니즈에 맞춰 다양한 시스템을 지속적으로 선보일 계획이다”라고 덧붙였다.

이번 서비스를 위해 KQC는 지난 6월 아이티센그룹과 GPUaaS 사업 협력을 MOU를 체결한 바 있다.

<GPU 팜(GPU Farm) 설명>

GPU 팜(GPU Farm)은 GPU가 탑재된 수십·수백 대의 서버 컴퓨터를 집적한 병렬 클러스터를 의미하며, 마치 GPU가 ‘농장’처럼 대량으로 모여 있다는 뜻에서 붙여진 이름이다. GPU는 과거에는 고사양 게임 그래픽 처리를 위한 장치였으나, 현재는 AI 딥러닝과 알고리즘 연산의 핵심으로, 데이터를 이미지처럼 병렬 처리하는 구조 덕분에 CPU보다 AI에 훨씬 유리하다.

한국퀀텀컴퓨팅(KQC), 하이엔드 고성능 AI 데이터센터 구축으로 ‘AI 시장 본격 진출’