웨카, 안드로메다와 파트너십 체결해 글로벌 규모의 AI 워크로드 지원

AI 데이터 및 메모리 인프라 기업인 웨카(WEKA)가 7월 30일, AI 팀과 고성능 컴퓨팅을 연결하는 플랫폼인 안드로메다(Andromeda)가 관리형 GPU 클러스터를 위한 핵심 AI 데이터 스토리지 계층으로 웨카 뉴럴메시(NeuralMesh) 플랫폼을 통합한다고 발표했다. 안드로메다의 고객들은 이제 전용 뉴럴메시 또는 GPU 네이티브 방식의 웨카 뉴럴메시 액손(NeuralMesh Axon) 배포를 통해, 하이퍼스케일러나 AI 클라우드 환경에 관계없이 모든 클러스터에서 일관된 스토리지 성능을 확보할 수 있게 됐다.

WEKA and Andromeda: powering AI teams building at the frontier

모든 환경에서 GPU에 데이터를 원활히 공급하다

안드로메다는 최첨단 기술을 개발하는 모든 팀이 고성능 컴퓨팅에 접근할 수 있도록 지원해, 하드웨어 접근성이 아닌 아이디어 자체로 혁신을 이끌어낼 수 있도록 돕는 것을 목표로 하고 있다. 이 회사는 주요 AI 연구소, 데이터 센터, 클라우드 제공업체들과 협력하며 전 세계 공급망 전반에서 학습 및 추론 작업을 배분한다. 안드로메다는 전 세계 50개가 넘는 컴퓨팅 제공업체와 협력하고 있으며, 계속 성장하는 관리형 클러스터의 글로벌 네트워크를 통해 학습 및 추론 워크로드를 라우팅하고 있다.

안드로메다 플랫폼상의 모든 클러스터는 어떤 사업자가 인프라를 운영하든 동일한 품질 기준을 충족해야 하며, 이 회사는 고객에게 제공되기 전 각 클러스터를 GPU, 스토리지, 네트워크 패브릭, 보안 측면에서 인증한다. 이 과정에서 공급업체마다 스토리지 환경이 달라 클러스터마다 성능 격차가 발생하는 까다로운 과제가 드러났다.

웨카와의 협력을 통해 안드로메다는 기존 하드웨어에서 상당한 성능 향상을 이뤄냈으며, 몇 분 만에 배포를 완료하고, 모든 제공업체에서 일관성을 확보하며, 스토리지 비용도 절감할 수 있게 됐다.

안드로메다의 윌 모셰이(Wil Moushey) 최고경영자는 다음과 같이 말했다. "우리의 목표는 컴퓨팅의 전 세계적 흐름을 실현하는 것이며, 이는 우리가 제공하는 모든 클러스터가 그 용량이 어디서 오든 반드시 제대로 작동해야 한다는 것을 의미한다. 웨카 뉴럴메시로 표준화함으로써 우리 고객들은 성능이 결정되는 스토리지 및 메모리 계층에서 하이퍼스케일러급 일관성과 오픈마켓의 유연성을 동시에 확보하게 됐다"고 말했다. 이어 "유휴 상태의 GPU는 AI 혁신의 속도를 저해하고 있다. 웨카는 우리가 관리하는 모든 GPU가 제 역할을 다하도록 돕고 있다"고 덧붙였다.

몇 분 만에 배포 완료되는 GPU 네이티브 AI 스토리지 및 메모리

한 연구소가 클러스터에 제공된 스토리지로 인해 워크로드에 병목현상을 겪고 있음을 발견했을 때, 안드로메다는 동일한 하드웨어에 뉴럴메시 액손을 배포해 추가 인프라 없이도 해당 연구소가 필요로 하는 성능을 확보했다.

뉴럴메시 액손은 뉴럴메시 소프트웨어 플랫폼의 GPU 네이티브 배포 방식이다. 이는 스토리지를 안드로메다의 GPU 서버에 직접 통합해, 각 클러스터가 보유한 기존 NVMe를 통합된 고성능 데이터 계층으로 전환함으로써 학습과 추론에 최고 속도로 데이터를 공급한다. 해당 인프라가 이미 랙에 설치돼 전력이 공급되고 비용이 지불된 상태이기 때문에, 이는 추가적인 공간이나 전력 소모, 비용 없이 성능만을 향상한다.

뉴럴메시 쿠버네티스 오퍼레이터(NeuralMesh Kubernetes Operator)를 활용해 안드로메다는 몇 분 만에 완전한 뉴럴메시 클러스터를 구축할 수 있으며, 스택의 다른 모든 계층을 운영하는 동일한 워크플로를 통해 전체 클러스터 네트워크를 관리할 수 있다. 안드로메다의 뉴럴메시 배포 가운데 약 절반은 뉴럴메시 액손 방식으로 운영되며, 나머지는 모든 GPU 코어와 모든 기가바이트의 메모리를 자신의 워크로드에 전용으로 할당해야 하는 고객들을 위한 전용 뉴럴메시 배포로 운영된다. 배포되는 위치에 관계없이, 뉴럴메시는 그 아래에 어떤 제공업체의 하드웨어가 있든 동일한 성능 기준을 제공한다. 이러한 신뢰성 덕분에 안드로메다는 이전에는 공유 스토리지가 없었던 클러스터에도 고객들을 온보딩할 수 있게 됐다.

안드로메다의 효과는 명확하다.

• 즉시 가동 가능: 신규 뉴럴메시 액손 클러스터는 최소 10분 만에 배포되므로, AI 팀은 클러스터가 가동되는 당일부터 워크로드를 실행할 수 있다.
• 신속한 반복 작업: 안드로메다가 관리하는 클러스터에서 작업하는 AI 팀들은 환경 시작 로딩 시간이 3분에서 30초로 줄어드는 것을 확인했으며, 이를 통해 하루에 더 많은 실험을 진행할 수 있게 됐다.
• 대규모 성능: 뉴럴메시 액손으로 운영되는 안드로메다 클러스터는 클러스터당 초당 400GB가 넘는 지속적인 처리량과 실제 운영 환경에서 초당 600만 IOPS가 넘는 성능을 달성하고 있다. 이러한 성능 덕분에 안드로메다의 한 바이오테크 고객사는 디렉터리당 10억 개 파일이 관여되는 메타데이터 집약적 전송 작업을 몇 시간이 아닌 몇 분 만에 완료할 수 있었다.
• 네이티브 복원력: 안드로메다 클러스터 전반에 걸쳐 장애가 확산될 위험이 있을 때, 뉴럴메시는 이를 차단해 클러스터의 가용성을 유지함으로써 모든 고객의 워크로드를 보호한다.

안드로메다의의 비쉬바지트 커(Vishvajit Kher) 리드 아키텍트는 "안드로메다의 첫 웨카 뉴럴메시 액손 배포는 베어메탈 상태에서 구축을 완료하는 데 단 10분밖에 걸리지 않았다. 이것이 우리의 청사진이 됐다"고 말했다. 이어 "클라우드 제공업체가 공유 스토리지를 제공하지 않더라도 더 이상 걸림돌이 되지 않는다. 웨카 뉴럴메시를 배포하기만 하면 확실한 성능이 보장된다. 이는 시중의 대안들보다 최대 90% 저렴한 완전한 기능을 갖춘 시스템으로, 우리가 규모를 확장할수록 누적되는 비용 절감 효과를 제공한다. 절감된 모든 비용은 우리가 서비스하는 AI 팀들에게 그대로 혜택으로 돌아간다"고 덧붙였다.

웨카의 리란 즈비벨(Liran Zvibel) 공동창업자 겸 최고경영자는 "안드로메다는 50개 이상의 서로 다른 제공업체에서 공급되는 컴퓨팅을 하나의 플랫폼처럼 느껴지도록 만드는 AI 인프라의 가장 어려운 과제 중 하나를 해결하고 있다"고 말했다. 이어 "웨카 뉴럴메시는 그러한 약속을 데이터 계층까지 확장해, 전 세계 어디서든 어떤 GPU 제공업체의 하드웨어에서도 몇 분 만에 배포되고 학습 및 추론 워크로드에 최고 속도로 데이터를 공급한다. 안드로메다에서 작업하는 팀들은 스토리지에 대한 고민을 완전히 건너뛰고 곧바로 혁신을 시작할 수 있다. 우리는 함께 AI 팀들이 아이디어에서 결과에 이르는 시간을 줄이고 있다"고 덧붙였다.

차세대 AI 인프라로의 확장

안드로메다는 전용 배포와 GPU 네이티브 배포를 모두 아우르며 자사의 글로벌 플랫폼 전반에 웨카 뉴럴메시를 배포하고 있다. 안드로메다가 글로벌 플랫폼을 확장하는 가운데, 이번 파트너십은 이미 차세대 AI 하드웨어로도 확대되고 있다.

안드로메다에서 워크로드를 운영하고자 하는 AI 팀은 andromeda.ai에서 시작할 수 있다.

다음 링크를 통해 웨카의 스토리지 및 메모리 솔루션에 대해 더 자세히 알아볼 수 있다.

• 웨카 뉴럴메시: https://www.weka.io/product/neuralmesh/
• 웨카 뉴럴메시 액손: https://www.weka.io/product/neuralmesh-axon/