글로벌 오픈소스 솔루션 선도기업 레드햇(Red Hat)이 엔비디아(NVIDIA)와 공동 개발한 소프트웨어 플랫폼 ‘레드햇 AI 팩토리 위드 엔비디아(Red Hat AI Factory with NVIDIA)’를 공개한다고 오늘 발표했다. 이 플랫폼은 레드햇 AI 엔터프라이즈(Red Hat AI Enterprise)와 엔비디아 AI 엔터프라이즈(NVIDIA AI Enterprise)를 결합한 엔드투엔드 AI 솔루션으로 대규모 AI 도입을 추진하는 기업 환경에 최적화되어 있다. 이는 양사의 긴밀한 협업을 기반으로 한 최신 성과로 기업 고객에게 최신 AI 혁신 기술을 신속히 제공하는 동시에 엔비디아 하드웨어 아키텍처에 대한 0일 차(Day 0) 지원을 제공한다.

IDC에 따르면 에이전틱 AI 애플리케이션의 확산으로 인해 2029년까지 엔터프라이즈 AI 지출이 1조 달러를 넘어설 것으로 전망된다. 이에 기업은 전략을 고밀도 에이전틱 워크플로우로 전환하고 있으며, 이에 따른 AI 추론과 인프라 수요 증가에 대응해야 하는 상황이다. 이러한 변화에 발맞춰 레드햇 AI 팩토리 위드 엔비디아는 IT 운영팀이 기존 인프라 관리뿐만 아니라 진화하는 AI 스택의 요구사항을 효율적으로 관리할 수 있도록 지원한다.

레드햇 AI 팩토리 위드 엔비디아는 프로덕션 AI의 도입을 가속화하고 추론 스택을 구동하는 모델과 엔비디아 GPU의 성능을 극대화하는 가속 컴퓨팅 인프라 기반의 AI 팩토리용 소프트웨어 플랫폼을 제공한다. 이 플랫폼은 시스코(Cisco), 델 테크놀로지스(Dell Technologies), 레노버(Lenovo), 슈퍼마이크로(Supermicro) 등 주요 시스템 제조업체의 AI 팩토리 인프라에서 지원된다. 이를 통해 IT 관리자와 운영팀은 일반적인 기업 워크로드와 동일한 수준의 운영 엄격성과 예측 가능성을 바탕으로 AI 배포 환경을 확장하고 유지할 수 있다.

이 공동 개발 소프트웨어 플랫폼은 레드햇과 엔비디아의 오픈소스 협업 역량과 엔지니어링·기술 지원 전문성을 통합해 신뢰할 수 있는 엔터프라이즈급 솔루션을 제공하며 온프레미스, 클라우드, 엣지 등 어떤 환경에서도 AI를 배포할 수 있도록 고확장성 기반을 갖췄다. 레드햇 AI 팩토리 위드 엔비디아는 보안을 중점으로 고성능 AI 추론을 비롯해 모델 튜닝과 커스터마이징, 에이전트 배포 및 관리에 필요한 핵심 기능을 포함한다. 이를 통해 기업은 데이터센터부터 퍼블릭 클라우드까지 아키텍처 통제력을 유지하며, 다음과 같은 이점을 제공한다.

l 가치 실현 시간 단축: 간소화된 워크플로우와 사전 구성된 모델에 대한 즉각적인 접근을 통해 프로덕션 AI로 빠르게 전환할 수 있다. 여기에는 면책 조항이 적용된 IBM 그래니트(IBM Granite) 제품군, 엔비디아 네모트론(NVIDIA Nemotron), 엔비디아 코스모스(NVIDIA Cosmos) 오픈 모델이 포함되며, 이는 엔비디아 NIM 마이크로서비스(NVIDIA NIM microservices) 형태로 제공된다. 또한 엔비디아 네모(NVIDIA NeMo)를 활용해 기업 데이터에 맞게 모델을 맞춤화하여 튜닝 시간과 비용을 절감할 수 있다.

l 성능과 비용 최적화: 통합된 고성능 서빙 스택을 통해 인프라 활용도를 극대화하고 추론 성능을 향상한다. 레드햇 AI 팩토리 위드 엔비디아는 내장형 관측 기능을 제공하며, vLLM 기반 레드햇 AI 추론 기능과 엔비디아 텐서RT-LLM(NVIDIA TensorRT-LLM), 엔비디아 다이나모(NVIDIA Dynamo)를 활용해 엄격한 AI 서비스 수준 목표(SLO)를 충족한다. 이를 통해 기업은 모델과 엔비디아 GPU 간 연결을 최적화하여 AI 총소유비용(TCO)을 절감할 수 있다.

l 지능형 GPU 오케스트레이션: 지능형 오케스트레이션과 풀링된 인프라를 통해 GPU 리소스에 대한 온디맨드 접근을 지원한다. 또한 자동 체크포인팅(automatic checkpointing) 기능을 통해 장시간 실행되는 작업을 보호하고, 동적 환경에서도 예측 가능한 컴퓨팅 비용을 유지한다.

l 엔터프라이즈 보안 강화: 레드햇 엔터프라이즈 리눅스(Red Hat Enterprise Linux)의 유연하고 안정적인 기반을 활용해 기업은 초기 단계부터 내장된 고급 보안과 컴플라이언스 기능을 통해 리스크를 낮추고 시간을 절약하며 운영 중단 시간을 최소화할 수 있다. 이는 격리와 지속적인 검증이 필요한 미션 크리티컬 AI 워크로드를 위한 강화된 보안 기반을 제공한다. 이 기반 위에서 엔비디아 도카(NVIDIA DOCA) 마이크로서비스는 제로 트러스트(zero-trust) 아키텍처를 구현하고 인프라 전반에 걸쳐 AI 런타임 보안을 지원한다.

인용구

크리스 라이트(Chris Wright) 레드햇 글로벌 엔지니어링 부문 수석 부사장 겸 최고기술책임자

"AI 실험 단계에서 산업적 규모의 전사적 프로덕션 단계로 전환하려면 AI 컴퓨팅 스택 관리 방식의 근본적인 변화가 필요하다"며, "레드햇은 레드햇 AI 팩토리 위드 엔비디아를 통해 조직의 AI 배포와 신속한 프로덕션 전환을 가속화하고 있다. 검증된 하이브리드 클라우드 솔루션으로 구축된 안정적이고 고성능의 기반 위에서 고객이 핵심 IT 플랫폼과 동일한 수준의 운영 엄격성을 적용해 AI 전략을 주도하고 확장할 수 있도록 지원한다"라고 말했다.

저스틴 보이타노(Justin Boitano) 엔비디아 엔터프라이즈 AI 플랫폼 부문 부사장

“기업들은 추론 과정에서 데이터를 대규모 인텔리전스로 전환하는 AI 팩토리를 구축하고 있으며, 이를 위해 하이브리드 클라우드 전반을 아우르는 프로덕션급 인프라와 소프트웨어가 필요하다. 레드햇 AI 팩토리 위드 엔비디아는 기업이 급변하는 인프라 혁신에 발맞추면서 차세대 에이전틱 AI 애플리케이션을 안정적으로 구축하고 배포할 수 있도록 지원하는 소프트웨어 기반을 제공한다”라고 말했다.

제레미 포스터(Jeremy Foster) 시스코 컴퓨트(Cisco Compute) 수석 부사장 겸 총괄 매니저

“시스코는 고객이 AI를 실험 단계에 머무르지 않고 대규모로 안전하게 확장해 하이브리드 및 멀티 클라우드 환경 전반의 프로덕션 환경으로 전환할 수 있도록 지원하는 데 주력하고 있다. 레드햇 AI 엔터프라이즈와 레드햇 AI 팩토리 위드 엔비디아를 지원함으로써 고객이 데이터센터부터 엣지까지 일관된 엔터프라이즈급 인프라 기반 위에서 AI를 배포하고 운영할 수 있도록 한다. 양사는 고객이 핵심 인프라에서 기대하는 성능, 보안, 운영 통제 수준을 갖춘 미션 크리티컬 워크로드로서 AI를 보다 단순하고 안정적으로 운영할 수 있도록 지원한다”라고 말했다.

이합 타라지(Ihab Tarazi) 델 테크놀로지 프라스트럭처 솔루션 그룹 부문 수석 부사장 겸 최고기술책임자

“기업들은 AI 투자를 빠르게 운영 단계로 전환하고 있지만, 이를 위해서는 하이브리드 환경 전반에서 안정적으로 구동될 수 있는 견고하고 통합된 인프라가 필요하다. 레드햇과 엔비디아와 함께 고객에게 새로운 차원의 통합 환경을 제공하고 엔터프라이즈 AI 성과를 더욱 가속화할 것이다”라고 말했다.

블라드 로자노비치(Vlad Rozanovich) 레노버 인프라 솔루션 그룹 수석 부사장

"차세대 엔터프라이즈 AI는 실시간 실행력과 실질적인 비즈니스 성과 창출에 초점을 맞추고 있으며, 이를 위해서는 산업 수준의 하이브리드 기반이 필요하다. 레노버의 추론 최적화 인프라와 레드햇 AI 엔터프라이즈, 레드햇 AI 팩토리 위드 엔비디아를 결합해 어디서든 배포와 관리가 가능한 확장형 엔터프라이즈 플랫폼을 제공함으로써 고객이 에이전틱 AI 시대에 필요한 회복력 있는 기반을 확보하도록 지원한다”라고 말했다.

빅 말얄라(Vik Malyala) 슈퍼마이크로 EMEA 사장 겸 총괄이사, 기술 및 AI 부문 수석 부사장

“슈퍼마이크로는 레드햇 인증 시스템을 광범위하게 보유하고 있으며, AI 팩토리를 위한 최첨단 가속 컴퓨팅 인프라를 제공하는 데 주력하고 있다. 레드햇 AI 팩토리 위드 엔비디아를 위한 슈퍼마이크로의 검증된 솔루션은 고객이 고성능 목적 특화 시스템과 견고한 엔터프라이즈급 소프트웨어 플랫폼을 결합할 수 있도록 지원한다. 이를 통해 미션 크리티컬 AI 워크로드의 배포와 확장이 간소화되어, 하이브리드 클라우드 전반에서 보다 빠른 가치 실현과 예측 가능하면서도 효율적인 운영을 지원한다”라고 말했다.

프란시스코 크리아도(Francisco Criado) TD 시넥스(TD SYNNEX) 클라우드, 보안 및 AI 부문 수석 부사장

“엔드투엔드 유통 분야의 선도 기업이자 레드햇과 엔비디아의 오랜 파트너로서 TD 시넥스는 레드햇 AI 팩토리 위드 엔비디아를 TD 시넥스 데스티네이션 AI(TD SYNNEX Destination AI) 프로그램의 보완적 요소로 채널 파트너와 고객에게 제공하게 되어 기쁘다. 이 최적화된 엔터프라이즈급 솔루션은 AI 구축과 배포의 복잡성을 줄이고, 기업이 하이브리드 클라우드 환경 전반에서 AI 투자를 운영 성과로 연결하도록 지원한다”라고 말했다.

닐 앤더슨(Neil Anderson) WWT 글로벌 서비스&어드밴스드 솔루션 부문 클라우드 및 인프라 솔루션 부사장

"WWT는 기업이 AI 실험을 넘어 IT 환경 전반에서 프로덕션 배포를 성공적으로 확장할 수 있도록 지원하는 데 전념하고 있다. 레드햇 AI 팩토리 위드 엔비디아는 검증된 플랫폼을 통해 배포를 간소화하고 가치 실현 시간을 단축하며 고객에서 운영 일관성을 제공한다”라고 말했다.

가용성

레드햇 AI 팩토리 위드 엔비디아는 지금 바로 이용할 수 있다.

레드햇, ‘레드햇 AI 팩토리 위드 엔비디아’ 공개… 확장 가능한 프로덕션 AI 구현 가속화