레드햇, AWS와 협업 확대 발표…AWS 전반 걸쳐 향상된 AI 추론 제공

글로벌 오픈소스 솔루션 선도기업 레드햇은 AWS 상에서 레드햇 AI와 AWS AI 실리콘을 통해 엔터프라이즈급 생성형 AI를 지원하기 위해 오늘 아마존웹서비스(Amazon Web Services, AWS)와의 협업을 확대한다고 발표했다. 이번 협업을 통해 레드햇은 IT 의사결정자들이 기반 하드웨어와 관계없이 고성능·고효율 AI 추론을 대규모로 실행할 수 있도록 유연성을 제공하는 데 집중한다.

생성형 AI의 부상과 이에 따른 확장 가능한 AI 추론의 필요성은 기업으로 하여금 IT 인프라를 재검토하도록 촉구하고 있다. 이에 따라 IDC는 “2027년까지 조직의 40%가 성능 최적화, 비용 효율성, 특수 컴퓨팅에 대한 증가하는 요구를 충족하기 위해 ARM 프로세서 또는 AI/ML 전용 칩을 포함한 맞춤형 실리콘을 사용할 것”이라고 전망[1]했다. 이는 고성능 AI 애플리케이션을 위해 처리 성능을 향상시키고 비용을 최소화하며 더 빠른 혁신 주기를 가능하게 하는 최적화된 솔루션의 필요성을 강조한다.

레드햇과 AWS의 협업은 레드햇의 포괄적인 플랫폼 역량과 AWS 클라우드 인프라, 그리고 AI 칩셋인 ‘AWS 인퍼런시아2(AWS Inferentia2)’와 ‘AWS 트레이니움3(AWS Trainium3)’을 결합함으로써 조직이 전방위적인(full-stack) 생성형 AI 전략을 구현할 수 있도록 지원한다. 이번 협업의 주요 내용은 다음과 같다.

• AWS AI 칩 기반 레드햇 AI 인퍼런스 서버: vLLM 기반의 ‘레드햇 AI 인퍼런스 서버(Red Hat AI Inference Server)’는 AWS 인퍼런시아2 및 AWS 트레이니움3를 포함한 AWS AI 칩과 함께 실행될 수 있게 되며, 모든 세대의 생성형 AI 모델을 지원할 수 있는 공통 추론 레이어를 제공한다. 이를 통해 고객은 프로덕션 환경의 AI 배포를 확장함에 있어 더 높은 성능, 더 낮은 지연 시간, 비용 효율성을 달성할 수 있다. 특히 기존 GPU 기반 아마존 EC2(Amazon EC2) 인스턴스 대비 최대 30~40% 향상된 가격 대비 성능을 제공한다.

• 레드햇 오픈시프트 상에서의 AI 지원: 양사는 AWS 상에서 제공되는 포괄적인 완전 관리형 애플리케이션 플랫폼인 ‘AWS 레드햇 오픈시프트 서비스(Red Hat OpenShift Service on AWS)’와 ‘레드햇 오픈시프트(Red Hat OpenShift)’, ‘레드햇 오프시프트 AI(Red Hat OpenShift AI)’를 위한 ‘AWS 뉴런(AWS Neuron)’ 오퍼레이터를 개발했다. 이를 통해 고객은 AWS 가속기를 활용해 AI 워크로드를 더욱 원활하고 지원되는 방식으로 실행할 수 있는 경로를 제공받게 된다.