하이브리드 멀티 클라우드 컴퓨팅의 선도 기업 뉴타닉스는 오늘 뉴타닉스 엔터프라이즈 AI(Nutanix Enterprise AI, 이하 NAI) 솔루션의 최신 버전을 정식 출시했다고 발표했다. 이번 버전은 엔비디아 NIM(NVIDIA NIM) 마이크로서비스와 엔비디아 니모 프레임워크(NVIDIA NeMo Framework)를 포함한 엔비디아 AI 엔터프라이즈와의 통합을 더욱 강화해 기업 내 에이전틱 AI 애플리케이션 배포를 가속화한다.

NAI는 고객이 엣지, 데이터센터와 퍼블릭 클라우드에서 모델 및 추론 서비스를 구축, 실행 및 안전하게 관리하는 방법을 간소화해 엔터프라이즈에서 생성형 AI의 도입을 가속화하도록 설계되었으며, 모든 클라우드 네이티브 컴퓨팅 재단(Cloud Native Computing Foundation, CNCF) 인증 쿠버네티스 환경에서 사용할 수 있다.

최신 NAI 출시는 에이전틱 워크플로우를 단순화하는 공유 모델 서비스 방법론을 확장해 배포 및 2일 차 운영 간소화를 지원한다. 이를 통해 에이전트를 위한 임베딩, 리랭킹(reranking) 및 가드레일 기능 모델 등의 안전한 공용 세트를 통해 여러 비즈니스 라인에 걸쳐 다양한 애플리케이션을 배포하는 데 필요한 리소스와 모델을 간소화한다. 이는 생성형 AI 애플리케이션과 에이전트를 간단하고 비공개로 연결할 수 있는 보안 엔드포인트를 생성하는 중앙 집중식 LLM 모델 저장소(repository)를 포함하는 NAI 코어를 기반으로 구축된다.

토마스 코넬리(Thomas Cornely) 뉴타닉스 제품 관리 부문 수석 부사장은 "뉴타닉스는 고객이 생성형 AI 시장의 빠른 혁신 속도를 따라갈 수 있도록 지원하고 있다"며 "엔터프라이즈 고객이 어디서나 AI 에이전트를 안전하고 효율적으로 구축, 실행 및 관리할 수 있도록 신규 엔비디아 NIM 및 니모 마이크로서비스를 통합하도록 뉴타닉스 엔터프라이즈 AI를 확장했다”고 말했다.

저스틴 보이타노(Justin Boitano) 엔비디아 엔터프라이즈 AI 소프트웨어 제품 부문 부사장은 "기업은 운영 전반에 걸쳐 에이전틱 AI 개발 및 배포를 간소화할 수 있는 정교한 툴이 필요하다"며 "엔비디아 NIM 마이크로서비스와 엔비디아 니모를 포함한 엔비디아 AI 엔터프라이즈 소프트웨어를 뉴타닉스 엔터프라이즈 AI에 통합함으로써 강력하고 안전한 AI 에이전트를 구축하고 실행하기 위한 간소화된 기반을 제공한다"고 말했다.

에이전틱 애플리케이션을 위한 NAI는 고객에게 다음과 같은 기능을 제공한다.

l 공유 LLM 엔드포인트로 에이전틱 AI 애플리케이션 배포: 고객은 기존에 배포된 모델 엔드포인트를 여러 애플리케이션을 위한 공유 서비스로 재사용할 수 있다. 이러한 모델 엔드포인트의 재사용은 GPU, CPU, 메모리, 파일 및 오브젝트 스토리지, 쿠버네티스 클러스터를 포함한 중요한 인프라 구성 요소의 사용을 줄이는 데 도움이 된다.

l 광범위한 LLM 엔드포인트 활용: NAI는 엔비디아 라마 네모트론(NVIDIA Llama Nemotron) 개방형 추론 모델, 엔비디아 니모 리트리버(NVIDIA NeMo Retriever) 및 니모 가드레일(NeMo Guardrails)을 포함한 다양한 에이전틱 모델 서비스를 지원한다. NAI 사용자는 엔비디아 모델과 AI 마이크로서비스를 활용하는 자체 AI 애플리케이션 개발을 가속화하기 위해 사전 정의되고 맞춤화 가능한 워크플로우인 엔비디아 AI 블루프린트(NVIDIA AI Blueprint)를 활용할 수 있다. 또한 NAI는 AI 에이전틱 애플리케이션이 더 정확하고 상세한 결과를 제공하는 데 도움이 되는 외부 데이터 소스의 구성 및 소비를 위한 함수 호출을 지원한다.

l 생성형 AI 안전성 지원: 해당 신규 NAI 출시는 고객이 가드레일 모델을 사용해 조직의 정책에 부합하는 방식으로 에이전트 애플리케이션을 구현할 수 있도록 지원한다. 이러한 모델은 초기 사용자 쿼리와 LLM 응답을 필터링해 편향되거나 유해한 출력을 방지하고 주제 제어 및 탈옥 시도 감지를 유지할 수 있다. 예를 들어, 엔비디아 니모 가드레일은 콘텐츠 필터링을 제공하여 원치 않는 콘텐츠 및 기타 민감한 주제를 필터링하는 LLM이다. 이는 코드 생성에도 적용되어 모델 전반에 걸쳐 향상된 신뢰성과 일관성을 제공한다.

l 엔비디아 AI 데이터 플랫폼으로 데이터 인사이트 확보: 뉴타닉스 클라우드 플랫폼 솔루션은 엔비디아 AI 데이터 플랫폼 레퍼런스 설계를 기반으로 구축되며 AI를 위한 비정형 및 정형 데이터를 위해 뉴타닉스 통합 스토리지(Nutanix Unified Storage)와 뉴타닉스 데이터베이스 서비스(Nutanix Database Service) 솔루션을 통합한다. 뉴타닉스 클라우드 인프라 플랫폼은 데이터를 실행 가능한 인텔리전스로 전환하기 위한 엔비디아의 가속화된 컴퓨팅, 네트워킹 및 AI 소프트웨어를 위한 프라이빗 기반을 제공한다. 엔비디아 인증 엔터프라이즈 스토리지 솔루션인 뉴타닉스 통합 스토리지는 엔비디아 GPU다이렉트 스토리지(NVIDIA GPUDirect Storage)와 같은 기능을 통해 엔터프라이즈 AI 워크로드를 위한 소프트웨어 정의 엔터프라이즈 스토리지를 제공함으로써 엄격한 성능 및 확장성 표준을 충족한다.

NAI는 추가적인 뉴타닉스 플랫폼 서비스를 사용하도록 설계되었으며 HCI, 베어메탈 및 클라우드 IaaS에 유연하게 배포할 수 있다. 또한 NAI 고객은 컨테이너화된 클라우드 네이티브 애플리케이션의 멀티클라우드 플릿(fleet) 관리를 위해 뉴타닉스 쿠버네티스 플랫폼(Nutanix Kubernetes Platform) 솔루션과 개별 데이터 서비스인 뉴타닉스 통합 스토리지 및 뉴타닉스 데이터베이스 서비스를 활용해 에이전틱 AI 애플리케이션을 위한 완전한 플랫폼을 사용할 수 있다.

스콧 싱클레어(Scott Sinclair) ESG그룹 실무 디렉터는 "고객은 제어 기능을 유지하면서도 생성형 AI의 잠재력을 최대한 활용할 수 있으며 이는 기업이 에이전트 기능으로 확장함에 따라 특히 중요하다"며 "엔비디아와의 이번 확장된 파트너십을 통해 기업은 복잡한 워크플로우 관리 위험을 최소화하면서 API를 위한 안전한 엔드포인트 생성을 통해 배포를 보호하는 에이전틱 AI에 최적화된 솔루션을 이용할 수 있게 됐다. AI 이니셔티브는 전략적 이점을 제공하기 위해 활용되지만 최적화된 인프라 제어와 보안 없이는 이러한 이점을 얻을 수 없다”고 말했다.

최신 NAI 버전과 신규 엔비디아 기능을 시작하는 방법에 대한 자세한 내용은 뉴타닉스 공식 블로그(블로그 url 추가 예정)에서 확인할 수 있다.

에이전틱 모델 지원을 갖춘 NAI는 현재 정식 출시됐다.

뉴타닉스, ”어디서나 에이전틱 AI 구현 지원”하는 ‘뉴타닉스 엔터프라이즈 AI’ 최신 버전 출시