엔비디아, 차세대 AI 칩 공개…"H100보다 2배 빨라"

엔비디아가 딥러닝 및 대규모 언어모델(LLM) 분야에 중요한 역할을 할 새로운 인공지능(AI) 칩, H200을 출시

1. 새로운 칩 H200: 이 칩은 이전 모델인 H100 GPU의 업그레이드 버전.
   

2. 고성능 메모리 탑재: H200에는 141기가바이트(GB)의 차세대 메모리 'HBM3'가 탑재. HBM은 여러 개의 D램을 수직으로 연결하여 데이터 처리 속도를 향상시키는 고성능 메모리.
   

3. 향상된 AI 성능: AI 모델을 사용한 텍스트와 이미지 생성, 추론 능력이 향상. H200은 초당 4.8테라바이트 속도로 141GB의 메모리를 제공
   .

4. H100 대비 2배 빠른 성능: 엔비디아는 메타의 LLM인 라마2를 사용한 테스트를 통해 H200이 H100보다 2배 빠른 성능을 낸다고 밝혀.
   

5. H100과의 호환성: H200은 H100과 호환되므로, 기존 H100 사용자들은 서버 시스템이나 소프트웨어 변경 없이 새로운 버전을 사용할 수 있음.
   

6. AMD와의 경쟁: 2024년 2분기 출시 예정인 H200은 AMD가 개발한 MI300X GPU 칩과 경쟁할 것으로 보임. MI300X는 최대 192GB의 메모리를 탑재하고 있어, H200보다 더 큰 용량을 제공.
   

이러한 발전은 AI 기술의 발전과 딥러닝, 대규모 언어 모델의 성능 향상에 중요한 역할을 할 것으로 예상.

자세한 내용은 : https://zdnet.co.kr/view/?no=20231114091819