Arm Neoverse NVIDIA Grace CPU Superchips: AI 미래를 위한 속도 설정

ARM 기반 NVIDIA Grace CPU 슈퍼칩, AI 시대 컴퓨팅 시스템의 새로운 지평 열다 인공지능(AI)이 세상을 변화시킬 것이라는 전망이 나오는 가운데, AI의 잠재력을 현실화하기 위해서는 컴퓨팅 시스템 설계 방식의 근본적인 변화가 필요하다는 주장이 제기되었습니다. 클라우드에서의 신경망 훈련이나 실시간 엣지에서의 패턴 인식과 같은 작업은 AI 및 머신러닝(ML)의 독특한 전력, 성능, 데이터 처리량 요구 사항에 최적화된 특수 시스템온칩(SoC)을 요구하며, 이는 궁극적으로 서버와 데이터 센터의 변화를 이끌 것입니다. 그렇지 않으면 AI에 필요한 비용, 전력, 탄소 배출량이 그로 인한 이점을 상회하게 될 수 있습니다. 이러한 가운데, 데이터 센터의 고성능 컴퓨팅(HPC) 및 AI 성능, 생산성, 효율성 향상을 위해 GPU 활용을 선도해 온 NVIDIA가 GTC 행사에서 Arm Neoverse 기반 NVIDIA Grace CPU 슈퍼칩에 대한 상세 계획을 발표했습니다. NVIDIA Grace CPU, 차세대 Armv9 아키텍처 기반 차세대 Armv9 아키텍처를 기반으로 하는 NVIDIA Grace CPU는 우선 Grace CPU 슈퍼칩과 Grace Hopper 슈퍼칩의 일부로 시장에 출시될 예정입니다. Grace CPU 제품군은 1조 개 이상의 매개변수를 가진 자연어 처리(NLP) 모델 훈련과 같이 AI의 가장 까다로운 작업에서 최대 10배의 성능 향상을 제공하는 동시에 와트당 성능을 획기적으로 개선하도록 설계되었습니다. NVIDIA Grace CPU 슈퍼칩은 두 개의 Grace CPU를 탑재하여 총 최대 144개의 Arm Neoverse 코어를 제공하며, 모듈 내부에 최대 960GB의 LPDDR5x 메모리를 포함하여 AI, HPC 및 하이퍼스케일 워크로드를 위한 방대한 데이터 처리량 요구 사항을 충족하기 위해 1TB/s의 메모리 대역폭을 지원합니다. NVIDIA의 벤치마크 결과에 따르면 Grace CPU 슈퍼칩은 SPECrate® 2017_int_base 벤치마크에서 740점의 예상 성능을 달성했습니다. Grace Hopper 슈퍼칩은 단일 Grace CPU와 NVIDIA의 최신 GPU 아키텍처인 NVIDIA Hopper 기반 GPU를 결합한 제품입니다. 또한 16개의 PCIe Gen5 채널과 최대 960GB의 LPDDR5x 메모리를 특징으로 합니다. 슈퍼칩 내의 CPU와 GPU는 NVIDIA의 새로운 NVLink-C2C로 연결되며, 칩 간 900GB/s의 대역폭을 제공하여 NVIDIA의 PCIe Gen5보다 7배 더 빠릅니다. 이를 통해 현재 선도적인 서버 대비 GPU에 대한 집계 시스템 메모리 대역폭이 최대 30배 향상될 것으로 기대됩니다. NVIDIA NVLink-C2C는 Arm의 AMBA CHI 프로토콜을 지원하여 동일한 SoC 내 Arm 기반 CPU 간의 직접적인 칩 간 연결을 통해 더 빠른 통신을 가능하게 하며, Grace CPU 슈퍼칩과 같은 Arm 기반 SoC와 NVIDIA BlueField 데이터 처리 장치(DPU) 또는 NVIDIA 파트너가 개발한 맞춤형 ASIC 간의 통신도 지원합니다. Grace Hopper 슈퍼칩, 슈퍼컴퓨터의 핵심 프로세서로 선정 Grace Hopper 슈퍼칩은 2023년 출시 예정인 스위스 국립 슈퍼컴퓨팅 센터(CSCS)와 Hewlett Packard Enterprise가 개발 중인 슈퍼컴퓨터 Alps의 프로세서로 선정되었습니다. Alps는 기후 모델링, 전산 유체 역학 및 기타 작업을 위해 설계되었습니다. 또한 Grace Hopper 슈퍼칩은 미국 에너지부 산하 로스앨러모스 국립 연구소와 HPE가 개발 중인 슈퍼컴퓨터에도 선정되었습니다. 이번 발표에는 여러 가지 의미 있는 '최초'가 포함되어 있습니다. Grace CPU 슈퍼칩은 NVIDIA의 첫 번째 독립형 데이터 센터 CPU입니다. 또한 Grace CPU 슈퍼칩은 AI, HPC 및 하이퍼스케일 워크로드를 위해 특별히 설계된 최초의 Arm Neoverse 기반 장치로서, Neoverse CPU와 고성능 가속기 및 메모리 시스템의 긴밀한 결합을 통해 무엇이 가능한지를 보여줍니다. Grace CPU는 NVIDIA의 첫 Armv9 기반 칩으로, 차세대 기능들을 활용할 수 있게 됩니다. 마지막으로, 새로운 제품들은 상호 연결 성능 향상 노력을 크게 진전시켰습니다. AI 시대를 위한 청사진 지난 10년은 AI가 무엇을 달성할 수 있는지에 대한 탐구였습니다. 앞으로 기술 산업, 고객, 그리고 대중은 자율 주행 차량, 예측 의료 등 AI 애플리케이션을 가능하게 하기 위해 무선 네트워크, 데이터 센터 아키텍처, 기기 설계에 필요한 변화에 대해 더 많이 알기를 원할 것입니다. AI의 약속을 실현하기 위해서는 시스템 및 칩 설계자부터 속도, 정확성, 효율성을 위해 신경망을 미세 조정하는 개발자에 이르기까지 Arm 생태계 전반의 재능이 필요합니다. NVIDIA가 이러한 방향을 설정하는 데 도움을 준 것에 대해 감사하며, 이는 길고 매우 흥미로운 여정이 될 것입니다. 새로운 시대의 새로운 인프라 Arm Neoverse는 클라우드, 엣지, 5G 애플리케이션의 성능을 향상시키는 동시에 비용과 에너지 소비를 절감할 수 있습니다.