AWS와 NVIDIA, 생성형 AI를 위한 새로운 슈퍼컴퓨팅 인프라, 소프트웨어 및 서비스 제공을 위한 전략적 협력 발표

AWS, NVIDIA와 협력 강화…클라우드 AI 슈퍼컴퓨터 및 최신 GPU 인스턴스 대거 선보여

아마존 웹 서비스(AWS)가 NVIDIA와의 전략적 협력을 확대하며 클라우드 기반 인공지능(AI) 혁신을 위한 최첨단 인프라, 소프트웨어 및 서비스를 제공한다고 밝혔습니다. 이번 협력 확대를 통해 양사는 NVIDIA의 차세대 GPU, CPU 및 AI 소프트웨어와 AWS의 고도화된 가상화, 보안 기술, 고성능 네트워킹 및 확장성을 결합하여 파운데이션 모델 학습과 생성형 AI 애플리케이션 구축에 최적화된 솔루션을 선보입니다.

AWS는 업계 최초로 NVIDIA GH200 Grace Hopper Superchip을 멀티 노드 NVLink 기술과 함께 클라우드 환경에 제공합니다. NVIDIA GH200 NVL32 멀티 노드 플랫폼은 32개의 Grace Hopper Superchip을 NVIDIA NVLink 및 NVSwitch 기술로 연결하여 하나의 인스턴스로 통합합니다. 이 플랫폼은 Amazon Elastic Compute Cloud(Amazon EC2) 인스턴스에서 사용할 수 있으며, AWS의 고성능 네트워킹(EFA), AWS Nitro System의 고급 가상화, Amazon EC2 UltraClusters의 하이퍼스케일 클러스터링 기술을 지원하여 고객들이 수천 개의 GH200 Superchip으로 확장할 수 있도록 합니다.

또한, NVIDIA와 AWS는 NVIDIA의 AI 학습 서비스인 NVIDIA DGX Cloud를 AWS에서 호스팅하기 위해 협력합니다. 이는 GH200 NVL32를 탑재한 최초의 DGX Cloud로, 개발자들에게 단일 인스턴스에서 가장 큰 공유 메모리 용량을 제공합니다. AWS의 DGX Cloud는 1조 개 이상의 파라미터를 넘나드는 최첨단 생성형 AI 및 대규모 언어 모델(LLM) 학습을 가속화할 것으로 기대됩니다.

이와 더불어, 양사는 세계에서 가장 빠른 GPU 기반 AI 슈퍼컴퓨터인 Project Ceiba 개발에도 협력합니다. 이 시스템은 GH200 NVL32와 Amazon EFA 인터커넥트를 통합하며, NVIDIA의 자체 연구 개발팀을 위해 AWS에서 호스팅될 예정입니다. 16,384개의 NVIDIA GH200 Superchip을 탑재하고 65 엑사플롭스의 AI 처리 능력을 갖춘 이 슈퍼컴퓨터는 NVIDIA의 차세대 생성형 AI 혁신을 주도할 것입니다.

AWS는 또한 세 가지 새로운 Amazon EC2 인스턴스를 출시합니다. NVIDIA H200 Tensor Core GPU를 탑재한 P5e 인스턴스는 대규모 및 최첨단 생성형 AI, 고성능 컴퓨팅(HPC) 워크로드를 지원합니다. NVIDIA L40S GPU를 탑재한 G6e 인스턴스와 NVIDIA L4 GPU를 탑재한 G6 인스턴스는 AI 미세 조정, 추론, 그래픽 및 비디오 워크로드 등 광범위한 애플리케이션에 활용될 수 있습니다. 특히 G6e 인스턴스는 NVIDIA Omniverse 플랫폼을 활용한 3D 워크플로우, 디지털 트윈 개발에 적합합니다.

AWS CEO Adam Selipsky는 "AWS와 NVIDIA는 13년 이상 협력해 왔으며, 오늘날 우리는 그래픽, 게임, HPC, 머신러닝, 그리고 이제는 생성형 AI를 포함한 다양한 워크로드를 위한 가장 폭넓은 NVIDIA GPU 솔루션을 제공합니다. 우리는 NVIDIA와 지속적으로 혁신하며 AWS를 GPU 실행에 최적화된 최고의 장소로 만들고 있습니다."라고 말했습니다.

NVIDIA CEO Jensen Huang은 "생성형 AI는 클라우드 워크로드를 혁신하고 있으며, 가속 컴퓨팅을 다양한 콘텐츠 생성의 기반으로 삼고 있습니다. NVIDIA와 AWS는 AI 인프라, 가속 라이브러리, 파운데이션 모델, 생성형 AI 서비스에 이르기까지 컴퓨팅 스택 전반에 걸쳐 협력하며 모든 고객에게 비용 효율적이고 최첨단인 생성형 AI를 제공한다는 공동의 목표를 가지고 있습니다."라고 덧붙였습니다.

새로운 Amazon EC2 인스턴스는 NVIDIA와 AWS의 최신 기술을 결합합니다. GH200 Grace Hopper Superchip을 탑재한 인스턴스는 최대 20TB의 공유 메모리를 제공하며, AWS의 3세대 EFA 인터커넥트를 통해 초당 400Gbps의 저지연, 고대역폭 네트워킹 성능을 지원하여 수천 개의 GH200 Superchip으로의 확장을 가능하게 합니다. 또한, GH200 기반 인스턴스는 액체 냉각 방식을 도입하여 고밀도 서버 랙의 최대 성능 유지를 돕습니다.

AWS는 NVIDIA DGX Cloud를 GH200 NVL32 NVLink 인프라로 최초로 호스팅합니다. NVIDIA DGX Cloud는 기업들이 가장 복잡한 LLM 및 생성형 AI 모델 학습을 위한 멀티 노드 슈퍼컴퓨팅에 빠르게 접근할 수 있도록 지원하며, NVIDIA AI Enterprise 소프트웨어와 NVIDIA AI 전문가에 대한 직접적인 접근 권한을 제공합니다.

Project Ceiba 슈퍼컴퓨터는 Amazon Virtual Private Cloud(VPC) 암호화 네트워킹 및 Amazon Elastic Block Store 고성능 블록 스토리지와 같은 AWS 서비스와 통합되어 NVIDIA의 연구 개발을 지원합니다. NVIDIA는 이 슈퍼컴퓨터를 LLM, 그래픽(이미지/비디오/3D 생성), 시뮬레이션, 디지털 생물학, 로봇 공학, 자율 주행 차량, 지구-2 기후 예측 등 다양한 분야의 AI 발전을 위해 활용할 예정입니다.

AWS P5e 인스턴스는 NVIDIA의 최신 H200 GPU를 탑재하여 141GB의 HBM3e GPU 메모리를 제공하며, 이는 H100 GPU보다 1.8배 더 크고 1.4배 더 빠릅니다. 또한, AWS Nitro System을 통해 최대 3,200Gbps의 EFA 네트워킹 성능을 제공하여 고객들이 최첨단 모델을 구축, 학습 및 배포할 수 있도록 지원합니다.

비용 효율적이고 에너지 효율적인 비디오, AI 및 그래픽 워크로드를 위해 AWS는 NVIDIA L40S GPU를 탑재한 G6e 인스턴스와 L4 GPU를 탑재한 G6 인스턴스를 발표했습니다. G6e 인스턴스는 생성형 AI 및 디지털 트윈 애플리케이션과 같은 복잡한 워크로드를 처리하도록 설계되었으며, NVIDIA Omniverse와 AWS IoT TwinMaker를 통합하여 사실적인 3D 시뮬레이션을 개발하고 실시간 데이터로 강화할 수 있습니다. L40S GPU는 최대 1.45 페타플롭스의 FP8 성능과 209 테라플롭스의 레이 트레이싱 성능을 제공합니다. G6 인스턴스의 L4 GPU는 자연어 처리, 언어 번역, AI 비디오 및 이미지 분석, 음성 인식, 개인화 등 AI 모델 배포를 위한 저비용, 에너지 효율적인 솔루션을 제공합니다.

이와 더불어, NVIDIA는 AWS에서 생성형 AI 개발을 가속화하는 소프트웨어도 발표했습니다. NVIDIA NeMo Retriever 마이크로서비스는 가속화된 의미론적 검색을 사용하여 매우 정확한 챗봇 및 요약 도구를 만드는 새로운 도구를 제공합니다. NVIDIA BioNeMo는 Amazon SageMaker에서 사용할 수 있으며, 신약 개발을 위한 생성형 AI 모델을 개발하는 데 도움을 줄 예정입니다.