Microsoft와 NVIDIA 파트너십, AI 약속 지속적으로 이행 중

마이크로소프트(MSFT), 엔비디아와 협력 강화…AI 인프라 및 플랫폼 혁신 가속화 마이크로소프트와 엔비디아가 NVIDIA GTC에서 AI 인프라부터 플랫폼 통합, 산업별 혁신에 이르기까지 광범위한 솔루션 영역에서 새로운 서비스들을 발표하며 협력을 더욱 강화했습니다. 이번 발표는 양사 간의 오랜 협력을 바탕으로 고객들이 혁신적인 AI 기술을 현실화하는 데 기여해 왔습니다. 특히, 양사는 차세대 AI 모델 개발을 위한 NVIDIA Grace Blackwell 200 (GB200) Superchip을 마이크로소프트 애저(Azure) 클라우드에 도입한다고 밝혔습니다. GB200은 대규모 생성형 AI 워크로드, 데이터 처리 및 고성능 컴퓨팅을 위해 설계된 새로운 프로세서로, 최대 16TB/s의 메모리 대역폭과 이전 세대 대비 최대 30배 향상된 추론 성능을 제공합니다. 마이크로소프트는 엔비디아와 긴밀히 협력하여 GB200을 포함한 GPU들이 애저 AI 인프라에서 훈련된 최신 대규모 언어 모델(LLM)을 효율적으로 처리할 수 있도록 지원할 예정입니다. 또한, 마이크로소프트는 최근 발표된 NVIDIA Quantum-X800 InfiniBand 네트워킹 플랫폼을 활용한 엔드-투-엔드 AI 컴퓨트 패브릭을 애저에 구축할 계획입니다. NVIDIA Quantum-X800은 인네트워크 컴퓨팅 기능과 FP8 지원을 통해 GB200의 병렬 컴퓨팅 작업을 대규모 GPU 환경으로 확장합니다. 애저는 GB200 기반 인스턴스를 제공하는 최초의 클라우드 플랫폼 중 하나가 될 것입니다. 마이크로소프트는 GB200 기반 인스턴스를 애저에 도입하여 고객 및 마이크로소프트의 AI 서비스를 지원할 예정입니다. 최신 GB200과 NVIDIA Quantum-X800 InfiniBand 네트워킹을 기반으로 하는 새로운 애저 인스턴스는 자연어 처리, 컴퓨터 비전, 음성 인식 등 다양한 분야의 최첨단 모델 생성을 가속화할 것입니다. 이를 통해 애저 고객들은 방대한 데이터와 복잡성을 처리할 수 있는 최첨단 AI 솔루션을 신속하게 개발하고 배포할 수 있습니다. 애저는 또한 Microsoft Azure CycleCloud, Azure Machine Learning, Microsoft Azure AI Studio, Microsoft Azure Synapse Analytics, Microsoft Azure Arc 등 AI 워크로드 최적화를 위한 다양한 서비스를 제공하여 하이브리드 및 멀티 클라우드 환경 전반에 걸쳐 데이터 수집, 처리, 훈련, 추론 및 배포를 지원하는 엔드-투-엔드 AI 플랫폼을 제공합니다. 현재 53,000개 이상의 애저 AI 고객을 보유한 마이크로소프트는 최신 엔비디아 GPU를 활용하는 강력한 애저 AI 인프라를 기반으로 기술 스택의 모든 계층에 AI를 통합하여 고객의 생산성 향상을 지원하고 있습니다. 또한, Mistral AI와의 파트너십을 통해 애저의 최첨단 AI 인프라를 선도적인 AI 혁신 기업들에게 제공하며 차세대 LLM 개발 및 배포를 가속화하고 있습니다. 애저의 AI 모델 카탈로그는 OpenAI, Mistral AI, Meta, Hugging Face, Deci AI, NVIDIA, Microsoft Research 등 다양한 제공업체의 1,600개 이상의 최신 LLM 및 소규모 언어 모델(SLM)을 포함하고 있어 고객은 자신의 사용 사례에 가장 적합한 모델을 선택할 수 있습니다. Mistral AI의 Arthur Mensch CEO는 "마이크로소프트와의 파트너십을 통해 애저의 최첨단 AI 인프라를 활용하여 혁신적인 연구와 실제 애플리케이션을 전 세계 새로운 고객들에게 선보일 수 있게 되어 기쁘다"며, "우리는 AI 산업에서 의미 있는 발전을 이루고 고객과 파트너에게 탁월한 가치를 제공하기 위해 함께 노력할 것"이라고 밝혔습니다. 한편, 마이크로소프트는 생성형 추론 및 고성능 컴퓨팅에 최적화된 Azure NC H100 v5 VM 시리즈의 일반 공급을 발표했습니다. 이 VM 시리즈는 중간 규모의 훈련, 추론 및 고성능 컴퓨팅(HPC) 시뮬레이션을 위해 설계되었으며 높은 성능과 효율성을 제공합니다. 생성형 AI 애플리케이션의 빠른 확장에 따라, 이를 지원하는 기본 언어 모델 역시 LLM과 SLM을 모두 포함하도록 확장될 것입니다. 또한, 이미지 분류, 객체 탐지, 광범위한 자연어 처리와 같은 특정 작업에 초점을 맞춘 인공 협소 지능(ANI) 모델도 계속 발전할 것입니다. Azure의 강력한 기능과 확장성을 활용하여 모든 규모의 조직이 컴퓨팅 도구를 사용할 수 있도록 지원하며, Azure NC H100 v5 VM 시리즈는 이러한 도구 중 하나입니다. Azure NC H100 v5 VM 시리즈는 NVIDIA H100 NVL 플랫폼을 기반으로 하며, NVLink로 연결된 1~2개의 NVIDIA H100 94GB PCIe Tensor Core GPU를 탑재한 두 가지 클래스의 VM을 제공합니다. 이 VM 시리즈는 호스트 프로세서와 GPU 간의 최고 통신 속도(128GB/s 양방향)를 제공하는 PCIe Gen5를 지원하여 데이터 전송 지연 시간을 줄이고 AI 및 HPC 애플리케이션의 속도와 확장성을 향상시킵니다. 또한, NVIDIA Multi-Instance GPU (MIG) 기술을 지원하여 각 GPU를 최대 7개의 인스턴스로 분할할 수 있어 다양한 AI 워크로드에 대한 유연성과 확장성을 제공합니다. 이 VM 시리즈는 최대 80Gbps의 네트워크 대역폭과 전체 노드 VM 크기에서 최대 8TB의 로컬 NVMe 스토리지를 지원하며, 모델 훈련, 추론 작업 실행 및 최첨단 애플리케이션 개발에 이상적입니다. Snorkel AI의 Paroma Varma 공동 창립자 겸 연구 책임자는 "마이크로소프트와 협력하여 조직이 데이터와 AI의 힘을 빠르고 비용 효율적으로 활용할 수 있도록 지원하게 되어 자랑스럽다"며, "애저 AI 인프라는 가장 까다로운 ML 워크로드에 필요한 성능과 함께 연구원들이 선호하는 간소화된 배포 및 관리 기능을 제공한다. NVIDIA H100 NVL GPU 기반의 새로운 Azure NC H100 v5 VM 시리즈를 통해 기업 및 OSS 사용자를 위한 반복적인 데이터 개발을 가속화할 수 있기를 기대한다"고 말했습니다. 마이크로소프트와 엔비디아는 의료 및 생명 과학 분야의 혁신을 가속화하기 위해 협력을 확대합니다. 애저와 애저 AI의 글로벌 규모, 보안 및 고급 컴퓨팅 기능과 엔비디아의 DGX Cloud 및 NVIDIA Clara 제품군을 통합함으로써, 의료 제공업체, 제약 및 생명공학 기업, 의료 기기 개발 기업들은 임상 연구부터 치료 제공까지 전체 가치 사슬에 걸쳐 혁신을 신속하게 가속화하여 전 세계 환자들에게 혜택을 제공할 수 있습니다. 또한, 엔비디아의 3D 애플리케이션 개발 플랫폼인 Omniverse가 마이크로소프트 애저에서 API 세트로 제공됩니다. 이를 통해 고객들은 마이크로소프트 및 파트너 ISV의 기존 소프트웨어 애플리케이션에 고급 그래픽 및 시각화 기능을 통합할 수 있습니다. OpenUSD 기반의 NVIDIA Omniverse Cloud API는 고객을 위한 통합 작업을 수행하여 물리 기반 렌더링 기능을 원활하게 제공합니다. 마이크로소프트와 엔비디아는 Rockwell Automation 및 Hexagon과 협력하여 이러한 API의 가치를 입증하고 생산성 및 효율성 향상을 위해 물리적 세계와 디지털 세계를 결합하는 방법을 보여주고 있습니다. 마이크로소프트와 엔비디아는 NVIDIA DGX Cloud와 Microsoft Fabric의 통합을 통해 고객의 가장 까다로운 데이터 워크로드를 지원할 계획입니다. 이는 엔비디아의 워크로드별 최적화된 런타임, LLM 및 머신러닝이 Fabric과 원활하게 작동하도록 하는 것을 의미합니다. DGX Cloud와 Fabric의 통합은 Fabric의 기능을 확장하여 Fabric OneLake를 기본 데이터 저장소로 사용하여 디지털 트윈 및 일기 예보와 같은 데이터 집약적인 사용 사례를 해결하기 위한 DGX Cloud의 대규모 언어 모델 사용자 정의 기능을 통합할 것입니다. 또한, Fabric 데이터 과학 및 데이터 엔지니어링 워크로드를 가속화하기 위한 옵션으로 DGX Cloud를 제공할 것입니다. 마이크로소프트와 엔비디아는 수년간 하드웨어부터 시스템, VM에 이르기까지 협력하여 클라우드에서 복잡한 문제를 해결하는 새롭고 혁신적인 AI 기반 솔루션을 구축해 왔습니다. 마이크로소프트는 앞으로도 최첨단 기술을 모든 계층에 통합하여 글로벌 인프라를 확장 및 강화하고, 클라우드 및 AI 워크로드의 성능과 확장성을 향상시키며, 고객이 다양한 산업 및 도메인에서 더 많은 것을 달성할 수 있도록 지원할 것입니다.