Arm, AI의 끊임없는 에너지 수요 해결 지원 임무

AI, 인류 역사상 가장 혁신적인 기술 될 잠재력 지녀 인공지능(AI)이 지난 100년간 등장했던 모든 혁신 기술을 뛰어넘을 잠재력을 가지고 있습니다. AI는 의료, 생산성, 교육 등 다양한 분야에서 상상 이상의 사회적 혜택을 가져올 것으로 기대됩니다. 이러한 복잡한 AI 워크로드를 실행하기 위해서는 전 세계 데이터센터의 컴퓨팅 성능이 기하급수적으로 확장되어야 합니다. 하지만 이처럼 끊임없이 증가하는 컴퓨팅 수요는 심각한 과제를 드러냈습니다. 바로 이 혁신적인 기술을 구동하는 데 필요한 데이터센터의 막대한 전력 소비입니다. 현재 전 세계 데이터센터는 연간 460 테라와트시(TWh)의 전력을 소비하고 있으며, 이는 독일 전체의 연간 전력 소비량과 맞먹는 수준입니다. 보스턴컨설팅그룹(BCG)에 따르면, 미국 내 데이터센터의 전력 소비량은 2022년 전체 전력 소비량의 2.5%(약 130TWh)를 차지했으며, 2030년에는 7.5%(약 390TWh)까지 증가할 것으로 예상됩니다. 이는 미국 전체 가구의 약 3분의 1에 해당하는 약 4천만 가구가 사용하는 전력량과 유사합니다. 미래의 AI 모델은 더욱 크고 똑똑해질 것이며, 이는 더 많은 컴퓨팅 성능을 요구하고, 선순환 구조 속에서 전력 수요를 더욱 증대시킬 것입니다. 이러한 대규모 데이터센터의 전력 요구량을 줄이는 방안을 찾는 것은 AI의 사회적 돌파구를 마련하고 AI의 약속을 실현하는 데 매우 중요합니다. 즉, 전기가 없으면 AI도 없습니다. 기업들은 에너지 효율성 문제를 해결하기 위해 모든 것을 재고해야 합니다. Arm, AI 시대의 에너지 효율적인 미래를 재구상하다 배터리로 구동되는 초기 제품으로 모바일 혁명을 이끌었던 Arm의 전력 효율성 DNA는 칩 설계 방식을 재고하여 AI의 증가하는 요구를 수용할 수 있도록 업계에 영감을 주고 있습니다. 일반적인 서버 랙에서 컴퓨팅 칩만으로도 전력 예산의 50% 이상을 소비할 수 있습니다. 엔지니어들은 이 수치를 줄이기 위한 모든 방법을 모색하고 있으며, 와트(watt) 하나하나가 중요합니다. 이러한 노력 속에서 세계 최대 AI 하이퍼스케일러(Hyperscalers)들이 전력 절감을 위해 Arm에 주목하는 것은 당연한 결과입니다. Arm의 최신 Neoverse CPU는 경쟁사 대비 클라우드 데이터센터를 위한 가장 높은 성능과 전력 효율성을 갖춘 프로세서입니다. Neoverse는 하이퍼스케일러에게 까다로운 워크로드에 최적화된 맞춤형 실리콘을 설계할 수 있는 유연성을 제공하는 동시에, 업계를 선도하는 성능과 에너지 효율성을 제공합니다. 절약된 모든 와트는 더 많은 컴퓨팅을 가능하게 합니다. 이것이 바로 Amazon, Microsoft, Google, Oracle이 일반 컴퓨팅뿐만 아니라 CPU 기반 AI 추론 및 학습 문제를 해결하기 위해 Arm Neoverse 기술을 채택한 이유입니다. Arm Neoverse는 클라우드 데이터센터 전반에 걸쳐 사실상의 표준이 될 길을 걷고 있습니다. 최근 발표된 데이터를 살펴보면 다음과 같습니다. * AWS Arm 기반 Graviton: Amazon Sagemaker의 AI 추론 성능 25% 향상, 웹 애플리케이션 30% 향상, 데이터베이스 40% 향상, 경쟁사 대비 60% 더 효율적입니다. * Google Cloud Arm 기반 Axion: 레거시 경쟁 아키텍처 대비 성능 50% 향상, 에너지 효율성 60% 개선, CPU 기반 AI 추론 및 학습, YouTube, Google Earth 등에 동력을 제공합니다. * Microsoft Azure Arm 기반 Cobalt: 경쟁사 대비 성능 40% 향상, Microsoft Teams와 같은 서비스를 지원하고 Maia 가속기와 결합하여 Azure의 엔드투엔드 AI 아키텍처를 구동합니다. * Oracle Cloud Arm 기반 Ampere Altra Max: 기존 경쟁사 대비 서버 랙당 성능 2.5배, 전력 소비 2.8배 감소, 생성형 AI 추론 모델(요약, LLM 학습을 위한 데이터 토큰화, 배치 추론 사용 사례)에 사용됩니다. Arm Neoverse는 클라우드에서의 일반 컴퓨팅 성능과 전력 효율성 측면에서 상당한 발전을 이루었음이 분명합니다. 그러나 고객들은 이제 가속 컴퓨팅에서도 동일한 이점을 발견하고 있습니다. 대규모 AI 학습은 NVIDIA Grace CPU와 NVIDIA의 Blackwell GPU 아키텍처를 결합한 NVIDIA Grace Blackwell 플랫폼(GB200)과 같은 고유한 가속 컴퓨팅 아키텍처를 필요로 합니다. 이 Arm 기반 컴퓨팅 아키텍처는 시스템 수준의 설계 최적화를 가능하게 하여, LLM을 위한 경쟁 아키텍처를 사용하는 NVIDIA H100 GPU 대비 에너지 소비를 25배 줄이고 GPU당 성능을 30배 증가시킵니다. 이러한 획기적인 성능과 전력 절감을 제공하는 최적화는 Arm Neoverse가 제공하는 전례 없는 실리콘 맞춤화 유연성 덕분에 가능합니다. Arm의 배포가 확대됨에 따라 이러한 기업들은 전체 데이터센터 전력의 최대 15%를 절감할 수 있습니다. 이러한 막대한 절감액은 동일한 전력 범위 내에서 추가적인 AI 용량을 확보하는 데 사용될 수 있으며, 에너지 문제에 기여하지 않을 것입니다. 이를 비유하자면, 이러한 에너지 절감액으로 20억 건의 추가 ChatGPT 쿼리를 실행하거나, 일일 웹 검색 트래픽의 4분의 1에 동력을 공급하거나, 미국 가구의 20%에 불을 밝히거나, 코스타리카와 같은 국가에 전력을 공급할 수 있습니다. 이는 에너지 소비와 환경 지속 가능성 모두에 엄청난 영향을 미칩니다. 근본적으로 Arm CPU는 지구에 이익을 주면서 AI 혁명에 동력을 제공하고 있습니다. AI 컴퓨팅의 미래는 Arm 위에 구축되고 있습니다.