AWS, AI 혁신 지원 및 에너지 효율성 향상을 위한 신규 데이터센터 부품 발표

AWS, 차세대 AI 혁신 위한 데이터센터 기술 공개… 컴퓨팅 성능 12% 향상 아마존 웹 서비스(AWS)가 차세대 인공지능(AI) 혁신과 고객의 진화하는 요구를 지원하기 위해 설계된 새로운 데이터센터 구성 요소를 발표했습니다. 이번 발표는 라스베이거스에서 열린 AWS re:Invent 행사에서 이루어졌습니다. 새로운 데이터센터 구성 요소는 전력, 냉각 및 하드웨어 설계의 혁신을 결합하여 에너지 효율성을 높이고 고객의 혁신을 지원합니다. 이러한 새로운 기능은 AWS의 신규 데이터센터에 전 세계적으로 구현될 예정이며, 많은 구성 요소가 이미 기존 데이터센터에 배치되었습니다. Prasad Kalyanaraman AWS 인프라 서비스 부사장은 "AWS는 전 세계 고객을 위해 가장 성능이 뛰어나고, 복원력이 높으며, 안전하고, 지속 가능한 클라우드를 구축하기 위해 인프라 혁신을 끊임없이 이어가고 있습니다"라며, "이러한 데이터센터 기능은 에너지 효율성을 높이고 새로운 워크로드에 대한 유연한 지원을 제공하는 중요한 진전을 나타냅니다. 하지만 더욱 흥미로운 점은 이러한 기능이 모듈식으로 설계되어 기존 인프라를 액체 냉각 및 에너지 효율성을 위해 개조하여 생성형 AI 애플리케이션에 동력을 공급하고 탄소 발자국을 줄일 수 있다는 것입니다."라고 말했습니다. AWS는 18년 동안 대규모 데이터센터를 구축해 왔으며, 13년 동안 AI 워크로드를 위한 GPU 기반 서버를 개발해 왔습니다. 현재 AWS의 데이터센터는 전 세계 수백만 명의 활성 고객을 지원하고 있으며, 여기에는 AWS AI 및 머신러닝 서비스를 사용하는 수십만 명의 고객과 생성형 AI 애플리케이션을 구축하기 위해 Amazon Bedrock을 사용하는 수만 명의 글로벌 고객이 포함됩니다. 생성형 AI의 사용이 계속 증가하고 GPU 용량 수요가 증가함에 따라 AWS 데이터센터는 점점 더 높은 전력 밀도를 지원하도록 적응하고 있습니다. 주요 개선 사항은 다음과 같습니다. 1. 높은 가용성을 위한 간소화된 전기 및 기계 설계 AWS는 고객에게 가장 안정적인 인프라를 제공하는 데 지속적으로 집중하고 있습니다. 간소화된 전기 및 기계 설계는 더 안정적이고 유지보수가 용이하여 고객이 AWS가 처음부터 제공해 온 높은 안정성의 이점을 누릴 수 있도록 보장합니다. AWS의 최신 데이터센터 설계 개선에는 간소화된 전기 분배 및 기계 시스템이 포함되어 인프라 가용성을 99.9999%로 높입니다. 또한 간소화된 시스템은 전기 문제의 영향을 받을 수 있는 랙 수를 89% 줄입니다. 데이터센터에서는 전기가 IT 장비에 도달하기 전에 여러 번의 변환 및 분배 시스템을 거칩니다. 각 단계는 자연스럽게 비효율성, 에너지 손실 및 잠재적인 장애 지점을 발생시킵니다. 새로운 설계 예로 AWS는 전기 분배를 간소화하여 잠재적인 장애 지점을 20% 줄였습니다. 간소화의 다른 예로는 백업 전원을 랙에 더 가깝게 가져오고 뜨거운 공기를 배출하는 데 사용되는 팬 수를 줄이는 것이 있습니다. AWS는 자연적인 압력 차이를 활용하여 뜨거운 공기를 배출함으로써 서버에 사용 가능한 전력량을 개선합니다. 이러한 모든 변경은 전체 에너지 소비를 줄이는 동시에 장애 위험을 최소화하는 데 도움이 됩니다. 2. 냉각, 랙 설계 및 제어 시스템의 혁신 AWS는 고객에게 가능한 가장 성능이 뛰어나고, 가용성이 높으며, 에너지 효율적인 인프라를 제공하기 위해 새롭고 향상된 기능을 많이 구축했습니다. 새로운 데이터센터 혁신에는 다음이 포함됩니다. 액체 냉각: 최신 AI 서버는 고밀도 컴퓨팅 칩을 보다 효율적으로 냉각하기 위해 액체 냉각의 이점을 누릴 수 있습니다. AWS는 신규 및 기존 데이터센터 모두에서 구성 가능한 칩 대 칩 액체 냉각을 제공하는 새로운 기계 냉각 솔루션을 개발했습니다. 일부 AWS 기술은 액체 냉각이 필요하지 않은 네트워크 및 스토리지 인프라를 활용하므로 업데이트된 냉각 시스템은 AWS Trainium2와 같은 가장 강력한 AI 칩셋 및 NVIDIA GB200 NVL72와 같은 랙 규모 AI 슈퍼컴퓨팅 솔루션뿐만 아니라 AWS의 네트워크 스위치 및 스토리지 서버에 대한 공기 및 액체 냉각 기능을 원활하게 통합합니다. 이 유연한 멀티모달 냉각 설계를 통해 AWS는 기존 워크로드 또는 AI 모델을 실행하든 최저 비용으로 최대 성능과 효율성을 제공할 수 있습니다. 고유한 액체 냉각 랙 설계는 AI 워크로드의 시장 출시 시간을 단축하기 위해 주요 칩 제조업체와 협력하여 개발되었습니다. 고밀도 AI 워크로드 지원: AWS는 데이터센터 내 랙의 위치를 최적화하여 전력 사용량을 극대화합니다. 이는 데이터와 생성형 AI를 기반으로 하는 소프트웨어를 통해 서버를 배치하는 가장 효율적인 방법을 예측함으로써 달성되었습니다. AWS는 이제 사용 가능하지만 사용되지 않거나 활용도가 낮은 에너지인 '유휴 전력'의 양을 줄이고 사용 가능한 에너지의 효율성을 높일 것입니다. 이 설계는 AI 워크로드에 필요한 차세대 하드웨어 및 고밀도 랙을 지원하지만 다양한 다른 하드웨어 유형을 수용할 수 있을 만큼 유연합니다. AWS 인프라는 750개 이상의 Amazon Elastic Cloud Compute (Amazon EC2) 인스턴스를 통해 가장 광범위하고 깊이 있는 컴퓨팅 플랫폼을 제공하여 고객에게 최신 프로세서, 스토리지, 네트워킹, 운영 체제 및 구매 모델에 대한 선택권을 제공합니다. 유연한 멀티모달 냉각 설계 외에도 AWS는 전력 공급 시스템에 대한 엔지니어링 혁신을 개발하여 향후 2년 동안 랙 전력 밀도를 6배, 그 이후에는 3배 더 높일 수 있도록 지원합니다. 이는 데이터센터 전력량을 랙 전체에 효율적으로 공급하여 전기 변환 손실을 줄이는 새로운 전력 선반을 통해 부분적으로 제공됩니다. 이러한 혁신을 종합하면 AWS는 사이트당 고객 워크로드에 대해 12% 더 많은 컴퓨팅 성능을 제공할 수 있습니다. 이러한 변경은 동일한 양의 컴퓨팅 용량을 제공하는 데 필요한 데이터센터 수를 줄일 것입니다. 업데이트된 제어 시스템: AWS의 전기 및 기계 장치 전반에 걸쳐 Amazon 자체 제어 시스템을 출시하면 모니터링, 경보 및 운영 시퀀스를 표준화할 수 있습니다. 예를 들어 AWS의 내부 텔레메트리 도구는 AWS 기술을 사용하여 실시간 진단 및 문제 해결 서비스를 제공하며, 이는 모두 고객을 대신하여 최적의 작동 조건을 유지할 수 있도록 합니다. 또한 AWS는 제어 시스템의 중복성을 높이는 동시에 복잡성을 줄였습니다. 이러한 이점은 AWS가 99.9999%의 인프라 가용성을 설계하는 결과로 이어집니다. 3. 기계 에너지 소비 46% 감소 및 콘크리트 내재 탄소 35% 감소를 포함한 에너지 효율성 및 지속 가능성 향상 AWS는 오랫동안 인프라 전반의 에너지 효율성 및 지속 가능성 개선에 선구적인 역할을 해왔습니다. 연구에 따르면 AWS의 인프라는 현재 온프레미스 인프라보다 최대 4.1배 더 효율적이며, 워크로드가 AWS에서 최적화될 때 관련 탄소 발자국은 최대 99%까지 줄일 수 있습니다. 2023년에 Amazon은 2030년 목표보다 7년 앞당겨 운영에 소비되는 모든 전력을 100% 재생 에너지로 충당한다는 목표를 달성했습니다. AWS는 지속적인 혁신을 통해 인프라가 에너지를 보다 효율적으로 사용하도록 돕는 방법을 지속적으로 재평가하고 있습니다. 새로운 구성 요소에는 에너지 효율성 및 지속 가능성을 위한 다음과 같은 업그레이드가 포함됩니다. 이전 설계에 비해 최대 냉각 조건에서 기계 에너지 소비를 최대 46%까지 줄일 것으로 예상되는 보다 효율적인 냉각 시스템으로, 메가와트당 물 사용량은 증가하지 않습니다. 설계 변경에는 새로운 단면 냉각 시스템, 냉각 장비 감소 및 액체 냉각 기능 도입이 포함됩니다. 데이터센터 건물 외피의 콘크리트 내재 탄소량을 업계 평균 대비 최대 35%까지 줄입니다. AWS는 저탄소 강철 및 콘크리트 사양을 채택하고 구조 설계를 최적화하여 전반적인 강철 사용량을 줄이고 있습니다. 백업 발전기는 생분해성이며 무독성 연료인 재생 디젤로 작동할 수 있어 화석 디젤과 비교하여 연료 수명 주기 동안 온실가스 배출량을 최대 90%까지 줄일 수 있습니다. AWS는 이미 유럽 및 미국 기존 데이터센터의 백업 발전기에 전력을 공급하기 위해 재생 디젤로 전환하기 시작했습니다. NVIDIA의 하이퍼스케일 및 HPC 부문 부사장인 Ian Buck은 "데이터센터는 AI의 혁신적인 요구를 충족하기 위해 진화해야 합니다."라며, "고급 액체 냉각 솔루션을 지원함으로써 AI 인프라는 에너지 사용량을 최소화하면서 효율적으로 냉각될 수 있습니다. AWS와의 액체 냉각 랙 설계 협력을 통해 고객은 탁월한 성능과 효율성으로 까다로운 AI 워크로드를 실행할 수 있을 것입니다."라고 말했습니다. Anthropic의 수석 엔지니어인 James Bradbury는 "Anthropic이 선도적인 기반 모델을 개발함에 따라 안전하고 성능이 뛰어나며 에너지 효율적인 인프라에 대한 액세스는 성공에 매우 중요합니다."라며, "최첨단 데이터센터를 구축하려는 AWS의 노력은 우리가 AWS를 주요 클라우드 공급업체 및 교육 파트너로 선택한 핵심 이유 중 하나입니다. 그들의 설계 개선은 안전하고 확장 가능하며 효율적인 인프라를 제공하여 AI 모델에 동력을 공급하고 이 분야의 혁신을 주도하는 데 중요한 진전을 나타냅니다."라고 말했습니다. Experian의 기술, 소프트웨어 솔루션 및 혁신 CEO인 Alex Lintner는 "AWS의 지속적인 인프라 발전 덕분에 데이터센터 운영이라는 차별화되지 않은 무거운 작업을 수행하는 대신 고객이 더 나은 금융 결정을 내릴 수 있도록 돕는 새로운 서비스를 혁신하는 데 집중할 수 있습니다."라며, "보안 및 규제 준수는 우리에게 기본이며, AWS와 협력하는 것은 신뢰할 수 있는 기술 제공업체로서의 입지를 강화하고 비즈니스를 지원하는 데 도움이 됩니다."라고 말했습니다.