기사 전문
AWS, 차세대 칩 'Graviton4' 및 'Trainium2' 공개… AI 및 클라우드 워크로드 혁신 예고
아마존 웹 서비스(AWS)가 클라우드 컴퓨팅 분야의 혁신을 이끌 차세대 자체 설계 칩인 AWS Graviton4와 AWS Trainium2를 공개했습니다. 이번 신규 칩들은 기존 대비 뛰어난 가격 대비 성능과 에너지 효율성을 제공하며, 머신러닝(ML) 학습 및 생성형 인공지능(AI) 애플리케이션을 포함한 광범위한 고객 워크로드에 최적화되었습니다.
AWS Graviton4는 이전 세대인 Graviton3 대비 최대 30% 향상된 컴퓨팅 성능, 50% 늘어난 코어 수, 75% 증가한 메모리 대역폭을 자랑합니다. 이를 통해 다양한 워크로드에서 최고의 가격 대비 성능과 에너지 효율성을 제공할 것으로 기대됩니다. 특히, 메모리 최적화된 Amazon EC2 R8g 인스턴스에 탑재되어 고성능 데이터베이스, 인메모리 캐시, 빅데이터 분석 워크로드의 실행 성능을 향상시킬 전망입니다. R8g 인스턴스는 기존 R7g 인스턴스 대비 최대 3배 더 많은 vCPU와 메모리를 제공하여, 대규모 데이터 처리, 워크로드 확장, 결과 도출 시간 단축, 총 소유 비용 절감에 기여할 것으로 보입니다. 현재 Graviton4 기반 R8g 인스턴스는 프리뷰 단계에 있으며, 수개월 내 정식 출시될 예정입니다.
AWS Trainium2는 생성형 AI의 핵심인 파운데이션 모델(FM) 및 대규모 언어 모델(LLM) 학습에 특화된 칩입니다. 첫 세대 Trainium 칩 대비 최대 4배 빠른 학습 속도와 2배 향상된 에너지 효율성을 제공합니다. 또한, 최대 10만 개의 칩으로 구성된 EC2 UltraClusters에 배포될 수 있어, 기존 대비 훨씬 짧은 시간 안에 FM 및 LLM을 학습시킬 수 있습니다. 이를 통해 수천억 개에서 수조 개에 이르는 파라미터를 가진 최첨단 FM 및 LLM을 효율적으로 학습시키고, 생성형 AI 분야의 차세대 혁신을 가속화할 것으로 예상됩니다.
AWS의 데이비드 브라운 컴퓨팅 및 네트워킹 부문 부사장은 "실리콘은 모든 고객 워크로드를 뒷받침하는 핵심 요소이며, AWS에게는 중요한 혁신 영역입니다. 고객에게 중요한 실제 워크로드에 집중하여 칩을 설계함으로써 가장 발전된 클라우드 인프라를 제공하고 있습니다. Graviton4는 5년 만에 선보이는 네 번째 세대 칩으로, 광범위한 워크로드에 대해 가장 강력하고 에너지 효율적인 칩입니다. 또한, 생성형 AI에 대한 관심이 급증함에 따라 Trainium2는 고객이 ML 모델을 더 빠르고 저렴하며 에너지 효율적으로 학습할 수 있도록 지원할 것입니다."라고 말했습니다.
AWS는 이미 전 세계적으로 150개 이상의 Graviton 기반 Amazon EC2 인스턴스 유형을 제공하고 있으며, 200만 개 이상의 Graviton 프로세서를 구축했습니다. Datadog, DirecTV, Discovery, Formula 1(F1), NextRoll, Nielsen, Pinterest, SAP, Snowflake, Sprinklr, Stripe, Zendesk 등 다수의 기업들이 Graviton 기반 인스턴스를 활용하여 데이터베이스, 분석, 웹 서버, 배치 처리, 광고 서빙, 애플리케이션 서버, 마이크로서비스 등 다양한 워크로드를 운영하고 있습니다.
생성형 AI 분야의 선두 주자인 Anthropic은 AWS와 협력하여 Trainium2 칩을 활용한 차세대 파운데이션 모델 개발을 진행하고 있습니다. Anthropic의 공동 창립자인 톰 브라운은 "Trainium2는 매우 큰 규모의 모델을 구축하고 학습하는 데 도움을 줄 것이며, 일부 핵심 워크로드에서는 1세대 Trainium 칩보다 최소 4배 빠를 것으로 예상합니다. AWS와의 협력을 통해 모든 규모의 조직이 Anthropic의 최첨단 AI 시스템과 AWS의 안전하고 안정적인 클라우드 기술을 함께 활용하여 새로운 가능성을 열 수 있을 것입니다."라고 밝혔습니다.
Databricks 역시 AWS Trainium을 통해 Mosaic MPT 모델을 학습시키고 있으며, Trainium2를 통해 차세대 모델을 더욱 빠르게 구축하여 고객에게 전례 없는 규모와 성능을 제공할 수 있을 것으로 기대하고 있습니다. Databricks의 Naveen Rao 생성형 AI 부문 부사장은 "AWS Trainium은 Mosaic MPT 모델을 학습시키는 데 필요한 규모와 고성능을 저렴한 비용으로 제공합니다. Trainium2는 차세대 Mosaic MPT 모델을 더욱 빠르게 구축할 수 있게 하여, 고객이 자체 생성형 AI 애플리케이션을 시장에 더 신속하게 출시할 수 있도록 지원할 것입니다."라고 말했습니다.
Datadog의 Laurent Bernaille 수석 엔지니어는 "Datadog에서는 수만 개의 노드를 운영하므로 성능과 비용 효율성의 균형이 매우 중요합니다. 그렇기 때문에 이미 Amazon EC2 플릿의 절반을 Graviton으로 운영하고 있습니다. Graviton4 기반 인스턴스를 환경에 통합하는 것은 매우 원활했으며 즉각적인 성능 향상을 가져왔습니다."라고 전했습니다.
Epic Games의 Roman Visintine 리드 클라우드 엔지니어는 "AWS Graviton4 인스턴스는 우리가 테스트한 EC2 인스턴스 중 가장 빠르며, 가장 경쟁이 치열하고 지연 시간에 민감한 워크로드 전반에 걸쳐 뛰어난 성능을 제공합니다."라고 언급했습니다.
