Trainium3 UltraServers 출시: 고객의 AI 모델 학습 및 배포를 더 빠르고 저렴하게 지원

AWS, 차세대 AI 칩 'Trainium3' 탑재한 UltraServer 공개 아마존 웹 서비스(AWS)가 인공지능(AI) 워크로드 성능을 대폭 향상시킨 새로운 AI 칩 'Trainium3'를 탑재한 Trainium3 UltraServer를 공식 출시했습니다. 이번 신제품은 AI 모델 학습 및 추론 성능을 극대화하여 기업들의 야심찬 AI 프로젝트를 지원할 것으로 기대됩니다. Trainium3 UltraServer는 이전 세대인 Trainium2 UltraServer 대비 최대 4.4배 향상된 컴퓨팅 성능, 4배 높은 에너지 효율성, 그리고 약 4배 증가한 메모리 대역폭을 제공합니다. 이를 통해 AI 개발 속도를 높이고 운영 비용을 절감하는 효과를 가져올 것으로 분석됩니다. 특히, Trn3 UltraServer는 최대 144개의 Trainium3 칩을 집적할 수 있으며, 최대 362 FP8 PFLOPs의 성능을 발휘합니다. 또한, 지연 시간을 4배 낮춰 대규모 AI 모델을 더 빠르게 학습시키고, 대규모 추론 서비스를 효율적으로 제공할 수 있습니다. Anthropic, Karakuri, Metagenomi, NetoAI, Ricoh, Splash Music 등 다수의 고객사들은 이미 Trainium 칩을 통해 AI 학습 및 추론 비용을 최대 50%까지 절감하고 있다고 밝혔습니다. Decart의 경우, 실시간 생성 비디오 처리에서 GPU 대비 절반의 비용으로 4배 빠른 추론 속도를 달성했습니다. Amazon Bedrock 역시 이미 Trainium3를 기반으로 프로덕션 워크로드를 서비스하고 있습니다. AWS는 고객 중심, 혁신 속도, 운영 우수성, 장기적 관점을 핵심 가치로 삼고 있습니다. 지난 20년간 기술의 민주화를 통해 클라우드 컴퓨팅과 생성형 AI를 모든 규모의 조직에 제공하며, 역사상 가장 빠르게 성장하는 기업 기술 비즈니스 중 하나를 구축했습니다. 수백만 고객은 AWS를 통해 혁신을 가속화하고 비즈니스를 혁신하며 미래를 만들어가고 있습니다. 가장 포괄적인 AI 기능과 글로벌 인프라를 갖춘 AWS는 빌더들이 거대한 아이디어를 현실로 만들 수 있도록 지원합니다.