AWS, 모델 확장 위한 Amazon SageMaker 기능 5가지 새롭게 발표

AWS, 파운데이션 모델 구축·훈련·배포 가속화하는 Amazon SageMaker 신규 기능 발표

Amazon Web Services, Inc. (AWS)는 오늘 라스베이거스에서 열린 AWS re:Invent에서 대규모 언어 모델(LLM) 및 기타 파운데이션 모델(FM)의 구축, 훈련, 배포를 가속화하는 Amazon SageMaker의 5가지 새로운 기능을 발표했습니다.

이번에 발표된 주요 기능들은 다음과 같습니다.

SageMaker HyperPod: 대규모 분산 훈련을 위한 전용 인프라를 제공하여 파운데이션 모델 훈련 시간을 최대 40% 단축합니다.

SageMaker Inference: 가속기 사용을 최적화하여 파운데이션 모델 배포 비용을 평균 50% 절감하고 지연 시간을 평균 20% 줄입니다.

SageMaker Clarify: AI의 책임감 있는 사용을 지원하는 매개변수를 기반으로 파운데이션 모델을 신속하게 평가하고 선택할 수 있도록 지원합니다.

SageMaker Canvas: 자연어 지침을 사용하여 데이터 준비를 가속화하고 몇 번의 클릭만으로 파운데이션 모델을 사용하여 모델 구축을 지원합니다.

이러한 새로운 SageMaker 기능들은 BMW Group, Booking.com, Hugging Face, Perplexity, Salesforce, Stability AI, Vanguard 등 다수의 고객 및 파트너사에서 이미 활용되고 있습니다.

AWS는 이번 발표를 통해 고객들이 머신러닝(ML) 모델을 더욱 쉽고 빠르게 구축, 훈련, 배포하여 다양한 생성형 AI 활용 사례를 지원할 수 있도록 지원할 것이라고 밝혔습니다.

Bratin Saha, AWS의 인공지능 및 머신러닝 부문 부사장은 "머신러닝은 최근 역사상 가장 심오한 기술 발전 중 하나이며, 모델에 대한 관심은 모든 조직으로 확산되었습니다."라며, "이러한 관심 증가는 고객들이 모델을 더 빠르게 구축, 훈련, 배포하고자 할 때 새로운 확장 과제를 제시합니다. 훈련 가속화, 호스팅 비용 최적화, 지연 시간 감소, 파운데이션 모델 평가 간소화부터 노코드 모델 구축 기능 확장까지, 우리는 모든 규모의 조직에 고품질의 비용 효율적인 머신러닝 모델에 대한 접근성을 민주화하는 임무를 수행하고 있습니다. 오늘 발표를 통해 AWS는 고객이 머신러닝 투자를 최대한 활용할 수 있도록 지원하는 완전 관리형의 전용 기능을 Amazon SageMaker에 추가했습니다."라고 말했습니다.

SageMaker HyperPod, 훈련 시간 최대 40% 단축

파운데이션 모델 훈련은 방대한 데이터 양, 대규모 모델 크기, 긴 훈련 시간으로 인해 복잡성이 기하급수적으로 증가하고 있습니다. 고객들은 종종 수백 또는 수천 개의 가속기에 걸쳐 모델 훈련을 분할해야 하며, 이는 수 주 또는 수 개월 동안 수조 건의 데이터 계산을 병렬로 처리해야 함을 의미합니다. 이러한 과정에서 발생하는 사소한 오류조차 전체 훈련 프로세스를 중단시키고 수동 개입을 요구하여 진행을 지연시킬 수 있습니다.

SageMaker HyperPod는 이러한 복잡한 ML 인프라 구축 및 최적화 작업을 제거하여 훈련 시간을 최대 40% 단축합니다. SageMaker의 분산 훈련 라이브러리가 사전 구성되어 있어 고객은 훈련 워크로드를 수천 개의 가속기에 자동으로 분할하여 병렬 처리를 통해 모델 성능을 향상시킬 수 있습니다. 또한, SageMaker HyperPod는 훈련 진행 상황을 주기적으로 저장(체크포인팅)하여 중단 없는 모델 훈련을 보장합니다. 하드웨어 오류 발생 시 자동으로 이를 감지하고, 오류가 발생한 인스턴스를 복구하거나 교체한 후 마지막으로 저장된 체크포인트부터 훈련을 재개하여 고객이 수동으로 관리할 필요 없이 분산 환경에서 수 주 또는 수 개월 동안 중단 없이 훈련할 수 있도록 지원합니다.

SageMaker Inference, 배포 비용 50% 절감 및 지연 시간 20% 감소

모델 배포 시, 고객들은 성능 최적화를 위해 SageMaker를 사용하여 AWS Inferentia 및 GPU를 포함한 최신 ML 인프라 가속기에 모델을 배포합니다. 그러나 일부 모델은 이러한 인스턴스의 가속기를 완전히 활용하지 못해 하드웨어 리소스의 비효율적인 사용을 초래할 수 있습니다. 또한, 일부 조직은 여러 모델을 동일한 인스턴스에 배포하여 가속기를 더 잘 활용하지만, 이는 복잡한 인프라 오케스트레이션이 필요하며 시간 소모적이고 관리하기 어렵습니다.

SageMaker는 이제 새로운 추론 기능을 지원하여 고객이 배포 비용과 지연 시간을 줄일 수 있도록 합니다. 이러한 새로운 기능을 통해 고객은 여러 모델을 동일한 인스턴스에 배포하여 기본 가속기를 더 잘 활용함으로써 배포 비용을 평균 50% 절감할 수 있습니다. 또한, 각 모델에 대해 별도의 확장 정책을 제어하여 모델 사용 패턴에 쉽게 적응하고 인프라 비용을 최적화할 수 있습니다. SageMaker는 추론 요청을 처리하는 인스턴스를 적극적으로 모니터링하고, 사용 가능한 인스턴스를 기반으로 요청을 지능적으로 라우팅하여 평균 20% 낮은 추론 지연 시간을 달성합니다.

SageMaker Clarify, AI 책임감 있는 사용 지원

SageMaker Clarify는 이제 고객이 AI의 책임감 있는 사용을 지원하는 매개변수를 기반으로 파운데이션 모델을 신속하게 평가하고 선택할 수 있도록 지원합니다. 이를 통해 고객은 편향성, 공정성, 설명 가능성 등 AI 모델의 중요한 측면을 쉽게 평가하고, 조직의 요구사항에 가장 적합한 모델을 선택할 수 있습니다.

SageMaker Canvas, 노코드 기능으로 데이터 준비 및 모델 구축 가속화

SageMaker Canvas는 자연어 지침을 사용하여 데이터 준비를 가속화하고 몇 번의 클릭만으로 파운데이션 모델을 사용하여 모델 구축을 지원하는 새로운 노코드 기능을 제공합니다. 이를 통해 기술적인 전문 지식이 없는 사용자도 데이터를 준비하고 ML 모델을 구축하여 인사이트를 추출하고 예측을 수행하며 콘텐츠를 생성할 수 있습니다. SageMaker Canvas는 조직의 독점 데이터를 활용하여 고유한 고객 경험을 창출할 수 있도록 모델 구축 및 사용자 정의를 더욱 민주화합니다.

AWS는 이러한 새로운 SageMaker 기능들이 고객들이 ML을 통해 혁신하고 생성형 AI 애플리케이션을 구축하는 데 필요한 도구와 기능을 제공함으로써, ML 투자를 최대한 활용할 수 있도록 지원할 것이라고 강조했습니다.