킨들 설문조사: 개인 맞춤형 독서 도구, 신경다양성 독자에게 필수적

AWS, 생성형 AI 모델 구축·훈련·배포 가속화 위한 새 SageMaker 기능 발표 아마존 웹 서비스(AWS)가 대규모 언어 모델(LLM) 및 기타 파운데이션 모델(Foundation Model) 구축, 훈련, 배포를 가속화하는 Amazon SageMaker의 5가지 새로운 기능을 발표했습니다. 이번 발표는 AWS re:Invent 행사에서 이루어졌으며, 다양한 산업에서 고객 경험을 혁신하는 모델의 중요성이 커짐에 따라 SageMaker는 조직이 생성형 AI 활용 사례를 지원하는 머신러닝(ML) 모델을 더 쉽고 빠르게 구축, 훈련, 배포할 수 있도록 지원합니다. 이번에 발표된 주요 기능들은 다음과 같습니다. SageMaker HyperPod, 파운데이션 모델 훈련 시간 최대 40% 단축 SageMaker HyperPod는 대규모 분산 훈련을 위한 전용 인프라를 제공하여 파운데이션 모델 훈련 시간을 최대 40%까지 단축합니다. 기존에는 수백 또는 수천 개의 가속기에서 모델 훈련을 분산하고 수조 개의 데이터 연산을 병렬로 처리하는 데 수 주에서 수 개월이 소요되었으며, 단일 가속기 오류와 같은 드문 오류가 전체 훈련 프로세스를 중단시키고 수동 개입을 요구하는 경우가 많았습니다. SageMaker HyperPod는 이러한 복잡성을 제거하고, 하드웨어 오류 발생 시 자동으로 감지, 복구, 재개하여 중단 없는 훈련을 지원합니다. SageMaker Inference, 파운데이션 모델 배포 비용 50% 절감 및 지연 시간 20% 감소 SageMaker Inference는 가속기 사용을 최적화하여 파운데이션 모델 배포 비용을 평균 50% 절감하고 지연 시간을 평균 20% 감소시킵니다. 여러 모델을 동일한 인스턴스에 배포하여 가속기 활용도를 높이고, 각 모델별로 개별적인 확장 정책을 제어하여 모델 사용 패턴에 맞춰 인프라 비용을 최적화할 수 있습니다. 또한, 추론 요청을 지능적으로 라우팅하여 응답 지연 시간을 줄입니다. SageMaker Clarify, 책임감 있는 AI 사용 지원 위한 모델 평가 간소화 SageMaker Clarify는 고객이 책임감 있는 AI 사용을 지원하는 매개변수를 기반으로 파운데이션 모델을 신속하게 평가하고 선택할 수 있도록 지원합니다. 이를 통해 AI 모델의 공정성, 설명 가능성, 편향성 등을 쉽게 파악하고 적합한 모델을 선택할 수 있습니다. SageMaker Canvas, 자연어 지시를 통한 데이터 준비 및 모델 구축 가속화 SageMaker Canvas는 고객이 자연어 지시를 사용하여 데이터 준비를 가속화하고, 몇 번의 클릭만으로 파운데이션 모델을 사용하여 모델을 구축할 수 있도록 지원합니다. 코딩 지식이 없는 사용자도 쉽게 ML 모델을 활용하여 인사이트를 추출하고 예측을 수행하며 콘텐츠를 생성할 수 있습니다. BMW Group, Booking.com, Hugging Face, Perplexity, Salesforce, Stability AI, Vanguard 등 주요 고객 및 파트너사들이 새로운 SageMaker 기능을 활용하고 있습니다. AWS는 이번 발표를 통해 SageMaker의 광범위한 기능을 더욱 강화하여 고객이 ML을 활용한 혁신을 대규모로 추진할 수 있도록 지원할 것이라고 밝혔습니다.