Upstage, AWS에서 차세대 생성형 AI LLM ‘Solar Pro’ 출시

한국 AI 스타트업 업스테이지, 아마존 AWS 기반 차세대 LLM 'Solar Pro' 출시 업스테이지, Amazon SageMaker 활용 LLM 성능 최대 50% 향상… 의료, 금융, 법률 등 산업 전반에 맞춤형 AI 솔루션 제공 [샌프란시스코] 한국의 선도적인 인공지능(AI) 스타트업 업스테이지(Upstage)가 아마존 웹 서비스(AWS) 기반의 차세대 대규모 언어 모델(LLM) 'Solar Pro'를 출시했다고 4일 밝혔습니다. Amazon Bedrock Marketplace, Amazon SageMaker JumpStart, AWS Marketplace에서 즉시 이용 가능한 Solar Pro는 의료, 금융, 법률 서비스 등 다양한 산업 분야에서 손쉽게 맞춤 설정하고 미세 조정할 수 있습니다. 220억 개의 매개변수를 가진 Solar Pro는 업스테이지의 이전 모델인 107억 개 매개변수의 Solar Mini보다 더 큰 규모를 자랑하며, 주요 벤치마크에서 성능이 최대 50% 향상되었음에도 불구하고 비용은 더 낮습니다. 지난 9월 공개된 미리보기 버전에서 Solar Pro는 700억 개 미만 매개변수 모델 중 HuggingFace의 Open LLM Leaderboard에서 1위를 차지했으며, 감성 지능을 평가하는 EQ Bench Leaderboard에서도 뛰어난 성과를 보였습니다. 또한 Predibase의 Fine-Tuning Leaderboard에서는 주요 기술 기업들의 모든 오픈소스 모델을 능가하는 성능을 기록했습니다. Solar Pro는 완전 관리형 머신러닝(ML) 서비스인 Amazon SageMaker에서 훈련되었습니다. 이 과정에서 고급 데이터 전처리 및 지속적인 사전 훈련 기법을 통해 훈련 시간을 크게 단축했습니다. 훈련 데이터로는 업스테이지가 설립한 한국 특화 LLM 연합인 '1조 토큰 클럽(1 Trillion Token Club)'의 데이터가 활용되었습니다. 이 데이터는 텍스트, 서적, 뉴스 기사, 보고서 등 다양한 저작권 없는 영어 및 한국어 훈련 데이터를 포함하고 있어, Solar Pro의 문화적 뉘앙스 이해도를 높이고 응답의 정확성을 개선하며 'AI 환각(AI hallucinations)' 현상을 완화하는 데 기여했습니다. 220억 개 매개변수 모델인 Solar Pro는 단일 GPU 배포에 최적화되었습니다. 업스테이지의 독자적인 Depth-Up Scaling(DUS) 기술은 성능 저하 없이 모델 크기를 컴팩트하게 유지하는 사전 훈련 기법입니다. 이 기술은 기존 AI 아키텍처를 신중하게 재설계하여 높은 성능을 유지하면서도 크기를 대폭 줄이는 방식입니다. DUS 기술이 없다면 업스테이지의 AI 모델은 동일한 결과를 얻기 위해 현재 크기의 거의 네 배에 달해야 합니다. DUS를 통해 업스테이지는 훨씬 더 큰 매개변수 모델과 동등한 성능을 발휘하면서도 실행에 필요한 컴퓨팅 파워는 훨씬 적게 소모하는 220억 개 매개변수 모델을 구현했습니다. 이러한 접근 방식은 특수하게 선별된 훈련 데이터와 결합되어 복잡한 작업을 효율적으로 처리할 수 있는 AI 모델을 만드는 데 도움을 줍니다. 이는 GPU 효율성을 극대화하고, 기업이 값비싼 인프라 업그레이드나 외부 API 의존 없이 생성형 AI 기능을 활용할 수 있도록 합니다. 오늘부터 Solar Pro는 Amazon Bedrock Marketplace에서 이용 가능하며, 고객들은 100개 이상의 인기, 신흥, 특화 모델 중에서 자신의 사용 사례에 최적화된 모델을 선택할 수 있습니다. 모델 배포 후에는 Amazon Bedrock의 통합 API와 안전하게 연동하고, Guardrails 및 Agents와 같은 도구를 활용하며, 내장된 보안 및 개인 정보 보호 기능을 이용할 수 있습니다. 고객은 원하는 모델을 찾은 후, 확장 요구 사항에 맞는 적절한 인프라(인스턴스 수 및 유형)를 선택하여 완전 관리형 엔드포인트를 통해 AWS에 쉽게 배포할 수 있습니다. AI 솔루션, 산업을 지원하다 Solar Pro는 문서 이미지와 구조화된 데이터를 지능적으로 이해하고 복잡한 질문에 대해 맥락에 맞는 응답을 제공합니다. 이 모델은 다양한 레이아웃을 가진 다중 페이지 문서를 처리하는 데 탁월하며, 송장, 계약서, 규제 서류 등에서 핵심 정보를 자동으로 추출하고 정리합니다. 예를 들어, Solar Pro는 레이아웃에 상관없이 구조화된 다중 페이지 송장을 처리하여 송장 번호, 날짜, 품목, 총액, 공급업체 세부 정보와 같은 주요 정보를 자동으로 추출할 수 있습니다. 그런 다음 이 정보를 구조화된 형식으로 정리하여 회사의 회계 시스템에 직접 입력할 수 있습니다. 업스테이지의 김성훈 CEO는 "업스테이지의 Solar Pro는 의료, 금융, 법률과 같이 프로세스 자동화 및 간소화가 효율성과 생산성 극대화에 필수적인 산업의 중요한 과제를 해결합니다"라며, "AWS의 강력한 인프라, 특히 Amazon SageMaker를 활용하여 복잡한 의료 기록을 해석하고, 재무 보고서를 분석하며, 법률 문서를 높은 정확성과 효율성으로 처리할 수 있는 모델을 개발했습니다. 이를 통해 해당 분야의 전문가들이 더 빠르고 정보에 입각한 결정을 내릴 수 있게 되었습니다. AWS의 확장성은 방대한 데이터셋으로 Solar Pro를 훈련할 수 있게 하여 훈련 시간을 단축하고, 모든 규모의 비즈니스에 고급 AI 기능을 더욱 접근 가능하고 비용 효율적으로 만들었습니다."라고 말했습니다. AWS 코리아의 함기호 대표는 "AWS는 업스테이지가 Solar Pro를 통해 고급 AI 기능을 더욱 쉽게 접근할 수 있도록 지원하게 된 것을 자랑스럽게 생각합니다"라며, "업스테이지와 같은 스타트업과의 협력을 통해 기업들이 효율성을 높이는 생성형 AI 솔루션을 안전하게 채택하고 맞춤화할 수 있습니다. AWS 파트너 네트워크(APN)는 업스테이지가 전 세계 조직에 생성형 AI 솔루션을 구축, 마케팅 및 판매할 수 있는 구조화된 프레임워크를 제공했습니다. 우리의 기술 리소스, 마케팅 지원 및 비즈니스 개발 지원은 스타트업이 모든 산업에서 혁신을 가속화할 수 있도록 특별히 설계되었으며, 업스테이지는 한국 및 그 외 지역에서 맞춤형 AI 솔루션이 비즈니스에 제공되는 방식을 변화시키고 있습니다."라고 덧붙였습니다. 현재 인텔(Intel), Poe by Quora, you.com, Sendbird 등 수백 개의 글로벌 기업이 업스테이지와 협력하여 Solar Pro의 기능을 활용하고 있으며, 각 산업의 특정 요구 사항과 과제에 맞춰진 맞춤형 생성형 AI 솔루션을 개발하고 있습니다. 이러한 광범위한 채택은 Solar Pro의 다재다능함과 다양한 부문에서의 효과를 강조합니다. 예를 들어, 한국 식품의약품안전처(MFDS)는 업스테이지와 협력하여 일반 대중을 위한 LLM 기반 챗봇을 개발했습니다. MFDS 내부 매뉴얼을 기반으로 훈련된 이 챗봇은 화장품 규제, 제품의 수출입 및 판매 요건에 대한 질문에 실시간 답변을 제공하여, 이전에는 MFDS 공무원이 직접 문의를 처리해야 했던 과정을 간소화했습니다. 식품의약품안전처의 박찬영 교육연구관은 "ChatGPT의 등장은 상당한 사회적 변화를 가져왔고, 공공 부문의 AI 활용에 대한 관심이 높아지고 있습니다"라며, "식품의약품안전처는 운영을 간소화하고 식품 및 의약품 안전 정보를 제공하는 것을 강화하기 위해 생성형 AI를 활용할 수 있는 방법을 적극적으로 모색하고 있습니다."라고 말했습니다. 커뮤니케이션 API와 맞춤형 AI 챗봇을 제공하는 선도적인 인앱 커뮤니케이션 솔루션 제공업체인 Sendbird는 누구나 맞춤형 AI 챗봇을 구축할 수 있는 노코드 생성형 AI 챗봇 솔루션에 업스테이지의 Solar를 통합했습니다. 이 협력은 기업이 웹사이트와 모바일 앱에 생성형 AI 챗봇을 신속하게 배포하여 Solar LLM 기반의 사람과 같은 고객 지원 및 참여를 제공할 수 있도록 합니다. Sendbird의 John Kim CEO는 "Sendbird AI 챗봇과 Solar를 결합하여 생성형 AI의 잠재력을 최대한 활용하는 솔루션을 제공할 것으로 기대합니다"라며, "이는 더 혁신적인 엔터프라이즈 지원 서비스와 고객 경험을 목표로 하는 기업에게 게임 체인저가 될 것입니다."라고 말했습니다. 업스테이지(Upstage) 소개 2020년 10월에 설립된 업스테이지는 업계 최고의 문서 처리 엔진과 대규모 언어 모델(LLM)을 통해 업무 효율성을 높이고 있습니다. 업스테이지의 주력 제품인 Solar LLM은 GPT-4 수준의 성능을 탁월한 속도와 비용 효율성으로 제공합니다. Amazon SageMaker JumpStart와 같은 플랫폼을 통한 API 통합 및 온프레미스(on-premises)로도 이용 가능한 Solar Pro는 기술 대기업이 개발한 더 크고 리소스 집약적인 모델에 대한 다재다능하고 접근 가능한 대안을 제공합니다. 또한, 업스테이지의 Document AI 솔루션은 AI 기반 광학 문자 인식(OCR) 기술을 활용하여 워크플로우를 자동화하고 비정형 데이터를 처리함으로써 운영 비용을 절감하고 고객의 운영을 간소화합니다. 전 세계 수백 명의 고객이 QUALCOMM, Intel, Jasmine Technology Solution을 포함한 고객을 위한 API 및 온보드/온프레미스 LLM 개발을 통해 Solar Mini 및 Solar Pro와 같은 LLM 모델에 대한 액세스를 포함한 업스테이지의 서비스를 활용하고 있습니다.