BOTNOI, AWS 기반 동남아 맞춤형 다국어 생성 AI 어시스턴트 구축

태국 스타트업 BOTNOI, AWS 기반 AI 음성 플랫폼으로 동남아시아 고객 서비스 혁신 선도 AWS, BOTNOI의 AI 솔루션 개발 및 확장에 기여… 시장 출시 시간 10배 단축, 생산성 300% 향상, 운영 비용 최대 70% 절감 효과 [2024년 12월 2일] 아마존닷컴(Amazon.com)의 자회사인 아마존 웹 서비스(Amazon Web Services, AWS)는 태국의 생성형 인공지능(generative AI) 스타트업 BOTNOI가 대화형 AI 가상 비서 전문 기업으로서, AWS 상에서 텍스트-음성 변환(text-to-speech) 및 음성-텍스트 변환(speech-to-text) AI 플랫폼인 BOTNOI Voice를 구축했다고 오늘 발표했습니다. BOTNOI Voice는 동남아시아 언어 및 문화적 특성에 맞춰 현지에서 동의를 얻은 언어 데이터를 활용하여 개발되었으며, 이를 통해 현지 기업들이 생성형 AI를 활용하여 고객 서비스를 개선할 수 있도록 지원합니다. BOTNOI Voice는 태국어, 인도네시아어, 베트남어, 라오어, 버마어, 캄보디아어를 중심으로 20개 이상의 언어에서 200가지 이상의 사람과 유사한 음성을 지원합니다. BOTNOI는 태국의 Central Pattana (CPN), Bangkok Hospital 등 70개 이상의 기업에 가상 비서 플랫폼을 배포했으며, 1,000만 명 이상의 최종 사용자가 BOTNOI의 AI 비서와 상호작용했습니다. BOTNOI Voice 사용자들은 다양한 AI 비서를 개발해왔습니다. 예를 들어, 의료 분야에서는 Ramathibodi Hospital 및 Department of Mental Health와 협력하여 환자 사전 스크리닝 및 사전 등록을 위한 AI 간호사를 개발, 의료 전문가들이 환자 상태의 심각도를 분류하고 응급 치료를 가속화할 수 있도록 지원합니다. 또한, HOP INN과 같은 호텔에서는 AI 컨시어지를 개발하여 호텔 예약 서비스를 제공하고 있으며, 태국의 Ngern Tid Lor 및 Government Savings Bank와 같은 금융 서비스 기관은 AI 영업 비서를 활용하여 신규 고객을 확보하고 있습니다. 이러한 AI 비서들은 현지 전문가의 상호작용을 최대 95%의 정확도로 모방하는 고객 응대를 제공합니다. BOTNOI의 창립자인 Dr. Winn Voravuthikunchai는 "클라우드 기술은 기업이 더 나은 운영을 할 수 있도록 지원하며, 이를 통해 우리는 전국 3,000명 이상의 교사가 교육을 더욱 접근 가능하고 효과적으로 만드는 교실 모듈을 만드는 데 도움을 줄 수 있었습니다."라며, "우리는 AWS를 활용하여 BOTNOI Voice를 구축했으며, 이는 다양한 언어와 지역 문화 전반에 걸쳐 사람과 같은 상호작용을 제공합니다."라고 말했습니다. Dr. Winn Voravuthikunchai는 또한 "Amazon Bedrock은 다양한 사용 사례에 대해 기반 모델 간에 원활하게 전환할 수 있도록 하여, BOTNOI Voice가 빠르게 성장하는 고객 기반과 그들의 까다로운 고객들의 진화하는 요구를 충족하도록 보장하는 데 매우 중요합니다."라며, "AWS Activate 스타트업 프로그램에 참여하게 되어 매우 기쁘며, 이 프로그램은 AWS 상에서의 성장을 가속화하기 위한 귀중한 지원을 제공했습니다. 이 프로그램을 통해 BOTNOI Voice를 더욱 효과적으로 구축, 확장 및 상용화할 수 있었습니다."라고 강조했습니다. BOTNOI의 문화적으로 민감한 LLM은 머신러닝(ML) 추론 및 그래픽 집약적인 애플리케이션에 가장 비용 효율적인 GPU 인스턴스인 AWS EC2 G4DN 인스턴스를 사용하여 자연스러운 텍스트-음성 변환 및 음성-텍스트 변환 오디오를 생성합니다. 이러한 인스턴스는 회사의 증가하는 생성형 AI 워크로드를 처리하기 위한 확장 가능한 컴퓨팅 용량을 클라우드에서 제공했습니다. BOTNOI는 2025년에 1세대 Trainium 칩보다 최대 4배 빠른 학습 속도를 제공하는 맞춤형 실리콘 Trainium2를 실험할 계획입니다. 기반 모델(FM)을 사용하여 생성형 AI 애플리케이션을 구축하고 확장하는 가장 쉬운 방법인 Amazon Bedrock은 BOTNOI의 생성형 AI 비서를 지원합니다. 이 서비스를 통해 회사는 AI21 Labs, Anthropic, Cohere, Meta, Mistral AI, Stability AI, Amazon과 같은 선도적인 AI 기업의 고성능 FM을 단일 API를 통해 쉽게 선택하고 액세스할 수 있습니다. 유해한 콘텐츠를 원하는 수준으로 필터링하기 위해 BOTNOI Voice는 Amazon Bedrock Guardrails를 사용하여 BOTNOI의 책임 있는 AI 정책을 기반으로 애플리케이션별 안전 장치를 구현하며, 혐오 발언, 모욕, 성적 언어, 폭력 등 다양한 범주에 걸쳐 콘텐츠 필터 임계값을 구성할 수 있도록 합니다. 이 스타트업은 또한 부적절하거나 저속한 단어의 사용 및 플랫폼 상에서의 사람들의 목소리에 대한 무단 사용 또는 남용을 방지하는 모델을 AWS 상에서 개발할 계획입니다. Amazon SageMaker JumpStart는 기반 모델, 내장 알고리즘 및 사전 구축된 ML 솔루션을 갖춘 ML 허브로서, BOTNOI가 동의한 사용자가 수집한 로컬 데이터 음성, 언어 및 문화 데이터를 사용하여 모델을 학습, 미세 조정 및 추론하는 데 도움을 줍니다. BOTNOI는 다양한 통신 채널에서 원활한 고객 서비스를 제공할 수 있도록 지원하는 AI 기반 컨택 센터 서비스인 Amazon Connect와 통합하여, 기업이 고객 통화를 자동화하고, 수신 통화를 스크리닝하며, 신속한 인간 개입을 위해 긴급 상호작용의 우선순위를 정하도록 돕습니다. BOTNOI Voice는 이제 AWS 상에서 실행되는 타사 소프트웨어, 데이터 및 서비스의 검색, 구매, 배포 및 관리를 용이하게 하기 위해 큐레이션된 디지털 카탈로그인 AWS Marketplace에서 수백만 명의 AWS 고객에게 제공됩니다. AWS 파트너 네트워크(APN)와 함께 AWS Marketplace는 ISV 및 컨설팅 파트너가 귀중한 비즈니스, 기술 및 마케팅 지원을 제공함으로써 AWS 제품을 구축, 마케팅 및 판매하도록 돕습니다. BOTNOI는 AWS 고급 기술 파트너인 DoiT와 협력하여 AWS 상에서 애플리케이션 및 시스템을 아키텍처링하고 배포하는 방식을 재구성하고 있습니다. DoiT의 엔지니어링 팀과 함께 BOTNOI는 클라우드 환경을 더욱 효율적으로 만들어 서버리스 컴퓨팅 및 머신러닝 비용을 75% 이상 절감했습니다. AWS 태국 지사장인 Vatsun Thirapatarapong은 "동남아시아 전역의 문화적 다양성과 독특한 언어 요구는 BOTNOI와 같은 회사가 혁신적이고 현지화된 AI 솔루션을 개발할 수 있는 독특한 기회를 제공합니다."라며, "우리는 대화형 AI를 더욱 접근 가능하게 만들려는 BOTNOI의 사명을 지원하게 된 것을 자랑스럽게 생각합니다. 그들의 성공은 AWS가 이 지역의 다양한 스타트업들이 대담하게 실험하고 놀라운 비즈니스 성장을 달성하도록 어떻게 지원하고 있는지를 보여줍니다."라고 말했습니다. Amazon Web Services (AWS) 소개 2006년부터 Amazon Web Services는 세계에서 가장 포괄적이고 널리 채택된 클라우드입니다. AWS는 지속적으로 서비스를 확장하여 거의 모든 워크로드를 지원하고 있으며, 현재 33개 지리적 리전 내 105개 가용 영역에서 컴퓨팅, 스토리지, 데이터베이스, 네트워킹, 분석, 머신러닝 및 인공지능(AI), 사물 인터넷(IoT), 모바일, 보안, 하이브리드, 미디어, 애플리케이션 개발, 배포 및 관리를 위한 240개 이상의 완전 기능 서비스를 제공하고 있으며, 말레이시아, 멕시코, 뉴질랜드, 사우디아라비아 왕국, 대만, 태국 및 AWS European Sovereign Cloud에 21개의 추가 가용 영역과 7개의 추가 AWS 리전을 구축할 계획을 발표했습니다. 가장 빠르게 성장하는 스타트업, 가장 큰 기업, 선도적인 정부 기관을 포함한 수백만 명의 고객이 AWS를 신뢰하여 인프라를 지원하고, 민첩성을 높이며, 비용을 절감합니다. AWS에 대한 자세한 내용은 aws.amazon.com을 방문하십시오.