Amazon Bedrock, 100개 이상의 신규 모델과 추론 및 데이터 작업 위한 강력한 신규 기능으로 고객의 생성형 AI 도입 가속화 지원

AWS, Amazon Bedrock 대규모 확장 발표: 생성형 AI 개발 가속화 [라스베이거스] 아마존닷컴(NASDAQ: AMZN)의 자회사인 아마존 웹 서비스(AWS)는 고성능 파운데이션 모델을 활용해 생성형 인공지능(AI) 애플리케이션을 구축하고 확장할 수 있는 완전 관리형 서비스인 Amazon Bedrock에 대한 혁신적인 업데이트를 발표했습니다. 이번 발표는 모델 선택의 폭 확대, 대규모 추론 최적화, 데이터 활용 능력 강화에 초점을 맞추고 있습니다. AWS는 Luma AI와 poolside의 모델을 클라우드 최초로 제공할 예정입니다. 또한, Stability AI의 최신 모델을 Amazon Bedrock에 추가하고, 새롭게 선보이는 Amazon Bedrock Marketplace를 통해 100개 이상의 인기, 신흥, 특화 모델에 대한 접근성을 제공하여 고객이 각자의 사용 사례에 맞는 최적의 모델을 찾을 수 있도록 지원합니다. 새로운 프롬프트 캐싱(Prompt Caching) 기능과 Amazon Bedrock 지능형 프롬프트 라우팅(Intelligent Prompt Routing)은 고객이 추론을 보다 쉽고 비용 효율적으로 확장할 수 있도록 돕습니다. Amazon Bedrock Knowledge Bases의 구조화된 데이터 및 GraphRAG 지원은 고객이 데이터를 활용하여 맞춤형 생성형 AI 경험을 제공하는 방식을 더욱 확장합니다. Amazon Bedrock 데이터 자동화(Data Automation)는 코딩 없이 비정형, 멀티모달 데이터를 구조화된 데이터로 자동 변환하여 고객이 생성형 AI 및 분석에 더 많은 데이터를 활용할 수 있도록 지원합니다. 현재 수만 명의 고객이 Amazon Bedrock을 통해 생성형 AI 애플리케이션을 운영하고 있으며, 지난 한 해 동안 고객 기반은 4.7배 성장했습니다. Adobe, Argo Labs, BMW Group, Octus, Symbeo, Tenovos, Zendesk 등은 이미 최신 Amazon Bedrock의 이점을 활용하고 있습니다. AWS의 AI 및 데이터 담당 부사장인 Dr. Swami Sivasubramanian은 "Amazon Bedrock은 선도적인 모델의 폭넓은 선택지, 데이터를 활용한 쉬운 맞춤 설정 도구, 내장된 책임감 있는 AI 기능, 정교한 에이전트 개발 역량 덕분에 고객들의 빠른 성장을 이어가고 있습니다"라며, "Amazon Bedrock은 개발자들이 직면한 가장 큰 장애물을 해결하여 고객들이 생성형 AI의 잠재력을 최대한 발휘할 수 있도록 돕고 있습니다. 이번 새로운 기능 세트를 통해 우리는 고객들이 더 높은 가치를 제공하는 더욱 지능적인 AI 애플리케이션을 개발할 수 있도록 지원합니다"라고 말했습니다. 가장 폭넓은 AI 기업 모델 선택지 제공 Amazon Bedrock은 AI21 Labs, Anthropic, Cohere, Meta, Mistral AI, Stability AI 등 선도적인 AI 기업들의 완전 관리형 모델을 가장 폭넓게 제공합니다. 또한, Amazon Bedrock은 다양한 작업에서 최첨단 지능과 업계 최고 수준의 가격 대비 성능을 제공하는 차세대 파운데이션 모델인 Amazon Nova 모델에 접근할 수 있는 유일한 곳입니다. 이번 발표를 통해 AWS는 Amazon Bedrock에 더욱 많은 업계 최고 모델을 추가하며 모델 선택의 폭을 넓히고 있습니다. Luma AI의 Ray 2: Luma AI의 멀티모달 모델과 소프트웨어 제품은 생성형 AI를 통해 비디오 콘텐츠 제작을 발전시킵니다. AWS는 Luma AI의 최첨단 Luma Ray 2 모델을 고객에게 제공하는 최초의 클라우드 제공업체가 될 것입니다. Ray 2는 텍스트와 이미지를 기반으로 고품질의 사실적인 비디오를 효율적이고 영화적인 품질로 생성하는 생성형 AI 기반 비디오 제작의 중요한 발전을 보여줍니다. 고객은 다양한 카메라 각도와 스타일을 빠르게 실험하고, 일관된 캐릭터와 정확한 물리 법칙을 가진 비디오를 제작하며, 건축, 패션, 영화, 그래픽 디자인, 음악 분야에서 창의적인 결과물을 제공할 수 있습니다. poolside의 malibu 및 point: poolside는 대기업을 위한 현대적인 소프트웨어 엔지니어링의 과제를 해결합니다. AWS는 코드 생성, 테스트, 문서화, 실시간 코드 완성에 뛰어난 poolside의 malibu 및 point 모델에 대한 접근을 제공하는 최초의 클라우드 제공업체가 될 것입니다. 이를 통해 엔지니어링 팀은 생산성을 향상시키고, 더 나은 코드를 더 빠르게 작성하며, 제품 개발 주기를 가속화할 수 있습니다. 두 모델 모두 고객의 코드베이스, 관행, 문서에 대해 안전하고 비공개적으로 미세 조정(fine-tuning)할 수 있어 특정 프로젝트에 맞게 조정하고 일상적인 소프트웨어 엔지니어링 작업을 더 높은 정확도와 효율성으로 처리할 수 있습니다. 또한, AWS는 poolside의 malibu 및 point 모델의 기능을 개발자의 선호하는 통합 개발 환경(IDE)에 통합하는 poolside의 Assistant에 대한 접근을 제공하는 최초의 클라우드 제공업체가 될 것입니다. Stability AI의 Stable Diffusion 3.5 Large: Stability AI는 이미지, 비디오, 3D, 오디오 분야의 최첨단 모델을 보유한 시각 미디어 분야의 선도적인 생성형 AI 모델 개발업체입니다. Amazon Bedrock은 곧 Stability AI의 가장 발전된 텍스트-이미지 모델인 Stable Diffusion 3.5 Large를 추가할 예정입니다. 이 새로운 모델은 다양한 스타일로 텍스트 설명을 기반으로 고품질 이미지를 생성하여 미디어, 게임, 광고, 리테일 분야 고객을 위한 콘셉트 아트, 시각 효과, 상세 제품 이미지 제작을 가속화합니다. Amazon Bedrock Marketplace를 통해 100개 이상의 인기, 신흥, 특화 모델에 접근 Amazon Bedrock의 모델들은 광범위한 작업을 지원하지만, 많은 고객은 고유한 사용 사례(예: 금융 문서 분석 또는 신규 단백질 생성)를 지원하기 위해 신흥 및 특화 모델을 애플리케이션에 통합하기를 원합니다. Amazon Bedrock Marketplace를 통해 고객은 이제 AWS에서 배포 가능하고 Amazon Bedrock의 통합된 환경을 통해 접근할 수 있는 100개 이상의 모델 중에서 쉽게 찾고 선택할 수 있습니다. 여기에는 Mistral AI의 Mistral NeMo Instruct 2407, Technology Innovation Institute의 Falcon RW 1B, NVIDIA NIM 마이크로서비스와 같은 인기 모델뿐만 아니라 금융 산업을 위한 Writer의 Palmyra-Fin, 번역을 위한 Upstage의 Solar Pro, 텍스트-음성 변환 MARS6, 생물학을 위한 EvolutionaryScale의 ESM3 생성 모델과 같은 다양한 특화 모델이 포함됩니다. 고객이 원하는 모델을 찾으면, 확장 요구 사항에 맞는 인프라를 선택하고 완전 관리형 엔드포인트를 통해 AWS에 쉽게 배포할 수 있습니다. 그런 다음 고객은 Amazon Bedrock의 통합 API와 안전하게 통합하고, Guardrails 및 Agents와 같은 도구를 활용하며, 내장된 보안 및 개인 정보 보호 기능을 활용할 수 있습니다. Zendesk는 전 세계 10만 개의 브랜드를 보유한 다양하고 다문화적인 고객 기반을 가진 글로벌 서비스 소프트웨어 회사입니다. 이 회사는 Amazon Bedrock에서 Widn.AI와 같은 특화 모델을 사용하여 이메일, 채팅, 전화, 소셜 미디어 전반에 걸쳐 고객 서비스 요청을 개인화하고 현지화할 수 있습니다. 이를 통해 상담원은 고객의 모국어로 된 감성 또는 의도와 같은 필요한 데이터를 제공받아 궁극적으로 고객 서비스 경험을 향상시킬 수 있습니다. 프롬프트 캐싱 및 지능형 프롬프트 라우팅으로 추론 확장 지원 모델을 선택할 때 개발자는 정확성, 비용, 지연 시간 등 여러 요소를 균형 있게 고려해야 합니다. 이러한 요인 중 하나를 최적화하면 다른 요소를 희생해야 할 수 있습니다. 애플리케이션을 프로덕션에 배포할 때 이러한 요소를 균형 있게 고려하기 위해 고객은 자주 사용되는 프롬프트를 캐싱하거나 간단한 질문을 더 작은 모델로 라우팅하는 등 다양한 기술을 사용합니다. 그러나 이러한 기술을 사용하는 것은 복잡하고 시간이 많이 소요되며, 사용자 경험을 보장하기 위해 다양한 접근 방식을 반복적으로 테스트하려면 전문적인 전문 지식이 필요합니다. 따라서 AWS는 고객이 프롬프트를 효과적으로 관리할 수 있도록 두 가지 새로운 기능을 추가합니다. 프롬프트 캐싱으로 응답 지연 시간 및 비용 절감: Amazon Bedrock은 이제 정확성을 저해하지 않고 반복적인 처리를 줄이기 위해 프롬프트를 안전하게 캐싱할 수 있습니다. 이를 통해 지원되는 모델의 경우 비용을 최대 90%, 지연 시간을 최대 85%까지 줄일 수 있습니다. 예를 들어, 법률 회사는 변호사의 문서 관련 질문에 답변할 수 있는 생성형 AI 채팅 애플리케이션을 만들 수 있습니다. 여러 변호사가 프롬프트에서 동일한 문서 부분에 대해 질문하는 경우, Amazon Bedrock은 해당 부분을 캐싱하여 한 번만 처리하고 누군가 해당 부분에 대해 질문할 때마다 재사용할 수 있습니다. 이는 모델이 매번 처리해야 하는 정보의 양을 줄여 비용을 절감합니다. Adobe의 Acrobat AI Assistant는 문서 요약 및 질문 답변 기능을 통해 사용자 생산성을 향상시킵니다. Amazon Bedrock의 프롬프트 캐싱을 통해 Adobe는 예비 테스트에서 응답 시간을 72% 단축했습니다. 지능형 프롬프트 라우팅으로 응답 품질 및 비용 최적화: 지능형 프롬프트 라우팅을 통해 고객은 Amazon Bedrock을 구성하여 프롬프트를 모델 패밀리 내의 다른 파운데이션 모델로 자동 라우팅하여 응답 품질 및 비용을 최적화할 수 있습니다. 고급 프롬프트 일치 및 모델 이해 기술을 사용하여 지능형 프롬프트 라우팅은 각 요청에 대한 각 모델의 성능을 예측하고 원하는 응답을 가장 낮은 비용으로 제공할 가능성이 높은 모델로 요청을 동적으로 라우팅합니다. 지능형 프롬프트 라우팅은 정확성을 저해하지 않으면서 비용을 최대 30%까지 절감할 수 있습니다. Argo Labs는 레스토랑을 위한 혁신적인 음성 에이전트 솔루션을 제공하며, 지능형 프롬프트 라우팅을 통해 다양한 고객 문의 및 예약을 처리합니다. 고객이 질문을 제출하고, 주문하고, 테이블을 예약함에 따라 Argo Labs의 음성 챗봇은 쿼리를 가장 적합한 모델로 동적으로 라우팅하여 비용과 응답 품질을 모두 최적화합니다. 예를 들어, "오늘 밤 이 레스토랑에 빈 테이블이 있나요?"와 같은 간단한 예/아니오 질문은 더 작은 모델로 처리될 수 있는 반면, "이 레스토랑은 어떤 종류의 비건 옵션을 제공하나요?"와 같은 더 복잡한 질문은 더 큰 모델로 답변될 수 있습니다.