AWS, 업계 최초 AI 안전 기능, 새로운 Agent 기능, 모델 맞춤 설정으로 Amazon Bedrock 강화

AWS re:Invent에서 Amazon Web Services, Inc.(AWS)는 고성능 파운데이션 모델을 활용하여 생성형 AI 애플리케이션을 구축하고 확장할 수 있는 완전 관리형 서비스인 Amazon Bedrock의 새로운 기능을 발표했습니다. 이번 발표는 고객들이 환각으로 인한 사실 오류를 방지하고, 복잡한 작업을 위해 여러 AI 기반 에이전트를 조정하며, 대규모 모델과 유사한 성능을 훨씬 저렴한 비용과 짧은 지연 시간으로 수행할 수 있는 작고 작업 특화된 모델을 만들 수 있도록 지원합니다. 특히 'Automated Reasoning checks'는 모델 환각으로 인한 사실 오류를 방지하는 최초이자 유일한 생성형 AI 안전 장치로, 높은 수준의 정확성을 요구하는 새로운 생성형 AI 활용 사례를 열어줍니다. 또한, 'multi-agent collaboration'을 통해 고객은 여러 AI 에이전트를 쉽게 구축하고 조정하여 문제를 함께 해결함으로써 생성형 AI를 가장 복잡한 사용 사례에 적용하는 방식을 확장할 수 있습니다. 'Model Distillation'은 대규모 고성능 모델의 특정 지식을 더 작고 효율적인 모델로 이전하여 최대 500% 더 빠르고 75% 더 저렴하게 실행할 수 있도록 지원합니다. 현재 수만 명의 고객이 Amazon Bedrock을 사용하고 있으며, Moody’s, PwC, Robin AI와 같은 기업들은 이러한 새로운 기능을 활용하여 추론을 비용 효율적으로 확장하고 생성형 AI 혁신의 한계를 넓히고 있습니다. AWS의 AI 및 데이터 담당 부사장인 Dr. Swami Sivasubramanian은 "광범위한 모델 선택, 개발자가 생성형 AI를 애플리케이션에 쉽게 통합할 수 있도록 하는 선도적인 기능, 보안 및 개인 정보 보호에 대한 약속을 통해 Amazon Bedrock은 생성형 AI를 애플리케이션 및 비즈니스의 핵심으로 만들고자 하는 고객에게 필수적이 되었습니다."라며, "이것이 바로 Amazon Bedrock이 지난 한 해 동안 고객 기반을 4.7배 성장시킨 이유입니다. 시간이 지남에 따라 생성형 AI가 더 많은 기업과 고객 경험을 변화시키면서 추론은 모든 애플리케이션의 핵심 부분이 될 것입니다. 이러한 새로운 기능의 출시를 통해 우리는 업계 전체가 생성형 AI 애플리케이션을 프로덕션으로 전환할 때 직면하는 환각 및 비용과 같은 주요 과제를 해결하기 위해 고객을 대신하여 혁신하고 있습니다."라고 말했습니다. Automated Reasoning checks, 환각으로 인한 사실 오류 방지 모델은 계속 발전하고 있지만, 가장 유능한 모델조차도 잘못되거나 오해의 소지가 있는 응답을 제공하는 환각 현상을 일으킬 수 있습니다. 환각은 업계 전반에 걸쳐 근본적인 과제로 남아 있으며, 기업이 생성형 AI에 부여할 수 있는 신뢰를 제한합니다. 이는 특히 의료, 금융 서비스, 정부 기관과 같이 정확성이 중요하고 조직이 모델이 적절하게 응답하는지 감사해야 하는 규제 산업에서 두드러집니다. Automated Reasoning checks는 논리적으로 정확하고 검증 가능한 추론을 사용하여 환각으로 인한 사실 오류를 방지하는 최초이자 유일한 생성형 AI 안전 장치입니다. 고객이 모델 응답에 대해 가질 수 있는 신뢰를 높임으로써 Automated Reasoning checks는 정확성이 가장 중요한 새로운 생성형 AI 사용 사례를 열어줍니다. 자동 추론은 수학을 사용하여 무언가가 올바르다는 것을 증명하는 AI의 한 분야입니다. 사용자가 규칙이나 지식 집합이 잘 정의된 크고 복잡한 주제에 대한 정확한 답변이 필요한 문제에 대처할 때 탁월합니다. AWS는 지난 10년 동안 보안을 강화하기 위해 권한 및 액세스 제어가 올바르게 구현되었음을 증명하거나 배포 전에 Amazon Simple Storage Service(S3) 전반의 수백만 가지 시나리오를 확인하여 가용성 및 내구성이 보호되도록 하는 등 AWS 전반의 경험을 개선하기 위해 이 기술을 사용해 온 세계적 수준의 자동 추론 전문가 팀을 보유하고 있습니다. Amazon Bedrock Guardrails를 통해 고객은 생성형 AI 애플리케이션에 안전 및 책임감 있는 AI 검사를 쉽게 적용할 수 있으며, 모델이 관련 주제에 대해서만 대화하도록 안내할 수 있습니다. Amazon Bedrock Guardrails를 통해 액세스할 수 있는 Automated Reasoning checks는 이제 Amazon Bedrock이 사실 응답의 정확성을 검증하고, 감사 가능한 출력을 생성하며, 모델이 결과에 도달한 이유를 고객에게 정확하게 보여줄 수 있도록 합니다. 이는 투명성을 높이고 모델 응답이 고객의 규칙 및 정책과 일치하도록 보장합니다. 예를 들어, 생성형 AI 기반 고객 서비스 애플리케이션이 정책에 대한 고객 질문에 올바르게 응답하도록 해야 하는 건강 보험 제공업체는 Automated Reasoning checks의 이점을 누릴 수 있습니다. 이를 적용하기 위해 제공업체는 정책 정보를 업로드하고, Amazon Bedrock은 필요한 규칙을 자동으로 개발하여 고객이 모델이 올바른 응답으로 조정되었는지 확인하기 위해 반복적으로 테스트하도록 안내합니다. 자동 추론 전문 지식이 필요하지 않습니다. 그런 다음 보험 제공업체는 검사를 적용하고, 모델이 응답을 생성하면 Amazon Bedrock이 이를 검증합니다. 공제액을 잘못 기재하거나 보장되지 않는 절차를 표시하는 것과 같이 응답이 잘못된 경우 Amazon Bedrock은 Automated Reasoning check의 정보를 사용하여 올바른 응답을 제안합니다. 글로벌 전문 서비스 회사인 PwC는 Automated Reasoning checks를 사용하여 매우 정확하고 신뢰할 수 있으며 유용한 AI 어시스턴트 및 에이전트를 만들어 고객의 비즈니스를 선두로 이끌고 있습니다. PwC는 금융 서비스, 의료 및 생명 과학 분야의 고객을 위한 산업별 솔루션에 Automated Reasoning checks를 통합하며, 여기에는 식품의약국(FDA) 및 기타 규제 표준에 대한 AI 생성 규정 준수 콘텐츠를 검증하는 애플리케이션이 포함됩니다. 내부적으로 PwC는 생성형 AI 어시스턴트 및 에이전트에서 생성된 응답이 정확하고 내부 정책을 준수하도록 Automated Reasoning checks를 사용합니다. 복잡한 워크플로우를 실행하기 위해 여러 에이전트를 쉽게 구축하고 조정 기업이 생성형 AI를 애플리케이션의 핵심으로 만들면서 콘텐츠 요약 및 채팅 경험 지원 이상의 것을 원합니다. 또한 애플리케이션이 조치를 취하기를 원합니다. AI 기반 에이전트는 모델의 추론 기능을 사용하여 주문 반품 지원 또는 고객 유지 데이터 분석과 같은 작업을 모델이 실행할 수 있는 일련의 단계로 분해하여 고객의 애플리케이션이 이러한 조치를 달성하도록 도울 수 있습니다. Amazon Bedrock Agents는 고객이 회사의 시스템 및 데이터 소스 전반에서 작동하는 이러한 에이전트를 쉽게 구축할 수 있도록 합니다. 단일 에이전트도 유용할 수 있지만, 수백 또는 수천 개의 서로 다른 변수에 걸쳐 재무 분석을 수행하는 것과 같은 더 복잡한 작업에는 자체 전문 분야를 가진 많은 수의 에이전트가 필요할 수 있습니다. 그러나 여러 에이전트를 조정하고, 에이전트 간에 컨텍스트를 공유하고, 다른 작업을 올바른 에이전트로 동적으로 라우팅할 수 있는 시스템을 만드는 것은 많은 회사에서 사용할 수 없는 전문 도구와 생성형 AI 전문 지식이 필요합니다. 이것이 AWS가 Amazon Bedrock Agents를 확장하여 다중 에이전트 협업을 지원하고, 고객이 전문화된 에이전트를 쉽게 구축하고 조정하여 복잡한 워크플로우를 실행할 수 있도록 하는 이유입니다. Amazon Bedrock에서 다중 에이전트 협업을 사용하면 프로젝트의 특정 단계에 대한 전문화된 에이전트를 생성하고 할당하여 더 정확한 결과를 얻고 여러 에이전트가 병렬로 작동하도록 조정하여 작업을 가속화할 수 있습니다. 예를 들어, 금융 기관은 Amazon Bedrock Agents를 사용하여 투자 전에 회사에 대한 실사 수행을 도울 수 있습니다. 먼저 고객은 Amazon Bedrock Agents를 사용하여 글로벌 경제 요인 분석, 산업 동향 평가, 회사 과거 재무 검토와 같은 특정 작업에 초점을 맞춘 일련의 전문화된 에이전트를 만듭니다. 모든 전문화된 에이전트를 만든 후에는 프로젝트를 관리할 감독 에이전트를 만듭니다. 그런 다음 감독자는 작업을 분할하여 올바른 에이전트로 라우팅하고, 특정 에이전트에 작업을 완료하는 데 필요한 정보에 액세스하도록 허용하고, 어떤 작업을 병렬로 처리할 수 있고 어떤 작업을 에이전트가 진행하기 전에 다른 작업의 세부 정보가 필요한지 결정하는 등의 조정을 처리합니다. 모든 전문화된 에이전트가 입력을 완료하면 감독 에이전트는 정보를 취합하고, 결과를 종합하며, 전반적인 위험 프로필을 개발합니다. 신용 등급 및 금융 통찰력 분야의 글로벌 리더인 Moody’s는 위험 분석 워크플로우를 개선하기 위해 Amazon Bedrock 다중 에이전트 협업을 선택했습니다. Moody’s는 각 에이전트에 특정 작업이 할당되고 맞춤형 데이터 세트에 액세스할 수 있도록 하여 Amazon Bedrock을 활용하고 있습니다. 예를 들어, 한 에이전트는 거시 경제 동향을 분석하고, 다른 에이전트는 독점 금융 데이터를 사용하여 회사별 위험을 평가하며, 세 번째 에이전트는 경쟁 포지셔닝을 벤치마킹할 수 있습니다. 이러한 에이전트는 원활하게 협력하여 출력을 정확하고 실행 가능한 통찰력으로 종합합니다. 이 혁신적인 접근 방식은 Moody’s가 더 빠르고 정확한 위험 평가를 제공할 수 있도록 하여 금융 의사 결정에서 신뢰할 수 있는 권위자로서의 명성을 확고히 합니다. Model Distillation을 통해 더 작고 빠르며 비용 효율적인 모델 만들기 오늘날 고객들은 비즈니스의 고유한 요구 사항에 가장 적합한 모델을 찾기 위해 다양한 모델을 실험하고 있습니다. 그러나 오늘날 사용 가능한 모든 모델에도 불구하고 특정 지식, 비용 및 지연 시간의 올바른 조합을 갖춘 모델을 찾는 것은 어렵습니다. 대규모 모델은 더 많은 지식을 갖추고 있지만 응답하는 데 더 오래 걸리고 비용이 더 많이 드는 반면, 소규모 모델은 더 빠르고 실행 비용이 저렴하지만 그만큼 능력이 뛰어나지는 않습니다. 모델 증류는 대규모 모델의 지식을 이전하는 기술입니다.