기사 전문
AWS re:Invent에서 아마존 웹 서비스(AWS)가 생성형 AI 애플리케이션 구축 및 확장을 위한 완전 관리형 서비스인 Amazon Bedrock의 새로운 기능을 발표했습니다. 이번 업데이트는 고객들이 환각(hallucination)으로 인한 사실 오류를 방지하고, 복잡한 작업을 위해 여러 AI 에이전트를 조율하며, 대규모 모델과 유사한 성능을 훨씬 저렴한 비용과 짧은 지연 시간으로 제공하는 작고 특화된 모델을 만들 수 있도록 지원합니다.
새롭게 선보이는 '자동 추론 검사(Automated Reasoning checks)'는 생성형 AI의 환각으로 인한 사실 오류를 방지하는 최초이자 유일한 기능입니다. 이를 통해 높은 수준의 정확성이 요구되는 새로운 생성형 AI 활용 사례를 열어갈 수 있습니다. 또한, '다중 에이전트 협업(multi-agent collaboration)' 기능을 통해 고객들은 여러 AI 에이전트를 쉽게 구축하고 조율하여 복잡한 문제를 해결할 수 있으며, '모델 증류(Model Distillation)'는 대규모 고성능 모델의 특정 지식을 더 작고 효율적인 모델로 이전하여 최대 500% 더 빠른 속도와 75% 저렴한 비용으로 운영할 수 있게 합니다.
현재 수만 명의 고객이 Amazon Bedrock을 사용하고 있으며, Moody’s, PwC, Robin AI 등도 이러한 새로운 기능을 활용하여 추론 비용을 효과적으로 확장하고 생성형 AI 혁신의 한계를 넓히고 있습니다.
AWS의 AI 및 데이터 담당 부사장인 Dr. Swami Sivasubramanian은 "다양한 모델 선택, 개발자가 생성형 AI를 애플리케이션에 쉽게 통합할 수 있도록 하는 선도적인 기능, 그리고 보안 및 개인 정보 보호에 대한 약속을 바탕으로 Amazon Bedrock은 생성형 AI를 애플리케이션과 비즈니스의 핵심으로 만들고자 하는 고객들에게 필수적인 서비스가 되었습니다"라며, "이러한 이유로 Amazon Bedrock은 지난 한 해 동안 고객 기반이 4.7배 성장했습니다. 시간이 지남에 따라 생성형 AI가 더 많은 기업과 고객 경험을 변화시키면서 추론은 모든 애플리케이션의 핵심 부분이 될 것입니다. 이러한 새로운 기능의 출시를 통해 우리는 업계 전체가 생성형 AI 애플리케이션을 프로덕션으로 전환할 때 직면하는 환각 및 비용과 같은 주요 과제를 해결하기 위해 고객을 대신하여 혁신하고 있습니다"라고 덧붙였습니다.
자동 추론 검사, 환각으로 인한 사실 오류 방지
모델은 계속 발전하고 있지만, 가장 뛰어난 모델조차도 잘못되거나 오해의 소지가 있는 응답을 제공하는 환각 현상을 일으킬 수 있습니다. 환각은 업계 전반에 걸쳐 근본적인 과제로 남아 있으며, 기업이 생성형 AI를 신뢰하는 데 한계를 두고 있습니다. 이는 특히 의료, 금융 서비스, 정부 기관과 같이 정확성이 매우 중요하며 조직이 모델이 적절하게 응답하는지 감사해야 하는 규제 산업에서 더욱 그렇습니다.
자동 추론 검사는 논리적으로 정확하고 검증 가능한 추론을 사용하여 환각으로 인한 사실 오류를 방지하는 최초이자 유일한 생성형 AI 안전 장치입니다. 고객이 모델 응답을 신뢰할 수 있도록 함으로써, 자동 추론 검사는 정확성이 가장 중요한 새로운 생성형 AI 사용 사례를 열어줍니다.
자동 추론은 수학을 사용하여 무언가가 올바르다는 것을 증명하는 AI의 한 분야입니다. 이는 사용자가 규칙이나 지식 집합이 잘 정의된 크고 복잡한 주제에 대한 정확한 답변이 필요한 문제에 탁월합니다. AWS는 지난 10년 동안 보안 강화, 배포 전 Amazon Simple Storage Service(S3) 전반의 수백만 시나리오 확인을 통한 가용성 및 내구성 보호 등 AWS 전반의 경험을 개선하기 위해 이 기술을 사용해 온 세계적 수준의 자동 추론 전문가 팀을 보유하고 있습니다.
Amazon Bedrock Guardrails는 고객이 생성형 AI 애플리케이션에 안전 및 책임감 있는 AI 검사를 쉽게 적용할 수 있도록 하여, 모델이 관련 주제에 대해서만 대화하도록 안내합니다. Amazon Bedrock Guardrails를 통해 액세스할 수 있는 자동 추론 검사는 이제 Amazon Bedrock이 사실 응답의 정확성을 검증하고, 감사 가능한 출력을 생성하며, 모델이 결과에 도달한 이유를 고객에게 정확히 보여줄 수 있도록 합니다. 이는 투명성을 높이고 모델 응답이 고객의 규칙 및 정책과 일치하도록 보장합니다.
예를 들어, 생성형 AI 기반 고객 서비스 애플리케이션이 정책에 대한 고객 질문에 올바르게 응답하도록 해야 하는 건강 보험 제공업체는 자동 추론 검사의 이점을 누릴 수 있습니다. 이를 적용하기 위해 제공업체는 정책 정보를 업로드하고, Amazon Bedrock은 필요한 규칙을 자동으로 개발하여 고객이 모델이 올바른 응답으로 조정되었는지 확인하기 위해 반복적으로 테스트하도록 안내합니다. 자동 추론 전문 지식이 필요하지 않습니다. 그런 다음 보험 제공업체는 검사를 적용하고, 모델이 응답을 생성함에 따라 Amazon Bedrock이 이를 검증합니다. 응답이 잘못된 경우, 예를 들어 공제액을 잘못 기재하거나 보장되지 않는 절차를 표시하는 경우, Amazon Bedrock은 자동 추론 검사의 정보를 사용하여 올바른 응답을 제안합니다.
글로벌 전문 서비스 회사인 PwC는 자동 추론 검사를 사용하여 고객 비즈니스를 최첨단으로 이끌 수 있는 매우 정확하고 신뢰할 수 있으며 유용한 AI 어시스턴트 및 에이전트를 만들고 있습니다. PwC는 금융 서비스, 의료, 생명 과학 분야의 고객을 위한 산업별 솔루션에 자동 추론 검사를 통합하고 있으며, 여기에는 식품의약국(FDA) 및 기타 규제 표준에 대한 AI 생성 규정 준수 콘텐츠를 검증하는 애플리케이션이 포함됩니다. 내부적으로 PwC는 자동 추론 검사를 사용하여 생성형 AI 어시스턴트 및 에이전트가 생성한 응답이 정확하고 내부 정책을 준수하는지 확인합니다.
복잡한 워크플로우를 실행하기 위해 여러 에이전트를 쉽게 구축하고 조정
기업이 생성형 AI를 애플리케이션의 핵심으로 만들면서 콘텐츠 요약 및 채팅 경험 지원 이상의 것을 원합니다. 또한 애플리케이션이 조치를 취하기를 바랍니다. AI 기반 에이전트는 주문 반품 지원 또는 고객 유지 데이터 분석과 같은 작업을 모델이 실행할 수 있는 일련의 단계로 분해하기 위해 모델의 추론 기능을 사용하여 고객의 애플리케이션이 이러한 조치를 완료하도록 도울 수 있습니다. Amazon Bedrock Agents는 고객이 회사의 시스템 및 데이터 소스 전반에서 작동하는 이러한 에이전트를 쉽게 구축할 수 있도록 합니다.
단일 에이전트도 유용할 수 있지만, 수백 또는 수천 개의 다양한 변수에 걸쳐 재무 분석을 수행하는 것과 같은 더 복잡한 작업에는 자체 전문 분야를 가진 많은 수의 에이전트가 필요할 수 있습니다. 그러나 여러 에이전트를 조정하고, 에이전트 간에 컨텍스트를 공유하며, 다른 작업을 올바른 에이전트로 동적으로 라우팅하는 시스템을 만드는 것은 많은 회사가 보유하지 않은 전문 도구와 생성형 AI 전문 지식이 필요합니다.
이것이 AWS가 Amazon Bedrock Agents를 확장하여 다중 에이전트 협업을 지원하고, 고객이 복잡한 워크플로우를 실행하기 위해 전문화된 에이전트를 쉽게 구축하고 조정할 수 있도록 하는 이유입니다. Amazon Bedrock에서 다중 에이전트 협업을 사용하면 프로젝트의 특정 단계에 대한 전문화된 에이전트를 생성하고 할당하여 더 정확한 결과를 얻고, 여러 에이전트가 병렬로 작동하도록 조정하여 작업을 가속화할 수 있습니다.
예를 들어, 금융 기관은 Amazon Bedrock Agents를 사용하여 투자 전에 회사에 대한 실사 수행을 도울 수 있습니다. 먼저 고객은 Amazon Bedrock Agents를 사용하여 글로벌 경제 요인 분석, 산업 동향 평가, 회사의 과거 재무 검토와 같이 특정 작업에 초점을 맞춘 일련의 전문화된 에이전트를 생성합니다. 모든 전문화된 에이전트를 생성한 후에는 프로젝트를 관리할 감독 에이전트를 생성합니다. 그런 다음 감독자는 작업을 분할하여 올바른 에이전트로 라우팅하고, 특정 에이전트에게 작업을 완료하는 데 필요한 정보에 액세스 권한을 부여하며, 어떤 작업을 병렬로 처리할 수 있고 어떤 작업이 에이전트가 진행하기 전에 다른 작업의 세부 정보가 필요한지 결정하는 것과 같은 조정을 처리합니다. 모든 전문화된 에이전트가 입력을 완료하면 감독 에이전트는 정보를 종합하고, 결과를 합성하며, 전반적인 위험 프로필을 개발합니다.
신용 등급 및 금융 통찰력 분야의 글로벌 리더인 Moody’s는 위험 분석 워크플로우를 개선하기 위해 Amazon Bedrock 다중 에이전트 협업을 선택했습니다. Moody’s는 각 에이전트에게 특정 작업이 할당되고 맞춤형 데이터 세트에 액세스할 수 있도록 하여 Amazon Bedrock을 활용하고 있습니다. 예를 들어, 한 에이전트는 거시 경제 동향을 분석할 수 있고, 다른 에이전트는 독점 금융 데이터를 사용하여 회사별 위험을 평가하며, 세 번째 에이전트는 경쟁력 있는 포지셔닝을 벤치마킹합니다. 이러한 에이전트는 원활하게 협력하여 출력을 정확하고 실행 가능한 통찰력으로 합성합니다. 이 혁신적인 접근 방식은 Moody’s가 더 빠르고 정확한 위험 평가를 제공할 수 있도록 하여 금융 의사 결정에서 신뢰할 수 있는 권위자로서의 명성을 확고히 합니다.
모델 증류를 통해 더 작고 빠르며 비용 효율적인 모델 생성
오늘날 고객들은 비즈니스의 고유한 요구 사항에 가장 적합한 모델을 찾기 위해 다양한 모델을 실험하고 있습니다. 그러나 오늘날 사용 가능한 모든 모델에도 불구하고 특정 지식, 비용 및 지연 시간의 올바른 조합을 갖춘 모델을 찾는 것은 어렵습니다. 대규모 모델은 더 많은 지식을 가지고 있지만 응답하는 데 더 오래 걸리고 비용이 더 많이 드는 반면, 소규모 모델은 더 빠르고 실행 비용이 저렴하지만 그만큼 능력이 뛰어나지 않습니다. 모델 증류는 대규모 모델의 지식을 이전하는 기술입니다.