Volato Group, 모든 미결제 전환사채 소멸; ATM 역량 완전 활용

BT그룹, AWS와 협력해 생성형 AI 플랫폼 'GenAI Gateway' 출시 영국 통신 대기업 BT그룹이 대규모 언어 모델(LLM)을 안전하고 효율적으로 활용하기 위한 자체 생성형 AI(GenAI) 플랫폼 'GenAI Gateway'를 출시했습니다. 이 플랫폼은 아마존 웹 서비스(AWS)와의 협력을 통해 개발되었으며, Anthropic, Meta, Claude, Cohere, Amazon 등 다양한 LLM 제공업체의 기술을 안전하게 통합하고 활용할 수 있도록 지원합니다. 기존의 개별적인 LLM 사용 방식은 대규모 운영에 적합하지 않다는 판단하에, BT그룹은 비용 통제, 보안, 개인 정보 보호 등 복잡한 관리 요구사항을 충족시키기 위해 GenAI Gateway를 구축했습니다. 이 플랫폼은 LLM의 성능 모니터링, 예상치 못한 오류(환각 현상 등) 방지, 모델 성능 저하 관리 기능도 포함하고 있습니다. 또한, 특정 LLM에 대한 종속성을 방지하여 유연성을 확보했습니다. GenAI Gateway는 각 사용 사례별 예산 추적 기능을 지원하여 엔지니어들이 최적의 모델을 적절한 비용으로 선택하도록 유도합니다. 또한, API, 보안 설정, 인프라 관리 등을 중앙에서 통합 관리함으로써 노력과 자원의 중복을 줄이고 오류 발생 가능성을 낮춥니다. 이는 개별 사용 사례마다 별도의 LLM을 유지하는 데 드는 비용을 절감하는 효과도 가져옵니다. 이 플랫폼은 AWS의 Amazon Bedrock과 Amazon SageMaker를 기반으로 구축되었습니다. Amazon Bedrock은 AI21 Labs, Anthropic, Cohere, Meta, Mistral AI, Stability AI, Amazon 등 선도적인 AI 기업들의 고성능 기반 모델을 단일 API를 통해 제공하며, Amazon SageMaker는 다양한 도구를 통합하여 고성능, 저비용 머신러닝을 지원합니다. GenAI Gateway는 프롬프트 보안, 채팅 기록 관리, 사용 사례별 FinOps(클라우드 비용 최적화) 청구, 기업 검색 기능 등을 지원하며, 여러 사내 데이터 소스를 활용할 수 있습니다. 개인 정보 보호를 위해 각 사용 사례별 별도 테넌트 분리, 개인 식별 정보(PII) 필터링, 데이터의 영국 내 위치 관리, 학습된 모델 간 격리 등의 기능을 제공하여 그룹 정책 및 관련 규정을 준수합니다. 또한, 플랫폼 내에 내장된 '가드레일' 기능은 모델 악용(탈옥 위험)이나 유해한 상호작용을 제한하고, 특정 애플리케이션 범위를 벗어나는 쿼리를 필터링하여 성능과 윤리적 기준을 동시에 충족시킵니다. BT그룹은 GenAI Gateway를 AI 기반 기업으로 전환하기 위한 핵심 요소 중 하나로 보고 있으며, 데이터 관리 플랫폼인 '데이터 패브릭'과 함께 데이터 사용 정책 시행, 접근 제어 및 데이터 주권 제한을 관리할 계획입니다. 현재 GenAI Gateway는 베타 버전으로 출시되어 첫 번째 사용 사례들이 적용되고 있습니다. Openreach 부문에서는 이더넷 및 광섬유 작업 관련 엔지니어링 노트를 요약하는 데 활용되어 프로세스를 간소화하고 팀 및 통신 사업자 고객의 생산성을 높이고 있습니다. 또한, 그룹의 비즈니스, 법률 및 조달 팀을 지원하는 계약 분석 사용 사례도 이미 적용되었습니다. AWS EMEA 텔레콤 부문 총괄인 Fabio Cerone은 "BT그룹의 GenAI Gateway는 기업이 생성형 AI를 규모와 속도에 맞춰 효과적으로 배포하는 방법을 보여준다"며, "고객 중심 접근 방식을 통해 보안 및 규정 준수가 내장된 생성형 AI 사용 사례의 배포를 가속화할 수 있는 선구적인 기회였다"고 평가했습니다. BT그룹 디지털 부문 데이터 및 AI 담당 이사인 Deepika Adusumilli는 "AI는 우리 회사의 미래를 재구상하는 데 도움을 주고 있다"며, "데이터는 변하지 않으므로 LLM의 유연성이 필요하며, GenAI Gateway를 통해 안전하고 책임감 있으며 유연하고 확장 가능한 방식으로 이 강력한 신기술을 활용하여 BT그룹 내 인간 잠재력을 발휘하려는 우리의 야망을 실현할 수 있다"고 밝혔습니다.