Writer, 100만 컨텍스트 창을 갖춘 새로운 적응형 추론 LLM Palmyra X5 출시, 엔터프라이즈 AI 에이전트의 차세대 확장 지원

Writer, 엔터프라이즈 생성형 AI 분야 선두주자가 최신 및 가장 발전된 파운데이션 모델인 Palmyra X5를 출시했습니다. 이 모델은 100만 토큰의 컨텍스트 창과 업계 최고 수준의 속도 및 비용 효율성을 자랑합니다. Writer는 또한 Amazon Web Services(AWS)와의 협력을 통해 Palmyra X5를 Amazon Bedrock에서 사용할 수 있게 되었다고 발표했습니다. Amazon Bedrock은 개발자들에게 단일 API를 통해 선도적인 AI 기업들의 고성능 모델에 접근할 수 있는 완전 관리형 서비스입니다. 합성 데이터로 단 100만 달러의 GPU 비용으로 학습된 Palmyra X5는 기업 환경에서 차세대 에이전트의 확장에 필요한 동적 추론 능력과 엔터프라이즈급 안정성을 제공합니다. 업계 최초로 Writer는 혁신적인 트랜스포머 설계와 하이브리드 어텐션 메커니즘을 통해 획기적인 효율성과 긴 컨텍스트 정확도를 달성한 모델의 덕분에 향후 출시될 모든 대규모 언어 모델(LLM)에 대해 최소 100만 토큰의 컨텍스트 창 크기를 설정할 것이라고 밝혔습니다. Writer CTO 겸 공동 창립자인 Waseem AlShikh는 "에이전트 시대에는 100만 토큰 미만의 컨텍스트를 제공하는 모델은 비즈니스에 중요한 사용 사례에서 빠르게 관련성을 잃게 될 것"이라며, "대규모 컨텍스트 창과 높은 효율성은 수십 개의 외부 도구를 호출하고 기업 내에서 운영하는 데 필요한 방대한 양의 컨텍스트 데이터를 추론할 수 있는 에이전트를 지원하는 데 매우 중요하다. Palmyra X5는 고객이 당사 플랫폼 내에서 구축하는 에이전트 워크플로우를 지원하기 위해 Writer가 제공할 수 있는 모델의 전환점을 표시한다"고 말했습니다. Palmyra X5는 시장에서 가장 빠르고 비용 효율적인 대규모 컨텍스트 LLM 중 하나로, 이전에는 비용 또는 시간 제약으로 인해 불가능했던 에이전트 동작을 가능하게 합니다. 이 모델은 약 22초 안에 전체 100만 토큰 프롬프트를 흡수할 수 있으며, 약 0.3초 안에 개별 함수 호출을 반환할 수 있습니다. Palmyra X5의 가격은 입력 토큰 100만 개당 0.60달러, 출력 토큰 100만 개당 6달러입니다. OpenAI의 MRCR 8-needle 테스트에서 Palmyra X5는 19.1%라는 인상적인 점수를 기록했습니다. 이는 방대한 대화 속에 8개의 동일한 요청을 숨기고 올바른 요청을 찾도록 모델에 도전하는 긴 컨텍스트 벤치마크입니다. 다른 인기 모델에 비해 훨씬 낮은 비용으로 최고 수준의 검색 성능을 제공하는 Palmyra X5는 기업이 예산을 초과하지 않고 프로덕션 에이전트를 확장할 수 있는 이상적인 균형을 제공합니다. Palmyra X5의 출시는 팀이 Writer의 Palmyra 모델 제품군으로 구동되는 AI 에이전트를 쉽게 구축, 활성화 및 감독할 수 있는 새로운 중앙 집중식 허브인 AI HQ의 출시를 이어받았습니다. Palmyra X5는 다음과 같은 기능을 사용하여 기업이 Writer에서 더 정교한 AI 에이전트를 구축하고 배포할 수 있도록 함으로써 AI HQ 비전을 실현합니다. * 외부 시스템의 도구를 호출하고 Writer 에이전트를 도구로 호출하는 기능 * 내장된 검색 증강 생성(RAG) 및 웹 커넥터 * Palmyra Fin, Palmyra Med, Palmyra Creative를 포함한 Writer의 도메인별 모델을 호출하는 동적 모델 위임 * 이미지를 입력으로 사용하는 기능 * 코드 생성 및 배포 * 30개 이상의 언어로 된 다국어 기능 * 엔터프라이즈급 투명성 및 안정성 HFS의 수석 연구 책임자인 David Cushman은 "Palmyra는 기업 워크플로우에 생성형 AI를 통합하려는 기업에게 중요한 발걸음"이라며, "Palmyra는 에이전트 개발, API 함수 호출, 멀티모달 처리 및 맞춤형 엔터프라이즈 AI 애플리케이션을 위해 특별히 제작되었습니다. 더 중요한 것은 확장성과 투명성의 균형을 맞추는 Writer의 엔드투엔드 플랫폼에 통합되어 있다는 것입니다. 이는 규제 기관과 이해 관계자 모두의 핵심 요구 사항입니다."라고 말했습니다. Palmyra X5를 통해 기업은 다양한 데이터베이스 및 시스템의 실시간 시장 데이터를 가져와 상세한 보고서를 준비하는 것과 같은 다단계 에이전트에 대한 비교할 수 없는 성능을 얻을 수 있습니다. 이 모델은 또한 재무 보고, 법률 문서 분석, 의료 기록 종합 및 고객 피드백 분석과 같은 대량의 정보를 처리하는 데 탁월합니다. Vanguard의 엔터프라이즈 생산성 및 지원 플랫폼 책임자인 Maulan Byron은 "Vanguard에서는 계속해서 Writer의 풀스택 플랫폼을 전사적으로 활용하여 직원들에게 최신 생성형 AI 기술 발전을 제공하여 콘텐츠 제작 및 지식 관리 기능을 지원하고 향상시키고 있습니다. 투자자들에게 투자 성공을 위한 최고의 기회를 제공한다는 우리의 사명을 지원하는 최첨단 도구를 Writer가 계속 혁신하고 있다는 사실에 기쁩니다."라고 말했습니다. Palmyra X5 및 Palmyra X4, 이제 Amazon Bedrock에서 사용 가능 Palmyra X5는 오늘부터 Writer의 엔드투엔드 플랫폼과 Amazon Bedrock을 통해 사용할 수 있습니다. Writer의 이전 세대 파운데이션 모델인 Palmyra X4는 128k 토큰 컨텍스트 창을 가지고 있으며, Amazon Bedrock에서도 사용할 수 있으며, 추가 Writer 모델도 곧 제공될 예정입니다. AWS는 Writer의 완전 관리형 모델을 제공하는 최초의 클라우드 제공업체입니다. Amazon Bedrock에 Palmyra 모델이 도입됨에 따라 모델 포트폴리오가 확장되어 AWS는 고객에게 사용 사례에 맞는 다양한 AI 모델을 제공하겠다는 약속을 강화하고 있습니다. 이 협력을 통해 AWS 및 Writer 고객은 기본 인프라를 관리하지 않고도 엔터프라이즈급 생성형 AI 에이전트를 구축하고 확장할 수 있습니다. AWS의 Amazon Bedrock 책임자인 Atul Deo는 "Writer와의 강력한 전략적 협력을 바탕으로 AWS는 Bedrock을 통해 Writer의 Palmyra 모델 제품군을 제공하게 되어 기쁘게 생각하며, 전 세계 조직을 위한 새로운 시대의 에이전트 혁신을 가능하게 합니다."라며, "Palmyra X5는 긴 컨텍스트 입력에 대한 인상적인 성능과 엔터프라이즈급 안정성 및 속도를 제공합니다. Writer의 Palmyra X5에 대한 원활한 액세스를 통해 개발자와 기업은 AI 에이전트를 구축하고 확장하며 AWS의 보안, 확장성 및 성능을 활용하여 방대한 기업 데이터를 추론하는 방식을 혁신할 수 있습니다."라고 말했습니다. Accenture, Marriott, Prudential, Qualcomm, Uber, Salesforce, Vanguard를 포함한 수백 개의 기업이 Writer의 Palmyra LLM을 사용하여 비즈니스에 중요한 AI 사용 사례를 지원하고 있습니다. Writer는 5년간의 모델 혁신 기록을 보유하고 있습니다. 엔터프라이즈급 Palmyra LLM 제품군에는 자체 진화, 오픈 소스, 독점 및 도메인별 모델이 포함됩니다. Palmyra 모델은 엔터프라이즈급 투명성 및 안정성, 안전성, 성능, 효율성 및 관찰 가능성에 대한 업계 최고의 표준을 정의합니다. Writer는 세계 최고의 기업들이 AI 기반 업무를 조율하는 곳입니다. Writer의 엔드투엔드 플랫폼을 통해 팀은 회사의 데이터에 기반하고 Writer의 엔터프라이즈급 LLM으로 구동되는 AI 에이전트를 구축, 활성화 및 감독할 수 있습니다. 더 빠른 제품 출시부터 더 깊은 재무 연구, 더 나은 임상 시험에 이르기까지 기업들은 Writer와의 파트너십을 통해 가장 중요한 비즈니스 프로세스를 AI 시대를 위해 빠르게 혁신하고 있습니다. 2020년에 설립된 Writer는 Accenture, Intuit, Marriott, Uber, Vanguard와 같은 수백 명의 고객에게 비교할 수 없는 ROI를 제공하며 Premji Invest, Radical Ventures, ICONIQ Growth, Insight Partners, Balderton, B Capital, Salesforce Ventures, Adobe Ventures, Citi Ventures, IBM Ventures 등의 투자자로부터 지원을 받고 있습니다. writer.com에서 자세히 알아보십시오.