DocuSign, 계약 업무의 다음 시대를 열 AI 어시스턴트 및 에이전트 공개

메타, 오픈 생성형 AI 모델 개발 위한 '퍼플 라마' 프로젝트 공개 메타(META)가 오픈 생성형 AI 모델 개발 생태계 구축을 위한 새로운 프로젝트 '퍼플 라마(Purple Llama)'를 공개했습니다. Llama 모델은 현재까지 1억 회 이상 다운로드되며 혁신을 이끌고 있으며, 이러한 혁신의 상당 부분은 오픈 모델에서 비롯되고 있습니다. 메타는 이번 프로젝트를 통해 오픈 생성형 AI 모델을 책임감 있게 개발하는 개발자들에 대한 신뢰를 구축하고자 합니다. '퍼플 라마'라는 이름은 사이버 보안 분야의 개념에서 차용했습니다. 메타는 생성형 AI가 제시하는 과제를 진정으로 완화하기 위해서는 공격(레드팀)과 방어(블루팀)의 두 가지 입장을 모두 취해야 한다고 믿습니다. 레드팀과 블루팀의 책임을 모두 포함하는 퍼플 티밍은 잠재적 위험을 평가하고 완화하기 위한 협력적인 접근 방식입니다. 이번 프로젝트의 초기 단계에서는 사이버 보안 및 입력/출력 보호를 위한 도구와 평가가 포함되며, 향후 더 많은 기능이 추가될 예정입니다. 퍼플 라마 프로젝트의 구성 요소는 연구 및 상업적 사용을 모두 허용하는 허가된 라이선스로 제공됩니다. 메타는 이를 통해 개발자 간의 협업을 촉진하고 생성형 AI를 위한 신뢰 및 안전 도구를 표준화하는 데 중요한 진전을 이룰 것으로 기대하고 있습니다. 사이버 보안 분야에서는 대규모 언어 모델(LLM)을 위한 업계 최초의 사이버 보안 안전 평가 세트를 공개합니다. 이러한 벤치마크는 업계 지침 및 표준을 기반으로 하며, 메타의 보안 전문가들과 협력하여 구축되었습니다. 이번 초기 릴리스를 통해 백악관의 약속에 명시된 위험을 해결하는 데 도움이 되는 도구를 제공하는 것을 목표로 합니다. 여기에는 LLM 사이버 보안 위험을 정량화하는 지표, 안전하지 않은 코드 제안의 빈도를 평가하는 도구, 악성 코드를 생성하거나 사이버 공격을 수행하는 데 LLM의 도움을 어렵게 만드는 도구가 포함됩니다. 메타는 이러한 도구가 LLM이 제안하는 안전하지 않은 AI 생성 코드의 빈도를 줄이고 사이버 적에게 LLM의 유용성을 감소시킬 것으로 믿습니다. 입력/출력 보호 측면에서는 Llama 2의 책임 있는 사용 가이드에서 설명했듯이, 모든 LLM 입력 및 출력은 애플리케이션에 적합한 콘텐츠 지침에 따라 확인하고 필터링할 것을 권장합니다. 이를 지원하기 위해 메타는 잠재적으로 위험하거나 위반될 수 있는 출력을 생성하는 것을 방지하는 데 도움이 되는 공개적으로 사용 가능한 기본 모델인 Llama Guard를 출시합니다. 개방적이고 투명한 과학에 대한 지속적인 노력의 일환으로, 메타는 방법론과 결과에 대한 확장된 논의를 논문을 통해 공개합니다. 이 모델은 일반적인 유형의 잠재적으로 위험하거나 위반되는 콘텐츠를 탐지할 수 있도록 공개적으로 사용 가능한 데이터 세트의 조합으로 학습되었습니다. 궁극적으로 메타의 비전은 개발자가 자체 요구 사항에 따라 향후 버전을 사용자 정의하여 관련 사용 사례를 지원하고 모범 사례를 더 쉽게 채택하며 오픈 생태계를 개선할 수 있도록 하는 것입니다. 메타에게 AI에 대한 개방적인 접근 방식은 새로운 것이 아닙니다. 탐색적 연구, 오픈 과학 및 교차 협업은 메타의 AI 노력의 기초이며, 메타는 개방형 생태계를 창조할 중요한 기회가 있다고 믿습니다. 이러한 협력적 사고방식은 100명 이상의 파트너와 함께 Llama 2가 출시되었을 때 최전선에 있었으며, 메타는 이러한 파트너 중 다수가 오픈 신뢰 및 안전 분야에서 메타와 협력하고 있다는 사실을 공유하게 되어 기쁩니다. 여기에는 AI Alliance, AMD, Anyscale, AWS, Bain, Cloudflare, Databricks, Dell Technologies, Dropbox, Google Cloud, Hugging Face, IBM, Intel, Microsoft, MLCommons, Nvidia, Oracle, Orange, Scale AI, Together.AI 등이 포함되며, 앞으로 더 많은 파트너가 합류할 예정입니다. 메타는 파트너 및 책임감 있게 개발된 생성형 AI의 개방형 생태계라는 동일한 비전을 공유하는 다른 사람들과 협력하게 되어 기쁩니다.