AI 요약
META가 AI 개발의 안전성과 책임성을 강화하기 위해 Purple Llama 프로젝트를 출시하며 업계 표준을 선도할 것으로 기대됩니다.
이는 오픈 생성형 AI 모델의 신뢰도를 높이고 사이버 보안 및 입력/출력 보호 도구를 제공하여 META의 AI 생태계 확장에 긍정적인 영향을 미칠 것으로 보입니다.
핵심 포인트
- META가 AI 개발의 안전성과 책임성을 강화하기 위해 Purple Llama 프로젝트를 출시하며 업계 표준을 선도할 것으로 기대됩니다.
- 이는 오픈 생성형 AI 모델의 신뢰도를 높이고 사이버 보안 및 입력/출력 보호 도구를 제공하여 META의 AI 생태계 확장에 긍정적인 영향을 미칠 것으로 보입니다.
긍정 / 부정 요인
긍정 요인
- AI 개발의 안전성 및 책임성 강화
- 업계 표준 선도 기대감
- 오픈 생성형 AI 모델 신뢰도 향상
- 사이버 보안 및 입력/출력 보호 도구 제공
- META의 AI 생태계 확장 기여
기사 전문
메타(META), 생성형 AI 안전성 강화 위한 '퍼플 라마' 프로젝트 공개
메타는 자사의 오픈 소스 거대 언어 모델(LLM)인 Llama의 다운로드 수가 1억 건을 돌파하며 생성형 AI 분야의 혁신이 오픈 모델을 통해 가속화되고 있다고 밝혔습니다. 이러한 혁신을 주도하는 개발자들에 대한 신뢰를 구축하기 위해, 메타는 오픈 생성형 AI 모델을 책임감 있게 개발하도록 지원하는 도구와 평가를 통합한 '퍼플 라마(Purple Llama)'라는 포괄적인 프로젝트를 새롭게 선보입니다.
'퍼플 라마'라는 이름은 사이버 보안 분야의 개념에서 착안되었습니다. 메타는 생성형 AI가 제시하는 과제를 진정으로 완화하기 위해서는 공격(레드팀)과 방어(블루팀)의 양측적인 접근이 필요하다고 믿습니다. 레드팀과 블루팀의 책임을 모두 포함하는 '퍼플 티밍'은 잠재적 위험을 평가하고 완화하기 위한 협력적인 접근 방식입니다.
이번 프로젝트의 초기 단계에는 사이버 보안 및 입력/출력 안전 장치에 대한 도구와 평가가 포함되며, 향후 더 많은 기능이 추가될 예정입니다. 퍼플 라마 프로젝트의 구성 요소는 연구 및 상업적 사용 모두를 허용하는 허가적 라이선스로 제공됩니다. 메타는 이를 통해 개발자 간의 협업을 촉진하고 생성형 AI를 위한 신뢰 및 안전 도구를 표준화하는 중요한 발걸음이 될 것으로 기대하고 있습니다.
사이버 보안 분야에서는 업계 최초로 거대 언어 모델(LLM)에 대한 사이버 보안 안전성 평가 세트를 공개합니다. 이 벤치마크는 업계 지침 및 표준을 기반으로 하며, 메타의 보안 전문가들과 협력하여 구축되었습니다. 이번 초기 릴리스를 통해 백악관의 약속에 명시된 위험을 해결하는 데 도움이 되는 도구를 제공하고자 합니다. 여기에는 LLM 사이버 보안 위험을 정량화하는 지표, 안전하지 않은 코드 제안의 빈도를 평가하는 도구, 악성 코드 생성을 어렵게 하거나 사이버 공격 수행을 지원하는 LLM을 평가하는 도구 등이 포함됩니다. 메타는 이러한 도구가 LLM이 제안하는 안전하지 않은 AI 생성 코드의 빈도를 줄이고 사이버 공격자에게 LLM의 유용성을 감소시킬 것으로 믿고 있습니다.
입력/출력 안전 장치 측면에서는 Llama 2의 책임감 있는 사용 가이드에서 언급했듯이, 모든 LLM의 입력과 출력을 해당 애플리케이션에 적합한 콘텐츠 가이드라인에 따라 확인하고 필터링할 것을 권장합니다. 이를 지원하기 위해 메타는 잠재적으로 위험하거나 규정을 위반하는 출력을 생성하는 것을 방지하는 데 도움이 되는 공개적으로 사용 가능한 기본 모델인 '라마 가드(Llama Guard)'를 출시합니다. 개방적이고 투명한 과학에 대한 지속적인 노력의 일환으로, 메타는 방법론과 결과에 대한 확장된 논의를 논문을 통해 공개합니다. 이 모델은 일반적인 유형의 잠재적으로 위험하거나 규정을 위반하는 콘텐츠를 탐지할 수 있도록 공개적으로 사용 가능한 데이터 세트의 조합으로 학습되었습니다. 궁극적으로 메타의 비전은 개발자들이 자체 요구 사항에 따라 관련 사용 사례를 지원하는 미래 버전을 사용자 정의하고, 모범 사례를 채택하며 오픈 생태계를 개선하는 것을 더 쉽게 만드는 것입니다.
오픈 생태계 구축은 메타에게 새로운 일이 아닙니다. 탐색적 연구, 오픈 사이언스, 상호 협력은 메타의 AI 노력의 근간이며, 메타는 개방형 생태계를 창조할 중요한 기회가 있다고 믿습니다. 이러한 협력적 사고방식은 100명 이상의 파트너와 함께 Llama 2를 출시했을 때 최우선 과제였으며, 많은 동일한 파트너들이 AI 얼라이언스(AI Alliance), AMD, Anyscale, AWS, Bain, Cloudflare, Databricks, Dell Technologies, Dropbox, Google Cloud, Hugging Face, IBM, Intel, Microsoft, MLCommons, Nvidia, Oracle, Orange, Scale AI, Together.AI 등과 함께 오픈 신뢰 및 안전 분야에서 협력하고 있다는 사실을 공유하게 되어 기쁘게 생각합니다. 메타는 파트너들과 함께 책임감 있게 개발된 생성형 AI의 개방형 생태계라는 동일한 비전을 공유하는 다른 이들과 협력하기를 기대하고 있습니다.