'이제 제약은 양방향으로 작용': JP모건, 5가지 힘이 미중 권력 균형을 조용히 재편하고 있다고 밝혀

META, 생성형 AI 기술 발전과 책임감 있는 활용 방안 공개 메타(META)가 10년 이상 AI 분야를 선도해 온 경험을 바탕으로, 최신 대규모 언어 모델인 Llama 2를 포함한 1,000개 이상의 AI 모델, 라이브러리, 데이터셋을 연구자들에게 공개했다고 밝혔다. 마이크로소프트와의 파트너십을 통해 제공되는 Llama 2는 생성형 AI 기술 발전의 중요한 축을 담당하고 있다. Connect 2023 행사에서 메타는 사용자들이 플랫폼 경험을 더욱 사회적이고 몰입감 있게 만들 수 있는 다양한 생성형 AI 기능을 선보였다. 이러한 AI 도구들은 친구들과의 여행 계획 시 그룹 채팅에서 활동 및 레스토랑 추천을 받거나, 교사가 학생 개개인의 학습 스타일에 맞춘 수업 계획을 만드는 데 도움을 줄 수 있을 것으로 기대된다. 메타는 AI 기술 개발과 함께 책임감 있는 모범 사례 및 정책 수립의 중요성을 강조했다. 생성형 AI는 창의적이고 흥미로운 활용 사례를 제시하지만, 완벽하지는 않다는 점을 인정했다. 예를 들어, AI 모델은 훈련 데이터에서 학습한 내용을 바탕으로 허구의 답변을 생성하거나 고정관념을 강화할 수 있다. 메타는 이러한 잠재적 위험을 완화하기 위해 지난 10년간의 경험을 바탕으로 새로운 기능에 대한 안내 문구를 포함하고, 위험한 답변을 탐지하고 제거하는 데 도움이 되는 무결성 분류기를 통합했다. 이는 Llama 2 책임감 있는 사용 가이드에 명시된 업계 모범 사례와 일치한다. 책임감 있는 AI에 대한 약속의 일환으로, 메타는 제품의 안전 성능 향상을 위해 스트레스 테스트를 실시하고 있으며, 정책 입안자, 학계 및 시민 사회 전문가, 업계 관계자들과 정기적으로 협력하여 기술의 책임감 있는 사용을 촉진하고 있다. 이러한 기능들은 단계적으로 출시될 예정이며, AI는 베타 버전으로 공개된다. 메타는 기술이 발전하고 사용자들이 일상생활에서 어떻게 활용하는지 관찰하면서 지속적으로 기능을 개선해 나갈 계획이다. 메타 AI와 같은 텍스트 기반 경험을 지원하는 맞춤형 AI 모델은 Llama 2를 기반으로 구축되었으며, Llama 2의 안전 및 책임 훈련을 활용한다. 또한, 메타는 오늘 발표된 기능들을 위해 특정 조치에 투자하고 있다. 잠재적 취약점을 식별하고, 위험을 줄이며, 안전을 강화하고, 신뢰성을 높이기 위한 단계를 자세히 설명하는 자료를 공유할 예정이다. 예를 들어, 메타는 외부 및 내부 전문가와 함께 레드팀 훈련을 통해 대화형 AI를 평가하고 개선하고 있다. 전담 전문가 팀은 수천 시간을 들여 이러한 모델을 스트레스 테스트하고, 예상치 못한 사용 방식을 파악하며 취약점을 식별하고 수정하는 작업을 진행했다. 또한, 고품질 이미지 생성과 같이 특정 작업을 수행하도록 모델을 미세 조정하고, 안전 문제에 대한 전문가 지원 리소스를 제공하도록 훈련하고 있다. 예를 들어, AI는 특정 질문에 대해 지역 자살 및 섭식 장애 지원 단체를 추천하며, 의료 조언을 제공할 수 없음을 명확히 할 것이다. 안전 및 책임 지침에 따라 모델을 훈련시켜 유해하거나 모든 연령에 부적절한 응답을 공유할 가능성을 줄이고 있다. 편향성을 줄이기 위한 노력도 병행하고 있으며, 이는 생성형 AI 시스템에서 편향성을 해결하는 새로운 연구 분야이다. 더 많은 사용자가 피드백을 공유하면 접근 방식을 개선하는 데 도움이 될 것이다. 또한, 정책을 위반하는 콘텐츠를 탐지하고 조치하기 위한 새로운 기술을 개발했으며, 알고리즘을 통해 유해한 응답을 필터링한다. 피드백 도구를 기능 내에 구축하여 모델을 지속적으로 훈련하고 안전 성능 및 정책 위반 자동 탐지를 개선할 계획이다. 메타의 버그 바운티 프로그램을 통해 보안 연구자들에게도 새로운 생성형 AI 기능을 제공한다. 개인 정보 보호 측면에서 메타는 규제 기관, 정책 입안자, 전문가들로부터 개인 정보 보호에 대한 책임을 지고 있으며, 데이터 보호를 위한 모범 사례 및 높은 기준을 준수하기 위해 협력하고 있다. 메타는 생성형 AI 제품을 훈련하는 데 사용되는 데이터 유형을 사용자가 이해하는 것이 중요하다고 믿으며, 개인 메시지는 AI 훈련에 사용되지 않는다고 밝혔다. AI 스티커 사용 데이터는 AI 스티커 모델 개선에 사용될 수 있으며, 자세한 내용은 개인 정보 보호 관련 게시물에서 확인할 수 있다. 새로운 기능의 사용법과 한계를 사용자가 이해하도록 돕기 위해, 메타는 기능 내에 AI와 상호 작용하고 있음을 알리는 정보와 기술이 어떻게 작동하는지에 대한 설명을 제공한다. 또한, 부정확하거나 부적절한 출력이 나올 수 있음을 명시한다. 지난 한 해 동안 22개의 '시스템 카드'를 발행하여 AI 시스템의 의사 결정 과정을 사용자가 이해할 수 있도록 설명했으며, 오늘날에는 Meta AI를 구동하는 텍스트 생성 AI 시스템과 AI 스티커, Meta AI, Restyle, Backdrop의 이미지 생성 AI 시스템에 대한 새로운 생성형 AI 시스템 카드를 공개했다. 여기에는 프롬프트 수정이 모델 출력에 미치는 영향을 보여주는 대화형 데모도 포함된다. AI 기능으로 생성된 이미지를 사용자가 인지하도록 하기 위해, 메타는 업계 모범 사례를 따르고 있으며, Meta AI, Restyle, Backdrop으로 생성되거나 편집된 이미지는 AI가 생성했음을 나타내는 시각적 표시를 포함한다. 또한, 이미지 파일 내에 정보를 포함하는 추가 기술을 개발 중이며, 기술이 발전함에 따라 다른 경험으로 확장할 계획이다. AI 스티커에는 이러한 기능이 적용되지 않는데, 이는 사실적이지 않아 오해를 유발할 가능성이 낮기 때문이다. 현재 업계 전반에 걸쳐 AI 생성 콘텐츠를 식별하고 라벨링하는 표준은 없으며, 메타는 Partnership on AI와 같은 포럼을 통해 다른 회사들과 협력하여 이러한 표준 개발을 추진하고 있다. 생성형 AI를 이용한 허위 정보 확산을 막기 위해, 메타는 AI를 허위 정보 및 기타 유해 콘텐츠 대응의 핵심 요소로 활용하고 있다. 예를 들어, 이미 사실 확인이 완료된 콘텐츠와 거의 동일한 콘텐츠를 매칭하는 AI 기술을 개발했으며, 100개 이상의 언어에서 새롭거나 진화하는 유해 콘텐츠 유형에 신속하게 대응할 수 있는 Few-Shot Learner 도구를 사용하고 있다. 과거에는 AI 모델을 훈련시키기 위해 수천 또는 수백만 개의 예시를 수집해야 했지만, Few-Shot Learner는 소수의 예시만으로도 AI 모델을 훈련시킬 수 있다. 생성형 AI는 기존 AI 도구보다 더 빠르고 정확하게 유해 콘텐츠를 제거하는 데 도움이 될 수 있다. 메타는 커뮤니티 표준을 기반으로 콘텐츠가 정책을 위반하는지 여부를 판단하도록 대규모 언어 모델(LLM)을 훈련시키는 초기 테스트를 시작했으며, 이러한 테스트 결과 LLM이 기존 머신러닝 모델보다 더 나은 성능을 보이거나 Few-Shot Learner와 같은 모델을 강화할 수 있음을 시사하며, 생성형 AI가 향후 정책 집행에 도움이 될 것으로 기대하고 있다.