포뮬러 1®, 이번 주말 미국으로 복귀, Apple TV에서 라이브 스트리밍

Meta, 생성형 AI 안전 강화 나선다… 아동 착취 방지 노력 확대 Meta(META)가 생성형 AI 기술의 잠재력을 활용하는 동시에, 아동 착취와 같은 온라인 유해 행위를 방지하기 위한 안전 강화 노력을 확대하고 있다고 밝혔습니다. 10년 이상 온라인 안전을 위해 노력해 온 Meta는 이번 발표를 통해 생성형 AI 기술 개발 및 배포 전 과정에 걸쳐 안전을 최우선으로 고려하겠다는 의지를 재확인했습니다. Meta는 아동 착취 방지를 위해 Thorn, All Tech is Human 등 선도적인 기술 기업들과 협력하며, 생성형 AI의 오용을 막기 위한 업계 공동의 노력을 강화하고 있습니다. 이를 위해 Meta는 Thorn과 All Tech is Human이 제시한 ‘안전 우선 설계(Safety by Design)’ 원칙을 자사의 생성형 AI 기술 개발에 적용할 계획입니다. Meta가 공개한 ‘안전 우선 설계’ 원칙은 개발(Develop), 배포(Deploy), 유지(Maintain)의 세 가지 핵심 영역으로 나뉩니다. 개발 단계에서는 아동 안전 위험을 선제적으로 해결하는 생성형 AI 모델을 개발하고, 훈련 데이터셋을 책임감 있게 소싱하며 아동 성적 학대 자료(CSAM) 및 아동 성적 착취물(CSEM)로부터 보호하는 데 집중합니다. 이는 생성형 모델이 AI 생성 CSAM(AIG-CSAM)을 생성하는 것을 방지하는 데 필수적입니다. Meta는 훈련 데이터에 CSAM 및 CSEM이 포함될 위험을 회피하거나 완화하고, 이를 탐지 및 제거하며, 확인된 CSAM은 관련 당국에 신고할 것을 약속했습니다. 또한, 훈련 데이터셋에 아동에 대한 성적인 묘사가 포함될 위험을 해결하고, 모델의 유해 콘텐츠 생성 능력을 파악하기 위한 반복적인 스트레스 테스트 전략을 개발 과정에 통합할 예정입니다. 더불어, 악의적인 사용자가 생성형 AI를 이용해 AIG-CSAM을 만드는 것을 방지하기 위해 콘텐츠 출처를 추적하는 기술 개발에도 힘쓸 것입니다. 배포 단계에서는 아동 안전에 대해 훈련 및 평가된 생성형 AI 모델을 출시하고, 전 과정에 걸쳐 안전 보호 조치를 제공합니다. Meta는 자사의 생성형 AI 제품 및 서비스가 사기 및 학대로부터 안전하게 유지되도록 보장하고, 사용자 신고 및 피드백 옵션을 통합하여 사용자들이 플랫폼에서 자유롭게 창작 활동을 할 수 있도록 지원할 계획입니다. 또한, 모델의 훈련뿐만 아니라 호스팅 방식까지 안전을 고려하며, 자체 개발 모델뿐만 아니라 제3자 모델의 호스팅 방식에서도 AIG-CSAM 생성 가능성을 최소화하고 관련 규정을 명확히 할 것입니다. 개발자들에게는 안전 우선 설계에 대한 책임감을 고취하고, 모델에 대한 정보를 제공하여 아동 성적 학대 방지를 위한 생태계를 지원할 것입니다. 유지 단계에서는 지속적으로 아동 안전 위험을 파악하고 대응함으로써 모델 및 플랫폼의 안전을 유지합니다. Meta는 악의적인 행위자들이 특정 아동을 대상으로 AIG-CSAM을 생성하거나 아동의 이미지를 변형하는 서비스 등을 통해 아동의 권리를 침해하는 행위를 근절하기 위해, 이러한 모델과 서비스를 플랫폼 및 검색 결과에서 제거할 것입니다. 또한, 온라인 아동 성적 학대 및 착취에 대응하기 위한 연구 및 기술 개발에 지속적으로 투자하고, 플랫폼, 제품, 모델이 악의적인 행위자에 의해 어떻게 악용될 수 있는지 끊임없이 파악하며 완화 조치의 품질을 유지하고 새로운 악용 사례에 대응할 것입니다. Meta는 플랫폼에서 CSAM, AIG-CSAM, CSEM과의 싸움을 계속하고, 이러한 자료의 생성, 저장, 유인, 배포를 방지하며, 생성형 AI를 이용한 아동 성적 학대의 사기적 사용에 적극적으로 대처할 것을 강조했습니다.