ARM, 허위 정보 퇴치를 위한 새로운 C2PA 표준 그룹 출범

ARM, 가짜뉴스 확산 막기 위한 'C2PA' 연합 출범 주도

ARM이 디지털 콘텐츠의 출처와 진위 여부를 검증하는 새로운 산업 연합체인 '콘텐츠 출처 및 진위 증명 연합(Coalition for Content Provenance and Authenticity, C2PA)'의 공동 설립을 주도하며 가짜뉴스 확산 방지에 적극 나서고 있습니다.

최근 소셜 미디어에서는 극심하게 얼어붙은 선박 사진에 "USS Al Gore 지구 온난화 연구선"이라는 캡션이 붙어 빠르게 확산되었습니다. 또한, 한 정치인의 기자회견 영상이 술에 취한 듯 편집되어 퍼지거나, 버락 오바마 전 대통령이 후임자인 도널드 트럼프에 대해 비속어를 사용하며 이야기하는 영상도 진본처럼 보였습니다. 하지만 이러한 콘텐츠들은 사실이 아니었습니다. 미국에는 알 고어 전 부통령의 이름을 딴 선박이 존재하지 않으며, 술에 취한 듯 편집된 영상은 조작된 것이었습니다. 오바마 전 대통령 영상의 경우, 배우 조던 필이 중간에 등장해 같은 말을 자신의 목소리로 흉내 내며, 이는 딥페이크 영상임을 알리고 인터넷 정보에 대한 경각심을 강조하는 메시지를 전달했습니다.

이처럼 진본처럼 보이는 가짜 콘텐츠는 공공 정책, 기업 의사 결정, 선거, 심지어 사람들의 건강까지 해칠 수 있습니다. 디지털 기술의 발전으로 인해 가짜뉴스, 즉 허위 정보(disinformation)와 잘못된 정보(misinformation)의 확산은 심각한 사회 문제로 대두되고 있습니다. 이러한 콘텐츠는 의도적으로 오해를 유발하거나, 조작되거나, 실제 존재하는 것처럼 위장된 경우 모두 '진본이 아닌 콘텐츠'로 간주될 수 있습니다.

소셜 미디어 콘텐츠 검토 인력과 팩트체킹 기관은 최근 몇 년간 폭발적으로 증가했지만, 가짜뉴스 확산 속도를 따라잡기에는 역부족인 상황입니다. 기술이 가짜뉴스 확산을 가능하게 했지만, 동시에 기술은 이러한 확산을 최소화하고 그 해로운 영향을 줄이는 데에도 기여해야 합니다. ARM은 이러한 문제 해결을 위해 윤리, 안전, 보안을 기반으로 한 책임감 있는 기술이 연결된 세상에서 지속 가능한 영향을 가능하게 해야 한다고 믿습니다.

ARM은 오랜 기간 다양한 산업 표준을 정의하는 데 앞장서 왔으며, 콘텐츠 진위 증명은 실리콘 수준에서 시작된다는 점을 깊이 이해하고 있습니다. 이에 ARM은 C2PA의 공동 설립을 통해 이러한 노력에 동참하게 된 것을 매우 기쁘게 생각합니다.

ARM은 Adobe, BBC, Intel, Microsoft, Truepic과 함께 C2PA를 결성했습니다. 이 산업 연합체는 허위 정보 및 잘못된 정보 문제를 해결하고, 이를 위한 지침과 기술적 솔루션을 개발하는 데 힘쓸 것입니다. 여기에는 디지털 콘텐츠의 출처와 변경 이력을 추적하고 원본 콘텐츠에 대한 모든 변경 사항을 정확하게 기록하는 종단 간(end-to-end) 개방형 표준 개발이 포함됩니다.

C2PA는 콘텐츠 출처 표준 및 기술 구현에 중점을 둔 Project Origin 및 Content Authenticity Initiative(CAI)와 긴밀하게 협력할 것입니다. Adobe가 주도하는 CAI는 미디어 캡처, 편집 도구 및 창작 커뮤니티에 초점을 맞춰 어떤 출처에서든 콘텐츠의 출처를 보장하는 데 주력합니다. Project Origin은 신뢰할 수 있는 출처로부터의 콘텐츠 출처를 확립하고 유지하며, 뉴스 발행 생태계를 통해 콘텐츠가 이동하고 변환되는 과정에서의 인증에 집중합니다. Origin은 발행자 간 상호 운용 가능한 워크플로우 채택을 장려할 것입니다.

이러한 공동의 목표를 인식한 여러 조직은 2021년 C2PA를 설립하여 기술 사양 개발 노력을 단일 조직으로 통합했습니다. C2PA는 웹, 클라이언트 장치 등 사람들이 콘텐츠를 생성하거나 소비하는 모든 곳에서 널리 채택될 수 있는 기술 표준을 목표로 합니다. 전문 카메라부터 스마트폰의 뉴스 피드에 이르기까지 모든 곳에서 적용될 수 있도록 하는 것이 목표입니다.

ARM은 하드웨어 스택의 가장 밑단, 즉 콘텐츠 캡처 시점에서의 관점을 제공하여 글로벌 표준이 포괄적이고 적절하도록 보장할 것입니다. ARM 기술이 사용되는 모든 곳에서 이러한 표준이 적용되도록 하고, 실리콘 수준에서의 보안 요구 사항에 대한 구체적인 기술 전문성을 더할 것입니다.

ARM은 인터넷을 통해 미디어를 게시하거나 접근하는 모든 사람이 해당 콘텐츠가 a) 명시된 출처에서 왔으며, b) 게시자가 의도한 상태임을 입증할 수 있도록 함으로써 허위 정보의 흐름을 최소화하고자 합니다.

중요한 점은, ARM이 콘텐츠, 저널리스트 또는 발행자의 상대적 신뢰성에 대한 판단을 내리는 것은 아니라는 것입니다. 이러한 영역은 다른 기관들이 담당하고 있습니다. 앞으로 등장할 표준은 출처 및 진위 증명에 대한 주장과 진술의 암호화된 무결성을 보장하고, 이러한 주장/메타데이터를 콘텐츠 자체에 포함시킬 수 있는 수단을 제공할 것입니다.

오바마 전 대통령 영상이나 배우 빌 헤이더의 얼굴이 아놀드 슈왈제네거로 변하는 딥페이크 영상과 같은 초기 가짜 콘텐츠 사례에 우리는 웃음을 지을 수도 있습니다. 하지만 헤드라인과 일치하지 않거나 신뢰할 수 있는 출처에서 나온 것처럼 보이지만 실제로는 그렇지 않은 기사를 읽기도 합니다. 이러한 웃음 뒤에는 불안감이 따릅니다. 우리는 가짜 콘텐츠가 얼마나 쉽게 퍼져 수백만 명을 오도할 수 있는지 목격하며, 이러한 남용이 초래할 심각한 사회적 결과를 이해합니다.

ARM은 C2PA뿐만 아니라 CAI, Origin 등 관련 분야의 광범위한 산업 활동에 참여하게 된 것을 기쁘게 생각하며 고무되어 있습니다.

ARM은 C2PA에 참여하여 허위 정보 및 잘못된 정보의 위험하고 불안정한 세력에 맞서는 싸움에 동참할 것을 ARM 생태계 파트너 및 이러한 문제에 관심 있는 모든 사람에게 초대합니다. 자세한 정보는 membership@c2pa.org 또는 c2pa-interest@arm.com으로 문의하시기 바랍니다.