Infleqtion, 신규 기술 혁신으로 중립 원자 양자 컴퓨팅 플랫폼 강화

메타, 영국 총선 앞두고 플랫폼 무결성 강화 나선다

2024년은 전 세계적으로 수많은 국가와 지역에서 지도자를 선출하는 선거의 해입니다. 메타는 이러한 흐름에 맞춰 오랜 기간 준비해왔으며, 특히 7월 4일 치러지는 영국 총선을 앞두고 플랫폼의 무결성을 보존하기 위한 노력을 강화하고 있습니다.

메타는 지난해부터 영국 총선을 위한 전담팀을 꾸려 맞춤형 접근 방식을 개발해왔습니다. 이러한 노력은 2016년 이후 전 세계 200여 건의 선거 경험과 영국 온라인 안전법(UK’s Online Safety Act)의 규제 프레임워크를 바탕으로 합니다. 메타는 이러한 교훈을 통해 팀, 기술, 투자를 집중하여 최대의 효과를 거두고자 합니다.

2016년 이후 메타는 안전 및 보안 분야에 200억 달러 이상을 투자했으며, 관련 글로벌 팀 규모를 4배로 늘려 약 4만 명에 달하는 인력을 확보했습니다. 이 중 1만 5천 명은 페이스북, 인스타그램, 스레드 전반의 콘텐츠 검토를 담당하고 있습니다. 지난 8년간 메타는 사회적 이슈, 선거, 정치 관련 광고에 대한 업계 최고 수준의 투명성 도구를 도입하고, 선거 개입 및 유권자 사기 방지를 위한 포괄적인 정책을 개발했으며, 소셜 미디어 플랫폼 중 최대 규모의 제3자 팩트체킹 프로그램을 구축하여 허위 정보 확산을 막는 데 힘써왔습니다.

최근에는 생성형 AI와 같은 신기술에 대한 책임감 있는 접근을 약속했습니다. 메타는 이러한 자원들을 총선 기간 동안 총동원할 예정이며, 페이스북과 인스타그램에 새로운 광고 캠페인을 시작하여 관련 도구 및 기능에 대한 인식을 높일 계획입니다. 또한, 영국 전용 선거 운영 센터를 가동하여 정보, 데이터 과학, 엔지니어링, 연구, 운영, 콘텐츠 정책, 법무팀 등 회사 전반의 전문가들이 실시간으로 잠재적 위협을 식별하고 앱 및 기술 전반에 걸쳐 구체적인 완화 조치를 시행할 것입니다.

메타 팀은 다음과 같은 네 가지 핵심 영역에 집중할 예정입니다.

허위 정보 퇴치: 메타는 페이스북, 인스타그램, 스레드에서 폭력이나 신체적 피해를 유발할 수 있는 콘텐츠, 투표 방해 시도 등 가장 심각한 유형의 허위 정보를 삭제합니다. 이러한 정책을 위반하지 않는 콘텐츠에 대해서는 국제 팩트체킹 네트워크(IFCN) 또는 유럽 팩트체킹 표준 네트워크(EFCSN) 인증을 받은 독립적인 팩트체킹 기관과 협력하여 콘텐츠를 검토하고 평가합니다. 영국에서는 Full Fact, Reuters, Logically Facts, FactCheckNI 등이 참여합니다. 팩트체커가 허위 정보를 검증하면 해당 콘텐츠에 경고 라벨을 부착하고 피드 및 탐색에서의 노출을 줄여 사용자들이 해당 콘텐츠를 덜 보게 합니다. 선거 기간 동안 메타는 팩트체킹 파트너들이 선거 관련 콘텐츠를 더 쉽게 찾고 평가할 수 있도록 지원할 예정이며, 이를 위해 콘텐츠 검토 역량을 강화하고 키워드 탐지를 사용하여 관련 콘텐츠를 한곳에 모아 팩트체커들이 쉽게 접근할 수 있도록 할 것입니다. 또한, 팩트체킹 파트너들은 강력한 검색 기능을 갖춘 메타의 새로운 연구 도구인 Meta Content Library를 활용하게 됩니다.

메타는 검증된 허위 정보를 포함하는 광고를 허용하지 않습니다. 또한, 영국을 대상으로 하는 광고 중 투표를 방해하거나 선거 및 그 결과의 합법성에 의문을 제기하거나, 조기 승리 주장을 담는 광고도 금지합니다. 광고 검토 프로세스는 광고 게시 전후 여러 단계의 분석 및 탐지를 거칩니다.

영향력 작전 대응: 메타는 영향력 작전을 전략적 목표를 위해 공공 토론을 조작하거나 왜곡하려는 조직적인 노력으로 정의하며, 이는 허위 정보를 전술로 포함할 수도 있고 포함하지 않을 수도 있습니다. 가짜 신원을 이용한 은밀한 캠페인부터 정부 통제 미디어의 노골적인 노력까지 다양합니다. 은밀한 영향력 작전에 대응하기 위해 메타는 조직적인 비정상적 행동을 차단하는 전문 글로벌 팀을 구축했으며, 2017년 이후 200개 이상의 적대적 네트워크를 조사하고 제거했습니다. 이는 분기별 위협 보고서(Quarterly Threat Reports)를 통해 공개됩니다.

노골적인 노력에 대해서는 페이스북, 인스타그램, 스레드에서 정부 통제 하에 있을 수 있는 출판물의 콘텐츠임을 사용자들이 알 수 있도록 정부 통제 미디어를 라벨링합니다. 또한, 러시아 국영 언론에 대한 새로운 강화된 집행 조치를 적용하여 EU 및 영국에서 차단하고 전 세계적으로 게시물을 하향 조정했습니다. Graphika의 최근 연구에 따르면 이는 전쟁 이전 수준에 비해 해당 페이지의 게시물 양이 55% 감소하고 참여율이 94% 감소했으며, 러시아 국영 미디어 자산의 절반 이상이 게시를 중단한 것으로 나타났습니다.

생성형 AI 기술 남용 관련 위험 완화: 메타의 커뮤니티 표준 및 광고 표준은 AI로 생성된 콘텐츠를 포함한 모든 콘텐츠에 적용되며, 이러한 정책을 위반하는 경우 조치를 취할 것입니다. AI 생성 콘텐츠는 독립적인 팩트체킹 파트너의 검토 및 평가 대상이 될 수 있습니다. 평가 옵션 중 하나인 '수정됨(Altered)'은 "조작되거나 변형된 오디오, 비디오 또는 사진"을 포함합니다. 이러한 평가를 받으면 라벨을 부착하고 피드에서 하향 조정하여 노출을 줄입니다. 또한, 이미 검증된 허위 정보를 포함하는 광고는 게재를 허용하지 않습니다.

정책을 위반하지 않는 콘텐츠에 대해서도 메타는 포토리얼리스틱 콘텐츠가 AI를 사용하여 생성되었음을 사용자들이 알 수 있도록 하는 것이 중요하다고 믿습니다. 메타 AI로 생성된 포토리얼리스틱 이미지를 라벨링하고, 사용자가 페이스북, 인스타그램, 스레드에 게시하는 Google, OpenAI, Microsoft, Adobe, Midjourney, Shutterstock의 AI 생성 이미지를 라벨링합니다. 또한, 사용자가 AI 생성 이미지, 비디오 또는 오디오를 공유할 때 공개할 수 있는 기능을 추가하여 라벨을 부착할 수 있도록 했습니다. 디지털로 생성되거나 수정된 이미지, 비디오 또는 오디오 콘텐츠가 중요한 문제에 대해 대중을 실질적으로 오도할 위험이 특히 높다고 판단되는 경우, 더 눈에 띄는 라벨을 추가하여 사용자에게 더 많은 정보와 맥락을 제공할 수 있습니다.

메타에서 사회적 이슈, 선거 또는 정치와 관련된 광고를 게재하는 광고주는 AI를 포함하여 디지털 방식으로 생성되거나 수정된 포토리얼리스틱 이미지 또는 비디오, 또는 사실적으로 들리는 오디오를 사용했는지 여부를 특정 경우에 공개해야 합니다. 이는 업계 최고의 광고 투명성 외에도 광고주가 본인임을 증명하고 영국 거주자임을 확인하는 검증 프로세스, 각 광고의 배후를 보여주는 "Paid for by" 면책 조항, 그리고 누구나 어떤 광고가 게재되고 있는지, 타겟팅 정보, 지출 금액을 확인할 수 있는 광고 라이브러리를 포함합니다.

AI 생성 콘텐츠가 인터넷 전반에 걸쳐 나타나고 있기 때문에 메타는 업계 다른 회사들과 함께 공통 표준 및 지침을 마련하고 있습니다. 예를 들어, Partnership on AI의 회원이며, 2024년 선거에서 기만적인 AI 콘텐츠 확산을 막기 위한 기술 협약에 최근 서명했습니다.

후보자 안전: 메타는 플랫폼이 국회의원과 후보자들이 자신에게 중요한 문제에 대해 안전하고 긍정적인 방식으로 유권자와 소통할 수 있도록 지원하기를 바랍니다. 메타의 규칙은 공개 인물과 일반 개인을 구분하여 공개적인 논의를 허용하지만, 공개 인물을 악의적인 게시물과 행동으로부터 보호하기 위한 다양한 조치를 시행합니다. 커뮤니티 표준은 페이스북, 인스타그램, 스레드에서 허용되는 것과 허용되지 않는 것을 명시합니다. 전 세계 커뮤니티 및 전문가의 피드백을 통해 공개 인물을 보호하기 위한 특정 정책을 만들었습니다.

증오 발언: 인종, 종교, 국적, 성별, 성 정체성, 성적 지향 또는 기타 정의된 보호 특성을 기반으로 한 공격은 삭제됩니다.

폭력 및 선동: 심각한 폭력을 선동하거나 조장하는 언어는 삭제되며, 계정은 비활성화되고, 신체적 피해 또는 공공 안전에 대한 직접적인 위협의 실제 위험이 있다고 판단될 경우 법 집행 기관과 협력합니다.

괴롭힘 및 학대: 국회의원과 후보자를 반복적인 원치 않는 연락 및 성희롱으로부터 보호하며, 공개 인물이 게시물이나 댓글에 직접 태그되거나 직접 신고하는 경우 더 많은 학대적인 게시물을 삭제합니다. 또한, 정당과 긴밀히 협력하여 후보자들이 우려 사항을 신고하도록 장려하고, 소셜 미디어 보안에 대한 모범 사례를 지원하며, 학대 및 위협에 대한 공개 소셜 미디어 페이지를 모니터링합니다. 후보자들을 대상으로 플랫폼에서의 괴롭힘에 대처하기 위한 지원 내용을 설명하는 안전 교육 세션을 개최할 예정입니다. 이 모든 정보는 후보자를 위한 영국 선거 센터에서도 확인할 수 있습니다.