AI가 Facebook 및 Instagram에서 사용자가 보는 콘텐츠에 미치는 영향

메타, AI 투명성 강화 나선다… 시스템 카드 공개 및 사용자 제어 기능 확대 [서울=뉴스핌] 김태호 기자 = 페이스북과 인스타그램을 매일 이용하는 수십억 명의 사용자들은 삶의 희로애락을 공유하고, 관심사를 공유하는 사람들과 연결되며, 즐겨 찾는 콘텐츠를 발견합니다. 메타(META)는 사용자들이 앱에서 경험하는 내용을 각 개인에게 고유하고 맞춤화된 경험으로 만들기 위해 AI 시스템을 활용하여 어떤 콘텐츠가 표시될지 결정합니다. 이와 관련해 메타는 자사 AI 시스템이 사용자에게 보여지는 콘텐츠를 어떻게 형성하는지에 대한 관계를 명확히 하고, 알고리즘이 사용자에게 콘텐츠에 대한 통제력을 부여하지 못한다는 통념에 도전하고자 합니다. 메타는 이러한 관계가 어떻게 작동하는지에 대해 더 솔직하게 이야기하고 사용자에게 더 많은 통제권을 제공해야 한다고 밝힌 바 있습니다. 오늘 메타는 이러한 약속을 이행하며, 사용자의 피드백을 반영하여 페이스북과 인스타그램의 콘텐츠 순위를 매기는 여러 AI 시스템에 대한 투명성을 높입니다. 이러한 시스템은 사용자가 보는 게시물이 자신에게 관련성 있고 흥미로울 가능성을 높입니다. 또한, 메타는 사용자가 앱에서 보는 콘텐츠를 더 잘 제어하는 방법과 새로운 제어 기능을 테스트하고 기존 기능을 더욱 쉽게 접근할 수 있도록 만들고 있습니다. 전문가들을 위해서는 시스템을 더 잘 이해하고 분석할 수 있도록 상세한 정보를 제공할 예정입니다. 이는 개방성, 투명성, 책임성을 향한 더 넓은 정신의 일환입니다. 생성형 AI와 같은 강력한 기술의 빠른 발전으로 인해 사람들은 가능성에 대한 기대감과 위험에 대한 우려를 동시에 느끼는 것은 당연합니다. 메타는 이러한 우려에 대응하는 가장 좋은 방법은 개방성이라고 믿습니다. 일반적으로 이러한 기술이 개발됨에 따라 기업은 시스템 작동 방식에 대해 더 개방적이어야 하며, 산업, 정부, 시민 사회 전반에 걸쳐 공개적으로 협력하여 책임감 있게 개발될 수 있도록 해야 한다고 생각합니다. 이는 사용자가 보는 콘텐츠에 대한 통찰력과 제어권을 더 많이 제공하는 것에서 시작됩니다. AI 예측이 추천에 미치는 영향 메타의 AI 시스템은 콘텐츠가 사용자에게 얼마나 가치 있을지를 예측하여 더 빨리 보여줄 수 있도록 합니다. 예를 들어, 게시물을 공유하는 것은 사용자가 해당 게시물을 흥미롭게 여겼다는 지표가 될 수 있으므로, 사용자가 게시물을 공유할 것이라고 예측하는 것은 시스템이 고려하는 한 가지 요소입니다. 예상할 수 있듯이, 단 하나의 예측만으로는 게시물이 사용자에게 가치 있는지 완벽하게 판단할 수 없습니다. 따라서 메타는 사용자 행동 기반 예측과 설문조사를 통해 받은 사용자 피드백 기반 예측을 포함한 다양한 예측을 조합하여 올바른 콘텐츠에 최대한 가깝게 도달하고자 합니다. 메타는 이러한 작동 방식에 대해 더 투명하게 공개하고자 합니다. 메타가 오랫동안 개발하고 옹호해 온 투명성 모델은 시스템 카드(system cards)를 발행하는 것입니다. 시스템 카드는 기술적 지식이 깊지 않은 사람들도 이해할 수 있는 방식으로 시스템 작동 방식에 대한 통찰력을 제공합니다. 오늘 메타는 페이스북과 인스타그램에 대한 22개의 시스템 카드를 공개합니다. 이 카드들은 AI 시스템이 콘텐츠 순위를 매기는 방법, 어떤 콘텐츠가 사용자에게 가장 관련성이 높을지 결정하기 위해 각 시스템이 수행하는 예측, 그리고 경험을 맞춤화하는 데 사용할 수 있는 제어 기능에 대한 정보를 제공합니다. 이 카드들은 사용자가 팔로우하는 계정이나 사람들의 콘텐츠를 찾는 피드, 스토리, 릴스 및 기타 영역을 다룹니다. 또한, 시스템 카드는 사용자가 팔로우하지 않는 사람, 그룹 또는 계정의 "연결되지 않은" 콘텐츠를 추천하는 AI 시스템도 다룹니다. 시스템 카드에 게시된 내용 이상의 상세 정보를 제공하기 위해, 메타는 신호(signals)라고 알려진 입력 유형과 이러한 신호가 페이스북 네트워크에서 사용자에게 가장 관련성 높은 콘텐츠를 결정하는 데 도움이 되는 예측 모델을 공유합니다. 공개되는 신호 범주는 페이스북 피드 순위에서 현재 사용되는 신호의 대다수를 차지합니다. 이러한 신호와 예측은 투명성 센터(Transparency Center)에서 확인할 수 있으며, 전체 순위 프로세스에서 얼마나 자주 사용되는지에 대한 정보도 함께 제공됩니다. 또한, 메타는 유해 콘텐츠를 식별하는 데 신호를 사용하며, 인지되는 즉시 삭제하고 콘텐츠 배포 가이드라인에 따라 기타 문제적이거나 저품질 콘텐츠의 배포를 줄이는 데 도움을 줍니다. 메타는 이를 위해 사용하는 신호의 일부 예시를 포함합니다. 하지만 안전하게 공개할 수 있는 정보에는 한계가 있습니다. 메타는 사람들이 피드에서 유해 콘텐츠를 멀리하기 위해 노력하는 방식에 대해 투명하게 공개하고 싶지만, 방어를 우회하기 쉽게 만드는 신호를 공개하지 않도록 주의해야 합니다. 물론 모든 사람이 웹사이트에 정보를 게시한다고 해서 해당 정보를 찾게 되는 것은 아닙니다. 그렇기 때문에 메타는 앱 내에서 시스템이 왜 특정 콘텐츠를 관련성이 있다고 예측했는지, 그리고 해당 예측을 초래했을 수 있는 활동 및 입력 유형에 대한 세부 정보를 직접 확인할 수 있도록 합니다. 메타는 페이스북과 인스타그램의 일부 피드 콘텐츠 및 모든 광고에 대해 "왜 이 콘텐츠를 보게 되나요?"(Why Am I Seeing This?) 기능을 출시한 데 이어, 앞으로 몇 주 안에 인스타그램 릴스 탭 및 탐색, 페이스북 릴스에서도 해당 기능을 확장할 예정입니다. 사용자는 개별 릴스를 클릭하여 이전 활동이 사용자가 보는 릴스를 형성하고 제공하는 머신러닝 모델에 어떻게 영향을 미쳤는지에 대한 자세한 정보를 볼 수 있습니다. 개인 맞춤형 경험을 위한 도구 확장 사용 가능한 도구를 사용하면 앱에서의 경험을 형성하여 원하는 콘텐츠는 더 많이 보고 원하지 않는 콘텐츠는 덜 볼 수 있습니다. 이를 쉽게 하기 위해 메타는 페이스북과 인스타그램에 중앙 집중식 장소를 만들어 각 앱에서 보는 콘텐츠에 영향을 미치는 제어 기능을 맞춤 설정할 수 있도록 했습니다. 페이스북의 피드 환경설정(Feed Preferences)과 인스타그램의 추천 콘텐츠 제어 센터(Suggested Content Control Center)는 관련 게시물의 점 세 개 메뉴를 통해, 그리고 설정 메뉴를 통해서도 방문할 수 있습니다. 인스타그램에서는 릴스 탭에서 추천 릴스에 대해 "관심 있음"(Interested)을 표시할 수 있는 새로운 기능을 테스트 중이며, 이를 통해 사용자가 좋아하는 콘텐츠를 더 많이 보여줄 수 있습니다. "관심 없음"(Not Interested) 기능은 2021년부터 제공되었습니다. 인스타그램 전반에 걸쳐 보는 콘텐츠에 영향을 미치는 방법에 대해 더 자세히 알아볼 수 있습니다. 사용자가 경험과 보는 콘텐츠를 맞춤 설정할 수 있도록 페이스북에서는 피드, 동영상, 릴스의 모든 게시물에서 점 세 개 메뉴를 통해 사용할 수 있는 "더 보기, 덜 보기"(Show more, Show less) 기능도 제공합니다. 메타는 이 기능을 더욱 눈에 띄게 만들기 위해 노력하고 있습니다. 또한, 알고리즘 순위가 매겨진 피드를 원하지 않거나 알고리즘 없이 피드가 어떻게 보일지 보고 싶다면, 페이스북의 피드 탭을 사용하거나 인스타그램에서 팔로잉(Following)을 선택하여 시간순 피드로 전환할 수 있습니다. 또한, 페이스북과 인스타그램 모두에서 즐겨찾는 계정 목록에 사람들을 추가하여 항상 즐겨찾는 계정의 콘텐츠를 볼 수 있습니다. 연구자를 위한 더 나은 도구 제공 메타는 특히 혁신적인 AI 기술과 관련하여 개방적인 연구 및 혁신 접근 방식이 소수의 대형 기술 기업의 노하우에만 맡겨두는 것보다 낫다고 믿습니다. 그렇기 때문에 지난 10년간 연구자들을 위해 1,000개 이상의 AI 모델, 라이브러리, 데이터 세트를 공개하여 컴퓨팅 파워를 활용하고 개방적이고 안전하게 연구를 추구할 수 있도록 했습니다. 앞으로 더 많은 AI 모델을 공개적으로 제공함에 따라 투명성을 유지하는 것이 메타의 야심입니다. 앞으로 몇 주 안에 메타는 연구자들을 위한 새로운 도구 모음인 메타 콘텐츠 라이브러리(Meta Content Library)와 API를 출시하기 시작할 것입니다. 라이브러리에는 페이스북의 공개 게시물, 페이지, 그룹 및 이벤트 데이터가 포함됩니다. 인스타그램의 경우, 공개 게시물과 크리에이터 및 비즈니스 계정의 데이터가 포함됩니다. 라이브러리의 데이터는 그래픽 사용자 인터페이스 또는 프로그래밍 API를 통해 검색, 탐색 및 필터링할 수 있습니다. 과학 또는 공공 이익 연구 주제를 추구하는 자격을 갖춘 학술 및 연구 기관의 연구자들은 미시간 대학교의 대학 간 정치 사회 연구 컨소시엄(Inter-university Consortium for Political and Social Research)과의 파트너십을 시작으로 안전한 데이터 공유 연구 전문성을 갖춘 파트너를 통해 이러한 도구에 대한 액세스를 신청할 수 있습니다. 이러한 도구는 지금까지 메타가 구축한 어떤 연구 도구보다 페이스북과 인스타그램의 공개적으로 사용 가능한 콘텐츠에 대한 가장 포괄적인 액세스를 제공하며, 새로운 데이터 공유 및 투명성 규정 준수 의무를 충족하는 데도 도움이 될 것입니다. 메타는 연구자들에게 개발 초기 단계에서 이러한 제품을 소개함으로써, 연구자들의 요구를 충족하는 최상의 도구를 구축할 수 있도록 건설적인 피드백을 받을 수 있기를 바랍니다.