JP모건, 12.5% 버퍼를 갖춘 2028년 만기 S&P 500 노트 판매

메타, AI 생성 콘텐츠 투명성 강화 나선다… 워터마크·메타데이터 기술 도입 메타(META)가 자체 개발한 생성형 AI 도구를 활용해 만들어진 콘텐츠에 대한 투명성을 높이기 위한 기술적 조치를 강화하고 있습니다. 텍스트 설명만으로 이미지를 생성하는 메타 AI 이미지 생성기와 같은 도구들이 폭발적인 창의성을 이끌어내고 있지만, 인간과 AI가 만든 콘텐츠의 경계가 모호해지면서 사용자들이 혼란을 겪을 수 있다는 점에 주목한 것입니다. 메타는 사용자들이 AI 기술에 대한 투명성을 중요하게 생각한다는 점을 인지하고, 포토리얼리스틱한 이미지가 AI를 통해 생성되었음을 명확히 알리는 데 집중하고 있습니다. 이를 위해 메타 AI 기능으로 생성된 포토리얼리스틱 이미지에는 "Imagined with AI"라는 라벨을 적용하고 있습니다. 나아가 이러한 투명성 확보 노력을 자사 도구뿐만 아니라 다른 기업의 도구로 생성된 콘텐츠까지 확장하기 위해 업계 파트너들과 협력하여 AI 생성 콘텐츠임을 나타내는 공통 기술 표준을 마련하고 있습니다. 이러한 기술 표준을 통해 페이스북, 인스타그램, 스레드에 사용자들이 게시하는 AI 생성 이미지를 탐지하고 라벨을 부착할 수 있게 됩니다. 메타는 현재 이 기능을 개발 중이며, 수개월 내에 각 앱에서 지원하는 모든 언어로 라벨 적용을 시작할 예정입니다. 이러한 접근 방식은 내년 한 해 동안 전 세계적으로 중요한 선거가 다수 예정되어 있는 시기에 더욱 중요해질 것으로 보입니다. 메타는 이 기간 동안 사용자들이 AI 콘텐츠를 어떻게 생성하고 공유하는지, 어떤 종류의 투명성을 가장 가치 있게 여기는지, 그리고 기술이 어떻게 발전하는지에 대해 많은 것을 배울 것으로 기대하고 있습니다. 이러한 학습 결과는 업계 모범 사례와 메타 자체의 향후 접근 방식을 형성하는 데 기여할 것입니다. AI 생성 콘텐츠 식별 및 라벨링을 위한 새로운 접근 방식 메타 AI 기능으로 포토리얼리스틱 이미지가 생성될 경우, 메타는 AI의 개입을 알리기 위해 여러 조치를 취합니다. 여기에는 이미지에 직접 표시되는 시각적 마커와 이미지 파일 내에 내장되는 비가시적 워터마크 및 메타데이터가 포함됩니다. 비가시적 워터마크와 메타데이터를 함께 사용하는 것은 이러한 비가시적 마커의 견고성을 향상시키고 다른 플랫폼에서 이를 식별하는 데 도움을 줍니다. 이는 생성형 AI 기능을 책임감 있게 구축하려는 메타의 노력에서 중요한 부분입니다. AI 생성 콘텐츠가 인터넷 전반에 걸쳐 나타나기 때문에, 메타는 Partnership on AI (PAI)와 같은 포럼을 통해 이를 식별하기 위한 공통 표준을 개발하기 위해 다른 기업들과 협력해 왔습니다. 메타 AI 이미지에 사용되는 비가시적 마커, 즉 IPTC 메타데이터와 비가시적 워터마크는 PAI의 모범 사례와 일치합니다. 메타는 C2PA 및 IPTC 기술 표준의 "AI 생성" 정보를 활용하여 비가시적 마커를 대규모로 식별할 수 있는 업계 선도적인 도구를 구축하고 있습니다. 이를 통해 Google, OpenAI, Microsoft, Adobe, Midjourney, Shutterstock 등에서 생성된 이미지에 메타데이터를 추가하는 계획을 구현함에 따라 해당 이미지에 라벨을 부착할 수 있게 됩니다. 현재 기업들은 이미지 생성기에 신호(signal)를 포함하기 시작했지만, 오디오 및 비디오를 생성하는 AI 도구에는 아직 동일한 규모로 포함되지 않고 있습니다. 따라서 메타는 이러한 신호를 탐지하여 다른 기업의 콘텐츠에 라벨을 부착하는 데 어려움을 겪고 있습니다. 업계가 이러한 기능을 개발하는 동안, 메타는 사용자가 AI 생성 비디오 또는 오디오를 공유할 때 이를 공개할 수 있는 기능을 추가하여 라벨을 부착할 수 있도록 할 예정입니다. 또한, 디지털 방식으로 생성되거나 수정된 포토리얼리스틱 비디오 또는 사실적인 오디오가 포함된 오가닉 콘텐츠를 게시할 때 이 공개 및 라벨 도구를 사용하도록 요구할 것이며, 이를 준수하지 않을 경우 페널티를 부과할 수 있습니다. 디지털 방식으로 생성되거나 수정된 이미지, 비디오 또는 오디오 콘텐츠가 중요한 문제에 대해 대중을 실질적으로 오도할 위험이 특히 높다고 판단될 경우, 메타는 적절하다면 더욱 눈에 띄는 라벨을 추가하여 사용자에게 더 많은 정보와 맥락을 제공할 수 있습니다. 이러한 접근 방식은 현재 기술적으로 가능한 최첨단 수준을 나타냅니다. 하지만 모든 AI 생성 콘텐츠를 식별하는 것은 아직 불가능하며, 비가시적 마커를 제거할 수 있는 방법도 존재합니다. 따라서 메타는 다양한 옵션을 모색하고 있습니다. 비가시적 마커가 없는 콘텐츠도 자동으로 탐지하는 데 도움이 되는 분류기(classifier)를 개발하기 위해 노력하고 있습니다. 동시에 비가시적 워터마크를 제거하거나 수정하기 어렵게 만드는 방법을 찾고 있습니다. 예를 들어, 메타의 AI 연구소 FAIR는 최근 Stable Signature라는 비가시적 워터마킹 기술에 대한 연구 결과를 공유했습니다. 이 기술은 특정 유형의 이미지 생성 과정에 워터마킹 메커니즘을 직접 통합하여, 워터마킹을 비활성화할 수 없도록 하여 오픈 소스 모델에 유용할 수 있습니다. 이러한 작업은 향후 AI 생성 콘텐츠 분야가 더욱 경쟁적인 공간이 될 가능성이 높기 때문에 특히 중요합니다. AI 생성 콘텐츠를 사용하여 의도적으로 사람들을 속이려는 개인 및 조직은 이를 탐지하기 위해 마련된 안전 장치를 우회할 방법을 찾을 것입니다. 업계 전반과 사회 전반에서 한 발 앞서 나갈 방법을 계속 찾아야 할 것입니다. 한편, 사용자는 콘텐츠가 AI에 의해 생성되었는지 여부를 판단할 때 몇 가지 사항을 고려하는 것이 중요합니다. 예를 들어, 콘텐츠를 공유하는 계정이 신뢰할 수 있는지 확인하거나, 부자연스러워 보이는 세부 사항을 찾아보는 것입니다. AI 생성 콘텐츠의 확산은 아직 초기 단계입니다. 앞으로 몇 년 안에 AI 생성 콘텐츠가 더욱 보편화됨에 따라, 합성 콘텐츠와 비합성 콘텐츠 모두를 식별하기 위해 무엇을 해야 하고 무엇을 하지 말아야 하는지에 대한 사회적 논쟁이 있을 것입니다. 업계와 규제 당국은 AI를 사용하지 않고 생성된 콘텐츠뿐만 아니라 AI를 사용하여 생성된 콘텐츠를 인증하는 방식으로 나아갈 수 있습니다. 메타가 오늘 제시하는 것은 현재 플랫폼에서 공유되는 콘텐츠에 대해 적절하다고 판단되는 단계입니다. 하지만 메타는 계속해서 관찰하고 배우며, 이에 따라 접근 방식을 검토할 것입니다. 업계 동료들과의 협력도 지속할 것이며, 정부 및 시민 사회와의 대화도 유지할 것입니다. AI는 양날의 검 메타의 커뮤니티 표준은 콘텐츠가 어떻게 생성되었는지에 관계없이 모든 플랫폼 게시물에 적용됩니다. 유해한 콘텐츠의 경우, AI 생성 여부와 관계없이 이를 탐지하고 조치할 수 있는 능력이 가장 중요합니다. AI를 메타의 무결성 시스템에 활용하는 것은 이를 탐지할 수 있게 하는 데 큰 역할을 합니다. 메타는 수년 동안 AI 시스템을 사용하여 사용자를 보호해 왔습니다. 예를 들어, AI를 사용하여 증오 발언 및 기타 정책 위반 콘텐츠를 탐지하고 처리합니다. 이는 페이스북의 증오 발언 유병률을 2023년 3분기 기준 0.01-0.02%로 낮출 수 있었던 주요 이유 중 하나입니다. 즉, 10,000건의 콘텐츠 조회 중 1~2건만이 증오 발언을 포함할 것으로 추정됩니다. 메타는 정책 집행을 위해 AI 기술을 사용하지만, 이 목적을 위한 생성형 AI 도구의 사용은 제한적이었습니다. 그러나 메타는 생성형 AI가 유해 콘텐츠를 더 빠르고 정확하게 삭제하는 데 도움이 될 수 있다고 낙관하고 있습니다. 또한 선거와 같이 위험이 고조되는 시기에 정책을 집행하는 데 유용할 수 있습니다. 메타는 커뮤니티 표준을 학습시켜 콘텐츠가 정책을 위반하는지 여부를 판단하는 데 도움이 되도록 대규모 언어 모델(LLM)을 테스트하기 시작했습니다. 이러한 초기 테스트 결과, LLM은 기존 머신러닝 모델보다 더 나은 성능을 보였습니다. 또한 특정 상황에서 정책을 위반하지 않는다고 확신할 때 검토 대기열에서 콘텐츠를 제거하기 위해 LLM을 사용하고 있습니다. 이는 검토자가 규칙을 위반할 가능성이 높은 콘텐츠에 집중할 수 있는 역량을 확보하게 해줍니다. AI 생성 콘텐츠는 독립적인 팩트 체크 파트너에 의해 사실 확인을 받을 수 있으며, 메타는 허위 정보가 확인된 콘텐츠에 라벨을 부착하여 사용자가 인터넷에서 유사한 콘텐츠를 접할 때 정확한 정보를 얻을 수 있도록 합니다. 메타는 10년 이상 AI 개발의 선구자 역할을 해왔습니다. 메타는 발전과 책임이 함께 가고, 또 그래야만 한다는 것을 알고 있습니다. 생성형 AI 도구는 엄청난 기회를 제공하며, 메타는 이러한 기술이 투명하고 책임감 있는 방식으로 개발될 수 있고 또 그렇게 되어야 한다고 믿습니다. 그렇기 때문에 메타는 사람들이 포토리얼리스틱 이미지가 AI를 통해 생성되었음을 알 수 있도록 돕고 싶어하며, 가능한 것의 한계에 대해서도 투명하게 공개하고 있습니다. 메타는 도구 개선을 위해 사용자들이 도구를 어떻게 사용하는지에 대한 학습을 계속할 것입니다. 또한 PAI와 같은 포럼을 통해 다른 사람들과 협력하여 공통 표준과 안전 장치를 개발할 것입니다.