머신러닝을 활용하여 소셜 미디어 사기꾼을 잡아내다

**캐시앱, AI로 소셜 미디어 사기꾼 잡는다…'소셜 미디어 가디언' 도입** 블록(Block) 산하의 간편 송금 서비스 캐시앱(Cash App)이 소셜 미디어를 통해 발생하는 금융 사기를 예방하기 위해 인공지능(AI) 기반의 '소셜 미디어 가디언(Social Media Guardian)' 시스템을 도입했다고 밝혔다. 소셜 미디어는 사용자들이 사기에 노출되는 가장 흔한 경로가 되고 있다. 이에 캐시앱은 잠재적 사기꾼과의 접촉을 차단하는 데 도움을 주는 머신러닝 기반 도구를 올해 출시했다. 이 도구는 캐시앱 브랜드 계정이나 관련 대화에 나타나는 사기성 게시물을 식별하고 차단하는 방식으로 작동한다. 캐시앱은 이미 거래 시도 전에 고객을 사기로부터 보호하기 위한 다양한 도구를 제공하고 있다. 이번에 도입된 '소셜 미디어 가디언'은 자체 플랫폼을 넘어 소셜 미디어 프로필에서 사기꾼들의 활동을 선제적으로 제한하는 역할을 한다. '소셜 미디어 가디언'은 다음과 같은 방식으로 운영된다. 먼저, 제3자 소셜 미디어 모니터링 서비스를 통해 캐시앱 관련 대화를 식별하고 평가한다. 이렇게 수집된 대화 데이터는 내부 머신러닝 시스템으로 전송되어 게시물이 사기인지 여부를 평가한다. 만약 머신러닝 모델이 확신하지 못할 경우, 캐시앱의 소셜 경험 최적화 팀에서 수동으로 검토한다. 모델링 접근 방식으로는 X(구 트위터) 데이터를 기반으로 사전 학습된 공개 언어 모델인 BERTweet을 활용했다. 캐시앱은 X에서의 사기 탐지를 첫 번째 활용 사례로 삼았으며, 이후 자체적으로 레이블링된 X 데이터셋으로 BERTweet을 추가 튜닝하여 성능을 향상시켰다. 이 모델을 통해 캐시앱 브랜드 게시물에 대한 답글 중 사기로 식별된 게시물은 숨겨지며, 해당 게시물 작성자는 캐시앱 소셜 미디어 계정과의 상호작용이 영구적으로 차단된다. 이 시스템 도입 이후, 캐시앱은 X와 인스타그램에서 주당 2,000개 이상의 게시물을 높은 정확도로 식별하고 차단하는 성과를 거두고 있다. 이는 매달 AI 기반 탐지 플랫폼을 통해 서비스 약관 위반 및 브랜드 사칭으로 X와 인스타그램에 신고하는 약 1,000개의 게시물과는 별도의 성과다. 캐시앱 측은 "금융 플랫폼은 종종 사기 수명 주기의 마지막 단계에 해당하기 때문에, 캐시앱 내부뿐만 아니라 전반적인 소비자 보호를 위한 도구에 지속적으로 투자하고 주의를 기울이는 것이 매우 중요하다"고 강조했다. 캐시앱은 AI 및 머신러닝 활용에 대한 자세한 내용은 캐시앱 AI 블로그에서 확인할 수 있다고 덧붙였다.