AI 기반 사기 경고, Cash App에서 사기 방지에 기여

AI 기반 사기 경고 시스템, Cash App의 금융 사기 방지 노력 최근 몇 년간 개인 간(P2P) 결제 앱의 확산은 개인 간 금융 거래의 편의성과 속도를 혁신적으로 변화시켰습니다. 하지만 이러한 편리함 이면에는 금융 사기 시도가 끊이지 않고 있으며, 특히 잘 알지 못하는 개인에게 송금할 때 이러한 위험이 더욱 커지고 있습니다. 실제로 2023년에는 소비자들이 사기로 인해 사상 최대 규모인 100억 달러를 잃었습니다. 이러한 금융 사기를 예방하기 위해서는 강화된 보안 조치와 더불어 사용자의 주의가 필수적입니다. Block 산하의 Cash App은 고객을 사기로부터 보호하기 위해 고위험 결제 자동 차단, 교육 자료 제공 등 다양한 안전장치를 마련해 왔습니다. 최근 Cash App은 머신러닝(ML) 시스템을 활용하여 P2P 거래가 사기일 가능성이 있음을 고객에게 경고하는 '결제 경고(Payment Warnings)' 기능을 광범위하게 도입했습니다. 이 기능은 고객이 사기 경고를 받았을 때 약 50%의 경우 결제를 취소하거나 중단하게 함으로써, 이러한 안전장치의 상당한 가치를 입증하고 있습니다. 결제 경고는 Cash App의 ML 모델이 사기 가능성을 높게 감지할 때 팝업 알림으로 나타납니다. 고객은 이 경고를 확인한 후 결제를 취소하거나 진행할 수 있으며, 고객의 선택 정보는 ML 시스템 개선에 활용됩니다. 이러한 경고를 유발하는 ML 모델은 다양한 데이터 소스를 기반으로 학습됩니다. 가장 중요한 데이터 소스 중 하나는 고객이 직접 신고한 과거 사기 사례입니다. Cash App은 고객이 잠재적 사기를 쉽게 신고할 수 있도록 시스템을 구축했으며, 접수된 신고는 평가 및 조사 과정을 거쳐 사기 관련 활동에 대응하고, 이 데이터는 모델 성능 향상에 기여합니다. Cash App 고객들은 플랫폼 안전 유지에 중요한 역할을 담당하고 있습니다. 이 외에도 ML 모델 학습에는 이전 고객 지원 사례, 사기 경고 관련 데이터, 그리고 다양한 고객 및 거래 정보가 활용됩니다. Cash App은 고객들이 사기 결제 경고와 어떻게 상호작용하는지, 어떤 유형의 결제가 경고를 유발하는지에 대한 지표를 지속적으로 모니터링하며 이 도구의 배포를 최적화하고 있습니다. Cash App은 고객에게 최신 정보를 제공하고 플랫폼의 안전성을 최대한 확보하기 위해 끊임없이 노력하고 있습니다. 결제 경고 기능은 정교해지는 사기 수법과 진화하는 사기 패턴에 앞서 나가기 위한 Cash App의 지속적인 노력의 일환이며, 앞으로도 이러한 목표 달성을 위해 새로운 도구를 계속 도입할 것입니다.