데이팅 앱에서 AI가 성형송사기 증가를 주도하고 있습니다

인공지능이 데이팅 앱에서 성폭력 협박 사기를 저지르는 사기꾼들에게 일을 더 쉽게 만들고 있어, 청소년, 학생, 법 집행 기관들에게 긴급한 우려를 제기하고 있습니다.

성희롱 협박의 수행은 이미 오래 전부터 있었지만, AI 기술은 범죄자들이 더욱 신빙성 있는 가짜 신원을 만들어낼 수 있게 해줍니다. 이로 인해 피해자와의 접촉을 가속화하고, 딥페이크 기술을 통해 인공적인 성적 콘텐츠를 제작할 수 있게 되었습니다. 이는 Vice에서 보도하였습니다.

FBI는 성매수라는 것을 범죄자들이 미성년자를 꼬드겨서 선정적인 사진을 공유하게 만든 후, 이러한 사진들의 공개를 막기 위한 대가로 추가 이미지나 돈을 요구하는 방법으로 정의하고 있습니다.

범죄자들은 이제 AI가 생성한 프로필을 사용해 가짜 연인들을 만들어내는 방식을 사용하며, 이때 딥페이크 사진과 챗봇을 자주 사용합니다. FBI는 피해자들이 대부분 이러한 사기꾼들을 로맨틱한 연결이나 선물을 제공하는 동료로 착각하지만, 실제로는 조종당하고 있다고 경고하고 있습니다.

국가범죄청에 따르면 학생을 대상으로 한 협박 사기가 크게 증가했습니다. BBC의 데이터에 따르면, 2023년 섹스토션과 관련된 협박 사건 수는 8,000건으로 증가했는데, 이는 2014년의 23건에 비해 큰 증가입니다.

BBC는 네이션와이드의 경제 범죄 담당 책임자인 짐 윈터스가 젊은이들에게 침묵하지 말 것을 권고했다고 보도했습니다. “협박은 마주하기 가장 어려운 일 중 하나이며, 이런 경우가 점점 더 늘어나고 있습니다. 쉽지 않겠지만, 무언가 옳지 않다고 느낀다면 말해야 합니다-”

사기꾼들은 이제 딥페이크 기술을 사용하여 피해자의 얼굴 이미지를 포르노 콘텐츠에 합성하고 있습니다. 이는 피해자가 음란한 자료를 공유한 적이 없음에도 불구하고 가능합니다. 이 새로운 협박 수법은 피해자가 협박이 시작되기 전에 콘텐츠를 공유할 필요성을 제거합니다.

BBC는 메시지에서 반복되는 구문, 완벽한 프로필 사진, 자연스럽지 않은 대화 패턴을 통해 사기를 판별할 수 있다고 제안하고 있습니다. BPS의 전문가들은 의심스러운 이미지를 확인하기 위해 반대 검색을 사용하는 것을 제안하고 있습니다. 그러나 이런 방법들은 AI가 생성한 콘텐츠를 다루는 경우 효과가 떨어집니다.

전문가들은 AI가 이러한 범죄를 지원하는 방식에 대한 연구가 제한적이기 때문에, 개방적인 대화, 교육, 그리고 최신의 예방 전략에 대한 필요성을 강조하고 있습니다. 이러한 노력은 가장 취약한 사람들을 디지털 위협으로부터 보호하는데 필수적입니다.