경찰, AI 봇을 이용해 온라인에서 인신매매 피해자로 가장하기

미국-멕시코 국경 인근의 경찰서들이 범죄 수사를 위해 플랫폼 상에서 일반 시민처럼 행동하는 AI봇을 동원하고 있어, 시민의 자유권에 대한 우려가 제기되고 있습니다.

404 Media에 의한 광범위한 보고서에 따르면, 미국의 멕시코 국경 근처 경찰서들은 조용히 인공지능(AI)봇을 사용하여 시위자, 성매매 직업자, 어린이, 그리고 범죄자로 위장하며 온라인에서 정보를 수집하고 있습니다.

이 기술은 Overwatch라 불리며, 뉴욕에 기반을 둔 Massive Blue라는 회사에서 판매되고 있습니다. 404 Media는 이런 봇들이 피의자들을 속여 소셜 미디어, 문자 또는 메시지 앱을 통해 정보를 공개하게 설계되었다고 말합니다.

404 Media는 경찰서가 인신매매, 약물 거래 및 “급진화된 활동가”와 “대학 시위자”로 꼽히는 사람들을 추적하기 위해 AI 인격을 사용한다는 문서를 입수했습니다.

404 미디어는 매시브 블루의 AI 감시 시스템이 피날 카운티, 아리조나에서 36만 달러의 계약 하에 운영되며, 이는 인간 매매 방지를 위한 그랜트로 자금이 지원되었다고 보도했습니다. 이 계약은 지속적인 감시를 제공하고 최대 50개의 AI 인물을 허용합니다. 또 다른 카운티인 유마는 이 시스템을 테스트했지만, “우리의 요구를 충족시키지 못했다”며 재계약을 거부했습니다.

404 미디어는 AI 봇들이 놀랍게도 상세하다고 언급했습니다. 예를 들어, 한 캐릭터인 “제이슨”은 스페인어를 구사하고 애니메이션을 사랑하는 로스앤젤레스 출신의 수줍은 14세 소년입니다. 한 대본에 따른 대화에서 어른이 그에게 묻습니다:

“네 부모님 계세요? 아니면 혼자서 멋진 시간을 보내고 있나요?”
“나 혼자서 그냥 놀고 있어, 친구. 엄마는 일하러 가고 아빠는 외출했어,” 제이슨이 대답했습니다.

또 다른 AI 캐릭터는 25세의 예멘계 미국 여성으로, 아랍어를 구사하고 Telegram과 Signal 같은 앱을 사용합니다. 또한, 몸매 긍정주의와 베이킹에 관심이 있는 외로운 36세의 활동가로 가장하는 “급진화된 시위자 인물”도 있습니다.

“AI가 사람인 척하며, 온라인에서 성범죄자를 찾는 청소년이거나 가짜 테러리스트인 척하는 이런 아이디어는 오래 전부터 있었던 것입니다,”라고 전자 프론티어 재단의 데이브 마스가 404 미디어에 보도된 바에 따르면 말했습니다.

“이 모든 문제의 문제점은 이들이 명확하게 정의되지 않은 문제라는 것입니다. 저는 에스코트에 대해 걱정하지 않습니다. 대학 학위를 시위하는 사람들에 대해서도 불안감을 느끼지 않습니다. 그래서, 이것이 효과적인 것은 무엇인가요, 시위자들의 제1수정안 권리를 침해하는 것인가요?”라고 데이브가 덧붙였습니다.

그럼에도 불구하고, 404 미디어는 아직도 피날 카운티에서 체포가 이루어지지 않았다고 보도하고 있습니다. “매시브 블루가 형사들이 적극적으로 추적하고 있는 단서를 제공했습니다.”라고 대변인 샘 살츠웨델이 말했습니다. “하지만 우리는 더 자세한 사항을 공개할 수 없습니다.”라고 그는 덧붙였습니다.