영국 정부, 논란의 인공지능 ‘살인 예측’ 도구 개발 중

영국 정부가 논란이 되고 있는 프로젝트를 진행 중입니다. 이 프로젝트는 미래에 살인을 저지를 수 있는 사람을 AI를 통해 예측하는 것입니다.

이 프로그램의 존재는 감시단체인 Statewatch가 정보 공개 요청을 통해 밝혀졌습니다.

그들의 연구 결과는 민감한 개인 정보가 사용되고 있다는 것을 시사합니다. 이에는 건강 기록, 정신 건강 정보, 중독 이력, 그리고 범죄로 기소되지 않은 사람들에 대한 데이터가 포함됩니다.

Statewatch는 범죄 예방을 위해 기존의 권한 기록을 검토하고 있는 법무부(MoJ)가 이 계획을 주도하고 있다고 보고하였습니다.

원래는 “살인 예측 프로젝트”라는 이름이었지만, 지금은 “데이터 공유로 위험 평가 개선”이라는 이름으로 불립니다. 이 프로젝트는 현재 연구 단계에 있지만, Statewatch에 보도된 바와 같이 캠페인 단체와 개인 정보 보호 옹호자들은 이 프로젝트에 대해 우려를 표명하고 있습니다.

그러나, 관계자들은 이를 부인합니다. The Guardian은 법무부 대변인이 “이 프로젝트는 오직 연구 목적으로 진행되고 있습니다. 이미 존재하는 HM 감옥 및 보호관찰 서비스와 경찰 힘에 의해 유죄 판결을 받은 범죄자들에 대한 데이터를 사용하여 조사가 설계되었습니다. 이는 우리가 보호관찰 중인 사람들이 심각한 폭력을 저지를 위험성을 더 잘 이해하는 데 도움이 될 것입니다. 보고서는 차례로 출판될 예정입니다.”라고 밝혔습니다

Statewatch에 따르면, 그레이터 맨체스터의 경찰은 최대 50만 명에 이르는 사람들에 대한 정보를 공유했습니다. 이에는 피해자, 용의자, 그리고 위험한 상황에 처한 사람들이 포함되었습니다.

Statewatch의 연구원인 소피아 라이알은 이 프로젝트를 강력하게 비판하면서 “범죄 ‘예측’ 시스템을 개발하려는 정부의 의도를 보여주는 최신의 끔찍하고 디스토피아적인 예로, 법무부가 이 살인 예측 시스템을 구축하려는 시도가 있다.”라고 말했습니다.

그녀는 이 시스템이 인종과 계급 차별을 더욱 심화시킬 것이라고 경고했다: “기관적인 인종차별적 경찰과 내무부의 데이터를 사용하는 이 최신 모델은 형사법 시스템의 구조적 차별을 강화하고 확대시킬 것입니다.”

“정신 건강, 중독 및 장애에 대한 이처럼 민감한 데이터를 사용하는 것은 굉장히 침해적이며 놀라운 일입니다,”라고 그녀는 덧붙였습니다.

정부는 이런 도구들이 보호관찰 서비스의 위험성 평가와 폭력 범죄 예방에 도움이 될 수 있다고 주장합니다. 그러나 비평가들은 이 시스템이 결함이 있고 편향된 데이터 때문에 사람들을 불공평하게 잠재적인 살인범으로 꼬리표를 붙일 수 있다고 말합니다.

정부는 이러한 도구들이 보호관찰 서비스의 위험성 평가 능력을 향상시키고 폭력 범죄 발생을 막을 수 있을 것이라 주장합니다. 그러나, 비평가들은 이 시스템이 부정확하고 편향된 데이터를 통해 사람들을 잠재적인 살인범으로 꼬리표 붙일 위험성이 있다고 경고합니다.

개발 중이지만, Statewatch 보고서에 따르면 문서에서는 이 시스템의 “미래의 운영화”에 대해 언급하고 있어, 실제 세상의 경찰 결정에 곧 사용될 수 있다는 우려를 제기하고 있습니다.