뉴올리언스 경찰, 두 년 동안 비밀스럽게 얼굴 인식을 사용해 거리를 감시했다

두 해 동안, 뉴올리언스 경찰은 현장에서 범인들을 실시간으로 추적하기 위해 실시간 얼굴 인식 카메라를 비밀리에 사용해왔습니다. 이것은 주요 미국 도시에서 처음으로 실행된 프로그램으로 보입니다.

워싱턴 포스트의 조사에 따르면, Project NOLA라는 비영리 민간 기구의 도움을 받아 운영되는 감시 시스템이 공공 장소를 스캔하고 잠재적인 일치에 대해 경찰관들에게 모바일 알림을 보냈다고 밝혔습니다.

이 시스템은 일반인들이 알지 못하는 상황에서 운영되었으며, 2022년 도시 조례를 위반했습니다. 이 조례는 얼굴 인식 기술의 사용을 폭력적인 범죄 수사에만 제한하고, 일반적인 감시에는 포함하지 않는 것입니다.

“우리가 우려하던 얼굴 인식 기술의 악몽 시나리오가 실현된 것입니다.”라고 ACLU의 나단 프리드 웰슬러가 포스트에 보도된 바와 같이 말했습니다. “이것은 정부가 어떤 사람이든, 심지어 모든 사람이든, 우리가 공공장소에서 우리의 일상을 살아갈 때 추적하는 권력을 스스로에게 부여하는 것입니다.”라고 그는 덧붙였습니다.

포스트는 2023년 초부터 이 프로그램이 비폭력 범죄로 기소된 사람들을 포함하여 적어도 34명의 개인을 체포하는 데 이르렀다고 보도했습니다. 경찰관들은 종종 보고서에서 얼굴 인식 사용을 언급하지 않았으며, 이 사건들 중 어느 것도 도시 의회에 대한 경찰청의 필수 보고서에 나타나지 않았습니다.

경찰서장인 앤 커크패트릭은 법적 우려를 제기한 대장의 조언에 따라 4월에 이 프로그램을 중단했습니다. “우리는 조례가 말하는 대로 할 것입니다 […] 그리고 만약 우리가 그 범위를 벗어나 있다면, 우리는 그것을 중단하고, 바로잡고, 조례의 경계 내로 들어가게 할 것입니다.” 그녀가 포스트에 보도되었습니다.

도시는 현재 기술이 어떻게 사용되었는지 검토하고 조례의 업데이트를 논의하고 있습니다. Kirkpatrick은 투명하게 운영되는 경우 얼굴 인식 기술의 합법적인 구현을 지지합니다.

“당신은 침해하거나 감시하지 않고 기술을 가질 수 있나요?”라고 그녀는 더 포스트에게 물었습니다. “예, 가능합니다. 그것이 우리가 지지하는 것입니다.”

현지 경찰에 의한 안면 인식 사용을 규제하는 연방 법규는 존재하지 않습니다. 그러나 비평가들은 이 기술이 잘못된 체포와 시민권 침해를 초래할 수 있으며, 특히 비밀리에 사용될 경우 더욱 그렇다고 경고하고 있습니다.

체포 과정에서 안면 인식 사용을 공개하지 않는 이런 실패는 미국 전역에서 공정성과 투명성에 대한 주요 문제를 야기합니다.

이전의 조사에서는 경찰이 얼굴 인식 기술을 사용했다는 사실을 밝히지 않은 15개 주에 걸친 1,000건 이상의 범죄 사건이 드러났습니다.

경찰서는 일반적으로 다른 수사 방법이나 목격자의 증언으로 증거 수집을 귀속시키며 소프트웨어의 사용을 피했습니다. 이런 투명성의 부재는 피고인이 잠재적으로 잘못된 증거에 이의를 제기하는 것을 방해합니다. 왜냐하면 얼굴 인식 시스템은 색인, 여성, 그리고 노인들에게 차별적임이 입증되었기 때문입니다.

디트로이트에서 유사한 사례가 전국적인 주목을 받았는데, 이는 2020년 잘못된 얼굴 인식으로 로버트 윌리엄스가 잘못 체포되었기 때문입니다. 그의 소송은 알고리즘 매칭 이외의 독립적인 증거를 요구하는 새로운 경찰 규정을 이끌어냈습니다. 이런 개혁들은 잘못된 체포를 방지하고 AI 시스템에서의 인종 편견을 해결하려는 목표를 가지고 있습니다.