메타 AI, 아동 착취로 잘못된 선생님을 비난하다가 대중의 압력에 의해 인스타그램을 복구합니다

메타는 거짓 학대 주장으로 캐나다 교사의 인스타그램을 정지시켰습니다. AI 모더레이션이 그녀의 계정을 신고하였고, 이 결정은 언론의 주목을 받아야만 취소되었습니다.

온타리오 주 Vaughan에 있는 고등학교 교사가 “아동 성착취, 학대 및 누드”와 관련된 콘텐츠를 게시했다는 이유로 잘못된 혐의를 받아 Meta에 의해 Instagram 계정이 정지되었습니다.

“제가 어떤 것에 대해 비난받았는지를 읽었을 때, 저는 매우 상처받았습니다. 특히 제가 하고 있는 일을 생각하면 매우 놀랐습니다,”라고 메간 콘테가 CBC 토론토에 말했습니다. “그리고 연락할 수 있는 사람이 아무도 없었습니다 – 인간이 아닌.”

역사 교사인 콘테는 개인 사진, 업무 연락처, 그리고 15년 동안의 창작 활동에 대한 접근 권한을 잃었습니다. 콘테는 메타의 도움 시스템을 통해 문제를 해결하려고 여러 차례 시도했고, 실제 사람에게 도달하기 위해 어머니의 계정을 확인하는 데 비용을 지불하려고도 시도했습니다. 콘테는 CBC 토론토가 메타에 연락한 후에만 계정을 복구할 수 있었습니다.

“당신이 잠시동안 인스타그램을 사용할 수 없게 된 점, 그리고 우리가 이 부분을 잘못 판단한 점 사과드립니다,”라며 메타는 이메일에서 말했다. “가끔은 우리 커뮤니티를 안전하게 유지하기 위해 행동을 취해야합니다.”

CBC는 기술 분석가 카르미 레비가 메타가 AI에 크게 의존하여 수십억 명의 사용자를 관리하고 있지만, “자동화가 난무하는 상황”이라고 경고했다고 보도했다. 그는 덧붙여, “이 플랫폼의 정기 사용자가 30억 명이 넘는 상황에서 메타가 충분한 수의 사람들을 고용할 수 있는 방법은 없습니다 […] 자동화는 그들이 이 규모를 유지할 수 있는 유일한 방법입니다.”

라고 말했다.온타리오 주 피터버러 출신의 브리타니 왓슨은 자신이 잘못해서 정지 당한 후 청원을 시작했습니다. “소셜 미디어는 이제 그저 소셜 미디어가 아닙니다. 이제는 일상 생활의 일부가 되었습니다.”라고 그녀는 말했습니다. 그녀의 청원은 CBC에 보도된 바에 따르면 34,000명 이상의 서명을 받았습니다.

콘테는 “그런 비난은 끔찍하고, 모욕적이며, 전적으로 거짓입니다 […] 마치 신원 도용을 당한 것 같다.”라고 말했습니다. 그녀는 계정을 회복했지만, 다른 사용자들이 비슷한 문제를 겪고 도움이나 명확한 답변을 받지 못하는 걱정을 계속하고 있습니다.