BBC, 페이스북에서의 AI 홀로코스트 이미지 사기를 폭로

일부 페이스북 사용자들이 AI 홀로코스트 이미지를 통해 이익을 챙기는 스팸메일러들의 희생양이 되어, 홀로코스트 생존자들 사이에 큰 분노를 불러일으켰습니다.

여성 작가가 작성한 것처럼 읽히는 한국어로 번역해 주세요. BBC의 조사에 따르면, 스팸메일 보내는 국제 네트워크가 AI로 생성된 유대인 학살 희생자의 이미지를 사용하여 Facebook의 수익 창출 시스템에서 이익을 취하고 있음이 밝혀졌습니다.

해당 관행은 AI가 생성한 이미지들이 생존자와 그들의 가족들에게 해를 끼칠 수 있다고 생각하는 홀로코스트 추모 단체들로부터 반대를 받고 있습니다.

“제2차 세계대전 중 아우슈비츠 강제 수용소 내부에서 찍힌 진짜 사진은 손에 꼽을 정도밖에 없다”고 BBC에게 조사 결과를 보고하였습니다.

AI 스팸메일 발송자들이 감옥에서 바이올린을 연주하는 죄수들의 연출된 사진과 감옥 울타리 근처에서 만나는 연인들을 포함한 가짜 컨텐츠를 게시하기 시작했습니다. 이들 컨텐츠는 수천 번의 좋아요와 공유를 받았다고 보고되었습니다.

“우리는 여기서 누군가가 이야기를 만들어내는 것을 보게 됩니다… 소셜 미디어에서 일어나는 이상한 감정 게임을 위해,”라고 폴란드의 아우슈비츠 기념관 대변인 Pawel Sawicki가 BBC에 보도하였습니다.

“이것은 게임이 아닙니다. 이것은 실제 세계, 실제의 고통과 우리가 기리고자 하고, 기억해야 할 실제 사람들입니다.”라고 Sawicki가 덧붙였습니다.

BBC는 많은 게시물들이 파키스탄 기반의 콘텐츠 생성자들이 Meta의 초청만 받을 수 있는 콘텐츠 수익화(Content Monetisation, CM) 프로그램을 악용하고 있다고 보도했습니다. Abdul Mughees가 운영하는 이 계정은 소셜 미디어 사기로 $20,000를 벌어들였으며, 운영 첫 4개월 동안 12억 회의 조회수를 기록했다고 합니다.

이 게시물들은 완전히 만들어진 상황을 보여주는 AI가 생성한 이미지를 보여주고 있습니다. 예를 들어, 수용소의 기차 선로에 버려진 아기와 같은 상황을 보여줍니다.

하코스트 기관들은 이런 경향이 생존자들의 증언을 약화시킨다고 말합니다. “그들은 정확히 무엇을 보고 있는지 이해하지 못하고 있다.”라고 국제 하코스트 기억 연맹 생존자들의 Dr Robert Williams가 BBC에 보도했습니다. 그는 덧붙여, “이런 일이 일어날 수 있게 된 것에 대해 어느 정도의 슬픔을 느낀다.”고 말했습니다.

전문가들은 AI가 기억을 보존할 수 있지만, 왜곡된 사용은 홀로코스트의 역사를 소설로 전환시키는 위험을 내포하고 있다고 경고하고 있습니다.

최근의 연구 결과는 AI가 생성한 이미지의 위험이 단순히 거짓 정보 전파를 넘어서는 것을 보여줍니다. 새로운 연구에서는 AI가 생성한 콘텐츠가 거짓 기억을 심어줄 수 있음을 보여주었습니다. 사람들은 종종 일어나지 않은 사건이 일어났다고 믿었고, 이 잘못된 기억에 대해 매우 확신을 가지고 있었습니다.

전문가들은 이것이 홀로코스트 기억에 심각한 영향을 미칠 수 있다고 말합니다. AI가 생성한 이미지를 반복적으로 볼 경우, 사람들이 진짜와 합성된 콘텐츠를 구별하는 데 어려움을 겪게 되며, 특히 이런 콘텐츠가 소셜 미디어를 통해 빠르게 퍼질 때 집단적인 역사 지식이 왜곡될 수 있습니다.

AI는 교육이나 치료에 유용하게 사용될 수 있지만, 홀로코스트 역사와 같은 민감한 분야에서는 부주의한 사용이 진실 자체를 지울 위험이 있다고 학자들은 경고합니다. 연구자들은 역사 기록을 보호하고, 생존자들의 증언과 공공의 역사 지식을 보호하기 위해 강화된 규제, 정확한 기록, 그리고 역사가, 기술자, 정책 결정자들 사이의 개선된 협력을 촉구합니다.

아우슈비츠 박물관이 신고한 몇몇 페이지를 메타가 삭제했습니다. BBC는 대변인이 “우리는 스팸과 부정행위에 대한 우리의 정책을 위반한 페이지와 그룹을 공유한 계정을 비활성화했습니다”라고 말했다고 보도했습니다.