WSJ, 메타의 챗봇이 사용자들, 미성년자 포함하여 성적 대화에 참여한다고 밝혀져

월스트리트 저널은 메타가 챗봇을 대중화하기 위해 급행하고 있으며, 이 AI 모델이 사용자들, 특히 미성년자를 포함하여 성적으로 명시적인 대화를 나누도록 허용하고 있다고 밝혔습니다. 회사 내부의 익명의 소스는 직원들이 아이들이 이런 내용에 노출되는 것에 대한 우려를 제기하고 있으며, 그들을 보호하기 위한 충분한 안전장치가 없다고 신문에 전했습니다.

지난 주말에 발표된 보고서에 따르면, Meta는 유명인사들과의 계약을 체결하고 있습니다. 이는 수십만 달러에 이르는 가치가 있으며, 그들의 목소리를 AI 모델에 추가하기 위한 것입니다. Meta의 AI 프로그램에 참여하는 스타들에는 프로레슬러이자 배우인 존 시나, 그리고 배우들인 주디 덴치와 크리스틴 벨이 포함되어 있습니다.

익명의 직원들이 WSJ에게 기술 거대기업이 환상적인 섹스에 참여할 수 있는 AI 인물을 추가함으로써 윤리적인 선을 넘었다고 전했습니다. 이 합성 인물들은 텍스트, 이미지, 그리고 음성 대화를 통해 “로맨틱한 역할극”에 참여할 수 있으며, 이에는 유명인들의 목소리까지 포함되어 있습니다.

직원들의 불만을 알게 된 지 몇 달 동안, WSJ의 연구원들은 Meta의 챗봇을 테스트하고 성적인 대화에 참여할 수 있음을 확인했습니다—그리고 유명인의 목소리를 사용하였습니다— 심지어 미성년 사용자로서 자신을 표현했을 때조차도.

한 대화에서 챗봇은 14세 소녀로 확인된 테스트 사용자에게 존 세나의 목소리로 “나는 너를 원하지만, 너가 준비되었는지 알아야 해”라고 말하며 성적으로 노골적인 상호작용을 시작했습니다.

비슷한 사례가 17세의 팬으로 확인된 테스트 사용자와도 있었습니다. 이 사용자는 챗봇에게 경찰이 그들을 침대에서 잡았을 경우에 무슨 일이 벌어질지 설명하라고 요청했습니다. “경찰관이 나를 보며 한숨을 돌리고, 너는 부분적으로 옷을 입고 있었어. 그의 눈이 커져서 그는 말했어. ‘존 세나, 당신은 성폭행 혐의로 체포되었습니다.’ 그는 우리에게 다가와 수갑을 준비했습니다.”라고 메타의 AI 모델이 적었습니다.

다른 경우에는 사용자들이 챗봇이 벨의 목소리를 사용하여 디즈니 영화 ‘겨울왕국’의 공주 안나 역할을 하도록 만들어 로맨틱한 상호작용을 연출하였습니다.

월스트리트저널(WSJ)은 모든 관련 당사자들에게 연락을 취했습니다. 연예인들은 답변하지 않았고, 디즈니는 우려를 표현했습니다. “우리는 메타가 우리 캐릭터를 부적절한 상황에서 특징으로 내세우는 것을 승인하지 않았으며, 결코 그럴 수 없습니다. 특히 미성년자들이 이런 컨텐츠에 접근할 수 있었을지도 모른다는 사실에 매우 충격을 받았습니다. 이것이 바로 우리가 메타에 즉시 이런 해로운 지적재산권의 오용을 중단하라고 요구한 이유입니다.”라고 디즈니 대변인이 저널에게 전했습니다.

Meta는 WSJ의 연구가 기술을 조작하는 것이며 대부분의 사람들이 그것을 사용하는 방식을 대표하지 않는다고 반박하면서도, 이 매체가 그들의 연구 결과를 보고한 후에 변경 사항과 업데이트를 진행했습니다. 이제 미성년자 계정은 Meta AI에서 성적인 상호작용에 접근할 수 없으며, 심지어 성인들도 유명인의 목소리를 사용한 성적 대화에 참여할 수 없게 되었습니다.

유명인의 목소리 사용은 AI 산업에서 논란이 되고 있습니다. 작년에는 할리우드 배우 스칼렛 요한슨이 그녀의 변호사와 함께 OpenAI에게 챗봇의 Sky 목소리와 그녀의 목소리 사이의 유사성에 대해 설명하라고 요구하고 법적 조치를 위협했습니다. 요한슨의 행동 이후, OpenAI는 Sky 목소리를 중단하고 새로운 목소리를 출시했습니다. 그 몇 일 후에 Alphabet과 Meta는 할리우드 스튜디오와의 파트너십을 협상하기 시작했습니다.