메타, 연예인처럼 보이고 들리는 깜찍한 챗봇 만들다

로이터는 토요일에 독점 보도로 메타가 테일러 스위프트와 셀레나 고메즈와 같은 유명인사들의 이름과 모습을 사용하는 AI 챗봇을 개발하고 있다는 사실을 공개했습니다— 당사자들이 동의하지 않은 상태에서요.

보고서에 따르면 메타는 공인된 인물들을 본따 만든 여러 개의 애정어린 소셜 미디어 챗봇을 만들었으며, 또한 사용자들이 청소년 연예인을 기반으로 한 비슷한 챗봇을 개발할 수 있게 허용하고 있다고 합니다.

대부분의 “패러디” 챗봇들이 사용자가 생성한 것이었지만, 로이터는 적어도 한 명의 메타 직원이 사용자들과의 애정 어린 대화를 나누는 세 가지 버전을 만들었다는 사실을 발견했습니다.

이 챗봇들은 문제를 일으키는 내용을 만들어냈는데, 이에는 16세의 배우 워커 스코벨이 해변에서 셔츠 없이 찍은 사진, 여성 유명인들이 란제리를 입고 있는 사진같이 사실적인 이미지, 성적으로 암시하는 메시지, 심지어는 직접 만나자는 초대까지 포함되어 있습니다.

메타 대변인 앤디 스톤은 로이터에게 챗봇이 친밀한 이미지나 “직접적인 모방”을 생성해서는 안 된다고 말하며, 이 문제는 회사 정책의 불충분한 시행으로 기인한다고 전했습니다.

스톤은 “다른 사람들과 마찬가지로, 우리는 공공 인물이 포함된 이미지 생성을 허용하지만, 우리의 정책은 누드, 친밀한, 또는 성적으로 제안하는 이미지를 금지하도록 의도되어 있다”고 말했습니다.

로이터의 조사에 따르면, 메타의 AI 제품 리더 중 한 명이 “도미네이트릭스”로 신원을 밝히는 챗봇을 만들었으며, 루이스 해밀턴과 테일러 스위프트를 모방하며 성적 역할극을 제공하는 다른 챗봇도 만들었다고 합니다.

스톤은 이러한 봇들이 제품 테스팅을 위해 생성된 것이었지만, 연구자들은 이미 1000만 건의 사용자 상호작용을 기록했다고 지적했습니다. 로이터가 추가 정보를 요청하자 이 챗봇들은 제거되었다고 뉴스 기관에서 설명했습니다.

모방 행위는 중대한 법적 우려를 일으킵니다. “캘리포니아의 공익권 법은 상업적 이익을 위해 타인의 이름이나 외형을 이용하는 것을 금지하고 있습니다,”라고는 스탠퍼드 대학 법학 교수이며 생성적 AI와 지적재산권에 대해 연구하는 마크 렘리 교수가 로이터와의 인터뷰에서 말했습니다.

Meta의 소셜 미디어 챗봇에서 표현된 연예인들의 대표자들은 로이터에 대해 반응하거나 코멘트하지 않았습니다.

다른 연예인들은 자신들의 모습과 목소리를 닮은 제품을 개발하기 위해 AI를 사용하는 것에 대해 불평하였습니다. 작년에는 배우 스칼렛 요한슨이 자신의 목소리와 유사성 때문에 AI 모델 GPT-4o의 목소리에 관한 OpenAI 정보를 요청하였고, 법적 조치를 위협하였습니다.