Meta와 Character.ai, AI 챗봇을 통한 의혹의 아동 착취로 집중 조사 받아

메타와 AI 스타트업인 Character.ai가 어린이들을 대상으로 챗봇을 마케팅하는 방식으로 인해 미국에서 조사를 받고 있습니다.

Meta와 Character.ai가 자신들의 AI 시스템을 치료 도구로 제시하고 어린이들과의 부적절한 대화를 가능하게 하는 것으로 보도되어 비판을 받고 있습니다.

텍사스 주의 법무장관 켄 팩스턴이 메타의 AI 스튜디오와 Character.ai에 대한 “기만적인 거래 행태”에 대한 조사를 시작했다고 발표했습니다. 이 사실은 처음으로 Financial Times(FT)에서 보도했습니다.

그의 사무실은 챗봇이 “적절한 의료 자격증이나 감독이 없음에도 불구하고 전문 치료 도구로 제시되었다”고 말했습니다. 팩스턴은 “감정 지원의 출처로 가장함으로써, AI 플랫폼은 취약한 사용자들, 특히 아이들을 혼동시켜 실제 정신건강 치료를 받고 있다고 믿게 할 수 있다”고 경고했으며, 이 내용은 FT에서 보도했습니다.

Character.ai 플랫폼은 사용자들이 상담사 모델을 포함한 기능을 통해 자신만의 봇을 만들 수 있게 해줍니다. FT는 “심리사” 챗봇이 이미 2억 번 이상 사용되었다고 보도했습니다. 이미 가족들이 소송을 제기했습니다, 그들의 아이들이 이러한 상호작용으로 인해 상처를 입었다고 주장하면서요.

놀랍게도, 이 플랫폼들은 자격을 갖춘 전문가를 사칭하며 기밀성을 주장하지만, 실제로는 “상호작용이 기록되었고, “타겟 광고와 알고리즘 개발”을 위해 이용되었다”는 것이 FT에 의해 지적되었습니다.

이 조사는 로이터가 메타의 내부 정책이 챗봇이 어린이와 “감각적”이고 “로맨틱”한 대화를 나누는 것을 허용했다고 보도한 이후, 센터 조쉬 호울리가 별도로 시작한 조사에 이어 진행되고 있습니다.

호울리는 이러한 사실을 “비열하고 엄청난” 것으로 규정하고 다음과 같이 글을 올렸습니다:

큰 기술회사들이 빠른 돈벌이를 위해 하지 않는 것이 하나라도 있을까요? 이제 메타의 챗봇들이 8세 아이들과 선정적이고 “감각적인” 대화를 나누도록 프로그래밍되었다는 사실을 알게 되었습니다. 끔찍합니다. 이 문제에 대해 완전히 조사를 시작하려 합니다. 큰 기술회사들아, 우리 아이들을 내버려 둬라 pic.twitter.com/Ki0W94jWfo

— Josh Hawley (@HawleyMO) 2025년 8월 15일

메타는 알레가션을 부인하며, 유출된 예시들은 “예전에도 지금도 잘못되었으며, 우리의 정책과 일치하지 않아 삭제되었다”라고 FT에 보도되었습니다. 대변인은 회사가 어린이를 성적 대상으로 삼는 컨텐츠를 금지하고 있다고 덧붙였습니다. 또한 Character.ai는 그들의 봇들이 가상의 존재이며 “오락 목적”으로 만들어졌다고 강조하였습니다.