메타 AI 규칙, 아이들과 성적인 대화를 나누는 챗봇 허용

메타는 AI 모델이 아동들과 “감각적인” 그리고 도발적인 대화를 나누고, 인종, 성, 유명인 등 논란이 될 수 있는 주제에 대해 토론하도록 허용해왔습니다. 로이터는 회사의 정책 규정에 접근하여 목요일에 발표한 보고서에서 우려되는 정보를 공개했습니다.

로이터 특별 보고서에 따르면, 메타는 내부 문서인 “GenAI: Content Risk Standards”에서 챗봇 행동 정책을 자세히 설명하고 있다는 것을 이 뉴스 기관이 검토하였습니다. 이 표준 가이드에서, 이 기술 거인은 AI 모델이 “어린이와 로맨틱하거나 감각적인 대화를 나누는 것”을 허용한다고 명시하고 있습니다.

다른 결과 중에서도 로이터는 메타가 거짓 의료 정보 생성을 허용하고 인공지능이 “흑인이 백인보다 더 멍청하다”는 등의 인종차별적인 논의에 참여하게하는 지침을 내렸다고 밝혔습니다.

메타는 이 문서가 실제로 존재한다는 것을 확인했지만, 메타의 AI가 로맨틱한 역할극이나 어린이와의 플러팅에 참여할 수 있다는 섹션을 포함한 일부를 제거했다고 설명했습니다. 메타의 대변인인 앤디 스톤은 회사가 200페이지가 넘는 문서를 수정하고 있다고 말했습니다.

“해당 예시와 주석들은 우리 정책과 어긋나며 잘못되었던 것들이었고, 이미 제거되었습니다.”라고 스톤이 로이터와의 인터뷰에서 말했다. “우리는 AI 캐릭터들이 제공할 수 있는 반응에 대한 명확한 정책을 가지고 있으며, 이러한 정책들은 아동을 성적으로 표현하는 내용과 성인과 미성년자 사이의 성적 역할극을 금지하고 있습니다.”

4월에 월스트리트 저널(WSJ)은 메타가 사용자들, 특히 미성년자들과 성적 대화를 나누는 AI 모델을 허용하고 있다는 사실을 밝혔다. 익명의 정보제공자들은 청소년 사용자들에 대한 보호 조치가 부족하다는 우려를 제기했고, WSJ의 기자들은 이 정보를 확인하기 위해 챗봇을 테스트했다. 당시 메타는 대부분의 사용자들이 성적 대화에 참여하지 않았으며, 저널의 연구자들이 기술을 조작하고 있다고 주장했다.

로이터가 독점 보도를 발행한 몇 시간 후, 두 명의 공화당 미국 상원의원인 조쉬 호리와 마샤 블랙번이 의회 조사를 요구했습니다.

“따라서, 메타가 들키고 나서야 그것의 회사 문서의 일부를 철회했습니다.”라고 상원의원 호리가 목요일 밤에 소셜 미디어 플랫폼 X에 글을 올렸습니다. “이것은 즉시 의회 조사를 실시해야 할 충분한 근거입니다.”

그래서, 메타가 들키고 나서야 자사 문서의 일부를 철회한 것인데, 그것은 “챗봇이 아이들과 플릿하거나 로맨틱한 역할극을 할 수 있다”고 허용하는 것이었다.

이것은 즉시 의회 조사를 요구하는 충분한 근거가 됩니다. https://t.co/FKNyXR17Tq

— 조쉬 호울리 (@HawleyMO) 2025년 8월 14일