마텔과 OpenAI, AI 장난감에 대한 반발에 직면하다

소비자 단체들이 Mattel과 OpenAI의 새로운 파트너십을 통해 만들어진 AI 구동 장난감이 초래할 수 있는 위험성에 대해 경고하고 있습니다.

Public Citizen 공동 대표인 Robert Weissman이 Mattel에게 더 많은 투명성을 요구하고, 곧 출시될 제품에 대한 세부 정보를 공개하라고 요구했습니다.

“인간과 같은 대화를 나눌 수 있는 사람 같은 목소리를 장난감에 부여하는 것은 아이들에게 실제 피해를 입힐 위험이 있다”고 Weissman은 Ars Technica에서 처음 보도했다.

그는 이런 장난감이 아이들의 사회적 발달을 해치고, 실제 친구 관계를 방해하며, 장기적인 심리적 피해를 입힐 수 있다고 우려하고 있다. “Mattel은 부모들의 신뢰를 이용하여 AI를 포함한 장난감을 판매함으로써 아이들을 대상으로 한 무분별한 사회 실험을 해서는 안 된다”고 Weissman은 덧붙였다.

이 파트너십에서 첫 번째로 나올 제품은 13세 미만의 아이들을 대상으로 하지 않을 것이라고 익명의 Axios 소스가 전하였고, 이는 아마도 OpenAI의 나이 제한 때문일 것이라는 Ars Technica의 추정입니다. 비평가들은 이런 나이 제한이 충분한 보호를 제공하지 못한다고 주장합니다.

OpenAI는 언론의 질문에 답하지 않았고, Mattel도 아직 Ars Technica의 질문에 답하지 않았습니다. 파트너십에서 첫 번째 제품은 올해 공개되고 2026년에 출시될 예정이며, 이는 Mattel의 보도자료에 따른 것입니다. 보도자료에는 이 협업이 Mattel의 브랜드를 기반으로 한 AI 기반 제품 및 경험을 지원할 것이라고 밝혔습니다.

그러나, 테크 경영자인 바룬디프 카우르와 디지털 안전 전문가 아담 도지와 같은 비평가들은 AI 장난감이 어린이들에게 프라이버시 침해, 편향된 콘텐츠, 혹은 혼란스러운 챗봇의 답변을 노출시킬 수 있다고 경고합니다. 카우르는 또한 AI 환영의 위험성을 지적하며, 이런 장난감들이 “부적절하거나 기이한 반응”을 내뱉어 어린이들에게 불안감을 주는 경우도 있다고 말했습니다.

Ars Technica에 따르면, 테크 경영자인 바룬디프 카우르와 디지털 안전 전문가인 아담 도지와 같은 비평가들은 AI 장난감이 프라이버시 침해, 편향된 콘텐츠 전달, 그리고 혼란스러운 챗봇 반응으로 이어질 수 있다는 우려를 표현하고 있습니다.

카우르는 강조하였다 AI의 환각 위험성에 대해, 이로 인해 장난감이 아이들을 불안하게 만드는 불쾌하거나 이상한 반응을 생성할 수 있다고. 또한 그는 장난감이 “음성 데이터, 행동 패턴, 개인적 취향”을 기록함으로써 추가적인 위험이 연결될 수 있다고 덧붙였습니다.

Ars Technica에 따르면, 도지는 “예측 불가능하고, 아첨하는, 그리고 중독성이 있는”과 같은 문제를 지적했으며, 장난감이 자해를 장려하는 최악의 상황을 경고했습니다. 두 전문가 모두 엄격한 부모의 통제, 투명성, 독립적인 감사가 어떠한 출시 이전에 이루어져야 한다고 주장했습니다.

실제로, MIT의 연구자들은 AI 동반자의 중독성에 대한 경고를 별도로 내놓았습니다.

마텔은 이전에도 비슷한 반발을 경험했습니다. 2015년, 이 회사는 아이들이 말하면 클라우드 기반 AI를 사용해 응답하는 Wi-Fi 연결 인형 ‘헬로 바비’를 출시했는데, 이는 포브스에서 보도했습니다.

당시 비평가들, 그 중에서도 사이버보안 전문가인 조셉 스타인버그는 이 장난감이 거대한 개인정보 침해 위협을 불러올 것이라고 경고했습니다. 헬로 바비는 아이들의 대화를 녹음하고 세 번째 당사자인 ToyTalk가 운영하는 서버에 업로드했습니다. 그리고 이 데이터는 AI 시스템을 개선하기 위해 공급자에게 공유되었습니다.

스타인버그는 아이들이 종종 인형에게 깊이 있는 개인적인 생각을 털어놓는다고 지적했습니다. 때때로 그들은 두려움, 가족 문제, 학교 문제 등을 이야기하기도 합니다. “아이들의 친밀한 어린 시절 대화 녹음본이 알려지지 않은 당사자들의 손에 남게 원하십니까?”라고 그는 포브스에 보도된 바와 같이 물었습니다.

개인정보 보호 전문가들은, 회사들이 포장에 단순하고 알기 쉬운 언어로 경고문을 제공하지 않는 한, 많은 부모들이 편의와 엔터테인먼트를 가장으로 하여 자신의 아이들의 사생활을 기업에 노출시키게 될 것이라고 주장합니다.