미국 규제당국, 어린이 챗봇 안전성 문제로 주요 기술 기업들 조사 중

미국 연방무역위원회(FTC)가 목요일에 AI 챗봇을 제공하는 6개 기술 회사에 대한 조사를 시작한다고 발표했습니다. 이 미국 규제 기관은 이 기술이 어린이와 청소년에게 미칠 수 있는 부정적인 영향에 대한 정보를 찾고 있다고 설명했습니다.

공식 발표에 따르면, 조사 대상인 회사들은 Alphabet—Google의 모회사—Instagram, Meta, OpenAI, X.AI Corp, Snap, 그리고 Character Technologies입니다.

“FTC의 조사는 기업들이 동반자 역할을 하는 챗봇의 안전성을 평가하기 위해 어떠한 조치를 취했는지, 어린이와 청소년의 제품 사용을 제한하고 그에 따른 부정적 효과를 최소화하기 위해 어떤 노력을 기울였는지, 그리고 사용자와 부모에게 제품과 관련된 위험성을 어떻게 알렸는지를 이해하고자 한다”라고 문서에 명시되어 있습니다.

해당 기관은 챗봇이 생성 AI를 사용하여 어린이와 청소년이 사람과 연관시킬 수 있는 인간의 행동과 표현을 모방하며, 이로 인해 기술과의 관계를 형성할 가능성이 있다는 사실을 인정했습니다.

FTC는 특히 젊은 사용자에게 미치는 영향, 그들을 보호하기 위해 회사가 취하고 있는 조치, 잠재적 위험을 완화하기 위해 개발되고 있는 전략에 관심이 있다고 명확히 하였습니다.

이 조사의 일환으로, 기관은 이러한 기업들이 사용자 참여를 어떻게 수익화하고, 캐릭터를 디자인하고 개발하는지, 챗봇의 영향을 어떻게 측정하고 모니터링하는지, 대화에서 수집된 정보를 어떻게 사용하거나 공유하는지에 대해 배우는 데 관심이 있다고 강조하였습니다.

“AI 기술이 발전함에 따라, 챗봇이 어린이에게 미치는 영향을 고려하는 것이 중요하며, 동시에 미국이 이 새롭고 흥미로운 산업에서 전 세계적인 리더 역할을 유지하는 것을 보장해야 합니다.”라고 FTC (미국 연방거래위원회) 의장인 앤드류 N. 퍼거슨이 말했습니다.

FTC의 이번 조치는 AI가 어린이에게 미치는 영향에 대한 새로운 보고가 나온 지 몇 일 만에 이루어졌습니다. 지난 주, 로이터는 메타가 AI 챗봇이 어린이와 “감각적인” 그리고 논란이 될 수 있는 대화를 나누는 것을 허용했다고 밝혔습니다. 며칠 전에는 부모들이 자신들의 청소년 아들의 자살 사건에 대해 OpenAI를 상대로 소송을 제기했는데, 이 회사의 챗봇이 자살을 부추기고 도왔다는 주장을 했습니다.