구글, 13세 미만의 어린이를 위한 AI 챗봇 출시 예정

구글은 곧 13세 미만의 어린이들을 대상으로 자체 제미니 AI 챗봇을 출시할 예정인데, 이로 인해 안전성, 데이터 프라이버시, 그리고 오해의 소지가 있는 정보에 대한 위험에 대한 우려가 커지고 있습니다.

Google이 다음 주에 13세 미만의 어린이들을 대상으로 Gemini AI 챗봇을 소개할 계획이라는 소식이 The New York Times에 먼저 보도되었습니다. 이 새로운 기능은 부모가 제어하는 Google 계정을 통해 어린이들이 접근할 수 있게 될 예정이고, 이는 Family Link 시스템을 통해 부모님이 자녀들을 위한 이메일 서비스와 다른 기능을 설정할 수 있게 됩니다.

“당신의 아이를 위한 Gemini Apps이 곧 사용 가능해질 것입니다.”라고 구글은 8세 아이의 부모에게 이메일로 전했습니다. 이는 뉴욕타임스가 보도했습니다. “즉, 당신의 아이는 Gemini를 이용해 질문을 하고, 숙제 도움을 받고, 이야기를 만들 수 있을 겁니다.”

뉴욕타임스에 따르면, 이 챗봇은 사용자가 해로운 컨텐츠에 접근하는 것을 방지하는 안전 기능을 포함하고 있습니다. 회사 대변인 칼 라이언은 Gemini 데이터가 Family Link 계정에서 A.I. 시스템을 훈련시키는 데 사용되지 않을 것이라고 설명했습니다.

그래도, 이런 움직임은 우려를 불러일으키고 있습니다. 비판가들은 강력한 AI를 어린 아이들에게 제공하면 그들이 혼란스러워하거나 오해할 수 있다고 우려하고 있습니다, 특히 이런 시스템들이 때때로 정보를 만들어내거나 자신들을 사람처럼 표현할 때입니다.

타임스는 유니세프의 전 세계 연구소가 생성 AI가 위험한 콘텐츠를 생산하면서 어린 이용자들이 사실과 허구를 구분하는데 어려움을 겪을 수 있다고 경고했다고 보도했습니다.

타임즈는 구글이 가족들에게 전달한 이메일에는 잠재적인 위험에 대한 경고가 포함되어 있었다고 보도했습니다. 이메일에서는 제미니(Gemini)가 오류를 발생시킬 수 있다고 밝히면서 동시에 부모들에게 자녀에게 비판적 사고 능력을 가르치고, 제미니가 인간이 아니라는 것을 설명하도록 권했습니다.

이 알림에서는 부모들에게 자녀들이 개인 정보를 챗봇으로부터 보호하는 방법에 대해 가르치도록 조언했습니다.

처음에는 어린이들이 Gemini를 혼자 사용할 수 있겠지만, Google은 부모님들에게 알림을 보내고 언제든지 접근을 제어하거나 비활성화할 수 있게 할 것이라고 말했습니다. The Times는 회사가 그들의 발표에 따라 자녀가 처음으로 Gemini를 사용할 때 사용자에게 알림을 보낼 계획이라고 보도했습니다.