이탈리아, 데이터 보호 위반으로 AI 챗봇 제조사 Replika에 5백만 유로 벌금 부과

이탈리아의 데이터 보호 당국은 Replika의 모회사인 Luka Inc.에게 사용자 데이터 보호를 위해 설계된 규정을 준수하지 못했다는 이유로 500만 유로, 약 5.64 백만 달러의 벌금을 부과했습니다. 당국은 이 기술이 어린이에게 미칠 수 있는 잠재적 위험과 회사가 이탈리아 사용자의 개인 데이터를 처리하기 위한 충분한 법적 근거를 갖추지 못했다는 점을 문제 삼았습니다.

로이터에 따르면, 개인정보 보호 기구인 Garante는 월요일에 이 결정을 발표하였습니다. 챗봇 플랫폼이 아동들이 민감한 내용을 공유하거나 접근하는 것을 막기 위한 연령 확인 시스템을 구현하지 않았다는 것이 그 이유였습니다. 그 결과, Luka Inc.는 이러한 위반 사항들로 인해 벌금을 부과받았습니다.

Replika는 사용자가 직접 커스텀화할 수 있는 아바타를 제공하며, 이 아바타는 채팅과 음성을 통해 대화를 나누어 “가상의 친구”를 만들어줍니다. 며칠 전, Sarah Kay라는 여성이 Replika의 채팅봇과 감정적 연결을 형성했다고 보도하였습니다.

이탈리아 당국과 Replika 사이의 법적 분쟁은 몇 년 동안 진행되어 왔습니다. 2023년, 이탈리아의 데이터 보호 기관은 이 기술이 아동에게 미칠 수 있는 잠재적 위험을 이유로 Replika가 이탈리아 시민의 개인 데이터를 처리하는 것을 금지했습니다.

거의 두 해 동안 이탈리아 당국은 지속적인 조사를 수행하고 AI 회사가 이탈리아 사용자의 데이터를 처리하기 위한 합법적인 근거를 갖추지 못했다는 결론을 내렸습니다.

데이터 보호 기관 역시 별도의 조사를 진행 중이며, 이는 Replika가 유럽 연합의 정책과 법적 틀을 준수하는지를 결정하기 위한 것입니다. 특히 AI의 언어 모델이 어떻게 훈련되는지에 중점을 두고 있습니다.

유럽연합의 인공지능법(AI Act)이 최근 시행되었습니다. 이 법은 이 지역의 AI기술이 안전하고, 신뢰할 수 있으며 인권을 존중하도록 보장하기 위한 것입니다.

Replika는 이태리에서 부과된 벌금에 대해 아직 어떠한 의견이나 공식적인 발표를 내지 않았습니다. Luka Inc.는 이태리 정부로부터 법적 조치를 받고 있는 유일한 미국 AI 회사가 아닙니다—OpenAI는 일시적으로 금지되었으며, 또한 1500만 유로의 벌금을 받고 있습니다. 이태리의 데이터 보호 당국은 이 회사가 EU 개인정보 보호 규정을 위반했다고 주장하고 있습니다.