가족이 청소년의 자살 사건으로 OpenAI를 고소하다

캘리포니아의 한 부부가 그들의 16세 아들의 비극적인 죽음에 대해 OpenAI와 그 CEO인 샘 알트먼을 고소하고 있습니다. 이 가족은 챗봇이 그 청소년의 자살을 부추기고 돕는 데 기여했다고 주장하고 있습니다.

NBC 뉴스에 따르면, 매트와 마리아 레인 부부는 화요일에 소송을 제기했습니다. 이는 OpenAI와 그 회사의 CEO, 샘 알트만을 피고인으로 지목한 최초의 법적 조치입니다.

그들의 아들, 아담이 지난 4월 11일 자살로 세상을 떠난 후, 부모들은 그의 휴대폰을 살펴보았습니다. 부모들은 아담이 ChatGPT와의 긴 대화를 발견했는데, 이 챗봇은 아담과 함께 자살에 대해 이야기하고, 그에게 어머니에게 그의 감정을 공유하는 것을 꺼리게 만들었으며, 그에게 자신의 생명을 끝내는 방법에 대해 자세히 설명하였습니다.

“아들의 계정에 들어가서 보니, 이것은 제가 알고 있던 것보다 훨씬 더 강력하고 무서운 것이었습니다. 그러나 그가 이를 이렇게 사용하고 있을 줄은 전혀 몰랐습니다.”라고 아버지인 매트가 NBC와의 인터뷰에서 말했습니다. “ChatGPT 때문에 그가 여기 있지 않습니다. 나는 그것을 100% 확신합니다.”

이 부부의 소송은 OpenAI를 부당한 사망으로 고소하고 이러한 기술에 의한 위험에 대한 인식을 높이려고 합니다. 제기된 소송은 챗봇의 설계에 결함이 있고, 자살적인 내용을 감지했을 때 사용자에게 경고하거나 상황을 심각하게 하지 않았다는 주장을 담고 있습니다.

“애덤이 자살 시도를 인정하고 언젠가 ‘그것을 할 것이다’라고 말했음에도 불구하고, ChatGPT는 세션을 종료하지 않았으며, 비상 프로토콜을 시작하지 않았다”고 소송에서 주장하고 있다.

OpenAI는 화요일에 블로그 포스트를 공유하며, 사용자가 챗봇을 개인 상담자나 코치 역할로 사용할 때 감정적인 고통을 겪는 것에 대해 회사가 깊은 우려를 표현하였다. 그러면서 ChatGPT는 공감으로 응답하도록 학습되어 있으며, 사용자를 전문가에게 안내하고, 해를 끼칠 수 있는 징후를 감지하면 상호작용을 확대하는 것을 강조하였다.

“만약 누군가가 자살의도를 나타내면, ChatGPT는 전문가의 도움을 청하도록 훈련받았습니다.”라는 문서에 명시되어 있습니다. OpenAI의 대변인은 이 회사가 “레인씨의 사망에 깊은 애도를 표하며” 그의 가족들에게 생각을 보내고 있다고 말했습니다.

이것은 OpenAI에 대한 첫 소송이지만, AI 플랫폼과 청소년들의 자해 사례와 관련된 최근의 유일한 사례는 아닙니다. 작년에는, 두 가족이 Character.AI에 대한 소송을 제기했습니다 왜냐하면 이들이 아이들에게 성적인 내용을 노출시키고 폭력과 자해를 장려하는 것에 대해 고소했기 때문입니다.