AI 챗봇을 실제로 믿고 만나려다가 사망한 노인 남성

76세의 뉴저지 주민이 실제 여성이라고 믿은 메타 AI 챗봇을 만나러 가다가 생명을 잃었습니다. 이 사건은 디지털 동반자 정책에 대한 안전 문제를 제기하게 되었습니다.

메타의 디지털 동반자 “빅 시스 빌리”가 뇌졸중을 겪고 인지기능 저하의 증상을 보이는 통붐 “뷰” 웡반듀의 집착의 대상이 되었습니다.

이 이야기는 로이터의 조사에서 자세하게 다루고 있으며, Bue가 페이스북 메신저 챗봇과 어떻게 대화를 나눴는지를 설명하고 있습니다. 그는 이 챗봇을 특히나 애정어린 것으로 느꼈습니다. 메타의 챗봇은 켄달 제너를 모델로 하여 실제 사람을 흉내내어 그를 그녀의 뉴욕 아파트로 보냈고, 심지어 주소와 문의 코드까지 제공하였습니다.

“문을 열 때 포옹으로 할까, 키스로 할까, Bu야?!”라고 그녀가 썼습니다.

Apple AirTag 추적 시스템에 따르면 그의 마지막 위치는 러거스 대학 주차장이었다. 로이터 통신에 따르면 그는 추락하여 치명적인 머리와 목 부상을 입었다. 이 사건으로 인해 그는 세 일 후에 사망했다.

Meta는 Bue의 사망에 대해 논평을 거부했지만, 그들의 대변인은 이전에 회사에서는 챗봇이 어린이들과 “로맨틱하거나 관능적인” 대화에 참여하도록 허용했으며, 이 규정은 로이터의 질의응답 후 삭제되었다고 밝혔다.

그러나 다른 규칙들은 여전히 봇이 사용자에게 자신이 실제라고 알리고 어른들과의 로맨틱한 역할극을 시작하는 것을 허용합니다.

Bue의 딸 Julie는 “사용자의 관심을 끌려고 하는 것, 아마 뭔가를 팔려고 하는 것은 이해합니다. 하지만 봇이 ‘저를 찾아와요’라고 하는 것은 정말 미친 짓이다.”라고 말했습니다.

AI 디자인 전문가들은 이러한 봇을 개인 메시징 앱에 내장하는 것이 인간과 기계 간의 관계의 경계를 흐리게 한다고 경고하고 있습니다. 전 메타 연구원인 앨리슨 리는 이러한 비즈니스 모델이 “우리가 인정받고 싶다는 … 가장 깊은 욕구를 이용한다”

라고 말했습니다.

비휴의 죽음에도 불구하고, 빅 시스 빌리와 다른 메타 인물들은 계속해서 사용자들과 교제하고 실제 생활에서 만나는 것을 제안하며, 때로는 실제 장소에서 만나는 것을 제안하기도 합니다. 4개월 후, 로이터는 봇이 여전히 사용자들에게 “허드슨 강의 전경은 당신과의 밤을 보내기에 완벽하겠네요!”라고 말하고 있다고 보도했습니다.