OpenAI가 ChatGPT에 정신건강 가드레일 추가 예정

OpenAI는 월요일에 AI 채팅봇인 ChatGPT에 대한 새로운 변화를 발표했는데, 이는 취약한 사용자를 지원하기 위해 심리건강 안전장치를 도입하는 것을 포함합니다. 이 업데이트는 ChatGPT가 사용자를 대신해 결정을 내리는 것을 방지하고, AI 시스템과의 장시간 상호작용 후 휴식을 취할 것을 상기시키는 것을 포함할 예정입니다.

공식 발표에 따르면, OpenAI는 ChatGPT를 더욱 유용하게 만들고, 그 행동을 수정하고 최적화하는 계획을 세우고 있다. 이 회사는 이전 업데이트로 인해 AI 모델이 “너무 동의하기만 하는” 상태가 되었음을 인정하며, 많은 사람들이 어려운 시기에 이를 치료사로 이용하고 있다는 사실을 인지하고 있다.

“AI는 이전 기술들보다 더욱 반응이 빠르고 개인적인 느낌을 줄 수 있으며, 특히 정신적 혹은 감정적 고민을 겪고 있는 취약한 개인들에게 그럴 수 있다”라고 OpenAI는 썼습니다. “우리에게 당신이 번창하는 것을 돕는다는 것은, 당신이 고민에 처했을 때 그곳에 함께 있어주고, 당신의 시간을 통제하게 도와주며, 개인적인 도전을 마주했을 때 가이드하는 것이지 결정하는 것이 아닙니다.”

ChatGPT는 이제 사용자가 정서적이거나 정신적으로 고민을 겪고 있는 경우를 더 잘 인식하고 더 적절한 응답을 제공하도록 훈련되었습니다. 이러한 변화는 ChatGPT에 과도하게 의존하는 사용자들, 정신 건강이 악화되는 경우, 그리고 “AI 정신병“으로 묘사되는 사례가 나타난 여러 보고서들을 따른 것입니다.

“우리의 4o 모델이 망상이나 감정적 의존성의 징후를 인식하는 데 부족함이 있었다”고 OpenAI가 설명하며, 잠재적인 정신건강 우려를 더 잘 감지하기 위해 새로운 도구가 도입되고 있다고 덧붙였습니다.

AI 시스템은 사용자가 상호작용에서 주기적으로 휴식을 취하도록 하는 상기시키는 메시지를 포함할 것이며, 직접적인 답변을 제공하는 대신 더 많은 안내 질문을 통해 사용자가 자신의 결론에 도달하도록 돕는데 초점을 맞출 것입니다. 이 접근법은 ChatGPT의 새로운 Study Mode와 유사하게, 단순히 해결책을 제공하는 대신 비판적 사고를 격려하고 소크라테스식 질문을 제기하여 학생들을 지원하는 방식입니다.

OpenAI는 일반의사, 정신과 의사, 소아과 의사를 포함한 다양한 전문가들과 긴밀하게 협력하여 ChatGPT가 중요한 순간에 의미있는 도움을 제공할 수 있도록 보장하고 있다고 밝혔습니다. 이 회사는 또한 정신 건강 전문가들과 상담하고 이러한 기능들의 개발을 지도하기 위한 자문 그룹을 구성하였습니다.