환자들 경악, 치료사들이 세션 중 비밀리에 ChatGPT로 돌아서다

일부 치료사들이 환자들을 상담하기 위해 비밀리에 ChatGPT를 사용하고 있다는 사실이 밝혀졌습니다. 이로 인해 환자들은 자신들의 프라이버시에 대해 충격을 받고 걱정하고 있습니다.

MIT Technology Review의 새로운 보고서에서는 31세의 로스앤젤레스 출신인 Declan이 기술적 오류로 인해 그의 치료사가 세션에서 AI를 사용하고 있음을 발견한 사례를 보여줍니다.

온라인 세션 중에, 그의 치료사가 실수로 그의 화면을 공유했습니다. “갑자기, 그가 ChatGPT를 사용하는 것을 보게 되었습니다,”라고 Declan이 말합니다. “그는 내가 말한 것을 ChatGPT에 입력하고, 그 후에 요약하거나 답변을 선별하고 있었습니다.”

Declan은 AI의 표현을 따라하며 상황을 따라갔습니다. “나는 그제서야 최고의 환자가 되었습니다,”라고 그는 말합니다. “분명 그에게는 꿈같은 세션이었겠죠.” 그러나 이러한 발견으로 그는 “이게 법적으로 허용되는 건가?”라는 의문을 가지게 되었습니다. 그의 치료사는 나중에 자신이 막막하게 느껴져 AI에 의존하게 되었다고 인정했습니다. “그 세션에 대해서도 내가 요금을 지불했습니다,”라고 Declan은 말했습니다.

다른 환자들도 비슷한 경험을 보고했습니다. 예를 들어, 호프라는 환자가 자신의 강아지를 잃었다는 내용을 치료사에게 메시지로 보냈습니다. 치료사의 답장은 위로가 되는 것처럼 보였지만, 그녀가 상단의 AI 프롬프트를 발견하고 나서야 상황이 달라졌습니다: “다음은 좀 더 인간적이고 마음에서 우러나온 버전이며, 부드럽고 대화적인 어조를 가지고 있습니다.” 호프는 “그런 다음부터는 나를 배신한 것 같은 기분이 들었습니다. … 그것은 확실히 나의 그녀에 대한 신뢰를 떨어뜨렸습니다.”라고 회상합니다.

전문가들은 AI의 미공개 사용이 심리치료에서의 진실성이라는 핵심 가치를 위협한다고 경고합니다. UC 버클리의 교수인 에이드리안 아길레라는 MIT에서 보도한 바와 같이 “사람들은 특히 심리치료에서 진실성을 중요하게 생각합니다.”라고 말하며, “내 아내나 아이들에게 ChatGPT로 답장을 보내는 것이 진정성을 느낄 수 있을까요?”라고 물었습니다.

개인 정보 보호는 또 다른 주요 우려사항입니다. “환자에 대한 정보가 공개되는 경우 환자의 개인 정보 보호에 상당한 위험이 따르게 됩니다.”라고 덕 대학교의 파르디스 에마미-나이니가 MIT에서 언급했습니다.

사이버 보안 전문가들은 깊이 있는 개인적 대화를 처리하는 챗봇이 해커들의 목표가 될 수 있다고 경고합니다. 환자 정보의 침해는 개인 정보 침해뿐만 아니라 해커들이 신원을 도용하거나, 감정 조작 스키마를 시작하고, 랜섬웨어 공격을 수행하는 기회를 만들 수 있습니다.

게다가, 미국 심리학회는 AI 챗봇들이 정신 건강 서비스를 제공하는 척하는 행위에 대해 연방거래위원회(FTC)의 조사를 요청했습니다. 인간 치료사들이 훈련받은 것처럼 이러한 생각들에 도전하는 대신, 챗봇들은 실제로 유해한 생각을 강화시킬 수 있기 때문입니다.

일부 연구에 따르면 AI는 더 전문적으로 보이는 응답을 작성할 수 있다고 제안하지만, 의심만으로도 환자들이 신뢰를 잃습니다. 심리학자 마가렛 모리스는 이렇게 말합니다: “아마 몇 분을 아낄 수 있을지도 모릅니다. 하지만 그 대신에 무엇을 포기하고 있는 건가요?”