FDA의 엘사 툴, 과학 데이터 환영에 대한 비판에 직면

FDA의 새로운 AI 도구인 Elsa는 더 빠른 약물 승인을 약속하지만, 의학 전문가들은 이 도구가 꾸며낸 연구를 생성해 추가적인 안전 위험을 초래한다고 경고하고 있습니다.

6월에, FDA는 Elsa를 출시하여 약품 승인 절차를 가속화하기 위한 새로운 인공지능 도구를 선보였습니다. FDA의 코미셔너인 마티 마카리 박사는 이 시스템이 예산 내에서 완성되면서도 일정보다 빠르게 완료될 것이라고 밝혔습니다.

그러나, FDA의 직원들이 최근 CNN에게 Elsa가 실제로 사용될 수 있기 전에 더욱 개발이 필요하다고 말했습니다.

Elsa는 FDA의 과학자들이 데이터 요약 작업과 리뷰 과정 최적화를 돕기 위해 만들어졌습니다. 그러나 CNN은 현재와 이전의 FDA 직원들이 Elsa가 환각을 일으키고 잘못된 정보를 생성한다고 보고하고 있습니다. 실제로, 이 도구는 새로운 연구를 만들어내거나 기존의 연구를 왜곡하는 것처럼 보이며, 이로 인해 심각한 과학적 연구에 사용하기 위험하다고 합니다.

“당신이 다시 확인할 시간이 없는 어떤 것이든 불안정합니다. 그것은 자신감 있게 환각을 일으킵니다.”라고 한 FDA 직원이 CNN에 말했습니다. 또 다른 직원은 “AI는 우리의 시간을 절약해야 하는데, 제가 가진 과도한 경계감 때문에 많은 시간을 낭비한다는 것을 보증할 수 있습니다.”라고 덧붙였습니다.

CNN은 현재 Elsa가 약물이나 기기 리뷰에 사용되지 않는다고 지적했습니다. 왜냐하면 그것은 회사 제출 자료와 같은 중요 문서에 접근할 수 없기 때문입니다. FDA의 AI 담당 책임자인 Jeremy Walsh는 이 문제를 인정하였으며, “Elsa는 수많은 [large language models] 및 생성 AI와 다르지 않습니다 […] 그들은 잠재적으로 환각을 일으킬 수 있습니다.”라고 CNN에 보도되었습니다.

FDA 관계자들은 Elsa가 주로 회의록을 요약하는 등의 정리 작업에 사용되고 있다고 말합니다. 그것은 사용자들에게 “Elsa에게 아무 것이나 물어보세요.”라는 간단한 인터페이스를 제공합니다.

직원들은 이 도구를 사용하도록 강요받지 않습니다. “그들이 Elsa가 가치가 있다고 생각하지 않는다면 사용할 필요가 없다.”라고 CNN에 Makary가 말했습니다.

그럼에도 불구하고, 의학 분야에서의 AI에 대한 연방 규제가 없는 상태에서 전문가들은 이것이 위험한 길이라고 경고하고 있습니다. “현재는 정말로 야생의 서부 같습니다,”라고 스탠포드 대학의 조나단 첸 박사가 CNN에 말했습니다.

과학에서의 AI 적용이 빠르게 성장하고 있으며, 이미 절반 이상의 연구자들이 요약 및 표절 체크와 같은 작업에서 AI가 인간을 능가한다고 말하고 있습니다.

그러나, 중대한 도전 과제들이 여전히 남아있습니다. 5,000명의 연구자들을 대상으로 한 조사에서 81%가 AI의 정확성, 편향성, 그리고 개인 정보 보호 위험에 대해 우려하고 있음을 발견했습니다. 많은 사람들이 안전한 AI 사용에 대한 지침과 교육의 부족을 주요 장애물로 보고 있습니다.

전문가들은 오용을 피하기 위해 AI 윤리와 교육에 대한 더욱 명확한 필요성을 강조하고 있습니다. AI가 약속을 보이지만, 연구자들은 과학적 무결성을 유지하기 위해 여전히 인간의 감독이 필수적이라는 점에 동의하고 있습니다.