연구, AI가 합성 연구로 문학을 “홍수”로 만들 수 있다고 경고

AI는 거의 동일한 과학 논문의 대량 생산을 가능하게 해 표절 검사를 피해가는데, 이로 인해 저질의 학술 출판물이 급증하는 문제에 대한 우려가 커지고 있습니다.

Nature에 게재된 사전 인쇄본에서, 연구자들은 지난 4.5년 동안 112개의 학술지가 400개 이상의 중복된 논문을 게재했다고 밝혔습니다.

이러한 표절 연구들은 미국 국립 보건 영양 조사(NHANES)를 기반으로 동일한 데이터를 재사용하여 거의 동일한 결과를 보고했습니다.

“만약 이 문제를 해결하지 않는다면, 이 인공지능 기반 접근법은 모든 종류의 공개 데이터베이스에 적용되어 상상할 수도 없을 만큼 많은 논문을 생성할 수 있습니다.”라고 스위스 프리부르대학의 약리학자인 Csaba Szabó는 말합니다.

“이것으로 판도라의 상자가 열릴 수 있습니다 [그리고] 학문 분야는 인공지능이 생성한 논문들로 범람할 수 있다”고 Szabó는 Nature에 보도된 바에 따라 말했습니다.

연구자들은 AI를 이용한 오용이 얼마나 쉬운지 보여주었습니다: 그들은 ChatGPT와 Gemini에게 쓸데없이 중복된 NHANES 연구를 다시 쓸 것을 요청했습니다. “우리는 그것이 바로 작동한다는 사실에 충격을 받았습니다,”라고 써리 대학의 공동 저자인 Matt Spick가 말했습니다. AI가 작성한 원고들은 출판사들이 사용하는 표절 감지기를 피해갔습니다.

“이런 일이 일어나서는 안 되며, 이는 과학 문헌의 건강에 도움이 되지 않는다.”라고 Spick이 덧붙였다.

편집자들은 가짜 논문을 판매하는 회사들, 즉 ‘논문 공장’들이 이 허점을 이용할 수 있다는 점에 대해 우려하고 있다. “이는 편집자와 출판사들에게 전혀 새로운 도전 과제입니다.”라고 에든버러 대학교의 Igor Rudan이 말했다.

이 문제를 해결하기 위해 출판사들이 새로운 조치를 도입하기 시작했습니다. Frontiers는 새로운 무결성 정책이 시행되기 전에 발행된 연구들 중 32%를 지적하였습니다. 또한, 그들의 저널에 37%의 논문이 실린 Springer Nature는 조사를 진행하겠다고 다짐했습니다.

“우리는 과학적 기록의 타당성을 유지하는 것에 대한 책임을 매우 진지하게 받아들이고 있습니다.”라며 Scientific Reports의 편집 국장인 Richard White가 말했습니다.

“일반적으로 AI 주도의 중복성은 출판사들에게 심각하고 지속적인 도전을 제기합니다,”라고 프론티어즈의 연구 무결성 팀장인 엘레나 비카리오가 말했습니다.