위키피디아, AI가 생성하는 오류를 막기 위해 규정 강화

위키백과가 AI가 생성한 텍스트에 대해 독자들에게 경고하고, 페이지 삭제를 가속화하며, AI 이미지를 금지하는 큰 힘을 기울이며 신뢰성과 신뢰를 유지하려고 하고 있습니다.

“이 기사는 대형 언어 모델에서 텍스트를 가져올 수 있습니다”라는 경고 표시가 수백 개의 위키백과 기사에 나타납니다. 워싱턴 포스트는 자원봉사 편집자들이 잘못, 허위 인용, 그리고 오해를 불러일으킬 수 있는 데이터를 포함한 AI가 생성한 콘텐츠를 확인하고 제거하는 방식에 대해 보도하였습니다.

“사람들은 정말, 정말로 위키백과를 신뢰합니다,”라고 정책 및 AI 연구원인 Lucie-Aimée Kaffee가 포스트에 보도됨에 따라 말했습니다. “그리고 그것은 우리가 침식시켜서는 안 될 것입니다,”라고 Lucie는 덧붙였습니다.

위키백과의 정확성은 스팸과 훼손과 싸우며 플랫폼이 시작된 이래 세계적인 봉사자 네트워크에 달려 있습니다. 2022년 이후로 AI 텍스트 생성은 설득력 있는 그러나 결함 있는 위키백과 기사의 작성을 단순화시켰다고 Wikimedia Foundation의 제품 디렉터인 Marshall Miller가 말했습니다. “저는 그것을 면역 시스템처럼 생각하는 것을 좋아합니다,”라고 Miller는 포스트에 보도됨에 따라 말했습니다.

프린스턴 대학의 연구에 따르면 2024년 8월에 새롭게 생성된 영어 위키백과 페이지 중 약 5%가 AI가 생성한 텍스트를 포함하고 있었다는 보고가 The Post에 나왔습니다. 이 중 일부는 무해했지만, 다른 일부는 비즈니스나 정치적 의제를 홍보하는 데 사용되었습니다. 예를 들어, 마을 대신 호텔을 설명하는 내용이나, 가짜 오스만 요새에 대한 기사는 거의 1년 동안 온라인에 머물렀습니다.

이에 대응하여, 편집자들은 2023년에 WikiProject AI Cleanup을 시작하여 AI가 작성한 글을 발견하는 방법을 안내하고, 의심스러운 기사를 500개 이상 목록화하였습니다. 8월에는 위키백과가 새로운 삭제 정책을 시행하여, 특히 AI가 생성한 내용이 눈에 띄게 포함되어 있거나, 남아있는 프롬프트가 있는 페이지를 빠르게 제거할 수 있게 되었습니다. 또한, AI가 생성한 이미지는 전면적으로 금지되었습니다.

“이런, 제출 대기열에서 AI 관련 오류를 참 많이 발견하고 있어요,” 한 편집자가 지난 6월에 The Post에 보도된 바와 같이 불평했습니다.

위키미디어 재단은 번역과 같은 작업을 돕기 위해 AI 도구를 탐색해왔지만, 밀러는 강조했습니다. “위키백과가 중립적이고 신뢰할 수 있는 방식… 그것은 모든 내용이 사람들의 손을 거쳐 가기 때문입니다.” 카피는 덧붙였습니다. “‘우리가 AI를 어디에 원하는가? [… ] AI가 생성하는 지식에 대해 어떤 규칙을 설정하고 싶은가?’라고 묻는 것이 정말 중요하다고 생각합니다.”