Anthropic의 변호사들, 저작권 소송에서 AI 환각에 대한 책임을 지다

이번 목요일, Anthropic의 변호사는 북부 캘리포니아에서 진행 중인 저작권 소송 중에 회사의 AI 채팅봇 Claude가 생성한 잘못된 인용을 사용했다고 인정했습니다. 이 AI 회사는 현재 Universal Music Group (UMG)와 법적 싸움을 벌이고 있습니다. UMG는 Anthropic가 저작권이 있는 노래 가사를 AI 모델 학습에 사용한 것에 대해 소송을 제기했습니다.

로스앤젤레스의 로펌 Latham & Watkins의 변호사 이바나 두카노비치는 법원 제출서에서 클로드가 사건에 사용된 기사의 제목과 저자를 잘못 인용했다고 주장했다. 그러나 그녀는 해당 기사의 출판사, 링크, 발행 연도, 그리고 내용은 정확하다고 지적했다.

“이 문제에 대한 우리의 조사 결과, 이는 권위를 조작한 것이 아닌, 단순히 참조 오류였음을 확증하였습니다.”라고 문서에는 명시되어 있습니다. “이 오류로 인한 부정확성과 혼란을 일으킨 점 사과드립니다.”

로이터에 따르면, Dukanovic의 설명은 UMG의 변호사들이 데이터 과학자 Olivia Chen이 AI로 만들어진 출처를 사용해 Anthropic를 사건에서 변호했다고 주장한 이후에 나온 것입니다.

두카노비치는 첸이 American Statistician 잡지의 올바른 기사를 사용했지만, Latham & Watkins의 변호사들이 클로드가 제공한 잘못된 각주를 추가했다고 설명했습니다:

Latham & Watkins 팀이 첸 씨의 증언을 추가적으로 지원할 가능성 있는 출처로 이 기사를 확인한 후, 저는 Claude.ai에게 그 출처에 대해 올바르게 형식화된 법적 인용문을 제공하도록 요청했습니다. 불행히도, 제공된 출처의 올바른 출판물 제목, 출판 연도, 그리고 링크를 제공하였음에도 불구하고, 반환된 인용문에는 부정확한 제목과 잘못된 저자들이 포함되어 있었습니다. 우리의 수동 인용문 확인은 그 오류를 잡아내지 못했습니다.

두카노비치는 이 상황을 “창피하고 무심코 일어난 실수”라고 설명하며, 그런 일이 다시 일어나지 않도록 새로운 조치를 시행하였음을 보장했습니다.

몇 주 전, 사건 초기 단계에서 배심원들은 Anthropic를 지지하고 UMG의 요구사항이 너무 넓다고 판단했습니다. 이 새로운 상황은 Anthropic가 사건에서 이길 수 있는 유리한 위치를 위협할 수 있습니다.

지난 몇 달 동안, 여러 변호사들이 미국 법원에서 부정확한 AI가 생성한 문서를 제출해왔습니다, 이로 인해 우려와 법적 문제가 제기되었습니다. 이번 주에는 판사가 가짜 AI가 생성한 법적 인용문을 사용한 두 법률사무소에게 31,000달러의 벌금을 부과했습니다.