판사, 가짜 AI 생성 법률 연구를 이용한 변호사들에게 벌금 부과

미국의 한 판사가 법률 문서에 인공지능이 생성한 가짜 법률 정보를 포함한 두 법률사무소를 엄중히 비판했습니다. 그는 이를 법률 책임의 중대한 태만으로 규정했습니다.

캘리포니아에 거주하는 판사 마이클 윌너는 이 서류가 “거짓이며, 부정확하며, 오도하는 법률 인용과 명언”으로 가득 찼다는 것을 발견한 후 회사에 31,000달러의 벌금을 부과했습니다. 이 사실은 처음으로 WIRED에서 보도되었습니다.

“합리적으로 유능한 변호사는 연구와 글쓰기를 AI에게 아웃소싱해서는 안 된다”고 Wilner는 그의 판결에서 썼으며, 그는 가짜 사례를 법원 명령에 포함시키려다가 그만두었다고 경고했다.

그는 “그들의 요약서를 읽고, 그들이 인용한 근거에 설득되었거나 적어도 흥미를 느꼈고, 그 결정에 대해 더 알아보기 위해 그 결정들을 찾아봤는데 – 그것들이 존재하지 않았다”고 말했습니다. WIRED가 보도했다. “그것은 무서웠다”고 그는 덧붙였다.

상황은 스테이트 팜에 대한 민사 소송 중에 발생했습니다. 한 변호사는 AI 도구를 사용하여 법적 개요를 작성했습니다. 그 문서에는 가짜 연구가 포함되어 있었고, 이것은 대형 로펌 K&L Gates에 전달되어 공식 제출물에 추가되었습니다.

“보아하니 양쪽 로펌의 어떤 변호사나 스태프도 그 연구를 인용 확인하거나 채파일하기 전에 그 연구를 검토한 것 같지 않습니다.”라고 WIRED에 보도된 바에 따르면 Wilner가 지적했습니다.

적어도 두 건의 인용 사례가 완전히 허위임이 밝혀진 후, 윌너 판사는 K&L 게이츠에게 해명을 요구했습니다. 그들이 새로운 버전을 제출했을 때, 그것은 심지어 더 많은 가짜 인용을 포함하고 있었습니다. 판사는 설명을 요구했고, 이것은 WIRED에 의해 보고된 바와 같이 AI 도구의 사용을 인정하는 선서된 진술을 드러냈습니다.

윌너는 다음과 같이 결론을 내렸습니다. “초안을 생성하기 위해 AI 제품을 초기에 비밀리에 사용한 것은 단연 잘못되었습니다 […] 그리고 그 재료를 그것의 AI 출처가 불분명하다는 사실을 공개하지 않고 다른 변호사들에게 보낸 것은 실질적으로 그 전문가들을 위험에 빠뜨렸습니다,”라고 WIRED에 보도되었습니다.

이것은 AI가 법정에서 문제를 일으킨 첫 번째 사례가 아닙니다. 실제로, 최근에 와이오밍 주의 두 명의 변호사들이 월마트에 대한 소송을 위한 법적 문서에 가짜 AI로 생성된 사례를 사용한 것을 인정했습니다. 연방 판사는 그들에게 제재를 가할 수도 있다고 위협했습니다.

이 시나리오에서, AI “환영” – AI 도구가 생성한 가짜 정보 – 은 법률 체계에서 점점 더 커지는 문제가 되고 있습니다.