전문가들이 법적 제출물에서 AI 환상을 간과할 수 있다고 경고합니다

조지아 법원이 가짜 법률 인용, 아마도 AI가 생성한 것을 발견한 후 이혼 명령을 뒤집었습니다. 이로 인해 점점 커지는 법정 시스템의 위험성에 대한 경고를 보냈습니다.

조지아 법원 앞에 제기된 사건은 인공지능(AI)이 어떻게 미국 법률기관에 대한 대중의 신뢰를 조용히 침식할 수 있는지를 보여줍니다. ArsTechnica는 조지아 항소법원의 재판관 제프 왓킨스가 이혼 명령을 무효로 판결했는데, 그 이유는 그가 문서에서 두 가지 가짜 사례를 발견했기 때문이라고 보도했습니다. 이들은 아마도 AI가 생성한 내용일 가능성이 높습니다.

변호사 다이애나 린치가 작성한 명령이었는데, ArsTechnica 보도에 따르면 이제 이것은 법정이 과도하게 과중된 곳에서 흔한 실천이 되고 있다. 법률 문서에 인공지능을 사용하는 이런 성장하는 습관이 특히 위험한 단축키를 만들어낸다.

린치에게는 $2,500의 제재가 부과되었고, 왓킨스 판사는 “이러한 제출물에 있는 이상함들은 그들이 생성적 인공지능을 사용하여 작성되었음을 암시한다”고 썼다. 그는 또한 인공지능의 환각이 “시간과 돈을 낭비하고, 체계의 명성을 손상시키며, 솔직하지 못한 방식으로 그 진위에 대한 의심을 주장하여 법원 판결을 거부하는 당사자를 허용할 수 있다”고 덧붙였다. 이는 ArsTechnica에서 보도한 내용이다.

전문가들은 이것이 고립된 사례가 아니라고 경고하고 있습니다. 전 텍사스 항소법원 판사인 존 브라우닝은 심신 과부하의 시스템에서는 특히 잘못하여 AI가 생성한 가짜 인용문을 신뢰하는 재판소가 “무서울 정도로 많을 것”이라고 말했습니다. “나는 여러 상황에서 그런 시나리오를 상상할 수 있다”고 그는 Ars Technica에 전했습니다.

최근의 다른 예들도 이런 우려를 반영하고 있습니다. 콜로라도 법률 시스템은 MyPillow CEO인 마이크 린델을 대표하는 두 명의 변호사에게 20가지 주요 실수가 포함된 AI 생성 법률 문서를 제출한 것에 대해 총 3,000달러의 벌금을 부과했습니다. 판사 니나 Y. 왕은 “변호사에게 벌을 주는 것에서 이 법원이 기쁨을 느끼는 것은 아니다”라고 썼지만, 변호사들이 제출 문서를 확인하는 것에 대한 책임을 강조하였습니다.

캘리포니아에서는 또 다른 판사가 가짜 인용을 포함한 서면을 제출한 두 법률사무소에게 31,000달러의 벌금을 부과했습니다. “그것은 무서운 일입니다.”라고 가짜 판결에 거의 설득되었던 마이클 윌너 판사가 적었습니다. 법원이 빠르게 적응하지 않는다면, AI의 환영은 미국의 법정에서 반복되는 악몽이 될 수 있습니다.

이러한 추세는 법적 대표가 이미 얼마나 비싼지를 고려할 때 특히 우려스럽습니다. 사람들은 일반적으로 법률비용이 그들의 변호사로부터 정확성과 전문 서비스를 보장한다고 믿습니다. 그러나 변호사들이 AI를 단축키로 사용하면, 고객들은 기계가 범한 실수에 대한 청구서를 지불하게 될 수 있습니다.

이 환각들은 법적 결과를 위협하는 것뿐만 아니라, 이를 맞서 싸울 수 있는 최소한의 여력조차 없는 사람들에게 정의를 이루는 것을 더욱 어렵게 만들어 불평등을 강화하는 역할을 할 수도 있습니다.