영국 법원, 변호사들에게 경고: 가짜 AI 인용은 형사처벌로 이어질 수 있다

잉글랜드와 웨일스 고등법원이 변호사들에게 심각한 경고를 내렸습니다. 이는 인공지능 도구인 ChatGPT와 같은 툴이 만들어낸 허위 법률 정보를 사용하는 것을 삼가야 하며, 그렇지 않을 경우 범죄 처벌을 받게 될 것임을 나타냈습니다.

최근의 두 법적 절차 이후 경고가 필요하게 되었습니다. 한 남성이 두 은행에 대해 8900만 파운드의 소송을 제기하면서 인공지능 기반 법률 인용을 만들었습니다. 이는 The New York Times에서 보도하였습니다.

제시된 45개의 사례 참조 중에서, 18개는 전혀 사실적 근거를 갖추지 못하였습니다. The Guardian은 변호사가 실제 인용을 제공했지만, 진짜와 가짜 참조 모두가 사건에 유효한 연결을 설정하는데 실패했다고 보도했습니다.

변호사는 인용문을 감독하는 과정에서의 실수에 대한 책임을 인정한 후, 자신을 규제 기구에게 신고하였습니다.

하링게이 법률 센터는 주택 분쟁 관련하여 런던 자치구 의회에 대해 소송을 제기했습니다. 변호사는 전적으로 조작된 이전의 다섯 가지 사례를 법원에 제시했습니다. 가디언에 따르면, 법원은 그녀가 불필요한 법률 비용을 발생시킨 책임이 있다고 판단했습니다.

타임즈의 보도에 따르면, 그녀는 인공지능을 직접 사용한 것을 부인하면서도, “Google이나 Safari에서 검색을 수행했을 수 있고” 그 결과로 나온 AI가 생성한 요약문을 알지 못하고 의존했을 수도 있다고 인정했습니다.

판사인 빅토리아 샤프(King’s Bench Division의 회장)는 “인공지능이 남용된다면 사법 행정과 대중의 사법 체계에 대한 신뢰에 심각한 영향을 미칠 것”이라고 The Times에서 보도했습니다. 그녀는 변호사들이 범죄 혐의를 받거나 법률업무를 금지당할 위험에 처해질 수 있다고 경고했습니다.

판결은 AI 도구는 “일관성 있고 타당한 반응을 보일 수 있지만 … [하지만] 단순히 거짓인 주장에 대해 확신을 가질 수 있다”고 The Times에서 보도했습니다. Law Society의 이안 제프리(Ian Jeffery)는 이 판결을 지지하며, “법률 업무에서 인공지능을 사용하는 위험성을 드러내고 있다”고 The Guardian에서 보도했습니다.

법원은 AI를 책임감 있게 사용하는 방법에 대해 직원들을 긴급히 훈련시키도록 법률 지도자들에게 호소했습니다. AI는 정보를 “환각”하는 것으로 알려져 있습니다.

검증되지 않은 AI 사용의 관행은 이미 미국뿐만 아니라 호주와 유럽 전역에서 비슷한 문제를 일으켜, 법률 전문가들 사이에서 널리 우려되고 있습니다.

미국의 한 판사가 AI를 사용해 가짜 법률 인용문을 포함한 인공 법정 서류를 만든 두 법률사무소에게 31,000달러의 벌금을 부과했습니다. 이 스테이트 팜(State Farm) 관련 법정 문서에는 두 사무소 변호사들이 확인하지 않은 거짓 판결 참조가 포함되어 있었습니다.

마이클 윌너 판사는 변호사들이 AI에서 생성된 내용을 확인하지 않아 거의 법령에 오해의 소지가 있는 정보를 포함할 뻔한 것에 대해 실망감을 표시했습니다. 가짜 법률 인용문을 참조하십시오.