생성형 AI가 확산하면서 법률 실무에서도 활용 사례가 늘고 있지만, 검증되지 않은 정보 사용으로 인한 부작용 우려도 함께 커지고 있다. 특히 허위 판례 인용 사례가 실제 재판에서 문제로 지적되면서 전문가의 검증 책임을 둘러싼 논의가 이어지고 있다.
11일 법조계에 따르면 최근 한 재판부는 피고인 측이 제출한 서면에 존재하지 않는 대법원 판례가 인용된 사실을 확인하고, 해당 판례의 인용 경위에 대한 설명을 요구하는 ‘석명준비명령’을 내렸다. 재판부는 허위 판례 인용 부분을 수정해 다시 제출하도록 지시하며 자료 작성 과정에서의 검증 책임을 강조한 것으로 전해졌다.
법조계에서는 생성형 AI 사용 과정에서 이른바 ‘환각(할루시네이션)’ 현상이 원인으로 작용했을 가능성을 제기하고 있다. 생성형 AI는 실제 존재하지 않는 판례나 법리를 사실처럼 구성해 제시하는 경우가 있으며, 이를 별도 확인 없이 활용할 경우 오류로 이어질 수 있다는 것이다.
유사한 사례는 해외에서도 확인된 바 있다. 2023년 미국에서는 변호사 스티븐 슈워츠가 챗GPT를 활용해 작성한 서면에 실제 존재하지 않는 판례를 인용한 사실이 드러났다. 해당 판례는 AI가 실제 법률 데이터베이스에서 검색 가능하다고 설명했으나, 조사 결과 존재하지 않는 것으로 확인됐다. 법원은 이를 사법 체계에 대한 기만으로 규정하고 변호사에게 벌금을 부과했다.
전문가들은 AI가 문서 작성 등에서 유용한 도구가 될 수 있지만, 사실관계와 법리 검증까지 대체할 수는 없다고 지적한다. 특히 법률 문서는 당사자의 권리와 직결되는 만큼, 작성 과정에서의 책임은 전적으로 전문가에게 있다는 것이다.
이보라 변호사는 “변호사가 서면을 작성해 재판부에 제출한다는 것은 그 안의 사실관계와 법리를 충분히 검증했고 그 결과에 책임을 지겠다는 의미”라며 “AI 활용이 늘어나는 상황일수록 이를 비판적으로 검토하는 능력이 중요하다”고 강조했다.
