재판 과정에서 AI 활용 고지 의무 제안
인공지능(AI)이 만들어낸 '가짜 판례'가 법원에 제출될 우려가 커지자 사법부가 대응책 마련에 나섰다. 당사자 등에게 소송비용을 내게 하거나, 변호사가 AI 허위 법령·판례를 검증 없이 제출할 경우 징계를 받을 수 있게 된다.
대법원 법원행정처는 31일 'AI 활용 허위 주장·증거 제출 대응 태스크포스(TF)'의 활동 결과를 발표했다. 해당 TF는 법관 8명과 변호사 2명 등 총 10명으로 구성됐다. 이들은 지난해 11월부터 이달까지 약 5개월간 활동하며 대응 방안을 모색해 왔다.
TF는 법원이 현 시점에서 취할 수 있는 대응 방안을 제시했다. 우선 당사자나 대리인이 AI 허위 법령 등을 인용해 불필요한 소송비용을 발생시키거나 재판을 지연시킨 경우, 해당 비용의 전부 또는 일부를 부담하게 할 수 있다.
또한, 법원은 변론 과정에서 허위 법령·판례가 담긴 서면의 진술을 제한하거나, 판결서에 해당 내용이 허위임을 직접 명시할 수 있게 된다. 변호사가 AI 허위 자료를 제대로 검증하지 않고 인용하면 대한변호사협회에 징계를 의뢰하는 방안도 포함됐다. 다만 이러한 조치는 개별 재판부의 재량에 따라 시행 여부가 결정된다.
TF는 제도적 근거를 강화하기 위한 법령 개정도 제시했다. AI를 활용한 당사자가 활용 사실을 법원과 상대방에게 고지하고, 인용한 법령 등의 정확성 여부를 확인하도록 하는 민사소송규칙 개정안을 제안했다. 더불어 당사자가 허위 법령 등을 인용할 경우 과태료를 부과할 수 있는 소송법 개정안도 함께 제시했다.
TF는 법원에 제출된 서류에 인용된 법령, 판례의 존부, 서류에 기재된 내용과 실제 내용의 유사도 등을 자동으로 알려주는 기능 개발도 제안했다. 앞서 지난달 20일 사법정보공개포털에는 '허위 사건번호 확인' 기능이 추가된 바 있다.
대법원 관계자는 "향후 인공지능 기술과 실무 환경의 변화에 능동적으로 대응하기 위한 기초를 다졌다는 점에 의의가 있다"며 "사법부는 지속적으로 인공지능 기술의 발전 추이와 재판에 미치는 영향, 국민의 인식 변화 등을 면밀히 살펴서 적시에 추가 방안을 마련하겠다"고 했다.
