[SOH] 민사·가사·행정 사건을 담당하는 전국 법관 10명 중 8명이 인공지능(AI) 활용으로 허위 판례가 인용되는 부작용을 경험한 것으로 나타났다.
2일 대법원 법원행정처에 따르면, 지난달 6일부터 열흘간 각급 법원 법관 360명을 대상으로 설문조사를 실시한 결과 이 같은 사실이 확인됐다.
복수 응답 결과에 따르면, AI가 지어낸 '존재하지 않는 판례'를 접한 법관은 해당 문항 응답자 중 80.7%인 196명에 달했다. 판례 내용을 왜곡한 '허위 판례' 인용 사례를 경험했다는 응답도 65.4%(159명)였다.
가짜 판례를 재판에 제출한 주체는 소송 당사자 본인이 164명(69.5%)으로 가장 많았고, 법률 전문가인 변호사가 대리인이나 변호인으로서 허위 판례를 인용한 사례도 136명(57.6%)에 달했다.
AI 활용으로 발생한 오류 유형으로는 부존재하거나 허위인 판례·법령 인용, 존재하지 않는 논문이나 문헌 등 자료를 인용한 사례 등이 있다.
구체적으로는 △대법원 판결문 형식을 차용해 AI로 생성한 허위 판결문을 제출하거나 △존재하지 않는 대법원 사건번호와 법리를 기재해 실제 검색되지 않는 경우가 많았다. 또한 △실제 판결 취지를 왜곡해 인용하는 사례와 △서면에 AI와의 대화 내용 및 소송 전략 문구가 그대로 노출된 사례 등도 확인됐다.
이 같은 오류들은 인공지능(AI)이 존재하지 않는 정보를 사실인 것처럼 출력하는 이른바 'AI 환각 현상'에 기인한 것으로 풀이된다. 대형언어모델(LLM) 기반의 AI는 데이터의 진위 여부를 자체 검증하는 것이 아니라 확률적으로 연관성이 높은 단어들을 조합해 문장을 생성하므로, 실제 법적 근거가 없는 판례나 왜곡된 법리를 도출할 수 있다.
법관 대부분은 제도적 대응 방안이 필요하다고 봤다. 설문에 참여한 법관의 91.7%가 제도 마련의 필요성을 밝혔으며, 이 중 64.8%는 '매우 필요하다'고 답했다. 제도적 대응 방안으로는 △과태료 부과 근거 마련 △인용 판례 검증 의무 부과 △반복적인 허위 인용 등에 대한 변호사 징계 의뢰 등이 제시됐다.
다만 과태료 부과 등을 위해서는 민사·형사소송법 개정이 선행되어야 한다. 이에 법원행정처는 법무부 등 관계 기관과 협의를 거쳐 국회에 개정 의견을 제출할 계획이다.
법원행정처 관계자는 "AI 활용에 따른 허위 판례 인용은 상대방과 재판부 모두에게 부담을 주며, 결국 국민의 재판받을 권리를 지연시킨다"며 "제출 서면의 정확성을 확보해 불필요한 소송 부담을 줄이고 재판의 신속성과 공정성을 높일 필요가 있다"고 밝혔다.
디지털뉴스팀
(ⓒ SOH 희망지성 국제방송 soundofhope.kr)
