'AI 변론서'로 징계받은 변호사...소명서까지 AI 쓰다 발각

판사 "사법 시스템 신뢰 훼손하고 법원 시간 낭비하게 만들어" 지적

뉴욕주 법정에서 한 변호사가 인공지능(AI)을 이용해 법원 서류를 작성한 사실이 드러나 징계를 받은 가운데, 징계에 대한 항변서마저 AI가 작성한 것으로 밝혀져 논란이 커지고 있다.

404미디어·기가진 등 외신에 따르면, 해당 변호사는 한 가정 내 금전 분쟁 소송에서 피고 측을 대리하며 원고 측 주장을 반박하는 여러 서류를 법원에 제출했다. 그러나 이 서류 안에서 존재하지 않는 문헌과 가짜 인용문이 발견되면서 AI를 사용한 것이 아니냐는 의혹이 제기됐다.

이에 원고 측은 법원에 문제를 제기했고, 법원은 변호사에게 해명을 요구했다. 하지만 피고 측 변호사는 “AI를 사용했다”고 명확히 인정하지도, 부인하지도 않은 채 “일부 문구가 의도치 않게 따옴표로 표시된 것 같다”, “인용은 출처의 요약이나 재구성이었다”고 애매한 답변만 내놨다.

법원 자료 사진(제공=이미지투데이)

담당 판사인 조엘 코언(Joel Cohen)은 “일부 인용문이 우연히도 정확한 법 해석을 담고 있었을지 몰라도, 허위 판례가 포함된 것은 명백하다”며 제재를 결정했다. 그는 “AI 사용이 확산될수록 가짜 판례가 법률 문서에 섞여들 위험이 커지고, 이는 사법 시스템의 신뢰를 훼손하며 법원의 시간을 낭비하게 만든다”고 경고했다.

하지만 변호사는 이에 불복해 제재에 대한 이의 신청서를 제출했는데, 그 서류에서도 또다시 실존하지 않는 문헌이 인용된 사실이 드러났다. 게다가 잘못된 인용의 수는 처음 문제 된 서류보다 두 배 이상 많았던 것으로 나타났다.

변호사는 “사무실 직원이 작성한 서류를 믿고 세세히 검토하지 않았다”고 해명했지만, 코언 판사는 이를 받아들이지 않았다. 아울러 원고 측이 추가로 부담한 변호사 비용을 피고가 배상하도록 명령했다.