구글 바드로 찾은 판례 제출하니…美법원 "가짜"

법률 지식에 환각 현상 여전

미국에서 구글 인공지능(AI) 챗봇 바드로 가짜 법률 판례를 법원에 제출한 사례가 나왔다.

뉴욕타임스(NYT)는 30일 도널드 트럼프 미국 전 대통령 변호사로 일했던 마이클 코헨이 바드로 만든 허위 법률 사례를 인용해 법원에 제출한 사실이 드러났다고 보도했다.

코헨은 2018년 탈세를 비롯한 불법 선거 자금 지원 혐의로 감옥에서 1년 복역한 뒤 가석방됐다. 그는 현재까지 법원의 보호 관찰을 받고 있다. 코헨은 출소 후 추가 범죄를 저지르지 않았으니, 보호관찰을 조기에 종료해 달라고 판사에게 요청했다.

(사진=구글 바드)

코헨은 보호관찰 조기 종료 판례를 찾아 법원에 제출했다. 그는 '최근 제2순회법원에서 확정된 지방법원 판결에 따라 보호관찰 석방의 조기 종료를 허용하는 판결이 있었다'는 내용을 바드로 찾아 자신의 변호사에게 전달했다. 변호사는 해당 인용문에 대한 진위를 확인하지 않고 법원에 제출했다.

미국 지방법원 제시 퍼먼 판사는 "이런 사례는 법원에 없다"며 보호 관찰 종료를 거부했다. 바드가 코헨의 검색 요청에 환각 현상을 일으킨 셈이다.

코헨은 구글 바드로 인용문을 찾았다고 인정했다. 그는 "생성형 AI가 거짓된 답변을 생성할 수 있다는 사실을 몰랐다"며 "법률 기술의 새로운 트렌드를 따라잡지 못한 부분을 받아들인다"고 말했다. 그는 "변호인 측이 해당 인용문 존재 여부도 확인하지 않은 채 제출할 줄은 몰랐다"며 "의도치 않은 실수임을 분명히 밝힌다"고 했다.