27일(현지시간) CNN과 뉴욕타임스(NYT)에 따르면 케빈 카스텔 뉴욕 맨해튼 연방 법원 판사는 거짓 판례가 담긴 서류를 제출한 스티븐 슈워츠 변호사에 대해 제재 문제를 논의하기 위해 내달 8일 청문회를 열 예정이다. 카스텔 판사는 NYT에 "슈워츠 변호사 측이 근거로 든 판례 중 적어도 6건이 가짜였다"면서 "이런 일은 법원에서 전례가 없는 상황"이라고 전했다.

챗GPT를 사용해 법원에 제출할 서류를 작성했다가 인용된 거짓 판례가 드러난 미국 변호사가 내달 법원에서 청문회에 회부되게 됐다. 셔터스톡

SNS상에는 "변호사가 챗GPT로 판례를 조사해 서류를 제출했다가 판례가 존재하지 않는다는 사실이 알려지면서 난리가 났다"는 글이 올라왔다. 트위터 캡처
결국 슈워츠 변호사는 지난주 법원에 서한을 보내 "업무를 보완하기 위해 챗GPT에 '자문'을 구했다"고 실토했다. 그는 "판례 조사와 관련해 챗GPT를 사용한 건 처음"이라면서 "챗GPT를 사용한 것은 매우 유감이며 향후 업무보완을 위해 AI를 사용하지 않겠다"고 법원에 선처를 구했다.

미국에서 챗GPT를 돌려서 나온 판례를 법원 서류에 넣었다가 해당 판례가 거짓 판례임이 드러난 변호사가 내달 청문회에 회부될 예정이다. 로이터=연합뉴스
이번 사례는 AI가 만들어낸 가짜뉴스, 거짓 정보로 인해 각종 부작용이 속출하는 가운데 나왔다. 앞서 지난 22일에는 미국 펜타곤(국방부) 청사 근처에서 대형 폭발이 발생했다고 주장하는 가짜 사진이 소셜미디어를 중심으로 확산해 미국 증시 전체에서 주가가 일시적으로 하락하는 등 혼선이 빚어졌다. 생성형 AI가 만들어낸 가짜 이미지가 주식시장에 영향을 끼친 첫 사례였다.
또 지난달에는 호주 소도시 햅번셔 시장인 브라이언 후드가 2000년대 초 호주조폐공사(NPA) 뇌물 사건에 연루됐다는 거짓 정보를 챗GPT가 제공했다며 개발사를 상대로 명예훼손 소송을 추진하고 있다고 로이터 통신이 보도했다. 소송이 실제로 진행되면 생성형 AI에 대한 첫 명예훼손 소송이다.