인공지능 활용한 판결문 작성, 멜버른 변호사 조사 대상

멜버른의 한 변호사가 가족 법정 사건에서 인공지능(AI) 소프트웨어를 활용하다 허위 사건 목록을 제출해 청문회가 연기되었으며, 이로 인해 빅토리아 법무감찰기구에 조사를 받게 되었다.

7월 19일의 청문회에서, 무명의 변호사가 부부 간의 분쟁에서 남편을 대리하여 아만다 험프리 판사가 요청한 사건 목록을 법원에 제출했다. 그러나 법정에 돌아온 험프리 판사와 그의 조수들은 해당 목록의 사건들을 확인할 수 없었다.

AI 사용, 확인 절차 거치지 않아

변호사는 법정에서 Leap 소프트웨어에 AI 요소가 포함된 상태로 목록을 준비했으며, 제출 전에 정보의 정확성을 검토하지 않았음을 인정했다. 이러한 이유로 그는 법무서비스 위원회와 위원장에게 보고되었다.

법정에서 변호사는 "무조건 사과"하며 이번 경험을 교훈으로 삼겠다고 말했다. 그는 소프트웨어 작동 방식에 대한 충분한 이해가 부족했음을 인식하고, AI를 활용한 연구의 정확성을 검토할 필요성을 강조했다.

AI 도구 사용 시 책임감 요구

험프리 판사는 사과를 받아들이면서도, 공익상의 이유로 해당 변호사의 전문적 행동을 검토하기 위해 조사가 필요하다고 판단했다. 이는 법률 분야에서 AI 도구의 사용이 증가하면서 발생하는 사건이기 때문이다. 빅토리아 대법원 등의 가이드라인은 AI 도구 사용 시 법률가가 이를 작동 및 한계에 대해 잘 이해해야 한다고 명시하고 있다.

Leap의 대변인은 변호사의 윤리적 의무의 일부로 검증 절차가 매우 중요하다고 강조하며, 이 무료 검증 절차가 진행된 후 해당 변호사가 이를 사용하지 않았다고 밝혔다. Leep는 66,000명의 전 세계 법률 전문가들이 자사 소프트웨어를 사용 중이라고 전했다.

이번 사건은 변호사들이 AI 도구를 사용해 잘못된 정보를 제공받은 첫 사례가 아니다. 캐나다와 다른 곳에서도 ChatGPT를 사용하여 잘못된 사례법을 찾은 사례가 있는 바 있다.

출처 : 원문 보러가기