호주 변호사, ChatGPT 사용으로 법률 윤리 논란

호주의 한 변호사가 이민 관련 소송에서 ChatGPT를 사용해 법원 문서를 작성했다가 사실이 아닌 판례를 인용한 것이 발각되면서 주(州) 법률 감사 기관에 회부됐다. 호주 연방 순회 및 가정법원의 라니아 스카로스 판사는 해당 변호사를 뉴사우스웨일스주 법률 서비스 위원회(OLSC)에 보고해 조사를 요청했다.

사실과 다른 판례 인용으로 법원에 혼란

이 변호사는 항소 과정에서 수정된 신청서와 소송 요약을 제출했으며, 여기에는 존재하지 않는 판례와 재판부의 결정문이 포함돼 있었다. 변호사는 이러한 오류가 의도적인 것이 아니었으며 이를 후회한다고 밝혔다. 그는 ChatGPT가 호주 법률 판례를 정확하게 제공한다고 믿고 이를 사용했다고 해명했다.

법원은 변호사의 문서 검증 실패를 심각하게 여기며, 이로 인해 판례 확인 작업에 많은 시간을 허비했다고 지적했다. 변호사는 시간 부족과 건강상의 문제를 이유로 AI를 활용했으며, 이에 따라 검증되지 않은 요약이 제출 문서에 포함됐다고 밝혔다.

AI 오남용 방지 필요성 대두

이민부 장관 측 변호인은 변호사가 적절한 주의 의무를 다하지 않았으며, 법률 절차에서 AI 오남용 문제를 해결해야 한다고 주장했다. 법원 역시 이러한 행위가 초기에 차단돼야 한다고 강조했다. 스카로스 판사는 생성형 AI의 법률 활용이 점차 확산되는 상황에서 이를 법률 감사 기구가 검토해야 한다고 판단했다.

이는 최근 멜버른에서 발생한 유사 사건에 이은 것으로, 당시에도 한 변호사가 비슷한 이유로 빅토리아주 법률 감사 기관에 회부됐다. NSW 대법원은 최근 변호사들의 생성형 AI 사용을 제한하는 지침을 발표했으며, 이에 따라 AI를 이용한 선서 진술서, 증인 진술서 및 기타 증거 자료 생성이 금지됐다.

이번 사건은 법률 전문가들이 AI 활용에 있어 신중해야 한다는 점을 시사하는 사례다. AI가 법률 업무의 효율성을 높일 수 있지만, 무분별한 사용은 오히려 법적 책임을 초래할 수 있다. 앞으로 법률 분야에서 AI 사용에 대한 명확한 가이드라인과 검증 절차 마련이 필요해 보인다.