AI 챗봇, 영국 정부 규제 이해에 기여

인공지능 GPT-4o 기술을 활용한 실험적 AI 챗봇이 영국에서 도입됐다. 이 챗봇은 정부 웹사이트 Gov.UK의 복잡한 70만 페이지를 이해하는 데 도움을 주기 위해 개발되었으며, 현재 최대 15,000명의 사업 사용자들을 대상으로 테스트 중에 있다. 문제점으로는 '환각' 현상, 즉 잘못된 정보를 확신에 찬 모습으로 제공하는 경우가 있는 것으로 보고되었다. 이 문제는 사용자가 챗봇이 제공하는 웹사이트 링크를 통해 확인할 수 있도록 하고 있으며, 약 7초 만에 응답을 제공한다.

AI 챗봇의 제한 사항과 학습 범위

테스트 결과, 챗봇은 특정 질문에 대해 답변을 제공하지 않았다. 예를 들어, 영국에서의 대마초 합법화 가능성이나 정부 조사 결과에 대한 정치적 견해를 묻는 질문에 답하지 않았다. 이는 AI가 예측이나 의견을 제공할 수 없도록 설계되었기 때문이다. 또한, 어떤 규제에 대해서는 상세히 설명할 수 있지만, 기업 세금 제도 등 특정 용어에 대한 질문은 답변을 피했다. 현재 모든 Gov.UK 문서에 대한 학습이 이루어지지는 않은 상황이다.

새 AI 시스템의 안전 장치와 목표

챗봇 개발자들은 AI 안전성을 보장하기 위해 '가드레일'을 추가하여 민감한 금융 정보나 불법적인 질문에 대한 답변을 차단하도록 했다. 영국 과학기술부 장관인 피터 카일은 AI를 활용해 공공 서비스를 개선하려는 목표를 밝혔으며, 오래되고 복잡한 정부 절차를 개선해 국민의 시간을 절약하고 삶을 더 쉽게 만들고자 하는 의도를 강조했다. 현재 Gov.UK 챗봇 실험은 그러한 목표를 달성하기 위한 노력의 일환이다.

출처 : AI chatbot launches on Gov.UK to help business users – with mixed results