영국 국방부 AI 채용 도구, 데이터 유출 우려 제기

AI 시스템 활용으로 투명성 강조 및 위험 경고

영국 국방부가 채용을 목적으로 활용하고 있는 AI 도구가 일부 군 관계자들의 신원이 노출될 가능성을 제기해 논란이 일고 있다. 이 시스템은 아마존 웹서비스(AWS)를 통해 미국에 저장되며, 이름, 직책, 이메일 같은 군 관계자들의 개인 정보가 포함돼 있어, 데이터 유출 시 민간인 식별로 이어질 수 있다는 우려가 제기됐다.

국방부, 위험도는 "낮다" 평가

데이터 보호를 위한 강력한 안전장치 강조

국방부는 해당 위험 수준은 "낮다"고 평가하며, 공급업체에 의해 "강력한 안전장치"가 마련되어 있다고 밝혔다. 하지만 이 사안은 정부가 공공 부문에서 AI 도구를 활용하며 부각된 여러 위험 요인 중 하나에 해당한다. 이를 통해 영국 정부는 AI 알고리즘 사용에 대한 투명성 강화를 위한 일환으로 일련의 문서를 추가 공개했다.

다양한 AI 리스크, 다양한 공공 부문에서 나타나

교육·복지·세무 등 광범위한 분야에 영향

공공 부문 AI 사용과 관련한 추가적인 위험에는 AI 기반 교안 작성 도구에 의해 부적절한 수업 자료가 생성될 가능성, 복지 관련 질의에 응답하는 챗봇의 오류("환각 현상"), 소득세·복지 모델링에서의 기계 학습 코드 오작동, 식품위생 검토 시 과도한 의존으로 인한 인간 판단 능력 감소 등이 포함되어 있다.

알고리즘 등록부 통해 투명성 강조

시민과 직접 연결된 AI 도구 기록 의무화

영국 정부는 확장된 알고리즘 투명성 등록부를 통해, 시민과 직접 상호작용하거나 개별 결정에 중요한 영향을 미치는 모든 알고리즘 도구를 기록하도록 중앙 정부 기관에 요구하고 있다. 정부는 이를 통해 알고리즘 도구의 신뢰성과 효율성을 확보하는 것이 중요하다고 강조하고 있다.