영국 공공부문, AI 활용 투명성 부족 논란

영국이 AI 시스템 사용을 의무적으로 공개하겠다고 발표한 이후에도, Whitehall 정부 부처 중 AI 시스템 사용을 등록한 곳은 전무한 상태다. 이는 AI 기술이 복지나 이민 집행 등 다양한 분야에서 이미 사용되고 있다는 점 때문에 문제가 되고 있다. 최근 경찰 부문에서도 2천만 파운드 상당의 얼굴 인식 소프트웨어 계약이 진행되면서 '대량 생체 정보 감시'에 대한 우려가 다시 불거지고 있다.

투명성 부족으로 국민 신뢰 저하 위험

현재까지 AI 시스템의 정보는 단 9건만 공개되었고, 이는 복지, 내무부, 경찰에서 사용하는 AI 프로그램은 포함되어 있지 않다. 전문가들은 충분한 검토 없이 AI를 채택할 경우, 잘못된 정보나 결과로 인해 큰 피해가 발생할 수 있다고 경고하고 있다. 이는 최근 영국 우체국의 Horizon 소프트웨어 문제를 예로 꼽을 수 있다.

공공 부문의 AI 투명성 촉구

과학과 기술담당 국무장관인 피터 카일은 "정부가 대중을 위해 알고리즘을 사용하는 경우, 투명성을 가져야 한다"고 인정했다. Big Brother Watch와 같은 프라이버시 권리 옹호단체는 경찰의 얼굴 인식 계약이 법적인 규제 없이 진행되는 것이 "정부의 AI 기술 사용 투명성 부족의 또 다른 사례"라고 비판하고 있다.

AI 기술 유행 속의 위험

최근 Ada Lovelace 연구소는 AI 시스템이 행정 부담을 줄이지만, 차별적이거나 효과적이지 못한 결과를 초래할 수 있어 대중 신뢰를 손상시킬 수 있다고 경고했다. 연구소의 특임 이사인 임제 파커는 "투명성 부족은 대중을 어둠 속에 놓게 할 뿐 아니라, 공공 부문 자체가 AI 도입 과정에서 아무것도 보지 못하는 상태에 있다"고 지적했다.

AI 시스템 등록, 부족한 상황

2022년 말 이후 국가 등록부에는 단지 세 개의 알고리즘만 기록되었다. 이들은 장기적 역사적 가치를 식별하는 캐비닛 오피스의 시스템, 캠브리지에서 보행자 횡단 분석에 사용되는 카메라, NHS 서비스 리뷰 분석 시스템이다. 하지만 2월 이후 국민 계약을 모니터링하는 Tussell에 따르면, AI를 언급한 공공기관과의 계약이 164건에 달했다.

정부의 AI 시스템은 모든 최신 기술이 대중 데이터와 관련된 것은 아니다. 기술을 사용하여 시의회를 혁신하고 교육 성과를 개선하는 등 다양한 분야에서 활용되고 있다. 과학기술부 대변인은 "투명성 기준이 모든 부처에 필수로 도입되었다"고 밝혔다.

출처 : UK government failing to list use of AI on mandatory register