영국 복지 사기 감지 AI 편향 발견

편향된 AI로 복지 혜택 신청 조사 증가

영국 정부의 '유니버설 크레딧' 사전 지급 신청 대상이 특정 AI 시스템에 의해 처리되며 논란이 일고 있습니다. 내부 평가에 따르면 이 시스템이 연령, 장애, 결혼 여부, 국적 등의 기준으로 편향을 보이는 것으로 드러났습니다. 이는 2월에 실시된 공정성 분석에서 나타난 "통계적으로 유의미한 결과의 차이"로 확인되었습니다.

AI 편향성 논란, 인간 판단으로 위험 완화 주장

영국 노동연금부(DWP)는 이 AI 시스템이 차별적 문제를 즉각적으로 유발하지 않는다고 주장했으나, 최근 보고서는 이를 반박하고 있습니다. 다만 최종 복지 지급 결정은 인간 심사자가 내린다고 강조하며, 이것이 일부 위험을 완화할 것이라고 설명했습니다. 그러나 인종, 성별, 성적 지향, 종교 등 다른 특성과 관련된 편향성에 대한 분석은 진행되지 않은 것으로 나타났습니다.

최소 55개의 정부 AI 도구 사용, 투명성 부족 지적

정부의 AI 의존도가 증가하면서 사회적 우려도 커지고 있습니다. 기록에 따르면, 현재 복지와 관련해 최대 55개의 자동화 도구가 활용되고 있지만, 이 중 9개만이 공식 등록되어 있습니다. AI 사용의 투명성이 부족하다는 비판도 제기되며, 정부 부처들이 AI 세부 사항을 공개하는 데 소극적인 태도를 보이고 있습니다.

취약계층 조사 우려, 시스템 개선 요구 증가

캠페인 활동가들은 정부가 "피해를 준 뒤 문제를 해결"하는 방식으로 접근하고 있다며 비판의 목소리를 높이고 있습니다. 이들은 특히 소외계층이 부당한 표적이 될 가능성에 주목하고 있습니다. DWP는 특정 연령대나 국적자가 잘못된 사기 조사를 받을 가능성에 대한 구체적인 내용을 밝히지 않았습니다. 시스템 악용 가능성을 우려한 것으로 보이지만, 공정성과 정확성 개선에 대한 요구는 더욱 커지고 있는 상황입니다.