AI 도구, 이민 결정에 영향 우려

인공지능 도입으로 이주 정책의 효율성 논란

영국 내무부의 인공지능이 이민자 대상 강제조치를 제안하면서 이를 둘러싼 논란이 뜨겁다. 인권운동가들은 이 시스템이 '자동화된 삶의 변화 결정'을 너무 쉽게 공식화 할 수 있는 위험성을 우려하고 있다.

내무부, IPIC 시스템으로 이주자 심사 간소화

내무부는 'IPIC 시스템'을 통해 이민자 심사를 보다 효율적으로 만들고자 했다. 이를 통해 약 41,000명의 대규모 난민 신청자 케이스를 체계적으로 처리할 수 있도록 하고 있다. 정부는 해당 시스템을 머신러닝 기반 AI가 아니라 '규칙 기반'의 시스템이라고 설명하며, 각 결정에는 여전히 인간의 개입이 필요하다고 주장했다.

시스템의 투명성 요구 높아져

프라이버시 인터내셔널(Privacy International) 등 캠페인 단체들은 이 시스템의 투명성을 요구하고 있다. 이들은 시스템이 작동 방식을 상세히 알지 못하는 상태에서 사람들이 잘못된 강제조치에 노출될 수 있다고 지적한다. 또한, 시스템이 인종적 편향성을 강화할 수 있다는 것도 우려된다.

IPIC 시스템 다양한 데이터 활용

IPIC 시스템은 바이오매트릭 데이터, 건강정보, 범죄 기록 등 다양한 개인 정보를 활용하여 이민자의 '제거 가능성'과 '위험 수준'을 평가하고, 이를 바탕으로 우선 처리해야 할 케이스를 자동으로 식별한다.

논란과 함께 도입된 새로운 법안

최근 영국 의회에서는 '자동화된 결정'을 대부분 허용하자는 내용의 새로운 법안이 논의 중이다. 이 법안은 개인이 자동화된 결정에 대해 이의를 제기하고 개입을 요구할 수 있는 경우에 한하여 자동화된 결정을 허용하도록 하고 있다.

출처 : AI tool could influence Home Office immigration decisions, critics say