시그널 대표, "AI 에이전트, 개인정보 침해 우려"

시그널의 메러디스 휘태커(Meredith Whittaker) 대표는 AI 에이전트 기술이 사용자 개인정보 보호에 큰 위협이 될 수 있다고 경고했다. SXSW(사우스 바이 사우스웨스트) 컨퍼런스에서 그녀는 AI 에이전트를 "두뇌를 유리병에 넣는 것과 같다"고 비유하며, 이 기술이 새로운 컴퓨팅 패러다임을 형성하는 과정에서 보안 및 개인정보 문제를 초래할 가능성이 크다고 지적했다.

AI 에이전트, 개인 정보에 광범위한 접근 필요

휘태커 대표는 AI 에이전트가 사용자의 일상적인 작업을 자동화하는 과정에서 방대한 양의 개인 정보를 필요로 한다고 설명했다. 예를 들어, AI가 콘서트 검색과 티켓 예약을 돕기 위해서는 사용자의 웹 브라우징 데이터, 신용카드 정보, 일정표(캘린더), 메시지 앱 등의 다양한 개인 데이터에 접근해야 한다는 것이다. 이러한 높은 수준의 접근 권한은 보안과 프라이버시 측면에서 심각한 우려를 불러일으킨다.

또한, 휘태커는 이러한 AI 모델이 사용자의 기기가 아닌 클라우드 서버에서 작동할 가능성이 크다고 지적했다. 클라우드 기반 운영은 해킹 및 데이터 유출 위험을 더욱 증가시킬 수 있어, 사용자의 정보를 더욱 취약하게 만들 수 있다.

AI 에이전트, 메시징 앱과 결합 시 보안 위협 증가

특히, AI 에이전트를 메시징 애플리케이션과 통합하는 경우 심각한 문제가 발생할 수 있다. AI 시스템이 메시지 내용을 가져오고 요약하는 기능을 수행하려면 사용자 대화에 직접 접근해야 하며, 이는 메시지의 프라이버시를 훼손할 가능성이 크다.

휘태커 대표는 AI 산업이 감시 모델(surveillance model)에 의존하고 있다고 비판하며, AI 에이전트 기술이 ‘편의성’이라는 명목 아래 개인정보 수집을 확대할 가능성이 있다고 경고했다. AI가 점점 더 많이 사용자 정보를 요구하고 처리하는 방향으로 발전하면, 결과적으로 개인의 프라이버시가 심각하게 침해될 수 있다는 것이다.

이번 휘태커 대표의 경고는 AI 기술 발전 속에서 개인정보 보호 문제를 다시금 상기시키는 중요한 지적이다. AI 에이전트의 편리함이 개인정보 침해의 대가로 제공된다면, 그것이 정말로 사용자를 위한 것인지 고민해볼 필요가 있다. 앞으로 AI 기술이 개인정보 보호와 균형을 맞추며 발전할 수 있을지 계속 지켜봐야 할 것이다.