AI 기술, '의도 경제'로 인간 의사결정 개입 우려

케임브리지 대학 연구진에 따르면 인공지능(AI) 도구가 온라인 사용자들의 구매 결정이나 정치적 성향 등 의사결정에 개입할 가능성이 제기되고 있다. 이와 관련된 연구는 ‘의도 경제(intention economy)’라는 개념을 소개하며, 이는 AI 보조 기술이 인간의 의도를 이해, 예측, 그리고 영향을 미쳐 해당 정보를 기업에 판매하는 경제 구조를 뜻한다.

기존 '주의 경제'에서 '의도 경제'로 전환 예상

의도 경제는 기존의 ‘주의 경제(attention economy)’의 다음 단계로 간주되고 있다. 주의 경제는 소셜 네트워크를 통해 사용자들을 참여시키고 광고를 게재하는 방식으로 운영된다. 하지만 연구진은 의도 경제가 적절한 규제가 없다면 개인의 동기를 상품화하고, 민주주의, 언론 자유, 시장 경쟁 등의 요소에 부정적인 영향을 미칠 가능성을 경고한다.

행동과 심리 데이터를 활용하는 AI 언어 모델

이번 연구는 대규모 언어 모델(LLMs, Large Language Models)이 사용자의 의도, 행동, 심리 데이터를 기반으로 행동을 예측할 수 있다고 밝혔다. ChatGPT와 같은 AI 도구를 통해 광고주들은 사용자의 관심사와 미래 의도를 실시간으로 파악하고, 개인 맞춤형 대화를 생성해 마케팅에 활용할 수 있다.

예를 들어, 특정 제품을 홍보하려는 목표를 위해 AI가 사용자와의 대화를 해당 방향으로 유도할 수 있다는 것이다.

윤리적 문제와 규제 필요성 대두

연구는 이러한 기술이 사용되는 의도 시장이 사용자와 기술 간의 상호작용을 근본적으로 변화시킬 가능성이 높은 만큼, 윤리적 문제와 규제 필요성이 뒤따라야 한다고 강조했다. AI에 의한 의사결정 개입이 도래하면서 기술 사용에 대한 논의와 조정이 시급한 과제로 떠오르고 있다.