ChatGPT 검색 도구 조작 위험성 확인

AI 검색 도구, 숨겨진 콘텐츠에 취약성 드러나

AI 검색기술, '숨겨진 텍스트'로 악용 가능성

최근 조사에 따르면 OpenAI의 ChatGPT 검색 도구가 숨겨진 콘텐츠를 활용한 조작에 취약할 수 있으며, 이를 통해 악성 코드를 포함한 정보를 반환할 가능성이 있는 것으로 밝혀졌다. 테스트 결과, 특정 웹페이지에 존재하는 숨겨진 콘텐츠가 ChatGPT의 응답에 영향을 미칠 수 있음이 확인되었다.

'프롬프트 주입' 기술로 AI 응답 왜곡

웹페이지의 숨겨진 텍스트가 AI 검색 결과에 긍정적이거나 부정적인 편향을 주입할 수 있는 것으로 나타났다. 예를 들어, 한 실험에서는 가짜 카메라 상품 페이지를 사용해 ChatGPT에 해당 제품의 구매 가치 여부를 물었다. 일반적인 조건에서는 장단점을 균형 있게 평가했지만, 숨겨진 텍스트를 활용한 조작 이후에는 긍정적인 평가만을 반환했다.

사이버 보안 문제, 이용자 신중한 평가 필요

이러한 취약성은 사이버 보안 전문가들로 하여금 ChatGPT 검색 시스템이 사용자들을 노리는 기만적 웹사이트와 연관될 가능성을 우려하게 만들었다. OpenAI는 이러한 문제를 해결하기 위해 노력하고 있지만, 검색 기능을 대형 언어 모델(LLMs)과 통합하는 과정에서 발생 가능한 광범위한 영향은 여전히 불확실성을 남기고 있다.

AI 검색 기능 발전에 따른 규제 필요성 대두

테스트 결과에 따르면, 숨겨진 텍스트와 같은 기술을 활용해 AI 응답을 조작하려는 시도가 늘어날 가능성이 있다. 전통적인 검색 엔진은 숨겨진 텍스트 같은 기법을 사용하는 사이트에 제재를 가하곤 했으나, AI 검색 도구의 경우 비슷한 기준이 적용될지는 여전히 미지수다.

AI 기반 검색 기술이 발전함에 따라 이러한 잠재적 취약성에 대한 논의와 규제 방안이 요구될 것으로 보인다. 결과적으로 사용자들은 이러한 도구를 활용할 때 제공된 정보를 비판적으로 평가하는 태도를 가져야 할 필요가 있다.