ChatGPT가 특정 이름 언급시 오류 발생 이유

ChatGPT가 David Mayer에 대한 질문을 거부하는 이유는?

최근 ChatGPT 사용자들이 재미있는 현상을 발견했다. "David Mayer"라는 이름을 언급하면 ChatGPT가 바로 멈추는 것이다. 이는 과거 다른 이름들을 포함해 많은 사용자들이 ChatGPT를 시도해 보았으나, 그 이름을 제대로 응답하지 못하고 중단되었다.

더 많은 이름, 동일한 결과

당연히 ChatGPT가 특정 이름들에 대해서만 취약한 것이 아니라, Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber, Guido Scorza 같은 다른 이름들도 발견되었다. 이들 중 누구도 명확히 설명할 수 없지만, 사람들이 예상하는 연관성은 이들이 검색 엔진이나 AI 모델에서 "잊혀질 권리"를 요구했을 가능성이 있다는 점이다.

ChatGPT의 이상 행동 원인 추측

OpenAI는 이에 대한 공식적인 설명을 하지 않았지만, 사용자들은 해당 AI 모델이 일부 이름을 특별한 방식으로 다루도록 만들어졌을 가능성을 제기하고 있다. 이는 법적 문제, 안전성, 프라이버시 등 여러 원인으로 인해 발생했을 수 있다. 이와 같은 규칙이나 프로세스는 대중에 거의 공개되지 않지만, 특정 정책 발표와 같이 일부 예외는 있다. 무엇보다도 "David Mayer"는 현재 다른 사용자에게는 다시 응답이 가능하다고 전해지지만, 다른 이름들에 대해서는 여전히 문제가 지속되고 있다.

AI 모델, 여전히 인간의 통제 하에

결국, 이 사건은 AI 모델이 결코 마법이 아니며, 기업의 관리 하에 능동적으로 개입된 고급 자동완성 도구라는 사실을 상기시켜준다. 차후에 인공지능에서 정보를 얻을 때, 직접 출처를 확인하는 것이 더 나을 수도 있다는 점을 염두에 두어야 한다.

출처 : Why does the name ‘David Mayer’ crash ChatGPT? Digital privacy requests may be at fault