AI 편향성 문제, 허깅페이스 과학자 우려

AI, 과학 발전의 도구인가 한계에 갇힌 '순응자'인가

AI 연구의 한계와 문제 제기

토마스 울프 허깅페이스 공동 창업자 겸 최고 과학 책임자는 AI 기술이 과학 연구를 혁신할 것이라는 주장에 대해 신중한 입장을 보였다. 그는 최근 에세이를 통해 "현재의 AI는 서버 위의 순응자(Yes-men on servers)에 불과하다"며, 과학적 발견을 위한 창의적 문제 해결 능력이 부족하다고 지적했다.

AI가 과학 혁신을 주도할 수 없는 이유

울프는 과거 위대한 과학자들이 단순히 뛰어난 학생이 아니라 창의적 질문을 던질 수 있는 존재였다고 강조했다. 따라서 '데이터센터 속 아인슈타인'을 만들려면 단순한 지식 검색이 아니라, 기존 지식을 바탕으로 새로운 질문을 제기할 수 있는 AI가 필요하다고 주장했다.

그는 현재 AI 시스템이 단순한 패턴 인식과 지식 암기에 머물러 있으며, 독창적인 논리를 창출하는 능력이 부족하다고 설명했다. 때문에 현 상태의 AI는 새로운 지식을 스스로 개발하기보다는 기존 지식을 따르는 ‘순종적인 학생’에 가깝다는 것이다.

AI 평가 방식의 문제와 해결 방안

울프는 현재 AI 성능 평가 방식에도 문제가 있다고 지적했다. 현재의 테스트는 단답형 문제 해결 능력에 집중되며, AI가 창의적인 아이디어를 탐색하도록 유도하지 못한다는 것이다. 그는 AI가 혁신적인 연구로 이어질 수 있도록, 좀 더 도전적인 질문을 던지고 반직관적인 사고를 할 수 있도록 유도하는 평가 방식을 도입해야 한다고 주장했다.

그는 이러한 평가 지표를 정립하는 것이 쉽지 않다는 점을 인정하면서도, AI 발전 방향의 핵심은 정답을 찾는 것이 아니라 ‘올바른 질문’을 제기하고 기존 개념에 도전하는 능력을 기르는 것이라고 강조했다.

AI의 발전 방향에 대한 고민이 필요

이번 주장은 AI가 단순히 데이터를 학습하고 활용하는 데서 벗어나야 한다는 점을 시사한다. AI가 과학적 혁신을 주도하기 위해서는 정답을 찾는 것이 아니라 새로운 문제를 제기할 수 있어야 한다는 것이다. 현재 AI 기술이 놀라운 성과를 내고 있지만, 창조적 사고에서 한계를 드러낸다는 점에서 AI 연구 방향에 대한 보다 근본적인 고민이 필요해 보인다.