AI 스타트업, 학술 심사 과정을 마케팅 수단으로 이용 논란

일부 AI 연구팀, 동의 없이 심사 체계 활용해 비판 직면

국제 인공지능 학술대회 ICLR(International Conference on Learning Representations)을 둘러싼 윤리적 논란이 안팎에서 제기되고 있다. 최근 열린 ICLR 워크숍에 AI가 생성한 논문을 제출한 AI 스타트업들이, 동료 평가(peer review) 과정을 마케팅 수단으로 악용했다는 비판을 받고 있다.

AI 논문, 일부는 사전 동의 없이 제출

실제로 일본의 AI 연구소인 사카나(Sakana)와 더불어 인톨로지(Intology), 오토사이언스(Autoscience) 등 최소 3개 AI 연구기관이 자사 AI가 작성한 논문을 ICLR 워크숍에 제출했고, 이들 논문은 모두 워크숍 발표 대상으로 채택됐다. 다만 사카나는 논문 제출 전에 심사자들의 동의를 구했으며, 이후 논문 일부를 자진 철회했다.
하지만 인톨로지와 오토사이언스는 그 같은 사전 절차를 거치지 않아 윤리적 문제를 촉발했다.

연구자들, '논문 심사 체계의 왜곡' 지적

학계에서는 이 같은 행위를 두고 과학적 평가 체계를 마케팅 목적으로 남용한 것이라는 비판이 쏟아졌다. 연구자들은 논문 심사가 상당한 시간과 노력을 요구하며 대부분 무보수로 진행된다는 점을 강조했다. 이런 상황에서 AI 기업들이 동의 없이 평가 시스템을 성능 테스트 수단으로 활용하는 것은 학문 공동체에 대한 예의가 아니라는 지적이다.

한 AI 연구원은 “심사자들의 시간과 노고는 매우 소중한 자원”이라며 “그 과정을 상업적 목적에 이용한 것은 명백히 잘못된 행위”라고 말했다.

조잡한 논문 품질, 자진 철회 후 반성

사카나는 자사 AI가 생성한 세 편의 논문 가운데 단 한 편만이 실제 학술 기준에 부합했음을 인정했으며, 투명성과 윤리 확보를 위해 해당 논문을 자발적으로 철회했다.

논란 이후 학계 내부에서는 AI 생성 논문에 대한 공식적 규제 필요성도 제기됐다. 일각에서는 AI가 작성한 논문을 심사할 때는 자원봉사 기반의 기존 동료 평가 체계가 아닌, 보상을 받는 평가 시스템이 필요하다는 주장도 나왔다.

AI 기술 발전이 부른 '윤리적 공백'

최근 몇 년간 주요 AI 학술대회들은 논문 제출 수의 급증을 경험하고 있으며, 이 중 적지 않은 비율이 AI가 작성한 '합성 텍스트(synthetic text)'를 포함하고 있는 것으로 분석된다. 이번 논란은 AI가 실제 학문적 영역에 침투하는 속도에 비해, 이를 관리하고 평가할 제도적 시스템이 미비하다는 점을 여실히 보여준다.

의견

AI가 새롭게 열어가는 연구의 지평은 분명 흥미롭고 유의미하다. 하지만 '자동화된 창작'이 본래의 학문적 가치와 공정한 평가 체계까지 잠식하는 일은 반드시 경계해야 한다. AI의 학술적 활용을 하나의 실험적 시도로 인정하더라도, 최소한 윤리적 동의와 투명성은 기반이 되어야 한다. AI 기술이 과학 발전의 수단이 되려면, 그 과정마저 과학적이고 정당해야 한다.