일본 스타트업, AI로 작성된 학술 논문 초안 공개

전문가들 "AI 생성 연구, 엄격한 검토 기준 필요"

일본의 인공지능 스타트업 사카나(Sakana)가 자사 AI 기술로 작성한 논문 초안이 국제 학회에서 논의 대상으로 채택되며 화제를 모았다. 하지만 이 사례는 AI가 학계에 진입하는 방식과 그에 따른 제도적, 윤리적 고민을 다시금 부각시켰다.

AI가 작성한 논문, 국제 학회서 1편 채택

사카나는 'AI 사이언티스트 v2(The AI Scientist-v2)'라는 자사의 AI 시스템을 활용해 총 세 편의 학술 논문을 작성했다. 이들 논문은 캐나다 브리티시컬럼비아대학교(University of British Columbia), 영국 옥스퍼드대학교(University of Oxford)의 연구자들과의 협력 아래 국제 머신러닝 학술대회(ICLR) 워크숍에 제출됐다.

이 중 한 편은 AI 모델 훈련 기법을 주제로 한 워크숍에서 논의 대상으로 수락됐다. 그러나 논문은 최종 발표 이전에 투명성을 이유로 자진 철회됐다. 사카나는 해당 논문이 완전한 심사를 마친 것은 아니며, 인용 오류 등 AI가 실제 작성 과정에서 실수를 저질렀음을 인정했다.

"AI만의 성과로 보기 어려워…사람의 감독이 핵심"

사카나 측은 AI가 생성한 연구물의 품질을 실험해보려는 것이 목표였다고 강조했다. 그러나 학계 일부에서는 이와 같은 시도가 과연 과학 연구의 기준을 충족하는지에 대한 우려가 제기되고 있다. 특히 워크숍의 논문 채택률이 정규 학회 세션보다 월등히 높다는 점에서, AI 논문에 대한 심사의 엄격성이 부족하다는 지적이 따른다.

AI 연구자들은 "이번 경우는 AI 자체보다는 인간 감독(human oversight)의 효과를 보여주는 예"라며, AI가 과학 연구 전체를 대신하기엔 아직 신뢰성과 정밀도가 부족하다는 점을 지적했다.

AI 생성 연구에 대한 새로운 기준 마련 필요

전문가들은 AI가 연구 논문 작성에 점점 더 활용될수록, 그에 맞는 명확한 윤리 기준과 평가 절차를 마련해야 한다고 입을 모은다. 사카나 또한 "AI-generated science", 즉 AI가 생성한 과학 연구의 질과 그 정당성을 확보하기 위해 별도의 규범을 정립해야 할 필요성을 주장하고 있다. 이는 과학계의 신뢰성과 피어 리뷰(peer review) 시스템의 순수성을 지키기 위한 조치라는 설명이다.

이번 사례는 AI가 과학 연구에서 얼마나 많은 역할을 할 수 있는지를 실험한 의미 있는 시도였다. 하지만 결국 중요한 것은 AI 그 자체보다도 이를 어떻게 활용하고, 결과물을 어떤 기준으로 검토하고 받아들일 것인가에 대한 인간의 책임이다. 앞으로 AI 기반 학술 연구의 발전 속도를 따라가기 위해서는 제도적·윤리적 장치의 정비가 시급하다.