OpenAI 차세대 AI 모델 'o3', 예상보다 10배 비싼 운영 비용 논란

OpenAI가 지난 12월 공개한 고급 추론 AI 모델 'o3'의 실제 운영 비용이 초기 추정보다 크게 높은 것으로 나타났다. 혁신적인 인공지능 벤치마크 프로젝트인 ARC-AGI의 공동 개발자들과 협업해 성능을 선보인 o3는, 최근 비용 재추정 결과 임무당 약 3만 달러(한화 약 4,000만 원)가 소요될 수 있는 것으로 분석됐다.

ARC-AGI 평가 기준, “o3 성능 높지만 자원 소모 과다”

비영리단체인 Arc Prize Foundation은 최근 ARC-AGI를 통해 시험된 o3 최고 성능 설정(high configuration)의 비용을 재검토한 결과, 기존에 예상했던 3천 달러보다 10배 높은 약 3만 달러에 달한다고 발표했다. 이 비용은 AI가 특정 과제를 수행하는 데 필요한 전체 자원(연산, 메모리 등)의 가격을 반영한 것이다.

o3의 가장 낮은 설정(low configuration) 대비 가장 높은 설정은 무려 172배나 많은 컴퓨팅 자원을 필요로 했으며, ARC-AGI 문제 해결을 위해 평균적으로 문제당 최대 1,024번의 시도를 반복해야 최적의 결과를 낼 수 있었던 것으로 알려졌다.

비용은 높지만, 인간보다 저렴할 수도?

OpenAI는 아직 o3 모델을 일반 공개하지 않았으며, 가격 책정도 공식화되지 않았다. 다만, Arc Prize Foundation은 OpenAI가 기존에 출시한 최고급 모델 'o1-pro'의 가격을 기준으로 비교할 수 있다고 설명했다. 이 모델은 현재 OpenAI에서 가장 높은 가격대로 판매되고 있다.

일각에서는 이러한 고비용 AI 모델이 실제 현업에서 사람을 고용하는 것보다 효율적일 수 있다는 의견도 있다. 일반적인 계약직 인력보다 운영비가 적게 들 수 있다는 주장이다. 그러나 AI 윤리학자인 토비 오드(Toby Ord)는 “이 모델들은 높은 비용에도 불구하고 효율성은 낮은 편”이라며, 모델마다 수천 번의 시행착오를 거쳐야 원하는 결과에 도달할 수 있음을 지적했다.

고성능 AI, 기업 맞춤 시장 노리나

OpenAI가 향후 기업 전용 고비용 플랜을 도입할 것이라는 예상도 나온다. 일부 보고서에 따르면, 기업 고객을 위한 특수 AI 에이전트 서비스의 월 구독 요금이 최대 2만 달러(한화 약 2,700만 원)에 이를 수 있다는 전망도 제기되고 있다.

의견

OpenAI의 차세대 AI 모델 o3는 상당한 성능을 보이고 있지만, 연산 자원 소모가 극심하다는 점에서 실효성에 의문이 제기된다. 특히 기업 사용자들은 효율성과 비용 문제를 면밀히 따져볼 필요가 있다. 장기적으로는 AI의 발전 속도에 맞춰 가격과 성능의 균형을 얼마나 잘 맞추느냐가 기업 도입 여부의 핵심이 될 것이다. Efficient AI가 그 어느 때보다 절실한 시점이다.