AI 연구소들이 초지능 시스템 개발을 위한 길을 걷다가 새로운 방향을 모색하고 있다. 이는 'AI scaling laws'의 방식과 기대가 한계에 다다르고 있다는 것을 보여준다. TechCrunch와 인터뷰한 여러 AI 투자자, 창업자 및 CEO들은 최근 AI 연구소 내 모델들이 예전처럼 빠르게 발전하지 않고 있다는 보고를 인용하며 이를 인정했다.

AI 모델의 성능을 단순히 컴퓨팅 파워와 데이터 양을 늘리기만 하면 될 것이라는 생각은 점점 설득력을 잃고 있다. 실리콘밸리의 많은 CEO들은 대화형 AI 모델 ChatGPT의 개발 성공을 토대로 인공지능의 급속한 발전을 예측했지만, 이제 AI 연구자들과 창립자들은 새로운 돌파구를 찾고 있다. OpenAI와 Safe Super Intelligence의 공동 창립자인 일리아 수츠케버는 최근 AI 모델 확장을 위해 '다음 도약'을 모색하고 있다고 밝혔다.

마이크로소프트의 CEO 사티아 나델라는 '테스트 시간 컴퓨트(test-time compute)'가 새로운 AI 확장법이 될 가능성이 크다고 말했다. 이는 AI에게 질문에 대한 답변을 내기 전에 더 많은 시간과 연산을 할당함으로써 성능을 향상시키는 방법이다. 이 방법은 OpenAI의 o1 모델 실험에 근거하고 있으며, 여러 전문가들이 이러한 모델을 AI 미래로 삼고 있다.

Augmented testing 및 o1 모델에 초점을 맞춘 새로운 AI 확장은 현재 진행 중인 패러다임 전환을 보여준다. 향후 5년 동안 AI 모델의 발전 방식은 지난 5년과는 상당히 다를 것으로 예상된다. 이전의 'AI scaling laws' 성공과 급작스러운 지체 속에서 도출된 교훈은 AI 모델의 발전 시기와 방법을 정확히 예측하기 어렵다는 것이다. 하지만 새로운 방법론이 계속해서 탐색되고 있는 것은 확실하다.

출처 : Current AI scaling laws are showing diminishing returns, forcing AI labs to change course