OpenAI의 새로운 모델 '오리온', 도약은 더딘가
성능 개선 속도 둔화, 일부 영역에서는 기존 모델과 비슷
OpenAI의 차세대 플래그십 모델로 알려진 코드명 '오리온'이 이전 모델들만큼 큰 발전을 이루지 않을 수 있다는 보도가 나왔다. The Information에 따르면, 오리온을 테스트해본 직원들은 이 모델의 성능이 기존 모델을 초과하긴 하지만, GPT-3에서 GPT-4로의 도약만큼의 큰 차이는 없었다고 평가했다. 특히 코딩과 같은 특정 영역에서는 오리온이 이전 모델들보다 신뢰성 있게 우수하지 않을 수도 있다는 것이다.
데이터 부족 문제 돌파 위한 새로운 전략
OpenAI는 새로운 훈련 데이터의 부족 문제에 대응하기 위해 '기초 팀'을 구성하여 모델 개선 방안을 모색하고 있다. 이 전략에는 AI 모델이 생성한 합성 데이터를 사용한 오리온 훈련과, 훈련 이후 모델 개선에 주력하는 방법이 포함되어 있다.
한편, OpenAI는 이번 보도 내용에 대한 즉각적인 공식 입장을 밝히지 않았으며, 이전 보도에서는 "오리온이라는 코드명을 가진 모델을 올해 출시할 계획이 없다"고 설명했다.
출처 : OpenAI reportedly developing new strategies to deal with AI improvement slowdown