프랑스 AI 스타트업, 새로운 생성 AI 모델 발표

프랑스 AI 스타트업 미스트랄(Mistral)은 노트북과 휴대폰 같은 엣지 디바이스에서 운영 가능한 첫 번째 생성 AI 모델 "Les Ministraux"를 출시했다. 이 모델은 기본 텍스트 생성부터 강력한 모델과 연계해 작업을 완료하는 다양한 응용 프로그램에 활용할 수 있다. 이번 출시된 'Les Ministraux' 는 Ministral 3B와 Ministral 8B 두 가지 모델로 구성되어 있으며, 두 모델 모두 128,000 토큰의 컨텍스트 윈도우를 갖고 있다. 이는 대략 50페이지 분량의 책을 처리할 수 있는 능력이다.

엣지 디바이스를 위한 효율적 솔루션 제공

미스트랄은 고객과 파트너들이 디바이스 내 번역, 인터넷 없는 스마트 비서, 로컬 분석 및 자율 로봇과 같은 중요한 응용 프로그램을 위한 로컬, 개인정보 보호 우선의 추론을 요구하고 있다고 블로그 포스트에서 밝혔다. "Les Ministraux"는 이러한 상황에 대비해 계산 효율적이고 저지연의 솔루션을 제공하도록 설계되었다고 설명했다.

연구 목적으로 제공되는 Ministral 8B

Ministral 8B는 오늘부터 연구 목적으로 다운로드 가능하지만 상업적 사용을 원하는 개발자 및 기업은 미스트랄과의 상업 라이선스 계약이 필요하다. 반면, Ministral 3B와 Ministral 8B는 미스트랄의 클라우드 플랫폼 'La Platforme'과 향후 협력할 다른 클라우드 플랫폼을 통해 사용할 수 있다. Ministral 8B의 사용 비용은 백만 입력/출력 토큰당 10센트, Ministral 3B는 4센트이다.

소형화된 모델의 트렌드

최근 AI 업계에서는 훈련 및 운용이 비용 효율적이고 빠른 소형 모델로의 전환이 이루어지고 있다. 이와 같은 추세는 구글의 Gemma 소형 모델 컬렉션과 마이크로소프트의 Phi 모델들에서도 확인할 수 있다. 미스트랄은 Ministral 3B와 8B가 같은 카테고리의 다른 모델들 및 자체 모델 Mistral 7B보다 여러 AI 벤치마크에서 우수한 성능을 보인다고 주장한다.

AI 포트폴리오 확장을 지속하는 미스트랄

파리 기반의 미스트랄은 최근 벤처 캐피털로부터 6억 4천만 달러를 유치하며 AI 제품 포트폴리오 확장을 지속하고 있다. 최근 몇 달 동안 개발자에게 자사의 모델을 테스트할 수 있는 무료 서비스와 고객이 모델을 미세 조정할 수 있는 SDK, 코드 생성 모델 'Codestral'과 같은 새로운 모델을 출시했다. 미스트랄은 Meta와 구글의 DeepMind 출신들이 공동 창업했으며, 오늘날 최고 성능을 자랑하는 OpenAI의 GPT-4o와 Anthropic의 Claude와 경쟁하면서 수익 창출을 목표로 한다. 여름에는 수익을 창출하기 시작하면서 경영에 대한 성과를 거두고 있다.

출처 : Mistral releases new AI models optimized for laptops and phones