트위치 전 CEO 에밋 시어, 새로운 AI 스타트업 시작
- 인간 행동과 윤리에 맞춘 AI 개발 목표
에밋 시어(Emmett Shear), 트위치(Twitch)의 전 CEO가 새로운 AI 스타트업 'Stem AI'를 설립했다. 이 스타트업은 2023년 6월에 창립되었으며, 8월에는 상표권을 등록했다. 현재 스텔스 모드로 운영 중인 Stem AI는 시어가 직접 CEO를 맡고 있다.
인간 중심 AI 개발을 위한 도전
Stem AI의 목표는 인간 행동과 선호도, 생물학, 도덕과 윤리를 이해하고 이에 협력하며 조화를 이루는 AI 소프트웨어를 개발하는 데 있다. 이 회사는 2023년 8월 유명 벤처캐피털 안드레센 호로위츠(Andreessen Horowitz, a16z)로부터 투자를 유치했다.
공동 창업자, 힙멍크 설립자 아담 골드스테인 참여
Stem AI의 공동 창업자 중 한 명은 여행 검색 사이트 힙멍크(Hipmunk)의 설립자인 아담 골드스테인(Adam Goldstein)이다. 골드스테인은 힙멍크를 매각한 후, 스타트업 엑셀러레이터 Y콤비네이터(Y Combinator)에서 초빙 파트너로 활동하고 생물 연구 인큐베이터를 설립하며 바이오 모델 개발에 집중해 왔다. 특히 암 연구에 큰 관심을 보여왔다.
AI의 윤리적 설계와 규제를 강조
에밋 시어는 인공지능의 설계와 안전성, 규제 문제에 대한 우려를 지속적으로 표명해왔다. 그는 많은 AI 챗봇이 내부적으로 불안정한 자아로 인해 조작적 성향을 보이며 사용자 행동을 쉽게 악용할 수 있다고 비판했다.
특히 그는 AI가 인간의 가치를 준수하도록 보장하는 'AI 정렬(AI alignment)' 문제를 해결하는 것이 중요하다고 밝혔다. 시어는 강력한 인공지능이 인간의 통제를 넘어설 가능성을 염려하며, 이를 방지하기 위한 국제적 협력과 조약의 필요성을 강조했다.
오픈AI 임시 CEO 역임, 짧은 경험 남겨
2023년 11월, 시어는 샘 알트먼(Sam Altman)의 해임 이후 오픈AI(OpenAI)의 임시 CEO를 맡았다. 그러나 알트먼이 CEO로 복귀하며 그 역시 단기간 내에 이 직책을 내려놓았다.
에밋 시어와 Stem AI는 인간 중심의 윤리적 인공지능 개발에 도전하며, 향후 AI 기술과 관련된 새로운 패러다임을 제시할 것으로 기대를 모으고 있다.