사이릴 고를라, AI 안전성을 위한 혁신적 접근
이민자로 자란 사이릴 고를라는 어릴 적 독학으로 코딩을 배웠습니다. 11세 때 가정 형편이 어려웠음에도 불구하고 어머니의 커뮤니티 칼리지 프로그래밍 과정을 우수한 성적으로 마친 그는 고등학교 시절 인공지능(AI)에 빠져 자신의 AI 모델을 훈련하는 데 몰두했습니다. 이 과정에서 그는 노트북을 분해하여 내부 냉각 장치를 업그레이드하기도 했습니다. 이러한 노력은 대학 2학년 때 인텔에서 인턴십을 얻는 데 기여했으며, 그곳에서 AI 모델 최적화와 해석 가능성을 연구했습니다.
AI 안전성의 필요성 인식
고를라는 AI가 산업 전반을 혁신할 잠재력이 있다고 믿으면서도, 안전성에 대한 관심이 새로운 제품에 가려지고 있다고 느꼈습니다. 따라서 고를라는 대학원을 중퇴하고 동료 트레버 터틀과 함께 CTGT라는 회사를 설립했습니다. 이 회사는 AI를 현명하게 배포하는 방법을 조직에 제공하는 데 주력하고 있습니다.
CTGT의 역할과 기술력
CTGT는 AI 모델의 편향된 결과와 오류를 식별하고 해결하는 데 집중합니다. 완벽하게 오류를 제거할 수는 없지만, CTGT의 감사 접근법은 기업이 이를 완화할 수 있도록 돕습니다. 고를라는 "모델이 내부적으로 개념을 이해하는 방식을 노출시킨다"며, "기업이 AI의 안전을 엄격하게 테스트할 수 있도록 지원한다"고 설명했습니다.
보안과 고객 신뢰
CTGT는 온-프레미스 솔루션과 관리형 계획을 통해 고객의 데이터를 보호하며 연간 동일한 요금을 부과합니다. 고를라는 "데이터 사용의 완전한 통제권을 고객에게 부여한다"고 강조했습니다.
시장에서의 전망
CTGT는 초기 단계임에도 여러 고객, 특히 Fortune 10 브랜드 세 곳과의 협업을 진행 중입니다. 향후 몇 개월 동안 엔지니어링 팀을 확장하고 플랫폼을 개선할 계획입니다. 분석 기업 Markets and Markets에 따르면 '설명 가능한 AI'는 2028년까지 162억 달러 규모의 시장으로 성장할 것으로 예측됩니다. 고를라는 "AI의 근본적 이해에 집중해야 한다"고 덧붙였습니다.
출처 : CTGT aims to make AI models safer