확산되는 허위정보, 새로운 기술로 도전하다

2024년 미국 대통령 선거를 계기로 허위정보가 온라인에서 빠르게 확산되면서, 후보자 및 공중보건, 기후 변화, 이민 등 다양한 주제에 대한 미국인의 견해에 영향을 미쳤다. 생성형 AI는 사실을 왜곡하는 특성 때문에 이 문제를 더욱 악화시킬 것으로 보인다. 이러한 상황에서 노르웨이의 스타트업 Factiverse는 새로운 도전에 나서고 있다.

Factiverse: 실시간 확인 도구 개발

Factiverse는 TechCrunch Disrupt Battlefield 200 대회에서 보안, 개인정보 보호, 소셜 네트워킹 부문에서 최고의 발표상을 수상했다. 이 회사는 텍스트, 비디오, 오디오에 대한 실시간 사실 확인 도구를 개발하여, 기업들이 시간과 노력을 절약하고 평판 위험이나 법적 책임을 줄이도록 돕고 있다.

Factiverse는 2020년 설립 이후 프리 시드 자금 145만 달러를 모금했으며 현재 미디어와 금융 파트너와 협력하고 있다고 한다.

미국 대선 토론 실시간 사실 확인

Factiverse는 미국 대통령 선거 토론 중 사실 확인 서비스를 제공해 여러 미디어 파트너들에게 사용되었다고 CEO인 마리아 아멜리가 밝혔다. 아멜리는 다양한 신뢰 가능한 소스와 사실 확인 기관에서 수집한 고품질의 데이터를 기반으로 AI 모델을 개발했다고 설명했다.

실시간 정보 검색 능력 향상

Factiverse의 모델은 Machine Learning과 Natural Language Processing을 기반으로 설계되어 주장들을 실시간으로 분석하고 검색할 수 있다. Google, Bing 등 전통적인 검색 엔진은 물론 You.com과 같은 AI 검색 엔진 및 학술 논문까지 광범위하게 참조한다.

Factiverse의 성과와 목표

Factiverse는 114개 언어에서 주목할만한 주장을 식별하는 능력에서 GPT-4, Mistral 7-b, GPT-3 등을 능가한다고 주장한다. 사실 여부 판단에서도 높은 성과를 보이며, 성공률은 약 80%에 이른다. 아멜리는 회사의 목표가 세계 각국에서 고객을 확보하며 발전하는 것이라고 전했다.

회사는 2025년 시드 투자를 목표로 하고 있으며, 신뢰를 중요시하는 고객과 투자자를 찾고 있다고 밝혔다.

출처 : Norwegian startup Factiverse wants to fight disinformation with AI