구글, Anthropic의 Claude 활용해 Gemini AI 개선
구글이 Anthropic의 인공지능 모델 Claude를 이용해 자사의 AI 시스템 Gemini를 개선하고 있는 것으로 알려졌다. 구글은 외부 작업자들에게 Gemini와 Claude의 답변을 비교하도록 요청하며, 주로 정확성과 간결성 등의 요소를 평가하고 있다. 한 번의 평가에 최대 30분이 소요되며, 보다 나은 답변을 제공하는 모델을 판단하는 데 초점을 맞추고 있다.
Claude, 안전성 우선시해 주목받아
구글 내부 비교 플랫폼에서는 Claude라는 이름의 특정 출력물이 확인되었으며, 작업자들은 Claude가 답변의 안전성을 더 중시하는 경향이 있다고 보고했다. 실제로 Claude는 위험하다고 판단되는 질문은 아예 답변을 피하는 모습을 보였다.
Anthropic 사용 조건 논란
Anthropic의 약관에 따르면, Claude는 경쟁 제품 개발이나 경쟁 AI 모델 훈련 용도로 사용할 수 없다. 이는 Anthropic의 승인을 받아야 가능하다. 한편, Anthropic의 주요 투자자인 구글이 이에 대한 승인을 받았는지는 확인되지 않았다. 구글 DeepMind 대변인은 "모델 비교는 이루어지고 있지만 Claude를 통해 Gemini를 훈련하지 않는다"고 설명했다.
민감한 분야에 대한 검토 우려
최근 내부 커뮤니케이션에서는 Gemini의 답변에 대한 평가 과정에서 전문성이 부족한 작업자가 민감한 주제를 다루는 데 대한 우려가 제기됐다. 특히 의료 분야와 같은 세심한 전문 지식이 필요한 분야에서 이 같은 문제가 도드라진 것으로 나타났다.