AI 답변의 신뢰도 향상, 새로운 기능 도입

Anthropic, 'Claude' AI에 인용 기능 추가

AI 기술 기업 Anthropic이 자사의 Claude AI 모델에 새로운 '인용(Citations)' 기능을 도입했다. 이 기능은 AI 답변의 신뢰도를 높이기 위해 설계되었으며, 사용자가 선택한 출처 문서 내 문장과 구절을 기반으로 답변을 제공하도록 한다. 이메일을 비롯한 특정 문서 내용을 "기반(ground)"으로 설정해 정확한 출처를 명시하는 방식을 채택했다.

AI 모델의 문서 기반 기능 확대

개발자들은 Claude 모델에 출처 문서를 추가하여 AI가 응답을 생성할 때 해당 문서를 인용하도록 설정할 수 있다. 이를 통해 문서 요약, 질문 응답(Q&A), 고객 지원 등의 다양한 응용프로그램에서 효율성을 극대화할 수 있다. AI 모델들은 답변 중 관련 구간의 인용을 자동으로 삽입해, 사용자에게 신뢰할 만한 정보를 제공한다.

특정 모델 한정 및 요금 체계

현재 이 기능은 Claude 3.5 Sonnet 및 Claude 3.5 Haiku 모델에서만 사용할 수 있으며, 인용 기능의 사용에는 추가 요금이 발생한다. 예를 들어, 약 100페이지 분량의 문서를 Sonnet 모델로 처리하면 약 $0.30, Haiku 모델로 처리하면 약 $0.08의 비용이 든다. 이 같은 요금 체계는 출처 문서의 길이와 수에 따라 달라진다.

AI 오류 줄이기 위한 발걸음

Anthropic은 이 인용 기능이 AI 응답에서 종종 발생하는 과장, 왜곡 또는 "환각(hallucinations)" 문제를 줄이는 데 기여할 것으로 기대하고 있다. 기능의 도입으로 사용자들이 더 신뢰할 수 있는 결과를 얻을 수 있을 뿐만 아니라, AI 기술에 대한 전반적인 신뢰도를 증진시킬 가능성도 있다.

의견

Anthropic의 이번 기능은 AI 모델이 신뢰할 수 없는 정보를 생성하는 문제를 줄이겠다는 목적에서 실질적인 발전을 보여준다. 특히 각 반응에 명시적인 출처를 달아줌으로써 AI의 투명성과 신뢰성에 대한 기대치를 한층 높일 수 있다. 다만 기능이 특정 모델에 한정된 점과 요금 체계가 새로운 도입 장벽으로 작용할 가능성도 있어 보인다.