Anthropic, AI 안전성 공약 삭제 논란

AI 스타트업 앤트로픽(Anthropic)이 2023년 조 바이든 행정부와 협력하여 발표했던 AI 안전성 관련 자발적 공약 일부를 자사 웹사이트에서 조용히 삭제한 것으로 확인됐다. 삭제된 항목에는 인공지능(AI) 위험 관리 및 AI 편향성과 차별 연구에 대한 정보 공유 약속이 포함되어 있었다.

AI 감시 단체, 삭제 사실 밝혀

AI 감시 단체 ‘미다스 프로젝트(The Midas Project)’가 앤트로픽의 사이트에서 공약이 사라졌다는 점을 지적하면서 논란이 불거졌다. 다만 AI 생성 이미지 기반 성범죄 방지와 관련된 공약은 여전히 유지된 것으로 나타났다.

앤트로픽은 이번 변경 사항에 대해 공식 발표를 하지 않았으며, 이에 대한 언론의 질의에도 응답하지 않은 상태다.

바이든 행정부와의 AI 안전성 협약

앤트로픽은 2023년 7월 오픈AI, 구글 등 여러 주요 AI 기업과 함께 바이든 행정부가 제안한 AI 안전성 공약에 동참한 바 있다. 주요 내용으로는 AI 시스템의 보안 테스트, 사이버 보안 투자 확대, AI 생성 콘텐츠의 워터마킹 기술 개발 등이 포함됐다.

이러한 조치는 AI 관련 포괄적인 행정명령이 시행되기 전에 정부의 정책 방향을 명확히 하기 위한 것이었다.

트럼프 행정부, AI 정책 기조 변화

트럼프 행정부는 바이든 정부의 AI 정책과는 상당히 다른 방향을 취할 것으로 예상된다. 2024년 1월, 도널드 트럼프 대통령은 전 정권이 발표했던 AI 행정명령을 폐지했다. 해당 명령은 국가표준기술연구소(NIST)에 AI 모델의 결함과 편향을 식별 및 수정하는 지침을 마련하도록 지시하는 내용을 담고 있었다.

트럼프 행정부는 이후 ‘이념적 편향에서 자유로운 AI 개발’을 장려하는 새로운 정책을 발표했지만, AI 시스템의 차별 문제에 대한 언급은 포함되지 않았다.

앤트로픽, "AI 공약 유지할 것" 재확인

미다스 프로젝트는 바이든 정부 시절 마련된 AI 공약이 정권에 따라 영향을 받는다는 내용이 없었다고 지적했다. 논란이 커지자, 앤트로픽은 이후 성명을 통해 바이든 정부와 협력하에 추진된 AI 안전성 공약을 여전히 준수하고 있으며, 앞으로 관련 진행 상황을 보다 명확히 공개할 계획이라고 밝혔다.

기사에 대한 의견

앤트로픽의 이번 변동은 AI 기업들이 정부 주도의 정책과 협약을 어디까지 유지할 것인가에 대한 중요한 논의를 불러일으킨다. 특히 트럼프 행정부의 AI 정책 변화가 기업들의 입장에 영향을 미쳤을 가능성이 크다는 점에서, 향후 AI 규제 및 윤리적 기준이 어떤 방향으로 흘러갈지 주목할 필요가 있다. AI의 신뢰성과 안전성을 보장하기 위한 정부 및 기업 간 협력이 지속적으로 요구되는 시점이다.