미국 AI 안전 기관, 미래를 걸고 있다

미국 정부의 AI 안전성을 평가하는 유일한 기관 중 하나인 미국 AI 안전 연구소(AISI)가 해체될 위기에 처해 있다. AISI는 2023년 11월 조 바이든 대통령의 AI 행정 명령의 일환으로 설립되었으며, 상무부 기술 가이드라인을 개발하는 NIST 내에서 운영되고 있다.

이 기관은 기존의 예산과 영국 AI 안전 연구소와의 연구 파트너십을 갖고 있지만, 행정 명령의 간단한 폐지로 해체될 수 있다. AI 로비 그룹인 '미국책임혁신을 위한 연합체'의 크리스 맥켄지 선임 이사는, "다른 대통령이 취임하며 AI 행정 명령을 폐지하면 AISI도 해체될 수 있다"고 설명했다. 도널드 트럼프 전 대통령은 AI 행정 명령 폐지를 약속한 바 있어, 의회에서 공식적으로 AISI를 승인해야 백악관의 변화와는 무관하게 지속될 수 있다고 덧붙였다.

공식 승인 없이 해체 위험에 처한 AISI

AISI의 미래를 보장하기 위해서뿐만 아니라, 의회의 승인은 이 기관의 안정적이고 장기적인 자금 조달을 가능하게 할 수 있다. AISI의 현재 예산은 약 1천만 달러로, 실리콘밸리의 주요 AI 연구소 집중도를 고려하면 비교적 적은 금액이다. 맥켄지 선임 이사는 "의회에 의해 공식적으로 승인된 기관들은 예산 우선순위가 높다"고 말했다.

오늘날 60개 이상의 기업, 비영리 단체 및 대학이 의회에 AISI를 법률로 명문화할 것을 촉구했다. 이 중에는 OpenAI와 Anthropic도 포함되어 있으며, 이들은 AI 연구와 평가에 대한 협력을 위해 AISI와 협약을 체결한 바 있다.

전 세계 AI 경쟁에서 뒤처지지 않아야

AI 안전 연구소는 강제성이 없는 자발적 기준을 설정하고 있지만, 산업계와 학계는 AISI를 미래 정책의 기초를 마련할 AI 벤치마크로 인식하고 있다. AISI의 해체는 외국에 AI 리더십을 넘길 위험이 있다는 우려도 있다. 2024년 5월 서울 AI 정상회담에서 여러 나라의 지도자들이 AI 안전 연구소 네트워크를 구성하기로 합의했다.

정보기술산업협회의 제이슨 옥스먼 회장은 "다른 정부들은 빠르게 앞서 나가고 있다"며 "의회는 AISI를 영구적으로 승인함으로써 미국이 글로벌 AI 경쟁에서 뒤처지지 않도록 할 수 있다"고 강조했다. 산업계, 시민 사회 및 학계의 요구를 반영하여 필요한 초당적 법안을 연말까지 통과시킬 것을 의회에 촉구했다.

출처 : The US AI Safety Institute stands on shaky ground