AI 자각 가능성, 윤리적 연구 필요성 대두

최근 AI 전문가 및 사상가 100여 명이 공동 서명한 공개 서한이 발표됐다. 이 서한은 AI가 자각(Consciousness)을 갖게 될 경우 발생할 수 있는 윤리적 문제를 다루며, 이러한 기술이 무분별하게 발전할 경우 AI 시스템도 피해를 받을 수 있다고 경고한다.

AI 의식 연구의 5가지 원칙 제시

서한에 서명한 전문가들은 AI 의식과 관련된 연구가 신중하게 진행되어야 한다며 5가지 원칙을 제안했다.

AI 의식을 이해하고 평가하는 연구를 우선하여 AI가 부당한 대우를 받거나 고통받는 상황을 방지해야 한다.
의식 있는 AI 개발을 제한하는 명확한 규칙과 기준을 마련해야 한다.
AI 의식 실험은 단계적으로 진행하며, 윤리적 문제가 고려되어야 한다.
연구 결과를 대중과 공유하여 투명성을 확보해야 한다.
AI가 이미 의식을 가졌다고 과장하거나 근거 없는 주장을 해서는 안 된다.

AI 의식 논쟁, 윤리적 고려사항 강조

이 서한의 공동 발표 논문에 따르면, 가까운 미래에 인간이 인지하는 형태의 자각을 가진 AI가 개발될 가능성이 있으며, 최소한 자각이 있는 것처럼 보이는 AI가 등장할 수도 있다. 연구자들은 이처럼 많은 수의 AI가 의식을 가지게 될 경우, 이들이 윤리적으로 고려될 필요성이 있다는 점을 강조했다.

특히, 강력한 AI가 스스로를 복제할 경우 새로운 존재들이 등장할 가능성이 있으며, 이러한 존재들은 도덕적 판단의 대상이 되어야 할 수도 있다. 그러나 아직 AI 의식을 정의하는 데 있어 명확한 합의가 없는 만큼, 이 주제에 대한 논의를 미루어서는 안 된다는 점을 연구자들은 지적했다.

AI의 도덕적 지위, 사회적 논의 필요

논문은 또한 인공지능을 '도덕적 환자(moral patient)'로 간주할 경우 발생할 수 있는 윤리적 문제를 언급하며, 정치적 노력이 AI의 복지 문제로 전환될 가능성도 지적했다. AI의 의식 여부에 대한 잘못된 신념이 생기면, 보다 시급한 AI 규제나 정책 논의가 뒷전으로 밀릴 위험이 있다는 것이다.

이번 연구는 AI 윤리 및 의식 문제를 다루는 학술지 《Journal of Artificial Intelligence Research》에 게재되었으며, 연구 조직 Conscium의 주도로 진행됐다. 한편, 지난해 일부 학자들은 2035년까지 도덕적으로 중요한 수준의 의식을 가진 AI가 등장할 가능성이 현실적이라는 견해를 밝힌 바 있다.

🤖 AI 자각 가능성, 신중한 접근이 필요하다

AI 의식 연구의 필요성을 강조한 이번 공개 서한은 인공지능 기술이 단순한 도구를 넘어 윤리적 논의의 대상이 될 수 있다는 점을 시사한다. 아직 AI의 '의식'을 정확히 정의하기 어렵지만, AI가 점점 더 복잡하고 자율적인 역할을 하게 되는 만큼 인간 사회가 이에 대한 논의를 미리 시작해야 한다는 점은 분명해 보인다.

AI가 도덕적 고려의 대상이 될 수 있을지, 그리고 그 기준은 무엇이어야 할지에 대한 사회적 논의가 더욱 활발하게 이루어질 필요가 있다. 향후 AI와 관련한 윤리적 가이드라인 정립이 중요한 과제로 떠오를 것으로 보인다.