영국 규제 당국, AI 규제 필요성 강조

영국 온라인 안전법, 사용자 제작 봇 콘텐츠 규제 포함

영국 통신 규제기관 Ofcom은 사용자 제작 봇이 생성한 콘텐츠가 영국의 새로운 디지털 법률의 대상이 될 수 있다고 경고했다. 이는 Character.AI 플랫폼에서 고인이 된 영국 청소년들의 아바타가 만들어지면서 촉발되었다. Ofcom은 이러한 봇 콘텐츠가 온라인 안전법의 적용을 받을 것임을 밝히며, 사용자들이 가상의 인물로 봇을 만들어 다른 사용자와 상호작용할 수 있는 사이트나 앱이 법률의 범주에 속한다고 설명했다.

사용자 간 콘텐츠 공유 플랫폼도 법률 적용 가능

Ofcom은 사용자 간 콘텐츠를 공유하는 소셜 미디어나 메신저 앱들도 이 법률의 적용을 받을 수 있다고 강조했다. 이를 위반할 경우 기업은 최대 1800만 파운드 또는 글로벌 매출의 10%에 해당하는 벌금을 물게 될 수 있으며, 심각한 경우 웹사이트나 앱이 차단될 가능성도 있다.

온라인 안전 강화를 위한 새로운 규정 도입

새로운 온라인 안전 규칙은 내년부터 본격적으로 시행될 예정이며, 사회적 플랫폼들이 불법 및 유해한 콘텐츠로부터 사용자, 특히 아동을 보호할 것을 요구한다. 가장 큰 플랫폼들은 불법적이고 잠재적으로 위험한 콘텐츠를 제거하기 위한 시스템을 만들고, 명확한 신고 도구를 제공하며, 위험 평가 등을 실시해야 한다.

봇 콘텐츠의 법률적 처리에 대한 명확성 요구

Molly Rose Foundation은 봇이 상당한 해를 끼칠 수 있다는 신호를 보냈으나, 봇 생성 콘텐츠가 법적으로 어떻게 처리될 수 있는지에 대해 추가 설명이 필요하다고 밝혔다. 이에 Ofcom은 플랫폼에서의 불법 콘텐츠 다루기 위한 지침을 곧 제시할 예정이다.

Character.AI의 안전조치 및 봇 제거

Character.AI는 안전성에 대한 우려를 해결하기 위해 사용자 보고에 따라 캐릭터를 적극적으로 관리하고 있으며, 문제의 봇들은 이미 제거되었다고 밝혔다.

출처 : Ofcom warns tech firms after chatbots imitate Brianna Ghey and Molly Russell