Meta, 스마트 글라스 사진 및 비디오로 AI 훈련 가능성 제기

최근 Meta는 Ray-Ban Meta 스마트 글라스를 통해 촬영한 사진 및 비디오가 AI 훈련에 사용될 수 있는지에 대한 질문을 받았습니다. 이 질문에 대해 처음에는 명확한 답변을 주지 않았으나, 추후 TechCrunch에 보다 자세한 내용을 제공했습니다. Meta의 정책 커뮤니케이션 매니저 Emil Vazquez는 이메일을 통해 "미국과 캐나다에서 멀티모달 AI가 사용 가능한 지역에서는 Meta AI에 공유된 이미지와 비디오가 개선을 위해 사용될 수 있다"라고 설명했습니다.

Ray-Ban Meta 사용자는 이미지를 통한 AI 데이터 제공 가능성

이전에 Meta 대변인은 Ray-Ban Meta에서 캡처된 사진과 비디오는 사용자가 AI에 제출하지 않는 이상 AI 훈련에 사용되지 않는다고 했습니다. 하지만 Meta AI에 분석을 요청하면 해당 사진은 완전히 다른 정책에 따라 처리됩니다. 이는 Meta가 첫 소비자 AI 장치를 사용하여 더 강력한 AI 모델을 만들 수 있는 데이터를 크게 확보하고 있다는 것을 의미합니다.

AI 기능 사용자가 데이터 전송 인식 부족 우려

Ray-Ban Meta 사용자가 자신도 모르게 Meta에 많은 이미지 데이터를 제공하게 될 수 있다는 점에서 우려가 제기되고 있습니다. Meta의 대변인은 이러한 내용이 Ray-Ban Meta의 사용자 인터페이스에 명확히 표시되어 있다고 밝혔으나, 초기에는 TechCrunch에 이 정보를 공유하지 않았습니다.

새로운 AI 기능과 개인 데이터 공유 위협

Meta는 최근 2024 Connect 콘퍼런스에서 Ray-Ban Meta 사용자가 Meta AI를 자연스럽게 호출할 수 있는 새로운 AI 기능을 롤아웃하며, 이를 통해 새로운 데이터를 전송하게 될 가능성이 커졌다고 발표했습니다. 또한, Ray-Ban Meta의 실시간 비디오 분석 기능도 도입했는데, 이는 지속적으로 이미지를 Meta의 멀티모달 AI 모델에 전송하는 기능입니다.

Meta의 AI 모델 학습 및 법적 이슈

Meta는 이미 Instagram과 Facebook에서 공개적으로 게시된 미국인의 모든 게시물로 Llama AI 모델을 훈련시킨다는 것이 알려져 있습니다. 그러나 Ray-Ban Meta의 AI 기능을 통해 수집된 이미지 역시 이러한 '공개 데이터'의 정의에 포함되는 것으로 보입니다. 현재 Meta는 텍사스 주와의 14억 달러 법적 분쟁을 해결하였고, 이와 관련하여 몇 가지 AI 이미지 기능은 텍사스에서는 출시되지 않았습니다.

음성 대화 저장 및 AI 훈련 활용 가능성

Meta의 개인 정보 보호 정책에 따르면 Ray-Ban Meta와의 음성 대화 녹취록도 AI 모델 훈련을 위해 저장될 수 있습니다. 음성 녹음의 경우, Ray-Ban Meta 앱에 처음 로그인 시 녹음이 AI 모델 훈련에 사용될 수 있는지 선택할 수 있습니다.

새로운 컴퓨팅 형태로서의 스마트 글라스 확산 추세

Meta와 Snap 등은 스마트 글라스를 새로운 컴퓨팅 형태로 확산시키고 있으며, 대부분의 이러한 장치는 AI에 의해 구동됩니다. 이로 인해 Google Glass 시절 처음 제기되었던 다양한 프라이버시 문제가 다시 부상하게 되었습니다. 404 Media는 몇몇 대학생이 Ray-Ban Meta 글라스를 해킹하여 본 사람의 이름, 주소 및 전화번호를 알아낼 수 있다고 보도했습니다.

출처 : 원문 보러가기