“나도 모르는 사이 내 얼굴이 영상으로”⋯오픈AI ‘소라’ 악용 우려

(출처=미국 앱스토어 무료 앱 순위 캡처)

소라는 오픈AI가 지난달 30일 출시한 영상 공유 사회관계망서비스(SNS) 앱으로, 이용자가 프롬프트를 입력하면 짧은 영상을 만들어준다. 10일 기준 미국 앱스토어 무료 앱 순위 1위를 기록했다.

9일 오픈AI의 빌 피블스 소라 부문 대표는 자신의 엑스(X·옛 트위터) 계정에 “소라가 출시한 지 5일도 안 돼 100만 다운로드를 돌파했다. 초대권을 받아야만 이용이 가능하고, 북미만을 타깃으로 삼았음에도 불구하고 챗GPT보다 더 빠른 속도”라고 적었다.

(출처=오픈AI ‘소라’ 캡처)

문제는 소라 앱 이용자라면 누구나 타인의 카메오 프로필을 이용해 영상을 제작할 수 있다는 점이다. 심지어 카메오 프로필을 직접 선택하지 않아도 영상 제작에 활용될 수 있다. 직접 소라 앱을 써본 결과, 입력한 프롬프트에 따라 영상에서 사람이 등장하는 경우 소라가 임의로 타인의 카메오 프로필을 가져와 영상으로 만들기도 했다.

소라가 딥페이크 영상 등 범죄에 악용될 수 있다는 우려도 제기된다. 실제로 3일 미국의 디지털 전문 기자 테일러 로렌즈는 “스토커가 소라를 이용해 내 얼굴로 AI 영상을 만들고 있다”고 자신의 엑스 계정에 글을 올렸다. 그러면서 “다행히 소라에서 내 얼굴이 포함된 영상을 차단하고 삭제할 수 있었다”고 덧붙였다.

논란이 일자 6일 빌 피블스는 “자신의 카메오가 등장하지 않았으면 하는 주제나 단어를 입력해 영상 생성을 제한할 수 있도록 업데이트했다”고 공지했다. 이어 “카메오 프로필에 대한 제한을 더욱 강화하기 위해 계속해서 노력하고 있으며, 앞으로도 카메오 프로필을 통제할 수 있는 새로운 방법을 추가할 것”이라고 밝혔다.

이용자들은 ‘카메오 프로필을 사용할 땐 영상 하단에 사용자 이름이 표시됐으면 좋겠다’, ‘카메오 프로필을 만든 후 해당 카메오가 어떻게 사용될 수 있는지 확인할 수 있는 보안 탭을 하나 더 추가하면 좋을 것 같다’ 등 다양한 의견을 제시했다.