SNS 뒤덮은 AI 음란물…규제 공백 두고 의견 분분

▲ (게티이미지뱅크)

소셜 네트워크 서비스(SNS)에서 인공지능(AI)으로 만든 가상 인물의 음란물이 빠르게 확산하고 있다. 그러나 현행법은 실존 인물이 확인돼야만 처벌할 수 있어 규제 공백이 드러난다. 국회가 입법 보완에 나섰지만, 표현의 자유와의 균형을 고려해야 한다는 의견도 나온다.

8일 업계에 따르면 인스타그램, X(옛 트위터), 유튜브 등에서는 AI 합성 기술을 활용한 음란물이 쉽게 확산되고 있다. 여성의 특정 신체 부위를 강조하거나 성적 상황을 묘사한 게시물이 공공연히 노출되고, 일부 영상은 수십만 회의 조회수를 기록했다.

또 일부 콘텐츠는 상업적 목적으로 제작·유통되고 있다. SNS 계정에는 외부 사이트 가입을 유도하는 문구가 붙어 있고, 일부 유튜브 영상에는 "더 많은 영상은 ○○○사이트에서 확인하라"는 자막이 삽입됐다. 개인 창작물 차원을 넘어 수익화된 생태계가 형성됐다는 지적이다.

문제는 영상 속 주인공들이 실존 인물이 아닌 가상 존재라는 점이다. 현행 성폭력범죄의 처벌 등에 관한 특례법(성폭력처벌법)은 '대상자의 의사에 반한' 편집·합성물을 처벌 대상으로 규정한다. 여기서 '대상자'란 의사를 가진 실제 사람을 전제로 한다.

이 같은 법 규정에 따라 법원은 실존하는 사람의 의사에 반하는 영상물인지 여부를 처벌 근거로 삼고 있다.

실제 의정부지법 고양지원은 최근 텔레그램에서 불상의 여성 나체 합성 사진을 유포해 성폭력처벌법 위반 혐의로 기소된 30대 남성에게 무죄를 선고했다. 검찰은 "성적 욕망 또는 수치심을 유발할 수 있는 영상물"이라고 주장했지만, 재판부는 검찰이 제출한 자료만으로는 해당 합성물의 피해자가 실존 인물이라고 단정하기 어렵다고 봤다.

재판부는 "성폭력처벌법을 적용하기 위해서는 대상자의 의사에 반해야 한다"며 "편집·합성물의 원본 촬영물 또는 음성물의 대상인 '사람'은 동의 여부를 표시할 수 있는 실제 존재하는 사람이어야 한다"고 설명했다.

그러면서 "피고인이 유포한 사진은 원본이나 출처, 사진 합성 방법 등을 확인할 수 있는 자료가 없어 실제 인물의 얼굴에 합성했는지, 가상 인물에 합성했는지를 알 수 없다"며 "AI 발달로 인해 실제 인물과 구별하기 어려운 가상 인물의 이미지나 합성물을 누구나 쉽게 만들 수 있는 상황인 점을 고려하면, 피해자가 실제 존재한다고 단정하기 어려워 처벌하기 어렵다"고 판시했다.

하지만 전문가들은 가상 인물의 음란물이라도 사회에 심각한 영향을 미칠 수 있다고 우려한다. 성적 대상화를 정당화하고 사회 일반에 왜곡된 성 인식을 확산시킬 수 있다는 것이다.

이은의 성범죄 전문 변호사는 "AI 음란물은 피해자가 특정되지 않더라도 사회적 해악이 있다"며 "리얼돌 규제와 마찬가지로 사회 질서와 풍속을 해치는 행위로 보고 대응할 필요가 있다"고 조언했다.

입법 보완 움직임도 시작됐다. 허영 더불어민주당 의원은 지난달 11일 성폭력처벌법 일부개정법률안을 발의했다. 개정안은 실제 인물 여부와 관계없이 AI로 제작된 성적 영상물을 제작·합성하거나 반포·판매할 경우 최대 7년 징역형을 부과하도록 했다. 단순 소지·저장만으로도 3년 이하 징역형이 가능하다.

다만 표현의 자유 침해 논란은 남아 있다. 곽준호 법무법인 청 변호사는 "성범죄에는 피해자가 특정되는 경우와 사회 일반의 성 풍속을 해치는 경우가 모두 규율 대상이기 때문에 (발의 법안이) 기존 법 체계에 반한다고 볼 순 없다"면서도 "과도한 규제는 표현의 자유를 위축시킬 수 있어 입법 과정에서 균형을 잃지 않도록 주의해야 한다"고 말했다.