기존 신고 처리시간 3시간에서 6분으로 단축⋯정확도도 개선
온라인상에 유포된 성착취물 탐지부터 삭제까지 걸리는 시간을 획기적으로 단축시킨 서울시의 '디지털성범죄 AI 삭제지원' 기술이 전국으로 확산된다.
2일 서울시는 이달 3일 첫 번째 무상 기술이전 계약을 시작으로 기술 전수를 원하는 전국의 정부기관, 지자체, 기업 등에 '디지털 성범죄 AI 삭제지원' 기술을 무상으로 보급한다고 밝혔다.
디지털 성범죄 AI 삭제지원 기술은 인공지능이 24시간 실시간 모니터링을 통해 각종 불법 사이트, SNS상의 피해 영상물을 자동으로 검출해 보다 빠르게 영상물을 삭제하고 재유포를 막는다. 이 기술은 2023년 정부혁신 우수사례 대통령상 대상, 2024년 UN공공행정상 대상을 받았으며 기술 특허 등록까지 획득했다.
기술의 핵심은 기존에 육안으로 찾아내 신고하는 방법으로 걸렸던 처리시간이 3시간에서 6분으로 단축되고 정확도도 200~300% 개선된다는 점이다. 서울시를 제외한 전국의 디지털 성범죄 피해지원 기관에서는 여전히 상담원들이 피해영상물을 수작업으로 탐지하고 있다. 서울시는 AI 삭제지원 기술의 무상 보급으로 기관당 약 1억8000만원의 예산 절감 효과가 있을 것으로 보고 있다.
서울시는 이번 AI 기술 무상보급을 특정 기관이나 일부 지역에 한정하지 않고, 공익 목적에 한해 정부기관과 지자체 등에서 폭넓게 활용할 수 있도록 지원할 계획이다. 또한 국경을 넘어 유포되는 디지털성범죄의 특성을 고려해서 국내뿐 아니라 해외 비영리 기관과도 협력할 예정이다.
AI 기술 도입 이후 '서울 디지털 성범죄 안심지원센터'의 삭제지원 건수가 2022년 2509건에서 2025년 1만5777건으로 4년 만에 6배 이상 증가했다. AI는 사람이 찾지 못하는 불법 사이트까지 새롭게 찾아내 신규 사이트에서 발견한 피해 영상물 삭제지원 건수가 크게 늘었다.
AI 도입으로 딥페이크 영상물 탐지도 가능해졌다. 기존에는 피해자가 원본을 갖고 있어야 같은 영상을 찾을 수 있었으나 AI는 원본이 없어도 비디오·오디오·텍스트 3종 분석으로 복제본까지 식별해 탐지한다. 편집되거나 모자이크 처리된 변형본 영상도 신체·언어·움직임 패턴을 학습해 피해 영상을 식별한다.
서울시는 삭제 처리된 후 재업로드 된 영상도 재탐지가 가능한 점 역시 획기적이라고 설명했다. 최근 디지털 성범죄는 가해자가 금요일 밤에 영상물을 올리고 주말에 삭제하는 등 지능형 범죄로 진화하는데 AI를 통해 24시간 빠르게 재탐지할 수 있게 됐다.
오균 서울연구원장은 “이번 AI 기술은 전국 최초로 특허를 받은 혁신 기술로, 서울연구원이 개발한 공공기술을 사회적 가치 실현을 위해 무상으로 개방하는 첫 사례”라며 “연구기관이 개발한 기술이 전국의 피해자 보호 현장에서 실질적 변화를 만들어낼 수 있어 매우 뜻깊다”라고 밝혔다.
마채숙 서울시 여성가족실장은 "이번 서울시의 AI 기술 무상보급은 피해자 보호를 최우선으로 고려해 내린 결단으로서, 서울시가 개발한 피해자 보호 기술을 공공의 안전을 위한 공공재로 확장한다는 점에서 큰 의미가 있다"며 "디지털 성범죄 AI 삭제기술 무상보급을 통해 전국 어디서나 동일한 수준의 신속하고 실질적인 지원을 받을 수 있게 되기를 기대한다"고 말했다.
