대검, '딥페이크 이미지' 분석 시스템 개발..."디지털 범죄 대응"

▲서울 서초구 대검찰청. (연합뉴스)

검찰이 인공지능(AI) 발전으로 정교해지는 이미지 합성‧조작 기술과 그에 따른 디지털 범죄에 대응하기 위해 이미지 분석 시스템 구축에 나선다.

29일 법조계에 따르면 대검찰청 법과학분석과는 전날 ‘디지털 사진파일의 위‧변조 탐지 기법 연구’ 용역을 발주했다. 대표적인 딥러닝 기반의 위‧변조 기술을 파악하고 분석 시스템을 개발해 디지털 기술을 악용한 신종 범죄에 신속히 대응하겠다는 취지다.

검찰이 딥페이크 기술 탐지를 위한 연구에 나선 건 이번이 처음이다. 딥페이크(Deepfake)란 딥러닝(Deep Learning)과 페이크(Fake)의 합성어로, 인공지능(AI)을 활용해 특정 인물의 얼굴 등을 합성하는 기술을 말한다. 최근 딥페이크 기술이 발전하면서 가짜뉴스, 지인 능욕 등의 범죄 유형이 증가하고 있다.

딥러닝 기반의 합성 및 조작 기법은 전문가조차도 위‧변조 여부를 명확히 분별하기 어려운 게 현재 실정이다. 검찰 관계자는 “딥페이크 기술을 탐지할 수 있는 기능의 장비는 구매해 사용하고 있다”며 “국내 사정에 맞춰 필요한 부분들을 보충하기 위해 연구용역을 발주한 것”이라고 설명했다.

검찰은 웹 크롤링 및 알고리즘 구동을 통해 1만 장 이상의 이미지 데이터를 모은다는 계획이다. 이는 이미지 샘플이 많을수록 정확도가 높아지는 AI 특성을 고려해 최소 기준을 잡은 것이다. 웹 크롤링은 인터넷 웹사이트에서 정보를 자동으로 수집하는 기술을 뜻한다.

검찰은 수집한 이미지로 데이터베이스를 구축해 테스트를 진행하고, 딥페이크 이미지를 탐지할 수 있는 자체 AI 개발을 목표로 하고 있다. 이 과정에서 기존 데이터를 모방해 새로운 데이터를 만드는 생성적 적대 신경망(GAN)과 이미지를 연속으로 학습해 새롭게 그려내는 디퓨전(Diffusion) 기반의 알고리즘이 제작한 이미지를 활용한다. 알고리즘으로 만든 이미지와 원본 이미지를 구분하는 AI 학습을 위한 것이다.

검찰은 새로운 딥페이크 알고리즘의 등장에 대비할 수 있는 학습 방법론도 마련할 방침이다. 또 연구 결과를 검증하기 위해 국제학술지에 최소 1개 이상의 논문을 투고하거나 국제 학술 발표도 염두에 두고 있다.

검찰은 “이번 연구를 통해 일반 감정 기법으로 분석하기 어려운 딥페이크와 같은 사진파일의 위‧변조 탐지율을 향상시킴으로써 감정의 신속성뿐만 아니라 감정 결과의 정확도 및 신뢰도도 높일 수 있을 것”이라며 “추후 다양한 영상의 위‧변조 분석 기법을 연구‧개발할 수 있는 토대가 마련될 수 있을 것으로 기대한다”고 밝혔다.