이흥규 KAIST 연구팀, 딥페이크 막는 기술 개발

▲이흥규 교수팀이 밝힌 사진 편집 변형 탐지 결과. (사진제공=KAIST)

인공지능(AI)으로 딥페이크를 잡는 기술이 KAIST 연구실에서 탄생했다.

한국과학기술원(KAIST)은 이흥규 전산학부 교수 연구팀이 인공신경망을 이용해 디지털 형태의 사진 변형 여부를 광범위하게 탐지하는 실용 소프트웨어 ‘카이캐치(KAICATCH)’를 개발했다고 3일 밝혔다. 논문 발표 수준에만 머물러 있던 사진과 영상자료의 위ㆍ변조 탐지기술을 실용화 단계로 끌어 올린 것이다.

최근 딥페이크(deepfake)를 포함한 각종 위ㆍ변조 영상이 사회문제로 대두되고 있으나 위ㆍ변조 여부를 직접 확인할 수 있는 객관적인 분석 도구가 없었다. 딥페이크란 인공지능을 활용해 특정인의 얼굴와 목소리, 행동까지를 그대로 재현한 위조 영상물을 일컫는다. 딥페이크 여부를 확인하기 위해 불확실한 팩트 체크 작업이나 정황 판단 등에 의존해야 해 문제가 불거지고 있었다.

특히 기존의 디지털사진 포렌식 기술은 다양한 변형 유형에 대응하거나 신뢰도를 확보하기가 어려웠다. 제한된 형식과 알려진 특정 변형에 대해서는 만족할 만한 탐지 성능을 보여주지만, 변형들이 가해진 것인지 알 수 없는 임의의 디지털사진을 분석해야 하는 경우 판독의 정확성과 신뢰도가 크게 떨어질 수밖에 없었다.

KAIST에 따르면 이흥규 교수 연구팀이 개발한 기술은 국내 최초이자 세계 두 번째다. 연구팀은 일반인을 대상으로 2015년 6월부터 ‘디지털 이미지 위ㆍ변조 식별 웹서비스’를 통해 수집한 30여만 장의 실 유통 이미지 데이터와 특징기반ㆍ신경망 기반의 포렌식 영상 데이터, 딥페이크와 스테고 분석을 위한 대량의 실험 영상 자료를 분석했다.

이 교수팀은 특정 변형을 탐지하는 개개의 알고리즘을 모아놓은 기존 기술의 한계를 극복하는 기술에 주목했다. 잘라 붙이기ㆍ복사 붙이기ㆍ지우기ㆍ이미지 내 물체 크기 변화와 이동ㆍ리터칭 등 일상적이면서 자주 발생하는 변형 중 주로 발생하는 변이들을 분류했다. 그 결과 변형의 유형을 특정하지 못하는 상태에서도 변형 발생 여부를 판단, 탐지 신뢰도를 크게 높였다.

이 연구팀은 이어 BMPㆍTIFㆍTIFFㆍPNG 등 무압축ㆍ무손실 압축을 포함해 50여 개의 표준 양자화 테이블과 1000여 개가 넘는 비표준화된 양자화 테이블에 기반한 JPEG 이미지들도 포괄적으로 처리하는 기술을 포함한 실용 소프트웨어를 개발하는 데 성공했다.

이 교수팀이 개발한 ‘카이캐치’는 전통적인 영상 포렌식 기술과 스테그 분석 기술 등 픽셀 단위의 미세한 변화를 탐지하는 기술을 응용했다. ‘이상 영역 추정 엔진’과 ‘이상 유형 분석 엔진’ 두 개의 인공지능 엔진으로 구성됐으며 이를 기반으로 결과를 판단하고 사진에 대한 다양한 변형 탐지 기능과 사진의 변형 영역 추정 기능 등을 함께 제공한다.

이 교수는 “다양한 변형 시 공통으로 발생하는 픽셀 수준에서의 변형 탐지와 인공지능 기술을 융합한 영상 포렌식 기술을 카이캐치에 담았는데 이 기술은 특히 임의의 환경에서 주어진 디지털사진의 변형 여부를 판단하는 데 탁월한 성능을 보인다”며 “향후 각종 편집 도구들의 고급 기능들에 대한 광범위한 탐지 기능을 추가하는 한편, 현재 확보한 실험실 수준의 딥페이크 탐지 엔진과 일반 비디오 변형 탐지 엔진들도 실용화 수준으로 발전시켜 카이캐치에 탑재하겠다”라고 말했다.

한편 이번 연구는 KAIST 창업기업인 디지탈이노텍과 산학협력 연구로 수행됐다.