"거짓일 확률 67.28%"…딥브레인AI, 딥페이크 탐지 솔루션 공개

▲생성형AI 전문기업 딥브레인AI는 5일 서울 삼성동 코엑스에서 '생성형 AI 포럼(GENERATIVE AI FORUM) 2024'를 열었다. 사진은 AI 디텍터 시연 화면. (이은주 기자 letswin@)

'거짓(Fake)일 확률 67.28%'.

딥브레인AI의 'AI 디텍터(Detector)'는 카멀라 해리스 미국 부통령과 일론 머스크 테슬라 최고경영자(CEO)가 함께 있는 사진의 딥페이크 가능성에 대해 이같이 탐지했다. AI 디텍터는 페이스 스왑(AI를 통해 얼굴을 원하는 인물로 교체하는 기술)의 가능성을 90.76점으로 높게 봤다.

생성형 AI 전문기업 딥브레인AI는 5일 서울 강남구 삼성동 코엑스에서 '생성형 AI 포럼(GENERATIVE AI FORUM) 2024'를 열었다. 이날 딥브레인AI는 포럼에서 딥페이크 자동 탐지 솔루션을 공개했다. 딥페이크는 인공지능(AI)을 활용해 특정 인물의 얼굴을 음란물에 합성하는 기술이다.

딥브레인AI의 'AI 디텍터'는 이미지, 오디오, 동영상 등을 픽셀 단위로 분석해 합성 및 조작 여부를 구별해낸다. 원본 영상도 확인할 수 있다. 이를 위해 딥브레인AI는 한국인 데이터 100만 개와 아시아계 인종 데이터 13만 개 등 총 520만 개 데이터를 학습시켰다. 장세영 대표는 "딥페이크 탐지 솔루션을 위해 4~5년 간 연구를 해왔다"고 말했다.

딥페이크 탐지 솔루션은 가상 얼굴을 생성하는 ‘페이스 제너레이션’, 특정인의 얼굴로 교체하는 ‘페이스 스왑’, 목소리를 바꾸는 ‘립싱크’ 등을 잡아낸다. 음성의 주파수와 지연 시간 등을 고려해 조작된 음성을 감지하는 식이다.

이정수 이사는 "초중고 대학생 일반인 대상으로 딥페이크 디지털 성범죄가 수면 위로 떠오르고 있다"며 "딥페이크 자동 탐지 솔루션 출시를 통해 사회적 이슈를 해결하는 데 적극적으로 동참하겠다"고 말했다.

앞으로 딥브레인AI는 딥페이크 탐지 기술을 서비스형 소프트웨어(SaaS)로도 확대 제공한다는 계획이다.

이날 딥브레인AI는 AI 휴먼(AI Human)으로 생성한 AI 윤봉길 의사와 VR로 제작한 윤봉길 의사 기념관도 선보였다. AI 휴먼은 립싱크 모델을 사용해 인간과 유사한 가상 인간을 생성하는 솔루션이다.

포럼에선 '금융, 보험, 교육 등 다양한 영역에서의 비즈니스 협업 사례'와 '딥페이크 자동 탐지 솔루션' 등을 발표했다. 비즈니스 협업 사례에선 △AI가 여는 새로운 기회 with Shinhan Bank(신한은행) △AI 스튜디오 & AI 명함 도입 현황 및 사례 발표(KB손해보험) △딥페이크 탐지 기술 동향(연세대학교) △오픈이노스테이지 ON5 성과 공유(교보생명) △AI휴먼을 활용한 기가지니 인사이드와 챗GPT 연동 상용 사례(KT)가 공유됐다.

장세영 딥브레인AI 대표는 “딥페이크 탐지 솔루션, AI 휴먼 등 혁신 기술을 바탕으로 글로벌 경쟁력이 입증된 딥브레인AI의 실제 비즈니스 협업 사례를 통해 많은 이들과 인사이트를 공유하고자 한다“고 말했다.