슈퍼 선거의 해 2024, AI 가짜 이미지‧영상도 횡행했다

▲버락 오바마 전 미국 대통령이 등장하는 가짜 동영상으로 만든 이미지. AP뉴시스

약 80개 국가와 지역에서 국가 단위의 선거가 치러진 2024년. 선거가 진행되는 많은 국가에서 인공지능(AI)으로 생성한 가짜 이미지와 음성을 변조한 가짜 동영상도 횡행했다. 선거 결과에 유의미한 영향을 미치지는 않았지만, AI의 선거 개입 가능성에 대한 우려가 현실화하고 있다고 최근 일본 니혼게이자이신문(닛케이)이 분석했다.

9월 대통령선거를 목전에 둔 스리랑카에서는 도널드 트럼프 미국 대통령 당선인이 ‘좌파’ 성향의 아누라 디사나야케 후보를 향해 “(그만이) 스리랑카를 되찾을 수 있다”고 말하면서 지지하는 영상이 퍼졌다. 이어진 대선에서 디사나야케 후보는 당선이 됐고, 11월 의회 선거에서도 디사나야케 후보가 소속된 좌파 성향 정치연합 국가인민동맹(NPP)이 압승했다.

그러나 현지 팩트체크 기관 ‘팩트크레센드’에 따르면 트럼프 당선인이 디사나야케 후보를 지지하는 영상은 AI 생성 가짜 동영상으로 추정됐다. 트럼프 당선인의 2017년 인터뷰 영상에 AI 음성 복제 기술을 이용해 발언을 조작해 만들어진 결과물이다.

6월 인도 총선 기간에도 AI를 이용한 것으로 추정되는 가짜뉴스가 확산했다. 대표 사례는 인도 유명배우 란비르 싱의 음성을 변조한 동영상으로, 나렌드라 모디 총리에 대한 칭찬을 비판으로 바꾸는 등 유명인의 인지도를 악용해 유권자의 결정에 영향을 미치려 했던 사례다. 당시 인도 현지 검증기관이 선거 기간 검증한 SNS 콘텐츠 중 2%는 AI 생성물으로 확인됐다.

1월 대만 총통 선거 전에도 음성 변조 영상이 퍼졌고, 일본에서도 중의선 선거를 앞둔 10월 중순 기시다 후미오 전 총리가 특정 의원의 낙선을 촉구하는 동영상이 유튜브에 올라왔는데 이 역시 AI를 이용해 만든 영상이었다. 이외에도 인도네시아 파키스탄, 방글라데시 또 한국에서도 이같인 콘텐츠가 퍼져 아시아에서는 최소 8개 국가 및 지역이 AI 위협에 노출됐다.

미국과 유럽에서도 마찬가지다. 미국 대선에서는 트럼프 당선인이 직접 AI가 생성한 것으로 추정되는 이미지를 게시해 선거전에 활용했고, 8월에는 자신의 엑스 계정에 해리스 부통령이 소련 국기를 모방한 깃발이 게양된 연설대에 서 있는 이미지를 게시하기도 했다.

AI 기업들은 대응에 나섰다. 오픈AI는 대선 투표일까지 트럼프 당선인과 해리스 후보 등의 딥페이크 이미지를 생성하려는 25만 건 이상의 요청을 거부했다. 영국 앨런튜링연구소는 AI가 미 대선에 미친 영향에 대해 “선거 결과를 조작했다는 결정적인 증거는 발견되지 않았지만, 토론에 영향을 미치고 유해한 내러티브를 확산시켜 정치적 분열을 조장했다”고 평가했다.

유럽연합(EU) 27개 회원국에서 6월 실시된 유럽의회 선거에서도 일부에서 허위 정보가 퍼졌다. EU 집행위원회(EC)에 따르면 투표 전 몇 주간 팩트체크 된 가짜뉴스 중 AI가 생성한 콘텐츠가 약 4%를 차지했다.

특히 이미지 조작뿐만 아니라 동영상 조작까지 쉬워진 만큼 AI 기술을 더 경계해야 한다는 지적이 나오고 있다. 일본 국립정보학연구소(NII)의 에치젠 이사오 교수는 “동영상은 이미지보다 주목받기 쉽다”면서 “동영상 생성 모델의 기술 발전으로 가짜 동영상이 정교해져 위협이 커질 수 있다”고 경고했다.