
17일 구글 위협 인텔리전스 그룹(GTIG)은 이 같은 내용을 담은 ‘AI 위협 추적 보고서’를 발표했다고 밝혔다.
GTIG와 맨디언트는 사이버 범죄와 첩보, 여론 공작에 AI를 활용한 사례를 분석했다. 공격자들은 AI에 명령을 입력해 작업을 시키는 방식에서 벗어나 여러 AI 에이전트가 작업을 나눠 수행하는 도구를 활용하고 있다.
GTIG는 러시아어 기반 도구로 구성된 AI 프레임워크 ‘exploit_agent’에서 사람 개입 없는 취약점 악용 사례를 처음 확인했다고 설명했다. 이 도구는 보안 패치 적용 전후의 코드를 지속적으로 비교해 취약점을 찾고 공격 코드를 자동 개발했다.
이는 패치가 배포됐지만 시스템에 적용되지 않은 ‘엔데이(N-day) 취약점’을 겨냥하는 방식이다. 공격자가 패치 내용을 분석해 공격 수단을 만드는 과정이 자동화되면서 보안 업데이트가 늦은 서버가 공격에 노출될 수 있다는 설명이다.
여론 공작에서는 구글 제미나이 API를 활용해 가짜 계정 10만 개 이상을 관리하는 플랫폼을 구축한 사례가 확인됐다. 공격자들은 클라우드에서 가상 스마트폰을 대량 운영하는 ‘클라우드 폰 팜’으로 계정을 관리했다.
이 플랫폼은 생성한 콘텐츠가 실제 촬영물처럼 보이도록 스마트폰 카메라 특유의 결함이나 왜곡을 모방하는 기능도 갖췄다. 보고서는 국가 지원 조직과 여론 공작 대행업체 등이 AI로 콘텐츠를 대량 제작하고 여러 플랫폼에 유포하는 작업을 자동화하고 있다고 설명했다.
여러 AI 에이전트를 활용한 침투 사례도 포착됐다. 한 공격자는 미국 항공우주 산업을 겨냥한 침투 과정에서 ‘케언(CAIRN)’이라는 도구를 사용했다. 보고서는 공격자들이 이런 도구로 다단계 침투에 걸리는 시간을 줄리고 공격 규모를 늘리고 있다고 분석했다.
북한 연계 공격자들은 AI로 만든 가상 인물을 활용해 암호화폐 기업을 표적으로 삼았다. 일부 가상 인물에서는 구글의 AI 워터마크인 ‘신스ID’가 확인됐다. 자율형 코딩 도우미의 설정을 조작하려는 시도도 포착됐다.
중국 연계 공격자들이 AI로 탈취한 데이터를 분석·가공해 첩보 보고서를 만드는 활동도 확인됐다.
기업의 AI 이용 권한을 훔쳐 수익을 내는 ‘LLM재킹’도 이어졌다. 공격자들은 침투한 기업 환경에서 거대언어모델(LLM) 인증정보와 클라우드 자원을 탈취한 뒤 지하 중개 서비스를 통해 AI 모델 접근 권한을 재판매했다.
구글은 제미나이 악용을 탐지·차단하고 관련 계정을 비활성화했다고 밝혔다. 이번 분석 결과를 토대로 서비스의 보안 안전장치도 강화했다고 설명했다.




