자율주행차가 도로 위 사물을 잘못 인식하도록 만드는 공격이 피지컬 AI 시대의 새로운 보안 위협으로 떠오르고 있다. 일반적으로 해킹은 컴퓨터 시스템에 침투해 코드를 변조하는 것으로 생각하지만 피지컬 AI 시대의 모빌리티 보안은 다르다.
코드 한 줄 건드리지 않고 스티커 한 장, 빛 한 줄기로 AI의 눈을 속여 치명적인 오작동을 일으키는 적대적 공격(Adversarial Attack)이야말로 모빌리티 보안이 맞닥뜨린 가장 위협적이고 새로운 해킹 형태다.
기존 사이버 해킹이 차량 내부 통신망이나 소프트웨어 취약점을 뚫고 들어왔다면 피지컬 AI 보안 공격은 외부 환경을 조작해 카메라ᆞ라이다(LiDAR) 등 센서 수집 데이터를 직접 교란한다. AI가 센서가 수집한 정보를 잘못 인식하도록 만드는 방식이다. 차량 소프트웨어에 문제가 없더라도 센서가 잘못된 정보를 받아들이면 AI의 판단이 틀어지고 결국 차량의 안전까지 위협할 수 있다.
이러한 공격이 실제 차량의 센서 인식에 영향을 미칠 수 있다는 사실은 한 연구에서도 확인됐다. 2024년 중국 칭화대학교 연구진이 발표한 자료에서는 차량에 특수한 적외선 공격 스티커를 부착해 적외선 카메라의 차량 인식을 교란하는 실험이 진행됐다. 연구진이 실제 메르세데스-벤츠 A200L 차량을 대상으로 실험한 결과, 공격 스티커를 부착한 차량을 객체 탐지기가 인식하지 못하도록 만드는 공격 성공률이 91.49%에 달했다. 센서가 수집하는 정보 자체를 조작해 AI의 인식을 흔들 수 있다는 점에서 피지컬 AI 보안의 새로운 위협 가능성을 보여준다.
보안업체 맥아피 연구소의 실험에서는 제한속도 시속 35마일(약 56km/h) 표지판의 숫자 3 가운데에 5cm 길이의 검은 테이프 한 조각을 살짝 붙였을 뿐인데 차량 인식 시스템이 이를 시속 85마일(약 136km/h)로 잘못 인식해 지나치자마자 즉시 급가속했다.
악의적인 공격이 아닌 환경적 요인조차 AI에게 착시를 일으켜 사고로 이어지는 사례도 보고됐다. 2022년 11월 미국 캘리포니아주 베이브릿지 구간에서는 테슬라 차량이 FSD(Full Self-Driving) 주행 중 갑자기 급제동을 걸면서 후속 차량 8대가 연쇄 추돌하는 참사가 발생했다. 전문가들은 이러한 유령 제동 현상의 주요 원인 중 하나로 교량 구조물의 짙은 그림자나 햇빛 반사 등으로 인한 AI 센서의 시각적 착시를 지목한다.
이 같은 신종 교란 공격을 막기 위한 글로벌 차원의 움직임도 전방위로 확산하고 있다. 미 국방고등연구계획국(DARPA)의 AI 기만 공격 방어 프로젝트인 GARD와 국립표준기술연구소(NIST)의 머신러닝 보안 프레임워크를 필두로 주요 정부 기관들은 AI 시각 착시 공격에 견디는 적대적 학습(Adversarial Training) 및 데이터 무결성 검증 체계를 마련 중이다.
유럽연합(EU) 역시 EU AI Act를 통해 고위험 AI의 '물리적 환경 안전성 및 공격 방어력 인증'을 의무화했다. 아울러 완성차 업계는 카메라·라이다ᆞ레이더의 신호를 실시간 비교하는 센서 교차 검증 기술을 도입하고 있다. 국제표준화기구(ISO)는 차량용 AI 안전 표준인 ISO/PAS 8800과 사이버보안 표준 ISO/SAE 21434를 제정하여 알고리즘 및 물리적 착시 대응력을 양산 승인의 필수 요건으로 규제화하고 있다.
이러한 피지컬 AI 대응 패러다임의 중심에서 피지컬 AI 보안 전문기업 아우토크립트의 기술력이 실질적인 대안을 제시하고 있다. 아우토크립트는 차량 설계 단계부터 보안 내재화(Security by Design)를 기반으로 센서 착시로 유발되는 2차 해킹 위험을 차량 내부와 외부에서 이중 삼중으로 차단한다.
차량 내부(AutoCrypt IVS)에서는 인위적 교란으로 오염된 센서 신호가 급제동이나 급가속 등 이상 제어 명령으로 이어질 때 침입탐지시스템(IDS/IPS)이 이를 실시간 차단한다. 동시에 차량 외부(AutoCrypt V2X)에서는 미국 IEEE 1609.2 및 유럽 C-ITS 등 국제 SCMS/CCMS 보안 규격을 충족하는 V2X PKI(공개키 기반 구조) 암호화 인증 기술을 제공한다.
아우토크립트는 양산 전 시뮬레이션 단계에서 가짜 신호나 변형 데이터를 주입해보며 물리적 착시 대응력을 측정하는 Fuzz Testing 및 침투 테스트인 펜테스팅(Pentesting) 도구를 제공할 뿐만 아니라 앞서 언급한 국제 안전ᆞ보안 표준은 물론 UN R155(사이버보안 관리체계)까지 엄격한 글로벌 양산 승인 규제를 완벽히 충족하도록 돕는다.
이처럼 완성차 업계의 센서 교차 검증 알고리즘과 아우토크립트의 V2X 통신 인증 및 차량 내부 보안망이 결합하면서 피지컬 AI 보안은 물리적 착시로 인한 오작동 위험을 낮추고 사고 발생 가능성을 최소화하는 실질적인 다중 방어 체계를 갖추어 가고 있다.
