AI 보안 위협에 맞서 연구 체계화
성능 만큼 '안전ㆍ보안' 기술 중요
AI 신뢰성, 향후 경쟁력 핵심될 것
인공지능(AI)의 급격한 발전으로 보안 위협이 고도화되는 가운데 고려대학교가 AI보안연구소를 설립한다. AI가 산업을 넘어 국가 안보 영역까지 확장되는 상황에서 보안 연구를 체계화하겠다는 취지다. 이상근 고려대 정보보호대학원 교수가 초대 연구소장을 맡으며 정보보호대학원 소속 교수 8명을 주축으로 출범한다. 연구소는 3월 중 개소식을 열고 본격적인 활동에 들어갈 예정이다.
24일 고려대 정운오IT교양관에서 만난 이 교수는 “스마트폰처럼 모든 사람이 AI를 사용하는 시대가 올 것”이라며 “향후 AI 1등을 가르는 결정적 요소는 보안”이라고 말했다. 이 교수는 2018년 국내에서 처음으로 AI 보안 연구를 시작한 인물 중 한 명이다. 당시 그는 입력값을 미세하게 조정한 패치로 AI의 인식을 왜곡하는 ‘적대적 공격’에 대해 연구했다.
이 교수는 2020년 고려대 부임 때부터 학내에 AI 보안 연구를 집약할 전담 조직이 필요하다고 강조해왔다. AI보안연구소는 6년 만의 결실이다. 향후 타 학과 교수들도 참여하는 개방형 구조로 확장할 계획이다. 의료·자율주행 등 AI 활용 분야별로 요구사항이 크게 다른 만큼 도메인 전문가와 협업해 AI의 위험 요소를 체계적으로 연구하겠다는 구상이다. 표준화 논의의 근간이 될 연구 보고서를 매년 발간하는 것이 목표다.
AI가 고도화될수록 새로운 방식의 보안 취약점은 끊임없이 나올 수밖에 없다. 대형언어모델(LLM) 가드레일을 우회하는 프롬프트 공격, 롤플레잉 기법 등을 넘어 데이터 오염·백도어·모델 복제 등 다양한 공격 유형이 현실화됐다. 이 교수는 “공격자가 AI를 활용하는 시대에는 방어 역시 AI로 자동화돼야 한다”며 “기계의 속도 공격에 대응할 기술이 필요하다”고 강조했다.
AI의 발전은 보안과 안보의 경계도 허물고 있다. AI 기반 공격이 자동화되면서 위협이 전방·후방 구분 없이 확산되고 있기 때문이다. 이 교수는 “해외는 사이버안보를 단일 체계로 다루는 반면 우리는 군과 민간으로 대응 체계가 분절돼 있다”며 “국가 핵심 인프라를 겨냥한 사이버 공격이 민간 기업을 경유해 발생할 가능성이 높은 만큼 국가 차원의 통합 대응 체계가 필요하다”고 지적했다.
이 교수는 정부의 ‘AI 3대 강국’ 도약 전략에 대해서도 재검토가 필요하다고 봤다. 미국과 중국이 ‘슈퍼 인텔리전스’ 경쟁을 벌이는 상황에서 성능 지표 중심의 순위 경쟁은 실익이 제한적이라는 판단이다. 그는 “제프리 힌튼 교수가 AI를 ‘핵무기’에 비유한 것처럼 슈퍼 인텔리전스 경쟁은 미·중에게 사활이 걸린 문제”라며 “두 강대국의 패권 경쟁 구도 속에서 3등 전략이 실효성 있는지 고민해야 한다”고 말했다.
대신 이 교수는 ‘성능’이 아닌 ‘신뢰’ 경쟁으로 방향을 전환해야 한다고 제안했다. 그는 “안전은 설계한 대로 동작하는 것이고, 보안은 공격을 받아도 정상 동작을 유지하는 것”이라며 “두 요소를 포괄하는 신뢰성이 향후 AI 경쟁력의 핵심이 될 것”이라고 했다. 공공기관과 산업 현장에서 안심하고 사용할 수 있는 AI를 만드는 것이 현실적인 생존 전략이라는 설명이다.
AI보안연구소의 설립 배경도 이런 전략의 연장선상에 있다. 이 교수는 독일의 연구소 ‘프라운호퍼’, 표준화협회(DIN), 인증기관 ‘TUV’ 사례를 언급하며 “연구소 보고서를 기반으로 표준안이 마련되고 인증 제도로 이어지는 선순환 구조를 만들고 싶다”며 “AI보안연구소가 AI 보안 표준 논의를 선도하겠다”는 포부를 밝혔다.
