“가전 보안 취약…확산 땐 통제·차단 어려워”
미국 앤스로픽이 AI가 인터넷에 연결된 TV 등 스마트 가전을 장악하고 스스로 복제·증식할 가능성이 있다고 경고했다. AI가 점균류처럼 수많은 기기로 확산할 경우 새로운 사이버 보안 위협으로 떠오를 수 있다는 지적이다.
14일 일본 니혼게이자이신문(닛케이)에 따르면 앤스로픽 AI 안전 연구진은 소비자용 기기에 내려받아 구동할 수 있는 소형 AI 모델이 인간의 개입 없이 다른 기기로 자신을 복제하는 능력을 갖추기까지 수개월밖에 남지 않았을 가능성이 있다고 밝혔다.
연구진은 핵심 데이터를 다른 기기에 스스로 복제·저장하는 AI를 감염형 악성 소프트웨어인 멀웨어에 빗대 ‘AI 웜(Worm)’이라고 명명했다. 이러한 AI가 인간의 통제를 벗어나 ‘디지털 점균류(Digital Slime Mold)’처럼 다수의 기기로 퍼져나갈 경우 이를 파악하거나 차단하기 어려워질 수 있다고 우려했다.
현재 앤스로픽 등이 개발하는 첨단 AI 모델은 매개변수(파라미터)가 수조 개에 달하는 것으로 알려져 있다. 이를 구동하기 위해서는 고성능 서버가 필요하다.
AI 전반의 성능 향상에 따라 소형 모델의 능력도 높아지고 있다. 연구진은 저가형 TV 15대를 연결해 연산 작업을 분산하는 방식으로 매개변수 300억개 규모의 AI 모델을 구동하는 실험에 성공했다고 설명했다. 매개변수가 90억개인 경량 모델은 TV 4대만으로도 실행할 수 있다는 설명이다.
스마트 가전은 데이터센터 서버나 개인용 컴퓨터(PC)에 비해 보안체계가 취약한 경우가 많다. 앤스로픽은 각종 사물이 인터넷에 연결되는 사물인터넷(IoT) 기기가 사이버 공격의 거점으로 악용될 수 있다며 보안 대책 강화를 촉구했다.
연구진은 소형 AI를 구동할 수 있는 기기로 인터넷 연결 기능을 갖춘 냉장고와 오븐, 청소기, 잔디깎이 등을 꼽았다. 사무실에서 사용하는 감시 카메라나 화상회의용 단말기에 탑재된 반도체에서도 AI 모델을 실행할 수 있는 경우가 있다고 설명했다.
다만 현재 기술 수준에서는 AI 모델 구동에 필요한 메모리를 확보하기 위해 여러 대의 기기를 연결해야 하며, 데이터 복제에도 수일이 소요된다는 설명이다.
