위기감 확산에 이례적 공조
중국의 AI 기술·시장 탈취 우려↑
‘안전장치 무력화’ 가능성도
6일(현지시간) 블룸버그통신이 인용한 소식통에 따르면 이들 3개사는 2023년 마이크로소프트(MS)와 함께 설립한 비영리단체 ‘프런티어모델포럼’을 통해 이른바 ‘적대적 증류(Adversarial Distillation)’ 시도를 탐지하고 있다.
적대적 증류는 상위 AI 모델의 답변을 데이터로 삼아 새로운 하위 모델을 훈련하는 기법이다. 중국 기업 딥시크가 작년 1월 ‘R1’ 추론 모델을 공개하며 큰 주목을 받기 시작했다. 미국은 중국과 러시아 같은 적대 국가의 기업들이 허가 없이 이 기술을 활용해 AI 모델을 개발하고 있다고 주장하고 있다.
블룸버그는 “경쟁 관계에 있는 이들 기업 3곳의 이례적 협력은 중국에서 자사 제품을 모방한 AI를 만들어 고객을 빼앗고, 나아가 국가안보 위협까지 초래할 수 있다는 미국 AI 기업들의 우려가 얼마나 심각한지를 보여준다”면서 “한 소식통은 미국 정부는 무단으로 이뤄지는 증류로 인해 실리콘밸리 기업들이 매년 수십억 달러의 이익을 잃고 있는 것으로 추정했다”고 전했다.
실제 오픈AI는 2월에 미 의회에 딥시크가 자사 제품의 오용을 막기 위한 강화된 조치에도 점점 더 정교한 방식으로 모델 결과를 추출하고 있다고 경고했다. 또 딥시크가 자사의 차세대 챗봇 개발을 위해 적대적 증류에 의존하고 있다고 의혹을 제기했다.
앤스로픽은 지난해 중국 주요 기업들의 자사 챗봇 ‘클로드’ 사용을 차단했으며, 올해 2월에는 딥시크, 문샷, 미니맥스 등 중국 AI 연구소 3곳이 적대적 증류를 통해 모델 성능을 무단으로 추출했다고 비판했다. 구글도 유사한 시도가 최근 급증하고 있다고 밝혔다.
미국 AI 기업들은 이 같은 모델 탈취가 지속될 경우 국가 안보에도 중대한 위협이 될 수 있다고 보고 있다. 중국이 미국의 AI 모델을 모방해 기술 격차를 좁히는 데 그치지 않고, 해킹이나 생화학무기 개발 등을 제한하기 위해 기업들이 설정한 안전장치까지 증류 과정에서 무력화될 수 있다는 설명이다.
