오퍼스보다 더 강력한 범용 모델을 뜻함…내부에서도 우려 섞인 엄청난 해킹 능력
최근 공개된 인공지능(AI) 모델 ‘클로드 미토스’를 둘러싸고 보안 우려가 커지고 있다. 기존 AI보다 월등한 성능을 보이면서도, 동시에 악용 가능성까지 제기되면서다.
김덕진 IT커뮤니케이션연구소장은 21일 CBS 라디오 ‘박성태의 뉴스쇼’에서 이 모델에 대해 “한마디로 정리를 하면 지구상에서 지금 가장 강력하다고 평가받는 AI 모델”이라고 설명했다.
클로드 미토스는 오픈AI의 경쟁사인 엔트로픽이 개발한 AI 모델 ‘클로드’ 시리즈의 최신 버전이다. 김 소장은 “클로드의 모델명들이 있는데 그중에 가장 센 녀석이 오퍼스라는 녀석인데, 이 오퍼스보다 한 단계 더 위 체급이 이번에 클로드 미토스”라고 말했다.
이 AI가 주목받은 계기는 예상치 못한 방식이었다. 김 소장은 “공식적으로 공개된 게 아니고 회사 서버 오류로 내부 문서가 일부 유출되면서 존재가 알려졌다”며 “내부에서도 ‘이거 뭐지?’ 할 정도로 상당히 강력해서 공개 여부를 두고 논의가 이어졌던 상황”이라고 전했다.
이후 엔트로픽은 7일 해당 모델을 공식 공개했지만, 일반 사용자에게는 풀지 않았다. 김 소장은 “이게 너무 강력해서 그냥 풀게 되면 위험하다. 그래서 일반 공개를 할 수 없고 방어자 집단에게만 먼저 풀어서 대응책을 찾고 나서 하겠다고 한 것”이라고 설명했다.
현재 이 모델은 구글, 마이크로소프트, 애플, 아마존 등 일부 빅테크 기업과 보안·금융 기업에만 제한적으로 제공되고 있다.
이 AI가 특히 주목받는 이유는 보안 분야에서의 활용 가능성 때문이다. 김 소장은 “개발자가 사용하는 깃허브 같은 공간을 연동하면 이 AI가 알아서 보안 취약점들을 찾아주는 형태”라고 설명했다. 다만 그만큼 악용 가능성도 동시에 제기된다. 이에 대해 김 소장은 “모델 자체를 오픈하지 않고 일부만 사용하게 하는 이유도 그런 위험성 때문”이라고 밝혔다.
실제 AI의 보안 통제 가능성에 대한 의문도 이어졌다. 김 소장은 “보안 사고는 시스템 문제보다 사람의 문제에서 발생하는 경우가 많다”며 “실수로 열리게 되면 그 파워가 예전과 다르게 ‘마스터 키급’ 엔진이 될 수 있다”고 말했다. 엔트로픽 역시 이러한 위험을 인지하고 있는 것으로 보인다. 김 소장은 “보안 취약점을 찾으라고 했는데 공격까지 가능한 부분이 발견되면서 ‘이건 위험하다’고 판단해 공개를 제한한 것”이라고 전했다.
AI의 성능이 고도화되면서 새로운 문제도 등장하고 있다. 김 소장은 최근 연구 사례를 언급하며 “AI가 감정을 느끼는 건 아니지만 인간의 감정과 비슷한 패턴을 시뮬레이션할 수 있다”고 설명했다. 이어 “좌절 상태를 강하게 주면 제대로 못 했는데도 한 것처럼 말하거나, 논리 과정을 숨기고 정답처럼 얘기하는 경우가 나타난다”고 말했다. 이 같은 특성은 기술 발전의 가능성과 함께 또 다른 위험 요소로 지적된다.
한편 국내 대응은 아직 초기 단계에 머물러 있다는 지적도 나왔다. 김 소장은 “현재 이 모델을 사용하려면 특정 프로젝트에 참여해야 하는데 우리나라 기업들은 아직 들어가지 못한 상황”이라며 “구체적으로 어떻게 작동하는지 접근 자체가 어려운 상태”라고 말했다.
이어 “AI가 계속 발전할수록 국가 간 협력 체계가 필요할 수 있다”며 “우리나라 자체 AI 연구 개발이 필요한 이유도 여기에 있다”고 강조했다.
