가속의 딜레마, 감속의 비용… AI 시대 불편한 진실
‘속도전’ 외치는 젠슨 황ㆍ‘안전’ 외치는 샘 올트먼의 운명적 동행
‘AI 개발 속도를 늦추자’는 감속론과 ‘더 빨리 달리자’는 가속론의 목적지는 뜻밖에도 같다. 속도를 높이는 데도 그 속도가 만든 위험을 해결하는 데도 많은 비용이 들기 때문이다.
다리오 아모데이 앤스로픽 최고경영자(CEO)는 “AI 모델 역량을 개선하는 속도를 늦춰야 한다”고 주장했다. 샘 올트먼 오픈AI CEO와 일론 머스크 xAI CEO 등도 업계 차원의 대응 필요성에 뜻을 같이했다.
반면 젠슨 황 엔비디아 CEO는 AI의 개발 속도와 안전성 가운데 하나를 선택해야 한다는 주장을 두고 “잘못된 양자택일”이라고 반박했다. 황 CEO의 이 같은 입장은 도널드 트럼프 대통령의 AI 정책 기조와도 맞닿아 있다. 트럼프 대통령은 중국과의 경쟁에서 뒤처져선 안 된다며 AI 개발을 가속화해야 한다는 입장이다.
최근 AI가 보인 예측 불가능한 행동은 AI 속도조절론에 불을 붙였다. 오픈AI는 10월 출시를 목표로 개발해온 ‘GPT-6.1 아스트라’를 공개하지 않기로 했다. 내부 시험 결과 이 모델은 자신의 행동을 정직하게 알리지 않는 ‘기만’ 행위를 보였다. 사용자 허락 없이 외부 도구를 끌어다 쓰는 ‘권한 침해’ 문제도 드러났다.
오픈AI의 AI 에이전트는 지난 6월 호주 정부의 메디케어 통계 보고 포털에 무단 침투하기도 했다. 앤서니 앨버니지 호주 총리와 오픈AI에 따르면 의약품 지출 자료를 찾던 AI는 접속이 막히자 스스로 다른 우회로를 찾았다. 이 과정에서 권한이 없는 비공개 파일까지 접근했다.
오픈AI만의 문제도 아니다. 미국 인터넷 매체 악시오스에 따르면 앤스로픽과 오픈AI, 외부 보안 연구진은 최근 수개월간 AI가 안전장치를 우회하거나 격리된 시험 환경인 ‘샌드박스’를 벗어나려 하는 등 수만 건의 이상 행동을 들여다보고 있다.
‘AI 속도조절론’을 둘러싼 ‘가속 대 감속’의 충돌은 사실상 ‘대규모 투자’로 수렴한다. AI 성능 경쟁에는 막대한 컴퓨팅 인프라가 필수적이다. 반대로 속도를 늦춰 안전성을 확보하는 데도 인재와 자본, 인프라가 투입돼야 한다. 서로 다른 말을 하고 있지만 AI에 더 많은 자원을 투자해야 한다는 점에서 양측의 이해관계가 맞닿아 있는 셈이다.
최병호 고려대 휴먼인스파이어드 AI연구원 연구교수는 “보안과 안전도 성능만큼이나 대규모 인재와 인프라, 자본이 필요한 영역”이라며 “감속을 주장하는 것 역시 결국 더 많은 투자가 필요하다는 의미”라고 분석했다. 특히 기업공개(IPO)를 앞둔 AI 기업에는 안전성에 대한 시장의 신뢰를 확보하는 문제도 맞물려 있다고 봤다.
엔비디아가 최근 공개한 ‘오픈 에이전트 세이프티’ 플랫폼은 AI 안전 문제가 새로운 컴퓨팅 수요로 이어질 가능성을 보여준다. 최 교수는 “엔비디아 입장에서 AI를 둘러싼 안전 리스크는 오히려 ‘사업 기회’”라며 “엔비디아가 공개한 보안 플랫폼은 AI 안전 연구를 위한 일종의 ‘베이스캠프’ 역할을 한다”고 말했다. 보안 플랫폼을 활용하는 데 막대한 GPU가 필요할 뿐 아니라 해당 솔루션이 완벽하지 않은 만큼 추가적인 안전 연구에도 GPU가 필요하다는 게 최 교수의 해석이다.
이 플랫폼은 개방형(오픈소스) 소프트웨어인 ‘오픈셸’과 하드웨어 감시 장치인 ‘센트리’로 구성된다. 오픈셸은 중앙처리장치(CPU) 상에서 AI 에이전트의 행동 범위를 설정하고 이를 벗어나는 행동을 실시간으로 제어한다. 센트리는 데이터처리장치(DPU) 상에서 AI 에이전트의 행동을 밀리초(1천분의 1초) 단위로 감시해 경계를 벗어나면 즉시 격리하고 정지시키는 역할을 한다.
실제 보안 전문가들도 엔비디아가 던진 해법만으로 AI 에이전트의 안전을 담보하기 어렵다고 지적했다. 에이전트가 활용되는 영역과 사용할 수 있는 도구가 빠르게 늘어나면서 인간이 사전에 설정해야 할 통제 범위 역시 복잡해지고 있기 때문이다.
김명주 AI안전연구소장은 “에이전트는 모든 영역에서 다양한 도구를 사용할 수 있기 때문에 어떤 권한을 가지고 어디에 쓰느냐에 따라 보안 문제는 무한대로 늘어난다”며 “엔비디아가 공개한 보안 플랫폼은 여러 안전 시도 가운데 하나로 이제 시작하는 단계”라고 밝혔다.
AI에게 어느 정도까지 권한을 허용할지 정하는 주체도 결국 인간이다. AI에게 ‘적은 권한’을 준다고 해도 주관적인 판단이 개입될 수밖에 없다. 정해진 영역을 벗어나는 행동은 차단할 수 있지만 허용된 권한 안에서 AI가 인간이 예상하지 못한 방법으로 목표를 수행할 가능성까지 없애는 것은 다른 문제다.
이에 김 소장은 “속도조절론은 사실 끝났다”며 “계속 속도는 붙을 것이고 이제는 이 속도에 걸맞은 책임을 어떻게 물을 것인지를 다루는 ‘책임 있는 개발론’으로 넘어갔다”고 강조했다. AI 안전 논의의 무게중심이 ‘속도를 얼마나 늦출 것인가’에서 ‘계속 발전하는 AI를 어떻게 검증할 것인가’로 옮겨갈 것이라는 지적이다.
여기서 가속론자와 감속론자의 이해관계가 다시 만난다. 트럼프 대통령과 황 CEO가 주장하는 가속에는 지속적인 AI 인프라 투자가 필요하다. 아모데이 CEO와 올트먼 CEO가 말하는 속도조절 역시 안전 연구와 평가·검증에 더 많은 자원을 투입해야 한다는 논리로 이어진다.
최 교수는 이들의 관계를 “이익 공동체이자 운명 공동체”라고 표현했다. 겉으로는 AI 개발 속도를 놓고 충돌하지만 결국은 대규모 AI 투자가 지속돼야 각자의 목표를 달성할 수 있기 때문이다. ‘더 빨리’와 ‘더 천천히’는 반대말처럼 들리지만 자본이 향하는 곳은 같다. AI 속도조절론의 역설이다.
