“규제가 개발 속도 극적으로 늦추지 않아”
오픈AI, 허깅페이스 사건 이후 새 보안 사고
인터넷 차단망 우회⋯AI 안전장치 실효성 논란
26일(현지시간) NBC뉴스가 공개한 게이츠의 ‘미트 더 프레스’ 인터뷰 예고편에 따르면 게이츠는 “AI는 분명 10억 명의 사망을 초래하는 사건을 일으킬 만큼 강력하다”며 “인류의 100%까지 가는 것은 꽤 어렵다 하더라도 악의를 가진 사람들이 최신 AI 도구를 사용하는 것만큼 강력한 무기는 지금까지 존재한 적 없다”고 경종을 울렸다.
또 “자율 규제만으로 충분하다고 생각하는 사람은 아무도 없다”고 강조했다. ‘관련 법안이 통과될 필요가 있느냐’는 물음에는 “물론”이라고 답했다. 그러면서 “어떤 안전장치와 감시가 필요한지에 대한 논의에 법 집행기관과 정치인들이 참여해야 한다”면서 “그건 의무적이어야 한다. 업계에는 부담이 다소 추가되겠지만, 그들이 하는 일을 극적으로 늦추진 않을 것”이라고 주장했다.
다만 실제로 의회가 규제안을 통과할지는 미지수다. 게이츠보다 먼저 미트 더 프레스에 출연한 마이크 존슨 하원의장은 AI 기업들의 판단에 맡기겠다는 입장을 고수했다. 그는 “기업 자신도 현재로선 답을 갖고 있지 않고 따라서 의회가 서둘러 개입해 국가안보에 해가 될 수 있는 일을 할 수는 없는 것”이라고 설명했다.
이달 초 앤스로픽을 퇴사한 연구원이 촉발한 AI 인류 멸망론은 기술 업계에 많은 논쟁을 부추겼다. 다리오 아모데이 앤스로픽 최고경영자(CEO)를 비롯해 샘 올트먼 오픈AI CEO, 일론 머스크 테슬라 CEO 등은 AI 위험성을 이유로 개발 속도를 늦춰야 한다고 했지만 도널드 트럼프 미국 대통령과 젠슨 황 엔비디아 CEO 등은 중국과의 경쟁을 이유로 그럴 필요가 없다고 맞받았다.
이런 가운데 오픈AI는 이날 또다시 AI 관련 사고를 공지했다. AI 위험성 논란을 촉발했던 ‘허깅페이스 해킹 사건’ 이후 첫 보안 사고다. 오픈AI는 자사 에이전트형 AI 시스템 중 하나가 ‘샌드박스(인터넷 접속 차단한 격리 훈련) 환경’에서 훈련을 받던 중 보안상 허점을 이용해 공개 인터넷에 접근했다고 알렸다. 해당 AI는 이를 통해 외부의 제삼자 챗봇에 접속한 것으로 전해졌다. 오픈AI는 샌드박스 결함이 해결될 때까지 자사의 가장 강력한 모델들을 대상으로 도구 사용이 포함된 훈련을 중단하기로 했다.
블룸버그통신은 “최근 몇 달 동안 오픈AI, 앤스로픽, 구글 딥마인드, 메타 등이 개발한 AI 모델의 보안 침해 사례가 벌어지면서 사이버 보안과 AI 안전 전문가들이 경악을 금치 못하고 있다”고 전했다.
