현직 동료 2명도 동조⋯“인류 멸종 확률 10% 넘는다”
오픈AI 신임 이사도 “통제 잃으면 대부분 죽을수도”
세계 양대 AI 기업인 앤스로픽과 오픈AI 최전선 인사들이 AI가 인류를 위협할 수 있다는 경고를 잇달아 내놓았다. 과거 외부 학계나 퇴사자 중심으로 제기됐던 ‘AI 인류멸종론’이 현직 연구진과 AI 기업의 의사결정에 참여하는 인사들의 공개 발언으로 확산하는 모습이다.
9일(현지시간) 영국 일간 가디언과 블룸버그통신에 따르면 앤스로픽의 제이컵 콕슨 연구원은 AI에 따른 인류 멸종 위험을 경고하며 사표를 던졌다. 그는 엑스(X·옛 트위터)에 “AI를 만드는 사람들은 AI가 이번 10년이 끝나기 전에 우리 모두를 죽일 수 있다고 진지하게 믿고 있다”고 밝혔다. 그는 또 “오픈AI와 앤스로픽 양사 모두 책임 있게 행동하고 있지 않다”고 지적했다.
27세 영국 출신인 콕슨은 대규모 데이터를 이용해 새로운 AI 모델을 학습시키는 분야를 연구했다. 올해 초 오픈AI를 떠나 앤스로픽에 합류했다. AI 안전을 중시하는 앤스로픽의 기업 문화 때문에 이직했지만 결국 개별 기업의 노력만으로는 AI의 위험을 통제할 수 없다는 것이 콕슨의 설명이다.
콕슨의 발언은 단순히 한 연구원의 돌출된 주장은 아니었다. 콕슨의 게시물에는 앤스로픽 직원 최소 두 명이 암울한 전망에 동조했다. 앤스로픽의 ‘정렬’ 부문 리더라고 자신을 소개한 에번 허빙거는 “우리는 정말로 AI가 모든 인간을 죽일 수 있다고 진지하게 믿는다”며 “개인적으로 나는 향후 10년 안에 그런 일이 일어날 확률이 10%를 넘는다고 생각한다”고 피력했다.
앤스로픽의 ‘확장 가능한 감독 책임자’인 새뮤얼 마크스는 개인 의견임을 전제로 “AI 개발자들은 자신들이 만드는 기술이 인류 멸종을 초래할 수 있다고 믿고 있다”면서 “이런 일은 향후 몇 년 안에도 일어날 수 있다”고 경종을 울렸다.
오픈AI가 이날 재단 이사로 임명한 폴 크리스티아노 미 상무부 산하 국립표준기술연구소(NIST) ‘AI 표준·혁신센터(CAISI)’ 선임 기술고문도 AI가 인류에 재앙적 결과를 초래할 수 있다는 경고 목소리를 높였다. 그는 이날 X에 “AI 시스템에 대한 통제력을 상실할 위험이 이제 심각한 수준에 이르렀다”면서 “그런 일이 벌어진다면 대부분의 사람이 죽을 수도 있다”고 짚었다.
