“핵전쟁만큼 위협적인 킬러 로봇”…AI는 어떻게 인류를 위협하나

민주주의·일자리 위협에 이어
통제 불능·인류 멸망 우려
스스로 명령하는 오토GPT도
“마음대로 끌 수도 없을 것”

▲노트북 화면에서 인간의 얼굴과 뇌 형상이 나타나고 있다. 출처 게티이미지 뱅크.

챗GPT로 대표되는 생성형 인공지능(AI)에 대한 경계심이 갈수록 커지고 있다. AI가 선거 결과에 영향을 미치는 가짜뉴스를 생산해 민주주의를 뒤흔들고, 인간의 일자리를 빼앗아가며, 인간을 조종·통제하고, 끝내 인류를 멸종시킬 것이라는 섬뜩한 경고가 잇따르고 있다. AI가 인류에 얼마나 큰 위협을 미칠지 최근 뉴욕타임스(NYT)가 분석했다.

NYT는 최근 AI에 대한 우려가 해당 분야 전문가들의 입에서 나왔다는 사실을 짚었다. 확산하는 AI 공포가 터무니없는 기우가 아니라는 것이다. 지난달 말에도 AI 업계 리더와 과학자 350명은 AI가 전염병과 핵전쟁만큼이나 위협적인 존재라고 경고했다. 특히 여기에는 챗GPT의 아버지 샘 올트먼 오픈AI 최고경영자(CEO)도 포함됐다.

세계적인 AI 석학 요슈아 벤지오 몬트리올대학 교수는 “오늘날의 시스템은 실존적 위협을 초래할 정도는 아니다. 하지만 1~2년 또는 5년 안에 가능할지 불확실성이 크다는 점이 쟁점”이라며 “우리는 AI 시스템 개발이 재앙이 되는 ‘어떠한 지점’을 지나치지 않을 것이라고 확신할 수 없다”고 말했다.

전문가들은 AI가 어떻게 인류에게 실질적 위협을 초래하는지에 대해 종종 간단한 비유를 들어 왔다. 만약 기계에 가능한 한 많은 종이 클립을 만들어달라고 요청했을 때, 기계는 인류를 포함한 모든 것을 종이 클립 공장으로 바꿔버릴 수 있다는 것이다.

특히 기술 개발로 AI 시스템에 점점 더 많은 자율성을 부여한 뒤 이를 전력망과 주식시장, 군사 무기를 포함한 필수 인프라에 접목 시켰을 때 문제가 커질 수 있다. 앤서니 아기레 캘리포니아대학 교수는 “AI는 꾸준히 권한을 위임받을 것이며 자율성이 높아짐에 따라 인간과 인간이 운영하는 기관으로부터 의사결정과 사고를 빼앗을 수 있다”며 “어느 시점에서 사회와 경제를 운영하는 커다란 기계가 인간의 통제하에 있지도, 마음대로 끌 수도 없다는 것이 분명해질 것”이라고 강조했다.

▲인공지능 글자가 인간 모형 뒤에 보인다. 로이터연합뉴스

‘오토GPT’의 등장은 이러한 우려에 불을 붙였다. 오토GPT는 챗GPT와 달리 목표를 설정해주면, 일일이 명령어를 입력하지 않아도 알아서 학습해 결과물을 내놓는다. 한 개발자는 “‘나를 위한 앱을 만들라’는 명령어를 입력했더니 컴퓨터에 앱 개발을 위한 프로그램이 없다는 것을 확인하고 이를 알아서 설치했다”고 설명했다.

AI 정렬 스타트업 컨젝처를 설립한 코너 리히는 “사람들은 스스로 개선하는 시스템을 구축하기 위해 적극적으로 노력하고 있다”며 “회사와 범죄자들이 이러한 시스템에 ‘돈을 벌다’와 같은 목표를 부여한다면 AI는 은행 시스템에 침입하거나 석유 선물을 보유한 나라에서 혁명을 선동할 수 있다. 또한 AI 시스템은 누군가가 프로그램을 종료하고자 할 때 자기 자신을 복제할 수도 있다”고 우려했다.

전문가들은 AI가 엄청나게 많은 데이터를 기반으로 학습하기 때문에 예상치 못한 돌발 행동이나 위험을 제기할 수 있다고 경고했다. 이들은 단기적으로는 허위 정보 확산, 장기적으로는 일자리 위협이, 궁극적으로는 ‘킬러 로봇’이 될 위험이 있는 AI에 대한 적절한 규제와 안전장치가 필요하다고 촉구했다.