서구·중국 석학들, AI 개발 ‘레드라인’ 확인…“냉전시대 핵전쟁 방지협약 수준 협력 필요”

▲출처 게티이미지

서구와 중국의 AI 석학들은 지난주 베이징에서 AI 개발에 대한 생화학 무기 제조, 사이버 공격 등 ‘레드라인’을 확인했다.

앞서 조 바이든 미국 대통령과 시진핑 중국 국가주석은 작년 11월 회담을 통해 AI 안전성에 대해 논의하고 이 문제에 대해 대화를 시작하기로 합의했다. 이에 미·중 간 치열한 AI 패권 경쟁이 벌어지는 가운데서도 이번 만남이 성사됐으며, 전 세계 주요 AI 기업들도 최근 몇 달 동안 중국의 AI 전문가들과 비공개로 논의를 진행했다.

이들은 성명에서 “냉전이 한창일 때 국제 과학계와 정부의 협력은 핵전쟁 재앙을 피하는 데 도움이 됐다”면서 “인류는 전례 없는 기술로 인해 발생할 수 있는 재앙을 피하기 위해 다시 한번 손을 잡아야 한다”고 발표했다.

성명에는 어떤 AI 시스템도 명시적인 인간의 승인과 도움 없이 스스로 복사하거나 개선할 수 없어야 한다는 내용이 담겼다. 과학자들은 또 대량살상 무기를 설계하거나 생화학무기 협약을 위반하는 이의 능력을 실질적으로 확대하는 데도 AI가 활용돼서는 안 된다고 강조했다.

성명에는 신경망 연구로 튜링상을 수상하는 등 AI 분야의 ‘대부’로 불리는 제프리 힌튼 캐나다 토론토대 교수와 요수아 벤지오 캐나다 몬트리올대 교수를 비롯해 스튜어트 러셀 미 캘리포니아 버클리대 교수, 중국의 저명한 컴퓨터 과학자 앤드루 야오 등이 참여했다.

벤지오 교수는 “이번 논의의 핵심은 강력한 AI 시스템이 넘지 말아야 할 레드라인과 전 세계 정부가 AI 개발 및 배포에 있어 설정해야 할 레드라인을 정하는 것이었다”고 설명했다.