아모데이 “AI 개발 속도 늦춰야”
머스크 “아모데이 말 맞아”
AI 개발 속도와 안전 문제를 놓고 업계 우려가 일파만파 퍼지고 있다. 오픈AI는 연내 상장을 전격 연기했고 오픈AI 다음으로 상장이 유력하던 앤스로픽마저 AI 개발 속도를 늦춰야 한다고 공개적으로 촉구했다.
12일(현지시간) 샘 올트먼 오픈AI 최고경영자(CEO)는 미국 경제 전문지 포천과 인터뷰에서 “올해는 기업공개(IPO)를 하기에 적절하지 못한 시기”라고 밝혔다.
올트먼 CEO는 “2030년 말까지 모든 사람을 죽일 확률이 10%나 된다는 건 용납할 수 없다고 생각한다”며 “지금 우린 새로운 시대로 접어들고 있고 과거 다른 시대로 접어들었을 때 그랬듯이 모든 인류에게 이익이 되는 방향으로 나아가면서도 그 누구도 그만큼의 위험을 감수하지 않도록 하고자 다른 방식으로 행동해야 할 것”이라고 설명했다.
같은 날 다리오 아모데이 앤스로픽 CEO는 자신의 개인 블로그에 장문의 글을 올려 AI 개발 속도에 관한 입장을 밝혔다. 그는 “AI는 인류를 발전시키고 고귀하게 만들어 온 수많은 기술적 기적의 계보를 잇는 최신 기술이 될 수 있을 것”이라며 “그러나 과거 많은 기술처럼 AI 역시 위험을 수반하다”고 지적했다.
AI가 미칠 위험으로는 AI 시스템 통제력 상실, 사이버 공격 및 생물 테러, 심각한 경제적 혼란 등을 열거했다. 일례로 아모데이 CEO는 “AI 역량의 발전 속도를 고려하면 6~12개월 안에 AI 에이전트 군집이 지속적인 봇넷을 통해 인터넷 전체를 장악하고 수천억달러의 피해를 일으킬 수 있다”면서 “필요한 안전장치 없이 AI가 강력해질수록 피해 규모도 계속 커질 것”이라고 경고했다.
아모데이 CEO는 “최근 몇 달 동안 위험을 완전히 해결하려면 훨씬 더 신중해야 한다는 확신을 하게 됐다”며 “AI 모델 역량을 향상하는 속도를 늦춰야 한다. 발전 속도는 여전히 빨라 보이더라도 우린 확보한 시간을 현명하게 활용해야 한다”고 강조했다.
그러면서 상업적 이점이나 AI 분야에서 미국의 선도적 지위를 희생하지 않고 개발 속도를 조절하기 위한 3단계 계획을 제안했다. 제안은 크게 △기업 내 상주 평가단 구성 △민주주의 국가 간 공조 △가능한 범위 내 권위주의 국가 정부와의 글로벌 공조로 구성됐다.
앤스로픽은 오픈AI와 함께 연내 상장을 준비하던 기업이다. 오픈AI가 상장을 연기하고 아모데이 CEO마저 개발 속도 저하를 공론화하면서 앤스로픽의 상장 시점도 알 수 없게 됐다.
그간 오픈AI의 영리 법인 전환을 놓고 올트먼 CEO와 법적 다툼을 벌였던 일론 머스크 테슬라 CEO도 엑스(Xㆍ옛 트위터)에 다리오 CEO의 발언을 인용하면서 “다리오가 옳다”고 적었다.
AI 안전에 대한 우려는 오래전부터 존재했다. 그러나 지난주 앤스로픽 연구원이던 제이컵 콕슨이 퇴사 발표와 함께 AI 안전을 경고하면서 불안은 한층 커졌다. 콕슨은 “앤스로픽과 오픈AI는 우리의 생명을 갖고 도박하고 있다”며 “AI 개발자들은 AI가 10년 안에 우리 모두를 죽일 수 있다고 진심으로 믿고 있다”고 폭로했다.
CNBC방송은 “올트먼, 아모데이, 머스크의 갑작스러운 연대는 AI에 대한 우려가 업계 주변부에서 중심부로 얼마나 빠르게 이동했는지 보여준다”며 “이제는 AI의 막대한 상업적 야망과도 충돌하기 시작했음을 나타낸다”고 설명했다.
