논문은 먼저 기계 지능의 수준을 하나의 연속선 위에 놓고 세 좌표로 구분한다. AGI가 중위 인간 수준에 도달한 시스템이라면, 그 위의 ASI는 천재 한 명을 능가하는 정도가 아니라, 수만 명의 전문가가 10년 동안 단일 문제에 협력해도 넘어서기 어려운 수준의 시스템을 의미한다. 그리고 그 너머에는 유니버설(Universal) AI, 즉 AIXI가 이론적 상한선으로 제시된다. 계산 불가능한 개념이지만, AI가 다가갈 수 있는 궁극의 한계선을 좌표로 찍어둔 것이다. 막연하게 ‘더 똑똑한 AI’라고 부르던 대상을, 인간 지능과의 거리로 환산한 셈이다.
핵심은 AGI에서 ASI로 가는 네 가지 경로다. 첫째는 스케일링이다. 더 많은 컴퓨터, 더 큰 모델, 더 많은 데이터를 투입하는 방식으로, 지금까지 AI 발전을 이끌어온 가장 확실한 길이었다. 개별 모델이 한계에 도달하더라도, 더 빠른 AGI 인스턴스를 수백만 개 동시에 돌릴 수 있다면 그 자체가 초지능으로 이어질 수 있다는 관점이다. 양의 축적이 질적 전환을 만든다는 믿음이다. 둘째는 알고리즘 패러다임의 전환이다. 현재의 트랜스포머 기반 사전학습 패러다임을 넘어서는, 전혀 새로운 아키텍처와 학습 방식이 등장할 수 있다는 가능성이다. 셋째는 재귀적 자기개선이다. AI가 AI 연구를 가속하고, 그 결과 더 나은 AI가 만들어지며, 다시 연구 속도가 더 빨라지는 구조다. 이 경로가 실제로 작동한다면, AI의 발전은 선형 성장이 아니라 폭발적 가속으로 그 성격이 바뀐다.
넷째는 멀티에이전트 집단지능이다. 하나의 거대한 모델이 모든 것을 해결하는 것이 아니라, 수많은 AGI 에이전트가 협력하며 자동화된 기업, 연구소, 경제 시스템처럼 작동하는 방식이다. 초지능은 어쩌면 단일한 천재 모델의 형태가 아니라, 무수한 AI 에이전트들의 집단적 협업에서 창발할 가능성이 크다. 논문은 이 네 경로가 서로 배타적이지 않으며, 동시에 병렬적으로 진행될 수 있다고 본다.
인류가 다른 종을 압도한 것은 어느 한 명의 천재 때문이 아니라, 언어와 제도를 통해 수많은 개인의 지능을 연결하고 축적해온 ‘집단지성’ 덕분이었다. AI 역시 단일 모델의 성능을 무한히 키우는 길보다, 서로 다른 역할을 가진 에이전트들이 협업하는 구조에서 임계점을 넘어설 가능성이 높다. 이는 그동안 강조해온 관점, 즉 소수의 거대 모델 소유가 아니라 수많은 에이전트의 활용과 조율에서 진정한 힘이 나온다는 생각과도 정확히 맞닿아 있다. 그래서 1인 1 에이전트(OAPP: One AI Agent Per Person) 운동은 중요하다.
주목할 점은, 이 논문이 상당한 분량을 할애해 AGI 이후 ASI로 가는 과정에서 발생할 병목과 사회적 충격을 공개적으로 논의하기 시작했다는 사실이다. 그렇다면 우리는 무엇을 준비해야 하는가.
첫째, 에너지와 인프라의 주권이다. 초지능으로 가는 모든 경로는 결국 컴퓨팅과 전력이다. 누가 에너지와 인프라를 장악하느냐가 곧 누가 지능을 장악하느냐의 문제가 된다. AI 데이터 인프라를 국가 공공자원으로 다루어야 한다고 줄곧 강조한 이유다. 인프라가 소수의 손에 독점되는 순간, 지능의 격차는 곧 권력의 격차로 고착된다. 둘째, 인간의 일에 대한 재정의다. 초지능은 인간 노동을 대체하는 수준을 넘어, 노동의 정의 자체를 다시 쓰게 만든다. 중요한 것은 ‘AI가 무엇을 대신할 것인가’가 아니라, ‘AI가 만든 새로운 질서 속에서 인간이 무엇을 정의하고 책임질 것인가’이다. 실행이 자동화될수록, 방향을 정하고 의미를 부여하며 신뢰를 설계하는 인간의 역할은 오히려 더 중요해진다. 고용 없는 성장의 시대에는 그에 걸맞은 새로운 사회계약이 반드시 뒤따라야 한다.
셋째, 전환의 속도와 원칙이다. 과학 연구와 산업이 어떤 방식으로 재편될 것인가만큼 중요한 것은, 우리가 이 거대한 전환을 어떤 속도와 어떤 원칙으로 받아들일 것인가이다. 기술은 빠르게 평준화되지만, 그 위에 어떤 규칙과 신뢰를 세울 것인가는 사회의 선택에 달려 있다.
이 문제는 단순한 산업 경쟁의 차원을 넘어선다. 인류 문명의 지속 가능성과 생존 문제에 가깝다. 핵기술이 한 세대의 안보 질서를 규정했다면, 초지능은 그보다 수백 배 더 큰 파급력을 동반하는 기술이다. 핵은 소수 국가가 통제할 수 있었지만, 초지능은 누구나 접근하고 누구나 가속할 수 있다는 점에서 통제의 난도가 비교할 수 없이 높다.
지금 우리에게 필요한 것은 더 빠르고 큰 모델이 아니라 더 단단한 질서다. 초지능이 인간을 대체하는 힘이 아니라 인간의 가능성을 확장하는 도구로 남으려면, 기술의 속도를 좇기 전에 그 위에 세울 원칙부터 합의해야 한다. AI가 세상을 바꾼다면, 인간은 그 세상의 가치를 정의하는 존재로 남아야 한다. 초지능으로 가는 네 갈래 길 앞에서, 우리가 던져야 할 질문은 ‘얼마나 빨리 도달할 것인가’가 아니라 ‘어떤 원칙 위에서 그곳에 도달할 것인가’이다.
신철호
OGQ 대표. 연세대학교 정치외교학과 겸임교수. AI, 데이터, 플랫폼 등 분야에서 활동하고 있다.
