"AI 본질은 메모리…세계 1등 기업도 가능"
코스피가 연일 최고치를 경신하는 가운데 삼성전자와 SK하이닉스 등 반도체주에 시장의 관심이 다시 쏠리고 있다. 인공지능(AI) 경쟁의 중심이 모델 성능에서 메모리와 인프라 경쟁으로 이동하면서 국내 메모리 반도체 기업들이 “단군 이래 최고의 기회”를 맞았다는 분석이 나왔다.
김정호 KAIST 전기·전자공학부 교수는 12일 CBS 라디오 ‘박성태의 뉴스쇼’에서 “AI의 본질은 메모리”라며 “결국 AI의 게임은 메모리에서 결정되는 걸로 가고 있다”고 말했다.
김 교수는 삼성전자와 하이닉스의 성장세에 대해 “제가 삼성전자하고 일을 시작한 게 94년이고 SK하이닉스하고 일을 시작한 게 96년”이라며 “그 기간 동안 기업이 엄청 성장을 했고 최근에는 폭발적으로 성장하는데 국가 경제에도 이바지하는 것 같아 참 뿌듯하다”고 밝혔다.
그는 AI 산업에서 메모리가 중요해진 이유로 데이터와 개인화를 꼽았다. 김 교수는 “AI가 왜 이렇게 똑똑한가 봤더니 기억력이 좋은 거였다”며 “최신 정보를 가장 많이 갖고 있는 인공지능이 정확한 답을 낼 수밖에 없고 인터넷 검색을 잘하는 인공지능이 잘할 수밖에 없고 제 개인 데이터를 많이 가질 수 있는 인공지능이 저한테 맞춤형으로 결과를 줄 수밖에 없다”고 설명했다.
AI 모델 간 성능 차이가 줄어들면서 앞으로는 누가 더 많은 데이터를 빠르게 공급하느냐가 승부처가 될 것이라는 진단도 내놨다. 김 교수는 “구글의 제미나이, 오픈AI의 GPT, 앤트로픽의 클로드가 있는데 AI의 모델 자체는 거의 평준화됐다고 본다”며 “이제는 누가 많은 데이터를 많이 갖고 있느냐인데 그거를 공급하고 빨리 줄 수 있는 것은 메모리”라고 말했다.
김 교수는 AI 성능을 좌우하는 요소로 메모리의 속도와 용량을 제시했다. 그는 “결국 AI 성능은 메모리의 속도와 용량의 곱으로 표현된다는 게 제 주장”이라며 “게임이 AI 모델에서 인프라 게임으로 넘어가고 있는 것”이라고 했다. 이어 “결국은 그 뒤에 전기와 자본의 게임으로 넘어가고 있다”며 “기술적으로 보면 가장 부가가치가 높고 중요한 게 메모리”라고 강조했다.
특히 낸드 플래시와 HBM이 동시에 중요해지는 흐름이 삼성전자와 SK하이닉스에 기회가 될 수 있다고 봤다. 김 교수는 “요즘 그런 역할을 하는 쪽에 낸드 플래시 메모리가 많이 필요해서 삼성, 하이닉스, 샌디스크 주가가 하늘을 올라가고 있다”며 “GPU하고 HBM 사이에 데이터를 엄청 빠른 속도로 주고받아야 된다”고 설명했다. 그러면서 “낸드 플래시와 HBM이 둘 다 필요한 시대가 됐다”고 말했다.
그는 삼성전자와 SK하이닉스에 대해 “우리 삼성전자, SK하이닉스는 둘 다 하잖아요. 완전히 양손에 떡을 들고 있는 거죠”라고 평가했다.
AI 데이터센터의 성격도 메모리 중심으로 바뀌고 있다는 설명이 이어졌다. 김 교수는 AI 데이터센터를 “AI, 메모리 팩토리”라고 부르며 “낸드만 집중적으로 있는 팩토리가 하나가 있고, 그 옆에는 GPU하고 HBM이 같이 붙어서 우리한테 AI 생성 서비스를 해주는 또 팩토리가 있다”고 말했다. 이어 “낸드 플래시로 이루어진 팩토리와 GPU, HBM 팩토리를 연결해 줘야 한다”며 “그걸 광통신으로 요즘 하고 있다”고 했다.
삼성전자의 경우 메모리와 파운드리 역량을 함께 보유했다는 점도 강점으로 거론됐다. 김 교수는 “HBM4, 5, 6, 7 가면서 GPU와 CPU도 HBM 안으로 집어넣자는 게 제 주장”이라며 “AI 컴퓨팅이 메모리 중심으로 일어나니까 GPU에 종속하지 말고 우리가 다 하고 조금 귀찮은 계산만 GPU에 넘겨주자는 것”이라고 말했다.
그는 “그렇게 하려면 파운더리가 있어야 한다”며 “GPU와 CPU를 설계할 능력과 제작 능력이 있어야 되는데 그게 삼성전자가 갖고 있다고 볼 수 있다”고 설명했다. 이어 “삼성은 전체 풀 스텍을 가질 수 있기 때문에 잘하면 세계 1등 기업도 될 수 있다”고 전망했다.
HBM의 구조와 관련해서는 속도와 용량을 동시에 높이는 기술이라고 설명했다. 김 교수는 “AI 입장에서 메모리에 필요한 성능이 속도와 용량”이라며 “용량을 높이는 방법은 쌓자는 것”이라고 했다. 그는 이를 아파트와 고속도로에 비유하며 “속도와 용량을 동시에 만족시킬 수 있는 방법은 HBM 구조밖에 없다고 생각했다”고 말했다.
다만 국내 기업들이 현재의 우위를 계속 지키려면 방심해서는 안 된다고 경고했다. 김 교수는 후발주자와의 격차에 대해 “한 3년 정도로 생각한다”며 “우리가 잠시 졸면 금방 따라잡힌다”고 말했다. 이어 “HBM, HBF 필요 없다고 생각한다든가 경영적인 실수라든가 또 요즘은 노사 문제도 있다”며 “여러 가지가 결합되면 순식간에 유사 이래로, 우리 단군 이래로 최고의 기회가 날아갈 수도 있다”고 했다.
AI 메모리 수요는 앞으로도 크게 늘어날 것으로 봤다. 김 교수는 “저는 기하급수적으로 늘어난다고 본다”며 개인화, 멀티모달, AI 에이전트 확산 등을 이유로 들었다. 그는 “미래에는 1인 기업이 AI 100개 에이전트 갖고 창업을 하는 시대가 될 것 같다”며 “생각보다는 상상 이상의 메모리 수요가 필요할 것 같다”고 말했다.
다만 수요가 실제 시장 성장으로 이어지기 위해서는 자본과 전력, 지불 능력이 관건이라고 했다. 김 교수는 “그만큼 AI 기업들이 부가가치를 창출하고 사람들에게 한 달에 100만원, 1000만원도 쓸 수 있게 할 수 있느냐”며 “그거를 기업이나 국가나 개인이 지불할 수 있느냐”가 중요하다고 말했다.
