이기종 AI 컴퓨팅 인프라 공동 구축
국내에 'AI 우수 연구센터' 세우고
2027년까지 AMD 상주인력 확대
"한국 성공사례, 글로벌 표준으로"
정부와 AMD가 국내 AI 반도체 업계와 손잡고 ‘개방형 AI 컴퓨팅 인프라’ 구축 방안을 본격 논의했다. AMD의 중앙처리장치(CPU)·그래픽처리장치(GPU)와 국산 신경망처리장치(NPU)를 연계하는 이기종 AI 컴퓨팅으로 엔비디아 의존도를 낮추겠다는 구상이다.
배경훈 부총리 겸 과학기술정보통신부 장관은 20일 서울 광화문 HJ비즈니스센터에서 개최한 ‘개방형 AI 컴퓨팅 인프라 생태계 구축을 위한 간담회’에서 “AI 데이터센터에 서버와 랙을 준비하고 GPU만 탑재한다고 해서 끝나는 것이 아니다”라며 “CPU와 GPU, NPU, 데이터처리장치(DPU)를 효과적으로 운영하고 메모리도 함께 관리해야 한다”고 말했다.
배 부총리는 “모델 개발뿐 아니라 실질적으로 운영·연동할 수 있는 역량, 파운데이션 모델을 작동시킬 수 있는 에이전트 기능을 강화해야 한다”며 “추론 시장이 활성화되고 에이전틱 AI 시대를 맞으면서 많은 양의 토큰 수요를 감당하기 위한 고민도 필요하다”고 밝혔다.
최근 글로벌 AI 시장이 학습에서 추론 중심으로 전환하면서 전력 효율성과 비용 경쟁력을 갖춘 AI 컴퓨팅 인프라 확보가 핵심 과제로 부상했다. GPU 등 특정 반도체에 의존하는 구조에서 벗어나 CPU·GPU·NPU 등 다양한 연산 자원과 메모리·네트워크·소프트웨어를 유연하게 결합하는 개방형 AI 컴퓨팅 인프라 구축이 중요해졌다.
이날 김한준 퓨리오사AI 최고기술책임자(CTO)는 “오픈AI, 앤스로픽 중 대부분 하이퍼스케일러들은 여러 개의 멀티 벤더에 이기종 AI 컴퓨팅을 도입하고 있다”며 “AI 컴퓨팅 자체가 절대적으로 부족하고 사용자의 다양한 성능 요구를 충족하기 위해선 이기종 컴퓨팅이 필수적이기 때문”이라고 말했다. 이기종 컴퓨팅은 엔비디아 의존도를 낮출 뿐만 아니라 가격 대비 높은 성능을 보인다.
이번 간담회는 지난달 과기정통부와 AMD가 체결한 AI 반도체 생태계 협력 업무협약(MOU)의 후속 조치다. 양측은 국내에 AI 우수 연구센터를 설립하고 CPU·GPU와 국산 NPU를 결합한 이기종 AI 컴퓨팅 인프라를 공동 구축·실증하는 방안 등을 협의한 바 있다.
문경선 AMD코리아 상무는 국산 NPU와 AMD의 CPU·GPU를 연결해 개방형 이기종 AI 아키텍처를 개발하겠다는 청사진을 제시했다. 문 상무는 “국내에서 좋은 성공 사례를 만들어 글로벌 표준 레퍼런스로 활용·확장하는 것이 최종 목표”라며 “‘AI 센터 오브 엑설런스’(Center of Excellence)를 설립하고 2027년 말까지 AMD 상주 엔지니어를 확대하겠다”고 밝혔다.
이날 토론 참여자들은 정부에 대규모 국내 실증과 상용화가 가능하도록 판을 깔아달라고 강조했다. 이진원 하이퍼엑셀 CTO는 “AI 에이전트 워크로드에서 인간이 호출하는 건 10%고 AI가 AI를 호출하는 비율이 나머지 90%”라며 “CPU, GPU, 스토리지, 네트워크 다 중요하지만 모든 것을 잘 오케스트레이션해서 운영하는 것이 핵심이기 때문에 경험을 많이 쌓아야 한다”고 말했다.
에이전틱 AI 시대를 대비해 보드 공급망의 중요성도 제기됐다. 서버용 메인보드를 만드는 이중연 KTNF 대표는 “NPU를 올리려면 서버가 있어야 하고 그 밑에는 메인보드와 펌웨어가 있어야 한다”며 “국내에서 유일하게 서버 메인보드를 개발하고 있는데 정부에서 관심을 가지고 국내 기술 생태계가 만들어지면 좋겠다”고 지적했다.
한편 이날 간담회에는 AMD코리아를 비롯해 퓨리오사AI, 망고부스트, 모레, 딥엑스, 하이퍼엑셀, 모빌린트, 노타AI, 래블업, KTNF 등 AI 반도체 기업과 유관 기관 관계자들이 참석했다. AMD가 과기정통부와의 MOU 체결을 기념해 기증한 AI 컴퓨터(AMD Ryzen™ AI Halo)를 AMD코리아가 한국과학기술원(KAIST)에 전달하는 기념식도 함께 진행됐다.
