“엔비디아 GB300 앞서”
“삼성전자 HBM4 탑재 추정”
데이터센터 비용 절감 기대
2·3세대 자체 칩 개발도 속도
챗GPT 개발사 오픈AI가 자체 개발한 차세대 AI 칩 ‘할라페뇨’를 연내 실제 모델 구동에 투입할 계획이다. 특히 오픈AI는 이 신규 AI 칩이 엔비디아 제품보다 우수하다고 자신해 천문학적인 AI 인프라 비용을 낮추고 엔비디아 의존도를 줄일 수 있을지 주목된다.
오픈AI 리처드 호 하드웨어 총괄은 25일(현지시간) 블룸버그통신과 인터뷰에서 “할라페뇨가 전력 단위당 처리 가능한 AI 작업량과 응답 속도 등 두 가지 지표에서 최고 성능인 엔비디아의 ‘GB300’을 앞섰다”면서 “연말부터 새 칩을 AI 모델 구동에 사용할 계획”이라고 발표했다. 또 “할라페뇨가 700W(와트)의 낮은 전력 수준에서도 뛰어난 성능을 내고 있기 때문에 전력이 핵심 비용 요소인 데이터센터를 운영할 때 오픈AI의 비용을 절감할 수 있을 것”이라고 말했다.
일반적으로 AI 칩은 대규모 작업 처리 능력과 빠른 응답 속도 가운데 한쪽에 강점을 보이는 경우가 많지만, 할라페뇨는 두 가지 성능을 모두 갖췄다는 설명이다.
오픈AI는 다양한 고객사를 위해 맞춤형 칩을 제작하는 브로드컴과 협력해 할라페뇨를 개발했다. 지난해 협력 사실을 발표한 양사는 6월에는 이 칩이 기록적으로 빠른 기간 안에 개발됐다고 알린 바 있다.
한편 IT 전문매체 세미애널리시스는 할라페뇨가 패키지당 대역폭 15.4TB/s의 고대역폭메모리(HBM) HBM4를 탑재했으며 공급업체는 삼성전자로 추정된다고 전했다. 로이터통신은 “이번 자체 칩 개발은 오픈AI가 추진하는 AI 인프라 내재화 전략의 일환”이라며 “이로써 오픈AI도 엔비디아가 지배적인 입지를 차지하고 있는 AI 칩 시장에서 자체 칩 개발에 나선 빅테크 대열에 본격 합류하게 됐다”고 설명했다.
오픈AI는 할라페뇨 칩이 광범위하게 도입되면 비용을 크게 낮출 수 있을 것이라고 기대했다. 호 총괄은 “정말 좋은 칩으로 비용을 크게 낮출 수 있을 것”이라며 “할라페뇨의 생산량을 늘리고 예상대로 비용 절감 효과가 확실하다면 자체 칩으로 더 많은 AI 작업을 처리할 목표를 가지고 있다”고 언급했다.
다만 할라페뇨는 이제 막 출하되기 시작한 엔비디아의 차세대 칩 ‘베라 루빈’과는 비교 테스트를 거치지 않았다. 또한 할라페뇨는 AI 모델 학습용으로 설계된 칩도 아니다. AI 학습은 엔비디아 기술이 강점을 보이는 분야다. 할라페뇨는 이미 학습을 마친 AI 모델이 프롬프트에 응답하고 작업을 처리하는 추론 단계를 위해 설계됐다.
아울러 호 총괄은 “자체 AI 모델을 활용해 칩 개발 속도를 높이고 있다”면서 “2세대 칩 버전도 이미 개발이 상당히 진척돼 설계 최종 단계인 ‘테이프아웃’을 앞으로 몇 달 안에 마칠 것으로 예상된다”고 전했다. 이어 “전 세계적으로 구축하고 있는 막대한 AI 인프라 비용을 낮추기 위해 이미 3세대 칩의 개념 설계에도 착수했다”고 덧붙였다.
그러나 호 총괄은 엔비디아가 여전히 오픈AI의 핵심 칩 공급업체라는 점을 강조했다. 그는 “엔비디아는 정말 좋은 파트너”라며 “우리는 앞으로도 엔비디아 칩이 아주 많이 필요하다”고 언급했다.
