마이크로소프트, 무제한 사용 독려에서 물러나
AI 사용료 부담이 커지면서 업무 중요도에 따라 각각 다른 버전의 AI를 활용하는 시대가 오고 있다는 분석이 나왔다.
5일(현지시간) 미국 경제매체 비즈니스인사이더는 "기업 AI 흐름이 무제한 사용을 권하던 '토큰맥싱(tokenmaxxing)'에서 효율성을 추구하는 '모델맥싱(modelmaxxing)'으로 이동 중"이라고 보도했다.
토큰은 AI가 읽고 쓰는 글자 조각이다. 토큰맥싱은 기업이 직원들에게 AI를 최대한 많이 쓰도록 독려하는 흐름을 뜻한다.
이와 달리 모델맥싱은 작업 난이도에 따라 상대적으로 저렴한 AI 모델을 골라 쓰는 방식이다. 기업들이 단순 작업에는 저가 모델을 쓰고, 복잡한 작업에는 고급 모델을 배정하는 ‘모델맥싱’ 흐름으로 이동하고 있다는 의미다.
비즈니스인사이더는 "우버와 마이크로소프트 등도 직원들의 AI 사용 비용을 점검한 뒤 무제한 사용 독려에서 한발 물러나는 분위기"라고 전했다.
브라이언 암스트롱 코인베이스 최고경영자(CEO)는 최근 엑스(X·옛 트위터)에 "인공지능에 대한 수요는 거의 무한에 가깝다"면서도 "12∼18개월 이내에 작업의 80%가 (기존보다) 99% 더 저렴한 모델에서 실행될 것"이라는 전망을 내놨다. 값비싼 최신 AI 모델이 필요한 작업은 전체 작업의 20%에 불과할 것이라는 전망이다.
그는 이처럼 최신 AI 모델이 필요한 작업의 예시로 과학적 돌파구와 높은 수준의 에이전트 관리자 등을 꼽았다. 이밖에 금융 리스크 점검과 복잡한 법률과 규제 검토, 전략 컨설팅과 경영 의사결정 보조 등도 여기에 해당한다.
AI 스타트업 '볼드 메트릭스'도 팀별로 사용할 모델과 그 추론 수준을 지정해주는 방식을 사용하고 있다. 한 팀은 클로드 페이블(Claude Fable)을 낮은 추론 수준으로 사용하고, 다른 팀은 GPT-5.5에 높은 추론 수준으로 설정해 쓴다. 또 다른 팀은 스타트업 커서의 코딩 도구 '컴포저 2.5'를 사용하는 식이다.
다른 AI 스타트업 헤추라의 크리스 마코니 공동창업자는 가장 비싼 최신 AI 모델을 무작정 사용하는 경향에 대해 "사람들은 어떤 모델이 어떤 작업에 뛰어난지 파악하는 어려운 과정을 거치고 싶어하지 않는다"며 "그저 유행에 편승하고 싶어한다"고 꼬집기도 했다.
댄 애리얼리 듀크대 행동경제학자는 "토큰 예산이 과거 휴대전화의 제한된 통화시간처럼 사용자에게 희소성 심리를 만든다"고 분석했다.
이와 같은 모델맥싱 흐름에 따라 사용자의 요청 내용을 파악해 적합한 모델에 분배해주는 '모델 라우팅' 스타트업도 호황을 누리고 있다.
기업 지출 관리 플랫폼 램프의 아라 카라지안 수석 경제학자는 모델 라우터를 사용하는 기업의 비중이 지난해 1%에서 올해 5%로 늘어났다고 전했다.
모델 라우팅 업체 중 하나인 레이라인을 운영하는 데이비드 길모어는 "고객 중 상당수가 최신 흐름에서 뒤처지는 것을 두려워한다"며 "API 요금 고지서를 받고 나서야 (최신 AI 사용) 규모를 축소해야 한다는 사실을 깨닫는다"고 지적했다.
다만 이런 흐름이 수익 감소와 직결되는 만큼 AI 업계는 상반된 입장을 내놓고 있다. 케일린 보스 오픈AI 미주 산업부문 책임자는 "더 나은 모델이 재시도와 감독, 낭비되는 노력을 줄일 수 있다고" 봤다. 고급 모델의 효용성이 여전히 크다는 입장이다.
스펜서 양 블록스페이스포스 파트너도 비즈니스 인사이더를 통해 "예정된 작업이 실제로 고가 모델을 필요로 하는지 판단해야 한다"고 제언했다.
