카카오, AI 판단 속도 43배 높였다…'카나나' 의사결정 모델 공개

기사 듣기
00:00 / 00:00

문장 대신 확률·선택·점수로 응답…AI 에이전트 업무 처리 효율 높여

(사진제공=카카오)

카카오가 AI 에이전트의 판단과 선택을 지원하는 멀티모달 AI 모델을 공개했다. 기존 대규모언어모델(LLM)처럼 문장을 생성하는 대신 확률과 점수 등으로 판단 결과를 제공해 업무 처리 속도를 높인 것이 특징이다.

카카오는 6일 자체 개발한 AI 의사결정 모델 '카나나-2-v-디사이드(Kanana-2-v-decide)'를 오픈소스로 공개했다고 밝혔다. 글로벌 AI 개발 플랫폼 허깅페이스를 통해 연구와 상업적 활용이 가능하도록 제공한다.

이 모델은 텍스트와 이미지를 함께 분석하고 판단 결과를 확률·선택·점수 등 세 가지 형식으로 제공한다. AI 에이전트가 이용자의 요청을 처리하는 과정에서 필요한 도구를 고르거나 다음 작업을 결정하는 데 활용할 수 있다.

카카오 자체 측정 결과 GPT-6 루나 대비 약 43배 빠른 응답 속도를 기록했다. 예를 들어 고객이 파손된 상품 사진과 함께 교환을 요청하면 AI가 사진과 문의 내용을 분석해 파손 여부와 문의 유형 등을 판단한다. 이를 바탕으로 고객 상담이나 교환 절차를 연결할 수 있다.

처리 속도도 높였다. 엔비디아 H200 그래픽처리장치(GPU) 1장 기준 평균 응답시간은 0.04초 이내로 측정됐다. 카카오에 따르면 GPT-6 루나보다 약 43배 빠른 수준이다. 한국어 자체 평가와 공개 평가에서도 비교 대상 모델 가운데 가장 높은 성능을 기록했다.

카카오는 해당 모델을 웹 검색과 상품 자동 분류 등 내부 프로젝트에 우선 적용할 계획이다. 향후 검색과 판단 기능을 하나의 모델로 통합하는 방향으로 기술을 고도화할 방침이다.

최동진 카카오 어플라이드 AI 모델 성과리더는 "앞으로도 기술 고도화와 공개를 통해 이용자가 일상에서 체감할 수 있는 AI 경험을 제공하겠다"고 말했다.

  • 좋아요0
  • 화나요0
  • 슬퍼요0
  • 추가취재 원해요0
주요뉴스
많이 본 뉴스
댓글
0 / 300