SKT, '멀티 LLM'으로 기업·공공용 생성 AI 시장 공략

▲SKT AI 서비스 에이닷용 슈퍼컴퓨터 ‘타이탄’ (사진제공=SKT)

SK텔레콤이 '멀티 거대언어모델(LLM)'로 기업·공공용 생성형 인공지능(AI) 시장을 공략한다. 자체 개발한 LLM 에이닷과 협력사인 엔트로픽, 코난 등의 LLM을 조합해 기업·공공용 맞춤형 서비스를 제공하며 AI 생태계를 확대하겠다는 것이 SKT의 멀티 LLM 전략의 핵심이다.

SKT는 기업ㆍ공공용 '생성형 AI(인공지능) 시장' 공략을 목표로 자사 및 협력사의 기술력을 결합한 '멀티 LLM)' 전략을 선보인다고 23일 밝혔다. 이에 기업 및 공공기관 등의 요구에 맞춰 자체 개발해온 에이닷 LLM과 윤리적 답변 및 대용량 텍스트 입력에 강점이 있는 엔트로픽의 LLM, 한국어 데이터가 풍부한 코난 LLM 등을 조합해 고객 맞춤형으로 제공하기 위한 기술 및 사업적 준비를 진행하고 있다.

이를 통해 한국어 기반의 구축형 LLM 시장에서는 에이닷 LLM을 중심으로 시장을 선점하고 초거대 AI 중심의 경쟁이 예상되는 클라우드형 LLM의 경우 엔트로픽 LLM 등을 활용해 시장을 공략할 계획이다.

우선 한국어 기반의 SKT 에이닷 LLM은 8월부터 엔터프라이즈용 기본모델을 출시하고 고객사 대상 모델을 학습시키고 최적화 작업을 진행한다. 이와 동시에 SKT의 지분투자 이후 협력을 확대하고 있는 코난의 LLM도 활용할 계획이다. 13일 지분 투자를 발표한 엔트로픽의 LLM은 SKT의 주요 B2B 서비스에 LLM 기능을 결합해 판매하는 방식을 우선 협의 중으로 기능 통합 작업이 완료되는 4분기부터 실제 서비스 제공이 가능할 것으로 기대된다.

SKT는 △대규모 GPU 시스템 △IT 인프라 운용 경험 △AI 개발자 기반을 보유하고 있는 점을 강점을 꼽았다. 특히 슈퍼컴 등 대규모 GPU 시스템을 갖추고 있어 고객 요구에 맞는 안정적 사전 학습이 가능하다고 강조했다. LLM을 포함한 AI 서비스는 사전 학습을 위한 데이터와 함께 안정적 서비스 제공을 위한 GPU 서버 인프라가 확실히 뒷받침되어야 개발시간 단축과 함께 정교한 서비스 개발이 가능하기 때문이다.

또한 전국 단위의 IT 인프라를 운용한 경험과 대규모 AI 개발자 기반을 보유하고 있어 하드웨어 인프라에서 LLM 소프트웨어에 이르기까지 엔터프라이즈 AI 분야에서 풀스택 서비스’가 가능할 것으로 보고 있다.

SKT는 최근 지분투자를 단행해 3대주주가 된 페르소나AI와 컨택센타 분야 LLM 구축 사업 협력을 추진하는 등 다양한 방식의 LLM 사업 추진을 위한 생태계를 구축, 확대해나갈 계획이다.

SKT는 LLM서비스의 수요가 먼저 나타나고 있는 정부 부처, 공기업, 금융기업 등을 주요 타겟으로 삼았다. 행정안전부, 과학기술정보통신부 등 정부에서 추진 중인 LLM 기반 시범 사업과 본 사업 참여를 준비중이며 금융권을 중심으로 한 LLM 기반 서비스 구축 프로젝트도 개별 고객사와 함께 추진 중에 있다. SK그룹 내 대형 제조 계열사 등과도 LLM기반 AI 기술의 제조 영역 적용을 위한 협의를 진행하고 있다.

SKT 엔터프라이즈 사업을 이끌고 있는 김경덕 CIC장(부사장)은 “고객의 요구 사항(Needs)으로, 다양한 멀티 LLM 조합을 기반으로 고객들이 실제 필요로 하는 서비스를 신속하게 제공하는 것이 중요하다”고 강조했다.