서울시가 생성형 인공지능(AI)을 행정 전반에 적용한 ‘챗봇 2.0’을 운영 중이라고 11일 밝혔다.
이날 시에 따르면 새롭게 선보이는 챗봇 2.0은 보안이 요구되는 행정망 내부에 자체 구축한 대규모 언어모델(LLM)과 시민용 챗봇 ‘서울톡’으로 구성된다. 해당 시스템은 지난해 9월 사업 착수 이후 약 6개월간 개발과 시범운영을 거쳐 응답 정확도와 사용자 편의성을 중심으로 서비스 완성도를 높였으며 처리 속도는 지속해서 개선해 나갈 계획이다.
직원용 행정망에는 보안성과 활용성을 동시에 잡기 위한 '이원화 운영체계'가 도입됐다. 내부 데이터 보안이 필수적인 업무는 자체 LLM이 맡고 일반적인 정보 검색과 아이디어 도출은 외부 상용 AI 서비스인 '서울AI챗'이 담당하는 구조다.
자체 LLM은 270종의 행정 업무 매뉴얼을 기반으로 검색증강생성(RAG) 체계를 갖춰 출처가 명확한 답변을 내놓으며 보도자료나 민원 답변 작성을 돕는 'AI 템플릿' 기능도 제공해 업무 효율을 극대화한다.
시민들이 카카오톡 채널로 이용하는 대시민 챗봇 '서울톡' 역시 생성형 AI를 적용해 기능이 강화됐다. 기존의 단순 120 민원 안내를 넘어 'AI에게 물어보기' 기능을 통해 서울시 홈페이지와 외부 웹 검색을 연계해 최신 정보를 24시간 자동으로 안내한다. 예를 들어 시민이 "이번 주말 광화문 행사"를 물으면 흩어진 정보를 종합해 최신 일정 기준으로 요약해 주는 식이다.
시는 챗봇 2.0을 발판 삼아 올 연말에는 단순 질의응답을 넘어 시스템과 연계해 문서 작성, 맞춤형 직무교육 추천 등 반복 업무를 스스로 수행하는 'AI 에이전트'까지 시범 적용할 계획이다.
강옥현 서울시 디지털도시국장은 "챗봇 2.0은 공무원에게 지능형 업무 파트너, 시민에게는 생활 밀착형 정보 안내 서비스가 될 것"이라며 "지속적인 고도화를 통해 서울시 행정의 AI 전환을 가속하겠다"고 말했다.
