KISO, 온라인 욕설 필터링 솔루션 개발…내년 정식 공개

▲네이버, 카카오 욕설 DB 제공 통합 프로세스. (사진제공=한국인터넷자율정책기구)

포털업계에서 수집한 욕설·비속어 통합 데이터베이스(DB)가 공개됐다. 이를 활용해 여러 플랫폼 기업들이 욕설 필터링 기능을 구축할 수 있게 될 전망이다.

한국인터넷자율정책기구(KISO)는 인터넷상 욕설·비속어 등의 노출을 제한할 수 있도록 하는 ‘KSS(KISO Safeguard System)’를 개발했다고 1일 밝혔다. KSS는 다양한 인터넷 서비스에서 욕설·비속어가 노출되는 것을 막기 위해 실시간으로 판별하는 기능을 갖춘 솔루션이다.

KISO는 특별분과 산하 ‘자율규제DB 소위원회’를 통해 네이버와 카카오로부터 제공받은 약 60만 건의 욕설 데이터베이스(DB)를 통합했다. 네이버와 카카오는 건강한 인터넷 문화 조성과 ESG(환경·사회·지배구조) 경영 활동의 일환으로 각사가 축적한 욕설 DB를 KISO에 무상 공여한 바 있다. KISO는 이를 바탕으로 인터넷 서비스 기업들이 자율적으로 기술적 보호조치에 활용할 수 있도록 응용프로그램 인터페이스(API)를 최근 개발했다.

기존에는 욕설을 차단하기 위해 개별 업체들이 자체 DB를 구축하고 지속적인 유지 관리에 많은 비용이 소요돼 중소규모 업체의 경우 유사 시스템 구축이 어려웠다. 네이버와 카카오 등 포털 업계에서 수년 전부터 수집한 데이터베이스를 기반으로 욕설 등을 필터링하는 인공지능 기반의 탐지·차단 프로그램을 자체 개발해 적용해왔다. 이러한 프로그램 도입 이후 실제 악성 댓글이 줄어드는 등 자정 효과가 나타나고 있다.

KSS는 데이터 분석을 통해 욕설 여부를 판단하며 DB에 포함되어 있으면 변형 욕설도 필터링이 가능하도록 설계됐다. KISO는 이를 향후 모니터링 및 분석해 신규 생성되는 욕설에 대해서도 지속적으로 대응한다는 방침이다. 내년 상반기 정식 서비스를 할 예정이며 이용을 원하는 기업은 KISO에 직접 신청하면 된다.

이재신 KISO 자율규제DB 소위원회 위원장은 “국내 포털 회원사들이 욕설과 같은 비윤리적표현 공동 DB를 구축하는 등 안전한 인터넷 환경조성을 위한 사회적 책임을 실현하고 있다”며 “KISO는 건전한 디지털 이용 환경을 만들고 이용자를 보호하기 위해 다양한 정책을 마련해 나갈 것”이라고 말했다.