일레븐랩스는 AI 리스크 평가 기업 AIUC(Artificial Intelligence Underwriting Company)와 협력해 AI 음성 에이전트 전용 종합 보험을 운영한다고 18일 밝혔다. 고객지원과 영업 현장에서 활용되는 ‘일레븐에이전트’가 잘못된 정보를 제공하거나 부적절한 응대를 하면 발생한 손실을 보험으로 보전할 수 있다.
이번 제도의 핵심은 AI의 행위를 인간의 업무 실수와 동일하게 취급한다는 점이다. 환각(할루시네이션)이나 부적절 발언 등으로 발생하는 법적·경제적 책임을 기업이 직접 부담하지 않고 관리할 수 있는 장치를 마련했다는 평가다. 그동안 기업들이 책임 불확실성 때문에 AI 도입을 시범 단계에 머물렀던 점을 고려하면 도입 장벽을 낮추는 계기가 될 것으로 보인다.
보험 적용을 위해서는 AIUC가 개발한 보안·신뢰성 기준 ‘AIUC-1’ 인증을 받아야 한다. 해당 인증은 환각, 프롬프트 인젝션, 데이터 유출, 편향성 등 실제 위험 시나리오를 기반으로 5000건 이상의 적대적 테스트를 통과해야 부여된다. 인증 유효기간은 12개월이며 최소 3개월마다 기술 검증을 거쳐야 한다. 보험료는 인증 비용과 별도로 에이전트 유형에 따라 책정된다.
일레븐랩스는 이번 제도가 AI 도입의 최대 리스크로 지목된 책임 문제를 해소하는 데 초점을 맞췄다고 밝혔다. 마티 스타니셰프스키 최고경영자(CEO)는 “보안 프레임워크와 보험 보장을 동시에 제공해 기업이 리스크를 최소화하면서 고객 경험 개선에 집중할 수 있도록 돕겠다”고 말했다.
