“AI 가이드라인 추상적”…금융권 자율규제 유도 역부족

17일 국회입법조사처는 ‘금융분야 AI 가이드라인 도입 추진과 시사점’이라는 연구 보고서를 통해 “금융분야 AI 가이드라인은 AI를 운영함에 있어서 소비자 보호를 위한 방향성을 제시한다는 측면에서 의의가 있다”면서도 “그러나 가이드라인 상의 ‘신뢰성’, ‘책임성’, ‘공정성’ 등 용어는 다소 추상적이고, ‘최선의’, ‘적절한’ 방안이 무엇인지 불분명해 동 가이드라인의 적용 대상인 금융회사 등에 부담으로 작용할 우려가 있다”고 지적했다.

앞서 금융위원회는 지난 7월 금융분야 AI 가이드라인을 제시했다. 이 가이드라인은 △금융산업의 책임성 강조 △학습용 데이터의 정확성·안전성 확보 △금융서비스의 투명성·공정성 담보 △금융소비자 권리의 보장을 중심으로 구성됐다. 이 가이드라인은 금융서비스 및 금융상품 제공을 위한 업무에 AI 시스템을 직·간접적으로 활용하거나 활용하고자 하는 금융회사, 금융연관 서비스 제공을 위한 업무에 AI 시스템을 직·간접적으로 활용하거나 활용하고자 하는 비금융회사에 적용된다. 이 가이드라인은 연내 실행될 예정이다.

금융분야 AI 가이드라인의 주요 내용을 살펴보면 △금융분야 AI 시스템의 개발, 사업화, 활용 등 전 과정에서 ‘신뢰성’을 제고해 AI 활성화에 기여하는 것을 목적으로 한다 △AI가 인간의 의사결정 과정을 대체하는 경우에는AI 시스템을 효과적으로 감독·통제하고 ‘책임성’을 유지할 수 있도록 AI 시스템을 설계해야 한다 △도입·운영·모니터링 단계에서는 ‘적절한 권리구제 방안’을 고지하고 성능을 주기적으로 모니터링하며 ‘최선의 보안 시스템을 구축’하기 위해 노력해야 한다 등의 모호한 표현이 존재한다.

문제는 이 가이드라인이 AI 활성화를 위해 법적 규제나 행정지도에 비해 약한 규제 형식을 취한 것으로 ‘모범규준’에 해당한다는 점이다. 금융위가 AI 운영에 대한 최소한의 방향성을 제시했지만, 규제의 성격이 있는 만큼 금융사들은 이를 기반으로 AI 도입을 추진해야 한다. 불명확한 표현으로 자체적인 AI 도입 기준을 만드는데 혼란이 생길 수 있다. 과거 금소법 가이드라인이 나왔을 당시에도 수차례 재·개정이 이뤄졌지만 금융사들은 내용이 모호해 적용이 쉽지 않다는 불만을 토로한 바 있다.

국회입법조사처는 “금융위는 ‘모범규준’과 ‘업권별 자율규제’ 형식의 2단계 규율을 계획하고 있지만, 금융회사 등의 자율규제를 유도하기 위해서는 보다 명확한 기준과 원칙이 제시될 필요가 있다”고 꼬집었다.

그러면서 국회입법조사처는 기존 금융시장 관리체계를 고려한 금융분야 AI 자율점검표 도입을 제안했다.

보고서는 “자율점검표를 도입할 경우 ‘금융소비자 보호에 관한 법률’, ‘자본시장과 금융투자업에 관한 법률’ 등을 기반으로 해 금융시장에 특화된 AI 운영 원칙과 점검항목을 마련할 필요가 있을 것”이라며 “평가 목록을 작성함에 있어서 ‘의무사항’과 ‘권장사항’으로 명확히 구별해 금융회사 등의 부담을 완화하는 방안을 생각해 볼 수 있다”고 제언했다.