“안전 없는 혁신은 없다”...과기정통부, 국민과 함께 ‘AI 안전 마스터플랜’ 만든다

▲6일 과기정통부의 'AI 안전 생태계 조성 마스터플랜 의견수렴 간담회'에서 토론자들의 토의를 하고 있다. 김연진 기자 yeonjin@

과학기술정보통신부가 ‘인공지능(AI) 안전 생태계 조성 마스터플랜’을 구체화하기 위해 산업계, 학계, 시민사회 관계자를 모아 의견수렴 간담회를 열었다. 이날 한국정보통신기술협회(TTA), 인공지능안전연구소가 ‘AI 안전 생태계 조성을 위한 3가지 전략’을 소개했으며 자유토론이 이어졌다.

6일 서울 중구 은행회관에서 진행된 이번 간담회는 상반기 발표 예정인 ‘국가 AI 안전 생태계 조성 마스터플랜’에 학계·연구기관·기업·시민사회 의견을 반영하고자 마련됐다. ‘안전한 AI 기본사회’ 구현을 위해 정부는 이해관계자를 국민, 기업, 국가로 구분해 AI 안전 정책 방향성을 만들고 있다.

곽준호 TTA 팀장은 “AI 안전문제는 향후 AX를 가로막는 유리 장벽이 될 수 있다”며 “국민이 일상생활에서 활용하는 AI의 위험 요인을 쉽게 알 수 있도록 ‘AI 안전 전문 에이전트’을 개발 및 보급하겠다”고 말했다.

김명주 AI안전연구소장은 “가급적 많은 기업들이 민간 자율 검·인증에 참여할 수 있도록 민간자율협의체를 구성했다”며 “이 같은 검·인증 제도가 글로벌 호환성을 가질 수 있도록 해서 우리 기업의 글로벌 진출을 활성화하겠다”고 말했다.

또한 김 소장은 “AI 3대 강국 도약을 이야기하는 것처럼 AI안전연구소의 규모와 역량 글로벌 3위 수준으로 키우겠다”며 “AI를 모니터링하기 위한 상시 레드티밍을 강화하겠다”고 강조했다. 레드티밍은 공격자 관점에서 시스템의 취약점을 의도적으로 점검해 보안 허점을 찾아내는 방식을 말한다.

마스터플랜 관련 방향성과 관련해 이은주 서울대 인공지능신뢰성연구센터 소장은 “안전한 AI를 만드는 것은 기업의 책임이고 이를 검사해서 인정해주는 것은 정부와 공공기관의 역할”이라며 “이런 제도를 만드는 것이 오히려 국민에게 일종의 아웃소싱을 하면서 책임을 전가하는 것 아닌지 생각해봐야 한다”고 지적했다.

이상근 고려대 정보보호대학원 교수는 “AI 안전과 보안에서 한 걸음 더 나아가 국가 안보로 담론을 확장시켜야 한다”며 “한국인터넷진흥원과 국정원, 국가안보실 등의 여러 기관들이 다같이 협력하지 않고 AI 안전이라는 피상적인 레벨에서만 고민한다면 국민이 믿고 쓸 수 있는 AI를 만들 수 없을 것”이라고 밝혔다.

시민단체에선 AI로 인한 위험이 발생했을 때 어떻게 구제할 수 있을지에 대한 절차적 시스템이 미흡하다는 지적이 나왔다. 정지연 한국소비자연맹 사무총장은 “안전한 AI 생태계를 만드는 게 아니라 ‘안전해보이는 AI 생태계’에 그칠 수 있다”며 “민간 자율 검·인증 제도 같이 자율에 맡긴 안전은 소비자에게 위험을 전가하는 방식”이라고 강조했다.

산업계는 AI 안전을 확보하는 것이 기업이 성장할 수 있는 토대임을 강조했다. 김경훈 카카오 AI 세이프티 리더는 “AI 서비스의 효용이 아무리 높다고 해도 안전이 담보되지 않으면 이용자는 선택하지 않는다”며 “오픈소스 커뮤니티를 중심으로 AI가 빠르게 발전하는 상황에서 안전에 대한 표준은 개방된 생태계 안에서 돌아가야 한다”고 말했다.

김명신 LG AI연구원 정책수석은 “우리나라 AI안전연구소가 네트워킹에만 머물지 않고 글로벌 차원에서 주도적으로 아젠다를 이끌어가면 좋겠다”며 “국제기구에서 미국이 탈퇴하면서 생기는 빈자리를 한국이 채울 수 있는 기회”라고 말했다. 그러면서 정부 차원의 AI 안전 보고서 발간을 제안했다.