‘AI안전연구소’ 11월 출범…AI 안전 평가인프라 구축ㆍ기업 활용 지원

(사진제공=과학기술정보통신부)

이날 전략위에서는 △AI안전연구소의 설립·운영계획 △AI의 필수 인프라인 클라우드컴퓨팅에 대한 앞으로 3개년 정책방향을 담은 4차 클라우드컴퓨팅 기본계획 심의·의결 △대한민국 디지털 전략의 그간 추진실적 점검 등이 논의됐다.

AI안전연구소는 ETRI에 소속된 신규 연구소 조직으로 설치하고, AI안전 정책·평가·기술분야의 3개의 연구실로 구성·운영된다. 연구소 초대소장으로 AI분야 전문성과 국제적 감각을 보유한 전문가를 채용하기 위한 절차를 진행 중이며, 총 30여명 연구인력을 점진적으로 확보해 나갈 계획이다. 사무실은 우수인력 채용과 AI기업·유관기관과의 용이한 협력을 위해 판교 글로벌 R&D센터에 설치한다.

연구소는 ‘아태지역을 대표하는 글로벌 AI안전 거점연구소’ 구현을 비전으로 한다. 3대 핵심 미션으로는 △AI안전에 대한 과학적 이해 증진 △AI안전정책 고도화 및 안전제도 확립 △국내 AI기업의 안전 확보 지원을 추진한다.

이를 위해 연구소는 국가 차원에서 관리해야 할 주요 AI위험을 정의하고, AI안전 평가방법론 개발과 위험완화 방안을 마련한다. AI안전 평가데이터셋 구축 및 평가도구 개발 등 AI안전 평가인프라를 구축하고, 기업의 활용을 지원할 계획이다.

AI 안전 정책도 연구한다. 주요국, 국제기구의 AI 규범·거버넌스를 연구하고, 국내·외 주요 AI위험 정보를 수집·분석하여 AI안전 정책을 고도화해 나갈 예정이다. 또 AI 기술이 경제·사회·일자리 등에 미치는 영향을 종합적으로 분석하고 대응방안 연구도 추진할 계획이다.

대내외 협력도 수행한다. AI안전연구소를 중심으로 산·학·연이 참여하는 ‘AI안전 파트너십’을 구축해 AI안전 정책·기술 분야 연구 협력을 촉진할 방침이다. 또한 글로벌 AI안전 거버넌스의 주요 일원으로서 AI안전 확보를 위해 주요국 AI안전연구소, 국제기구 등과 긴밀히 연대·협력해 나간다.

R&D도 추진한다 .AI 통제력 상실 대응, AI모델의 보안·강건성 강화, AI 딥페이크 탐지 등 고도화되고 있는 AI위험에 대비하여 안전을 확보할 수 있는 R&D를 진행할 계획이다.

정부는 11월 AI안전연구소를 개소할 예정이며, AI안전연구소는 11월 20일부터 미국 샌프란시스코에서 개최될 ‘국제 AI안전연구소 네트워크’ 행사 참여를 시작으로 본격적인 역할을 수행해 나갈 계획이다.

과기정통부 유상임 장관은 “향후 1~2년은 우리나라가 인공지능, 디지털 분야 선도국 도약의 성패를 좌우할 수 있는 골든타임으로 정부와 민간이 힘을 합쳐 모든 역량을 총결집 해야할 때”라며 “클라우드컴퓨팅 도입 전면화, AI안전연구소 출범 등 오늘 논의된 내용들을 속도감있게 추진해 나갈 수 있도록 관계부처와 적극 협력해 나갈 것”이라고 말했다.