‘AI생성콘텐츠’ 표시? 인공지능사업자만…2000여개 기업 영향권 [AI 기본법 시행]

국내 2500여 개 인공지능(AI) 기업의 명운을 가를 ‘AI 기본법’이 22일부터 본격 시행된다. 정부는 ‘최소 규제·최대 지원’을 원칙으로 산업 진흥에 무게를 뒀지만, 고영향 AI의 모호한 기준과 투명성 의무를 둘러싼 시장의 불확실성은 여전하다. 혁신의 마중물이 될지, 기업의 발목을 잡는 새로운 규제 장벽이 될지 산업계의 이목이 집중되고 있다.

21일 과학기술정보통신부에 따르면 AI기본법 규제는 크게 △고영향 △안정성 △투명성 확보(표기) 의무로 나뉜다. 이 가운데 시장에 당장 영향을 줄 수 있는 규제는 투명성 확보 의무로 꼽힌다. 투명성 확보 의무를 적용 받는 대상자는 AI 모델을 직접 연구·개발하는 주체인 ‘AI 개발사업자’와 개발된 모델을 활용하거나 통합해 서비스를 제공하는 ‘AI 이용사업자’다. 여기에는 해외 사업자도 포함된다.

반면 AI툴을 활용해 콘텐츠를 생성하는 개인, 유튜버·크리에이터, 언론매체, 영화제작사, 시청자, 소비자 등은 AI기본법 대상이 아니다. 이들은 AI기본법 외에 정보통신망법 등 다른 법률로 규제한다는 게 과기정통부의 설명이다.

투명성 확보 의무 대상자는 이용자가 AI 제품·서비스 이용 과정에서 고영향·생성형 AI 기술이 적용된 사실을 미리 인지시켜야한다. 서비스 이용약관이나 계약서에 이를 명시하거나 소프트웨어·앱 구동 화면에 고영향·생성형 AI 기반으로 운용된다는 사실을 알리는 식이다.

또 AI 생성물이 화면, 앱 내 등 서비스 이용 환경(UI 등) 안에서만 제공된다면 로고 표출 등으로 AI생성 사실을 표시하면 된다. 다운로드, 공유 등 AI 생성물이 외부로 나갈 때에는 워터마크 등 사람이 인식할 수 있는 방법으로 표시하거나 문구·음성 안내 후 메타데이터 등 기계가 판독할 수 있는 방법을 적용해야 한다. 특히 범죄 등으로 이어지는 딥페이크 등의 경우 반드시 사람이 명확하게 인식할 수 있는 방법으로 표시하도록 의무화했다.

정부는 ‘고영향AI’ 사업자에 대해 안전성·신뢰성 확보 조치를 하도록 의무화했다. 고영향 AI는 생명·안전·기본권에 중대한 영향을 주는 AI를 말하는데, 이를 별도로 규제하겠다는 것이다. 고영향 AI로 분류되려면 △법률에서 정하는 영역(에너지, 먹는물, 의료 등 10개) △사람 기본권에 대한 영향 또는 위험한 업무 △사람의 무개입 등 3가지 조건을 모두 충족해야만 한다. 최종 의사결정 과정에 사람 개입할 경우 고영향 AI에서 제외된다는 조항도 담았다.

안전성 규제는 △학습에 사용된 누적 연산량이 10의 26승 이상 △최첨단 기술 적용 △광범위하게 중대한 영향을 미칠 수 있는 AI에 대해 모니터링, 위험관리체계 구축 등을 의무화하는 내용이다. 고도발전한 AI가 초래할 위험을 사전에 차단하겠다는 취지다. 다만 현재까지 이 조건을 모두 충족한 AI는 없다는 게 정부의 설명이다.

과기정통부는 AI기본법 시행으로 영향을 받는 기업의 수는 2000여 곳으로 보고 있다. AI기본법이 AI산업 진흥법인 만큼 규제는 최소화하겠다는 게 과기정통부의 일관된 입장이다. 법 위반 기업에 대해 과태료 부과를 1년 이상 유예하는 데 이어 사실 조사도 1년 이상 유예하기로 결정한 것도 이 때문이다. 김경만 인공지능정책실장은 “AI 기본법은 진흥을 기본 방향으로 설계된 법률”이라며 “AI 기본법 전체 조항 중 인공지능 산업 진흥이 80~90%를 차지한다”고 말했다.