논쟁적인 학습 데이터 공개 담긴 것은 우려
정부가 '인간의 존엄성ㆍ사회의 공공선ㆍ기술의 신뢰성' 등 3대 가치와 7대 원칙이 담긴 ‘인공지능 윤리원칙’ 초안을 발표했다.
과학기술정보통신부와 정보통신정책연구원(KISDI)이 14일 프레지던트호텔 모짤트홀에서 개최한 ‘대한민국 인공지능 윤리원칙’ 대토론회에서 최우석 과기정통부 인공지능안전신뢰지원과장은 인간의 존엄성, 사회의 공공선, 기술의 신뢰성 등 3대 가치와 인간중심성, 프라이버시 보호, 공정성·포용성, 책임성, 안전성, 신뢰성, 투명성 등의 7대 원칙이 담긴 ‘대한민국 인공지능 윤리원칙’ 초안에 대해 설명했다.
최 과장은 “AI의 개발을 막기보다는 어떻게 잘 이용해서 문제를 최소화하고 효율을 극대화할 수 있는지를 고민해야 하는 시점”이라며 “윤리원칙은 공급자와 이용자가 AI로 인한 갈등을 줄이기 위해 함께 고려해야 할 사항”이라고 말했다.
정부는 AI 기본법 제27조에 따라 지난해 말부터 AI 안전·신뢰성 제고를 위해 모두가 따라야 할 자율 규범인 ‘대한민국 인공지능 윤리원칙’을 수립해왔다. 2020년 마련된 ‘인공지능 윤리기준’을 계승하면서도 ‘AI 기본법’ 시행 이후의 정책 여건을 반영하고 에이전틱 AI·피지컬 AI 시대에 맞게 정비되고 있다.
최 과장은 “윤리원칙은 규제 입법의 예고편이 아닌 이를 지연시키는 장치”라며 “이번 원칙은 AI가 필수 인프라임을 전제한 가운데 사회의 지속가능성을 위해 각 주체가 지켜야 할 원칙을 제시했다는 차별점이 있다”고 덧붙였다. 특히 AI 기본법이 발효된 가운데 연성 규범을 만드는 최초의 사례라는 의미가 있다.
이날 이상욱 한양대학교 철학과·인공지능학과 교수(AI사회정책포럼 위원장)는 “AI가 가능성을 넘어 돈을 벌어야 하는 산업이 된 가운데 윤리원칙이 산업계의 예측 가능성을 높일 수 있다”고 말했다. 윤리원칙이 혁신을 제약하는 요소가 아니라 바람직한 AI 개발·활용을 돕고 이를 가능하게 하는 역할을 수행할 수 있다는 것이다.
이 교수는 “에너지 효율성, 안전성 등 AI를 지속 가능한 방식으로 쓸 수 있는가가 새로운 쟁점으로 부상했다”며 “윤리원칙은 비용 효율적이면서 규범적으로 바람직한 과학 연구를 할 수 있게 돕는 헬퍼의 역할을 할 것”이라고 강조했다.
이후 문명재 연세대학교 행정학과 교수(AI사회정책포럼 상생·혁신분과장)를 좌장으로 윤리원칙에 대한 종합 토론이 진행됐다. 학계와 시민사회, 산업계, 정부 관계자들이 참여한 가운데 산업계는 윤리원칙이 현장에서 참고할 수 있는 기준으로 기능하되 새로운 규제나 획일적인 의무로 작용해서는 안 된다고 당부했다.
김경훈 카카오 AI Safety 리더는 “투명성 원칙에 학습 데이터 공개가 담겨 있다”며 “국제적으로 논쟁이 되는 사안인데 윤리원칙에 들어감으로써 앞으로의 입법 논의 과정에 영향을 미칠까 우려된다”고 밝혔다. 김현주 한국인공지능·소프트웨어산업협회(KOSA) 본부장은 “윤리원칙이 현장에서 잘 동작하게 만드는 게 중요하다”며 “중소기업, 스타트업에는 대기업처럼 윤리 담당자가 따로 있는 것이 아니기 때문에 디테일한 가이드라인과 온라인 채널이 필수적”이라고 말했다.
변순용 서울교육대학교 윤리교육과 교수(한국인공지능윤리학회 회장)는 “윤리원칙이 먼저 만들어지고 필요한 것을 법으로 제정하는 과정이어야 하는데 지금은 역순으로 돼 있는 게 아쉽다”면서도 “만병통치약이 될 수는 없지만 방향성을 제시하는 나침반 역할을 할 것”이라고 밝혔다.
시민사회에선 홍윤희 사단법인 무의 이사장이 “접근성이라는 단어가 명시적으로 들어가면 좋겠다”고 제안했으며 윤명 소비자시민모임 사무총장은 “기술이 상용화되기 전에는 인간 중심이라는 것을 어떻게 반영할지 고민이 컸는데 이번 윤리원칙 서문에 인간, 사회, 미래를 다 아우르는 개념이 담겨서 긍정적으로 평가한다”고 말했다.
과기정통부는 이번 공개토론회에서 제시된 의견을 종합적으로 검토해 윤리원칙안을 보완하고 8월 제정 및 공표할 예정이다. 이후 윤리원칙 해설서와 기업 대상 자율점검표를 마련하고 국제기구 등과 윤리원칙 공유·확산·논의를 활성화할 계획이다.
