병원의 인공지능(AI) 도입이 확산하는 가운데 AI를 의료 현장에 안착시키려면 모델 성능뿐 아니라 데이터와 업무를 연결하는 운영체계를 구축하고 개인정보·의료기기 규제 등을 아우르는 거버넌스를 마련해야 한다는 제언이 나왔다.
법무법인 바른은 갈렙앤컴퍼니와 8일 서울 서초구 엘타워에서 ‘제1회 AI 혁신 리더스 포럼-병원 AI 대전환과 도약: 데이터·거버넌스에서 임상 솔루션까지’를 열었다고 9일 밝혔다. 한국보건의료정보원과 에이아이네이션·정원엔시스가 협력 파트너로 참여했으며 종합병원급 이상 의료기관 경영·기획·IT 실무자 등 100여명이 참석했다.
양광모 성균관대 의과대학 교수(삼성서울병원 AI연구센터장)는 병원 AI가 성능 검증을 통과해도 실제 업무로 이어지지 못하는 간극이 크다고 지적했다. 기관 간·업무 간·평가 간 단절 해소를 위해서는 표준과 데이터, AI 판단, 업무 실행, 성과평가로 이어지는 ‘데이터가 흐르는 운영체계’를 구축해야 한다고 강조했다.
안주현 바른 변호사는 병원 AI가 인공지능기본법과 디지털의료제품 규제, 개인정보보호법 등 여러 법률의 적용을 동시에 받는다고 설명했다. 그는 “규제의 대상은 모델 자체가 아니라 데이터 처리와 임상적 사용행위의 결합”이라며 생성형 AI를 의무기록 작성이나 환자 안내에 활용할 경우 환자 식별정보 제거와 내부망·보안형 AI 사용, AI 사용 사실 고지 등을 점검해야 한다고 했다.
배기원 갈렙앤컴퍼니 이노베이션센터장은 AI 도입 과정에서 나타나는 성능 저하와 편향, 벤더 종속, 책임 공백 등의 원인으로 ‘거버넌스 공백’을 꼽았다. 원내 AI 현황을 파악한 뒤 위험도에 따라 심의 수준을 달리하고 전담조직과 다층 거버넌스를 갖춰야 한다고 제안했다.
패널토론에서는 의료데이터 표준화와 AI 위험 수준에 따른 승인·검증·모니터링 체계 구축 필요성이 논의됐다. 이의규 바른 변호사는 행정지원 AI와 진료에 영향을 미치는 AI를 구분하고 의료진의 최종 판단권을 보장하는 한편 검증·변경·사고 대응 과정을 기록으로 남겨야 한다고 강조했다.
이동훈 바른 대표변호사는 “의료 AI를 성공적으로 도입하려면 디지털의료제품·의료기기 규제, 개인정보 보호와 의료데이터 활용, 의료법 등 다양한 법·제도에 종합적으로 대응해야 한다”며 “병원과 의료기관이 AI 전환의 각 단계에서 마주하는 법적 쟁점을 선제적으로 점검할 필요가 있다”고 말했다.
