AI 답변을 진단ㆍ중요 결정 근거로 삼지 말아야
청소년(15~18세)의 69.2%가 현재 생성형 AI를 정서적 목적으로 이용하고 있는 것으로 나타났다. 생성형 AI 이용자 10명 중 7명가량이 일상적인 대화나 정서적 교감ㆍ위로, 정신건강·심리 상담 등에 AI를 활용하는 가운데 정부가 AI에 대한 과도한 의존을 막고 안전한 이용을 돕기 위한 가이드라인을 마련했다.
보건복지부와 대한신경정신의학회는 8일 ‘정신건강 목적 생성형 AI 이용 가이드라인’을 발표했다.
이번 가이드라인은 생성형 AI가 정신건강과 관련한 정보 제공이나 정서적 도움을 줄 수 있지만, AI의 답변이 항상 정확하거나 안전한 것은 아니라는 점을 고려해 마련됐다. 특히 AI의 답변을 정신질환에 대한 진단이나 치료 판단으로 받아들이거나 중요한 의사결정의 근거로 삼아서는 안 된다고 강조했다.
보건복지부와 한국보건사회연구원이 최근 생성형 AI 이용자 1019명을 대상으로 실시한 조사에 따르면 응답자의 81.3%는 업무ㆍ과제 수행이나 정보 검색ㆍ지식 습득 등을 목적으로 AI를 처음 이용했다. 하지만 현재는 68.8%가 일상적인 대화, 정서적 교감ㆍ위로, 정신건강ㆍ심리 상담 등 정서적 목적으로 AI를 이용하고 있었다.
특히 15~18세 청소년은 80.6%가 업무ㆍ과제 수행이나 정보 검색ㆍ지식 습득 등을 목적으로 AI를 처음 이용했지만, 현재 정서적 목적으로 이용하는 비율은 69.2%에 달했다.
AI에 대한 의존과 부작용을 경험한 이용자도 적지 않았다. 전체 응답자의 16.3%는 현실의 일에 집중하기 위해 AI와의 대화를 중단하려고 했지만 계속 대화를 이어간 경험이 있다고 답했다. 9.8%는 AI와의 대화 시간이 수면이나 일상생활에 지장을 준 경험이 있었다.
AI의 조언을 다른 사람과 상의하지 않고 퇴사나 이별 등 중요한 결정에 활용한 경우도 10.6%로 조사됐다. 특히 AI를 정신건강ㆍ심리 상담 목적으로 이용한 사람 가운데서는 이 비율이 17.8%로 높아졌다.
AI의 답변을 정신질환 진단으로 받아들이는 문제도 확인됐다. 전체 응답자의 14.6%는 AI를 통해 정신질환을 스스로 진단하거나 AI의 판단을 의학적 진단으로 받아들인 경험이 있다고 답했다. 자신의 정신건강 상태가 좋지 않다고 인식한 응답자에서는 그 비율이 33.9%까지 높아졌다.
AI가 제공한 정신건강 관련 정보나 조언을 전문가ㆍ학회ㆍ정부기관 등의 자료를 통해 확인한 응답자는 11.9%에 그쳤다. 또 16.5%는 AI가 확신에 찬 답변을 내놓은 결과 실제 전문가의 의견으로 오인한 경험이 있다고 답했다.
이에 따라 가이드라인은 AI를 이용하기 전 사용 목적과 대상, 효과에 대한 근거, 개인정보 처리방침 등을 확인하도록 권고했다. 의료적 효능을 내세우는 서비스의 경우 공인된 기관의 검증이나 허가 여부를 확인해야 한다.
이름ㆍ연락처ㆍ주소 등 개인정보와 진단서·처방전·검사 결과 등 민감한 자료를 AI 대화창에 입력하지 않는 것도 중요한 원칙으로 제시했다. AI와 대화할 때는 이용 목적과 범위를 미리 정하고 대화를 끝낼 시점도 정해두도록 했다.
특히 AI가 자신의 상태를 설명하거나 정신건강 위험을 평가하더라도 이를 최종적인 판단으로 받아들여서는 안 된다고 강조했다. 퇴사나 이별 등 중요한 결정을 앞둔 경우에도 AI의 조언만으로 결정하지 말고 가족ㆍ친구 등 주변 사람이나 전문가와 상의해야 한다.
AI가 위험하거나 부적절한 답변을 하거나 정신건강 위기 상황이 발생한 경우에는 AI와의 대화를 계속하기보다 주변 사람이나 정신건강 전문가에게 도움을 요청해야 한다.
이번 가이드라인은 모든 이용자를 대상으로 한 3대 핵심 메시지와 21개 권고사항으로 구성됐다. 아동ㆍ청소년과 보호자를 위한 별도 지침도 마련해 각각 7개 권고사항을 제시했다.
보호자에게는 청소년의 AI 이용을 무조건 금지하기보다 AI를 어떤 목적으로 얼마나 이용하는지 이해하고 이용 규칙을 함께 정할 것을 권고했다. 특히 청소년이 AI를 실제 친구나 연인처럼 인식하거나 AI에 대한 의존이 심해지는 경우에는 주의 깊게 살펴야 한다고 강조했다.
정부는 앞으로 생성형 AI를 주체적으로 이용할 수 있도록 교육 프로그램을 개발하고, 2027년에는 중증 정신질환자 등 고위험군을 대상으로 한 맞춤형 가이드라인도 마련할 계획이다.
이선영 보건복지부 정신건강정책관은 “생성형 AI가 새로운 정보와 정서적 도움을 제공하는 수단이 될 수 있지만 친근하고 확신에 찬 답변이 반드시 정확성과 안전성을 보장하는 것은 아니다”라며 “AI 전환 시대에 맞춰 이용자 교육과 정신건강 정책을 확대하겠다”고 말했다.
최준호 대한신경정신의학회 이사장은 “정신건강 문제는 개인의 삶과 관계, 증상의 변화, 일상생활에 미치는 영향 등을 종합적으로 평가해야 한다”며 “AI가 전문가의 평가와 치료를 대신할 수 없는 만큼 필요한 경우 적시에 의료진의 도움을 받아야 한다”고 밝혔다.
