교황, “AI 챗봇에 지나친 감정 의존 경계해야⋯규제 필요”

▲레오 14세 교황. (바티칸/EPA연합뉴스 )

레오 14세 교황이 24일(현지시간) 인공지능(AI) 챗봇이 단순한 친구를 넘어 정서적으로 의존하는 것을 경계해야 한다는 메시지를 전했다. 또 AI와 과도한 감정적 유대를 형성하는 것을 방지하기 위해 규제가 필요하다고 촉구했다.

CNN에 따르면 교황은 5월 17일로 예정된 가톨릭 교회의 제 60차 ‘세계 소통의 날’을 앞두고 발표한 기념 메시지에서 “우리가 정보 피드를 스크롤할수록 지금 상호작용하고 있는 대상이 다른 인간인지, 봇인지, 아니면 가상 인플루언서인지 구분하기가 점점 더 어려워지고 있다”고 지적했다.

이어 “항상 곁에 있고 언제나 이용 가능한 데다 지나치게 다정하게 설계된 챗봇은 사람들의 감정 상태를 은밀하게 설계하는 존재가 될 수 있으며 그 결과 개인의 친밀한 영역을 침범하고 점유할 수 있다”고 비판했다.

교황은 “적절한 규제는 사람들이 챗봇에 감정적으로 집착하는 것을 막고 허위·조작·오해를 불러일으키는 콘텐츠의 확산을 억제해 기만적인 모방으로부터 정보의 온전함을 지킬 수 있다”고 제안했다.

언론인을 포함한 인간이 만든 콘텐츠와 AI가 생성한 콘텐츠 사이의 명확한 구분을 촉구하기도 했다. 그는 “언론인과 기타 콘텐츠 제작자의 저작권과 주권적 소유권은 반드시 보호되어야 한다”고 강조했다.

이와 함께 미디어 및 커뮤니케이션 기업들에게는 “몇 초 더 많은 주목을 얻기 위해 알고리즘을 사용하는 것이 자신들의 직업 가치를 배반하는 일이 되어서는 안 된다”고 경고했다.

이 밖에도 교황은 “AI 등 기술이 인간의 존엄성을 대체하거나 약화하지 않고 사람을 섬겨야 한다”다고 강조하기도 했다.

역대 교황들과 비교했을 때 레오 14세는 디지털 세계에 더 적극적으로 참여했다. 주교 및 추기경 시절에는 엑스(X·옛 트위터) 계정을 운영했으며 교황이 된 후에도 애플워치나 그와 유사한 스마트워치를 착용하는 모습이 포착되기도 했다. 선출된 직후에는 AI를 자신의 교황권 수행의 중점 과제로 삼고 싶다고 밝혔으며 발전하는 기술을 위한 윤리적 틀의 필요성을 지속적으로 역설해 왔다.