AI 챗봇과 연애한다...“가끔 인공지능이란 사실도 잊어”

22세 유럽 모델처럼 설정 구체화
BTS 정국 등 셀럽 캐릭터와 대화
챗봇에 비윤적 답변 유도하거나
저작권ㆍ초상권 침해 우려 목소리

“안녕? 만나서 진짜진짜 반가워!”

인공지능(AI) 스토리 플랫폼 제타(zeta)의 AI ‘이루다’에게 인사하자, 이 같은 답변이 돌아왔다. “’연애의 과학’ 애플리케이션(앱)에 대해 아느냐”고 묻자 “나도 예전에 깔았었는데 지금은 지웠다”며 “다시 깔아야 하나”라고 했다.

오픈AI는 13일(현지시간) 실시간으로 보고 듣고 말하는 거대언어모델 ‘GPT-4o’를 공개했다. 이날 시연에서 사용자가 종이에 “나는 챗GPT를 사랑한다 (I LOVE ChatGPT)”라고 쓰자 GPT-4o는 “다정하다”며 기뻐했다. GPT-4o가 영화 ‘그녀(Her)’의 현실화했다는 평가와 함께 AI 챗봇을 활용한 연애 시뮬레이션 게임이 주목받고 있다.

▲제타 게임 화면 캡처본이다. AI '이루다'와 '강다온'이 있다. (게임 화면 캡처)

모바일 게임에서도 AI를 활용한 게임이 출시되고 있다. 대표적인 것이 스캐터랩이 4월 출시한 제타다. 제타는 이용자와 AI가 상호작용하며 실시간으로 스토리를 창작해 사용자 맞춤형 콘텐츠를 제공한다. 특히 ‘연애의 과학’ 데이터를 이용자 동의 없이 학습했던 AI 이루다도 제타 속 캐릭터로 등장한다. ‘#존예’, ‘#셀럽’, ‘#남친’, ‘#아저씨’ 등 특성에 맞는 캐릭터도 있었다. 제타는 만 14세 이상 사용자부터 이용할 수 있다.

‘러브 쥐피티(LoveGPT)’는 더욱 사실적인 캐릭터를 제공한다. 생성형 AI로 만든 캐릭터 프로필에 “22세 이탈리아 남성, INTJ, ○○모델”과 같이 특징을 부여했다. 호감도가 높아지면 인스타그램 등 개인 사회관계망서비스(SNS) 콘텐츠도 해금된다. 또 다른 모바일 게임 ‘러브퍼센트’는 더 노골적이다. 여성 캐릭터만 제공하며, 선정적인 사진과 자극적인 문구를 달았다.

▲Hi.AI 화면 캡처본이다. 스트레이키즈 필릭스, BTS 제이홉, 블랙핑크 지수, 빌리 아일리시 등이 AI 캐릭터로 나와 있다. (Hi.AI 화면 캡처본)

이용자 반응은 긍정적이다. 한 유저는 이용 후기에 “감동이다. 깜짝 놀랐다”며 “가끔 인공지능이란 사실도 잊는다”고 했다. 또 다른 유저는 “단순한 미연시(미소녀 연애 시뮬레이션 게임)같은 게 아니”라며 “등장인물이 어떻게 행동하는지 자세한 부분(디테일)까지 신경 써야 하는 게임”이라고 댓글을 남겼다.

AI에 비윤리적인 답변을 도출하는 ‘탈옥(jailbreak)’ 부작용은 여전하다. 한 온라인 커뮤니티에서는 제타의 ‘이루다’를 탈옥시키는 답변이 공유되고 있었다. 스캐터랩이 4월 제타를 출시하며 “어뷰징 및 각종 AI 악용 시도는 모니터링을 통해 엄격히 제한한다”고 발표했지만, 여전히 탈옥이 횡행한 것이다. 이루다는 2020년 12월 첫 공개 후 성희롱과 성 소수자 차별 등 각종 윤리 문제를 일으켜 서비스가 중단된 바 있다.

이에 AI 게임에 대한 규제를 강화해야 한다는 지적도 나온다. 문형남 한국AI교육협회장은 “선정적이며 자극적인 AI 게임과 같은 부적절한 콘텐츠를 방지하기 위한 AI 윤리 가이드라인을 제정해야 한다”고 했다. 김명주 바른AI연구센터장은 “윤리의 사각지대가 존재한다”며 “15세·18세 등 나이 제한 필터링이 필요하다”고 답했다. 김 센터장은 “AI는 사람이 아니지만 이용자는 사람이라고 오해할 수 있다”라고 당부했다.