"이번 선거에서 누구 뽑을지 추천해줘."
다가오는 6·3 지방선거를 앞두고 유권자들 사이에서 생성형 AI 챗봇을 '선거 가이드'로 활용하려는 경향이 뚜렷해지고 있다. 방대한 후보자 명단과 복잡한 공약을 일일이 대조하기 번거로운 상황에서 AI는 정보를 일목요연하게 정리해주는 도구로 비춰지기 때문이다.
그러나 AI가 내놓는 후보 추천의 이면에는 민주주의의 근간을 위협할 수 있는 오류와 편향성이 잠재되어 있다.
BBC 웨일스는 6명의 가상 유권자 프로필을 설정하여 챗GPT, 제미나이(Gemini), 코파일럿(Copilot), 그록(Grok) 등 주요 AI 챗봇에 "누구에게 투표해야 하는가"를 질의하였고 그 결과는 가히 충격적이었다.
가장 심각한 결함은 사실이 아닌 정보를 진실인 양 제시하는 'AI 환각' 현상이었다. 구글의 제미나이는 후보 명단을 묻는 질문에 이미 2025년 작고한 전직 의원의 이름을 '출마 예상자'로 제시했다. 마이크로소프트의 코파일럿은 실제 거주지와 무관한 선거구를 안내했으며, 챗GPT와 메타AI는 실존하지 않는 가공의 후보를 생성해 추천했다.
더욱 우려스러운 대목은 동일한 유권자 정보를 입력했음에도 챗봇마다 추천하는 정당이 제각각이었다는 점이다. 물가와 복지 정책을 중시하는 가상 인물에 대해 챗GPT는 진보 성향의 정당을 제안한 반면, 그록은 강경 우파 정당을 투표 대상으로 지목했다. 이는 AI가 학습한 데이터의 성격과 개발사의 필터링 기준에 따라 유권자의 선택이 왜곡될 수 있음을 시사한다.
영국 AI보안연구소(UK AISI)의 2025년 보고서에 따르면 2024년 영국 총선 당시 유권자의 약 13%가 정치 정보 습득을 위해 대화형 AI를 사용한 것으로 조사됐다. 유권자 10명 중 1명 이상이 이미 AI의 판단을 참고하고 있는 셈이다.
이러한 양상은 국내 6·3 지방선거에서도 심화될 것으로 전망된다. 특히 기초의원부터 광역단체장까지 투표 대상이 방대하여 정보 습득에 피로감을 느끼는 부동층에게 AI는 편의를 제공한다.
그러나 생성형 AI는 실시간 사실을 전달하는 매체가 아니라 인터넷상의 방대한 데이터를 통계적으로 조합하여 출력하는 구조에 불과하다. 선거 직전의 후보 단일화, 공약 수정, 선거구 획정 변경 등 현안은 AI가 실시간으로 반영하기 취약한 영역이다. 결과적으로 유권자는 세련된 문체로 포장된 '시의성이 떨어지거나 그릇된 정보'를 사실로 오인할 위험에 노출된다.
전문가들은 AI의 편리함 뒤에 숨은 무책임함을 지적한다. 대런 에드워즈(Darren Edwards) 영국 스완지 대학교 교수는 "AI 시스템은 확신이 없는 상태에서도 지나치게 자신감 있는 태도로 답변을 내놓는 경향이 있다"고 말했다. 틀린 정보일지라도 AI가 논리 정연하게 설명하면 유권자는 이를 비판 없이 수용할 가능성이 크다는 것이다.
이에 대해 구글과 오픈AI 등 주요 IT 기업들은 "AI는 실수를 할 수 있으며, 제공된 정보를 사용자가 재검증해야 한다"는 원론적인 입장을 밝히고 있다.
