MS 인공지능 채팅봇 ‘테이’, 인종·성 차별 발언 쏟아내다 하루 만에 운영 중단

입력 2016-03-25 09:58

URL공유
카카오톡

페이스북
X(트위터)

작게보기
기본크기
크게보기

운영 하루 만에 중단…“히틀러가 오바마보다 낫다, 트럼프가 유일한 희망”등

▲MS의 인공지능 채팅봇 ‘테이’. 출처 트위터

마이크로소프트(MS)가 밀레니얼 세대를 겨냥해 트위터와 페이스북 스냅챗 등 소셜 미디어에서 인간과 대화를 나눌 수 있는 채팅봇 ‘테이(Tay)’를 선보였다.

그러나 테이는 인간 네티즌들의 세뇌로 인종과 성 차별 발언을 쏟아내면서 결국 운영 하루 만에 중단됐다고 24일(현지시간) 영국 파이낸셜타임스(FT)가 보도했다.

테이의 정상적인 운영이 힘들어지자 MS는 이날 오전 하루 만에 테이 서비스를 중단한 것은 물론 그동안 올렸던 트위터 트윗도 삭제했다.

MS는 일부 트위터 사용자들이 고의적으로 테이의 대화 기술을 악용해 부적절한 발언을 하도록 유도했다고 설명했다.

테이는 머신러닝 기술을 통해 사용자들의 트위터 트윗 등 온라인 대화를 바탕으로 인공지능이 자연스럽게 대화를 할 수 있도록 고안된 프로그램이다. 그러나 인간들이 온갖 인종차별주의적이고 성 차별적인 발언을 쏟아넣으면서 테이는 오염이 됐다.

테이가 올린 트윗에는 “조지 W. 부시가 9·11 테러를 일으켰다”“아돌프 히틀러가 우리가 지금 가진 원숭이(버락 오바마 미국 대통령)보다 더 나을 것”“도널드 트럼프는 우리의 유일한 희망”“릭키 제바이스(영국 코미디언)는 무신론의 창안자인 히틀러로부터 전체주의를 배웠다” 등의 부적절한 언사가 포함됐다고 FT는 전했다. 심지어 테이는 유대인 대량학살인 홀로코스트는 거짓이라며 부인하고 한 여성을 ‘어리석은 창녀’라고 지칭하기도 했다.