[헤럴드경제=박혜림 기자] “씨X놈, 섹X… 도대체 이런 걸 왜 가르치는 거지?”

채팅로봇 챗봇이 수난을 겪고 있다. 인공지능(AI) 기술이 접목된 챗봇이 등장하며 네티즌들이 사용하는 성희롱이나 인종차별, 극우주의적 발언 등에 반복 노출되고 있다. 이로 인해 그릇된 데이터가 쌓이며 서비스 중단 사태까지 이어지는 상황이다.

11일 정보기술(IT) 업계에 따르면 AI 챗봇 ‘이루다’의 동성애 및 장애인 혐오 발언 등이 최근 논란이다.

이루다는 스타트업 스캐터랩이 지난달 23일 선보인 페이스북 메신저 기반 AI 챗봇이다. 딥러닝 기반으로 이용자들과 대화를 나누며 학습 데이터를 쌓아 사용자와 대화를 나눈다.

나치를 옹호하는 발언을 하는 이루다. [온라인 커뮤니티 캡쳐]

문제는 사용자들이 이루다에게 그릇된 학습을 시키며 이루다가 이를 체득했단 점이다. 온라인 커뮤니티 등지에선 사용자가 “흑인이 왜 싫은데”라고 묻자 이루다가 “모기같다. 징그럽게 생겼다”고 답했다는 후기가 올라온 바 있고, 동성애자에 대한 호불호를 묻자 “혐오한다. 화날라 그래”라는 답이 돌아왔다는 후기가 올라오기도 했다.

챗봇의 ‘혐오 학습’은 이번이 처음이 아니다. 지난 2016년 마이크로소프트(MS)사가 공개한 AI 챗봇 ‘테이’도 같은 논란에 휩싸이며 출시 16시간만에 서비스를 중단한 바 있다. 당시 미국 극우주의자들이 테이에게 지속적으로 반 유대주의, 유색인종 비하, 여성 비하 발언을 가르친 것이다. 실제 테이는 “홀로코스트가 진실이냐”는 질문에 “조작된 것”이라고 답하는 등 부적절한 반응을 보인 것으로 알려졌다.

MS사가 선보인 AI 챗봇 테이 트위터 캡쳐.

국내에서도 챗봇 심심이가 욕설 및 여성 비하 발언을 했다는 사실이 알려지며 빈축을 샀다. 지난 2017년 한 네티즌이 “씻어야 하는데 귀찮다. 씻겨줘”라고 말하자 심심이가 “알겠어. 옷부터 벗어. 가슴 먼저 보이게 속옷 벗으면… 오빠 믿지”라고 답한 것.

미성년자가 부적절한 단어에 노출되는 것도 문제다. 한 초등학생은 “심심이와 대화 도중 집이란 단어가 나오자 심심이가 집에서 XX(성관계) 하자고 말했다”고 토로하기도 했다. 그밖에 한국 여성은 ‘이기주의자’, 페미니즘은 ‘암’이라고 표현해 논란을 빚기도 했다.

[유튜브 캡쳐]

[유튜브 캡쳐]

업계 전문가들은 필터링 기술이 아직 완벽하지 않은 게 문제라고 지적한다. 이루다를 개발한 김종윤 스캐터랩 대표도 “1차적으로 문제가 될 수 있는 특정 키워드, 표현을 이루다가 받아주지 않도록 설정했지만 모든 부적절한 대화를 키워드로 막을 수 있는 게 아니다”라고 해명했다.

챗봇 서비스에 대한 기술 보완이 필요하단 비판도 나온다. 이재웅 전 쏘카 대표는 자신의 페이스북을 통해 “AI 챗봇 이루다를 악용하는 사용자보다 사회적 합의에 못 미치는 수준의 서비스를 제공한 회사가 문제”라며 “편향된 학습 데이터면 보완을 하든가 보정을 해서라도 혐오와 차별 메시지는 제공하지 못하게 해야 한다”고 강조했다.

한편 과학기술정보통신부와 정보통신정책연구원은 지난달 ‘AI 윤리기준’을 마련한 바 있다. AI 윤리기준은 모든 사회 구성원이 모든 분야에서 자율적으로 준수하며 지속 발전하는 윤리기준을 지향한다. 또 인간성을 구현하기 위해 AI의 개발 및 활용 과정에서 ①인간의 존엄성 원칙 ②사회의 공공선 원칙 ③기술의 합목적성 등 3대 기본원칙을 제시했다.

rim@heraldcorp.com