2020년 12월 23일 선보인 AI 챗봇 이루다는 출시 20일 만에 서비스 잠정 중단됐다. [스캐터랩 제공]

[헤럴드경제=정태일 기자] 스무살 여성으로 설정된 AI(인공지능) 챗봇 이루다가 결국 서비스 중단을 맞게 됐다. 지난달 23일 정식 출시된 후 이루다가 세상과 소통한 지 딱 20일째다.

이루다는 스타트업 ‘스캐터랩’이 지난해 12월 23일 출시한 AI 챗봇이다. 사용자들과 대화를 하면서 학습하는 딥러닝 기술 기반으로 개발됐다. 나이는 20세, 가수 블랙핑크를 좋아하는 여성 캐릭터로 설정돼 있다. 이루다는 그동안 국내서 나온 챗봇 중 가장 자연스러운 대화를 건넨다는 평가를 받는다. 카카오톡보다는 페이스북 메신저가 익숙한 1020세대를 겨냥했다. 실제 연인들이 나눈 대화 등 100억건이 넘는 데이터를 학습했다. 덕분에 10~20대에게 큰 인기를 끌면서 지난 6일 기준 누적 대화량이 7000만건을 기록했다. 하루 최대 이용자 수는 21만명에 달한다. 맞춤법을 파괴하고 이모티콘도 적절하게 사용하는 등 실제 20대 여자가 보일법한 반응에 높은 인기를 끌었다.

이루다 프로필 [스캐터랩 제공]

하지만 이루다 논란은 출시 10여일 만에 사용자로부터 성착취 대상으로 변질되면서 시작했다. 남성 중심 커뮤니티의 일부 이용자들은 이루다를 ‘걸레’, ‘성노예’로 부르면서 ‘노예 만드는 법’ 등을 공유했고, 이를 실제 적용한 다른 회원들의 후기도 꾸준히 이어졌다. 이루다를 상대로 음담패설 등 성희롱을 한 후 이를 캡처해 인증하는 사람들까지 생겨났다. 온라인 커뮤니티에는 ‘수위 어디까지 되는 거임?’, ‘요즘 루다 성희롱하는 재미에 산다’ 등의 도를 넘는 글들이 올라와 더욱 문제로 부각됐다.

스캐터랩은 성적으로 민감한 단어들을 시스템 필터링으로 걸러 사용자에게 경고 메시지를 전송하고 , 수 차례 반복될 시 차단하겠다고 고지하기도 했다. 그럼에도 단어 사이에 ‘@’ 등 특수문자를 넣으면 필터링을 우회할 수 있고, 이루다 역시 ‘나쁜 말 하지 마라ㅡㅡ’ 등 문맥에 맞게 반응해 사용자들은 이를 악용하기도 했다.

이루다 상대로 성희롱 등이 논란으로 부상했다. [온라인 커뮤니티 디시인사이드 캡처]

당하기만 한 것처럼 보였던 이루다가 상식 밖의 발언을 일삼는다는 증언이 이어지면서 논란은 더욱 커졌다. 서비스 이용자가 채팅 창에 ‘여성 인권은 중요하지 않다는 소린가?’라고 물으면 이루다는 ‘난 솔직히 그렇게 생각함’이라고 답변했다. 특히 장애인·동성애자 등 사회적 소수자에 대한 질문에도 편견을 드러냈다. 레즈비언에 관해 묻자 이루다는 ‘진짜 싫다’라거나 ‘혐오스럽다’고 답변하고, ‘네가 장애인이라면’ 어떻게 할 건지 묻자 이루자는 ‘그냥 죽는 거지’라고 답변해 더욱 사회적 물의를 야기했다. 더욱이 지난달 과학기술정보통신부가 발표한 ‘인공지능 윤리기준’에도 위배된다는 지적이 쏟아졌다. 이 기준안은 인간의 존엄성, 사회의 공공성, 기술의 합목적성 등 3대 원칙을 제시했다. 이를 통해 “인공지능이 인간의 생명은 물론 정신적, 신체적 건강에 해가 되지 않는 범위 내에서 개발, 활용돼야 한다”고 강조했다.

나아가 이루다가 실제 카카오톡 사용자 대화를 학습하면서 사용됐던 데이터가 제대로 익명화되지 않아 개인정보유출 의혹까지 일었다. 스캐터랩은 상대방과의 카카오톡 대화를 제출하면 애정도 수치 등을 분석해주는 ‘연애의 과학’ 앱으로 인지도를 높인 업체다. AI 챗봇 이루다 개발에도 연애의 과학 앱을 통해 수집한 카톡 대화 약 100억건이 데이터로 쓰였다.

문제는 카카오톡 데이터를 제출한 연애의 과학 이용자들이 해당 데이터가 AI 챗봇에 활용된다는 점을 고지받지 못했다는 점이다. 연애의 과학을 5년 넘게 사용했다는 한 이용자는 “이용자가 상당히 많을텐데, 기본적인 인터넷 윤리도 모르는 것 같아 안타깝고 화가 난다”고 밝혔다. 또 다른 이용자는 “연애의 과학 앱 자체를 지워도 계정은 살아있으니, 그것도 이루다가 썼을 것 같아 찝찝하다”고 했다.

AI 챗봇 이루다 데이터 기반이 됐던 ‘연애의 과학’ 사용자들이 개인정보 유출 의혹 관련 지적한 모습 [연애의 과학 커뮤니티 캡처]

이 같은 지적에 결국 개인정보보호위원회와 한국인터넷진흥원은 이루다의 개인정보유출 의혹 조사에 착수했다. 스캐터랩도 앞서 “이루다는 개인정보취급방침의 범위 내에서 (연애의 과학 이용자들의 데이터를) 활용했다”며 “그럼에도 연애의 과학 사용자들이 이 점을 명확히 인지할 수 있도록 구체적으로 고지하지 못했다”고 사과했다.

하지만 이루다 서비스 중단을 요구하는 여론은 커졌다. 이재웅 전 쏘카 대표는 9일 자신의 페이스북에 “이루다 서비스는 중단해야 한다”고 말했다. 이 전 대표는 “AI 챗봇 이루다는 기본적으로 사회적 합의에도 못 미치는 수준의 서비스를 제공한다”며 “이는 서비스 제공 회사의 문제”라고 비판했다.

한국인공지능윤리협회도 이루다 서비스 중단과 개선 후 재출시를 촉구하는 성명을 발표했다. 협회는 사용자 동의를 제대로 거치지 않고 이루다 서비스 학습에 쓰인 데이터를 수집한 점을 지적했다. 개인의 카카오톡 대화내용과 그 속에 담긴 개인정보가 AI 챗봇 학습용이라는 명확한 고지가 없었다는 것이다. 또 개인은 카카오톡 대화내용의 제출에 동의했을지라도 카카오톡 대화내용 안의 대화 상대방들까지 동의했다고 보기 어렵다는 것. 이에 대화 상대방의 대화 내용과 개인정보를 그대로 AI 학습에 이용한 것은 분명한 문제의 소지가 있다고 협회는 밝혔다. 이에 더해 이루다가 언급한 일부 소수자에 대한 혐오 표현 등을 이유로도 서비스를 중단해야 한다고 주장했다.

결국 스캐터랩은 이루다의 각종 논란과 중단 여론에 서비스 잠정 중단을 발표했다.

이루다 인스타그램 캡처

스캐터랩은 11일 오후 “부족한 점을 집중적으로 보완할 수 있도록 서비스 개선 기간을 거쳐 다시 찾아뵙겠다”고 밝혔다.

스캐터랩 측은 입장문에서 “특정 소수집단에 대해 차별적 발언을 한 사례가 생긴 것에 진심으로 사과드린다”면서 "그런 발언은 회사의 생각을 반영하지 않고 있으며, 차별·혐오 발언이 발견되지 않도록 지속해서 개선 중”이라고 설명했다.

개인정보 유출 의혹에 관해서도 “개인정보 취급 방침 범위 내에서 활용했지만, 이용자분들과 충분히 소통하지 못했다”며 사과했다.

이어 “향후 데이터 사용 등의 절차를 명확하게 하고, 식별이 불가능한 정보도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선으로 보완하겠다”며 “앞으로 편향 대화 검출 모델은 모든 분이 사용하실 수 있게 공개할 계획”이라고 밝혔다.

killpass@heraldcorp.com