챗봇 서비스 ‘이루다’ 인스타그램

[헤럴드경제=최준선 기자] “연애 상담받으려 돈도 내고 카톡 데이터도 줬는데…장애인 혐오하는 괴물로 돌아왔네요ㅠㅠ”

인공지능(AI) 챗봇 ‘이루다’가 동성애 등 소수자 혐오, 인종차별 등 비윤리적 발언을 학습해 논란이 되고 있는 가운데, 학습의 토대가 된 데이터의 수집 과정이 도마에 올랐다. 연애상담 서비스를 일부 유료로 제공하며 수집한 100억건이 넘는 데이터를, 이용자들로부터 사전 동의도 받지 않은 채 챗봇 개발에 활용한 탓이다.

챗봇 서비스 ‘이루다’ 인스타그램

11일 관련 업계에 따르면, AI 챗봇 이루다를 개발한 스타트업 ‘스캐터랩’은 상대방과의 카카오톡 대화를 제출하면 애정도 수치 등을 분석해주는 ‘연애의 과학’ 앱으로 인지도를 높인 업체다. AI 챗봇 이루다 개발에도 연애의 과학 앱을 통해 수집한 카톡 대화 약 100억건이 데이터로 쓰였다.

하지만 문제는, 카카오톡 데이터를 제출한 연애의 과학 이용자들이 해당 데이터가 AI 챗봇에 활용된다는 점을 고지받지 못했다는 점이다. 스캐터랩은 전날 오전 공지를 통해 “이루다는 개인정보취급방침의 범위 내에서 (연애의 과학 이용자들의 데이터를) 활용했다”며 “그럼에도 연애의 과학 사용자들이 이 점을 명확히 인지할 수 있도록 구체적으로 고지하지 못했다”고 사과했다.

AI 챗봇 이루다를 개발한 스캐터랩의 또다른 앱 ‘연애의 과학’ 커뮤니티 글 갈무리

연애의 과학 이용자들은 이같은 스캐터랩의 ‘선(先) 사고, 후(後) 사과’에 거세게 반발하는 모습이다. 아무리 정보를 비식별화해 개인정보 유출 위험을 줄였다고 해도, 다른 서비스를 출시하는 등 제3의 목적으로 활용하려면 정보 출처자로부터 허락을 받았어야 한다는 지적이다. 연애의과학을 5년 넘게 사용했다는 한 이용자는 “이용자가 상당히 많을텐데, 기본적인 인터넷 윤리도 모르는 것 같아 안타깝고 화가 난다”고 적었다. 또 다른 이용자는 “연애의 과학 앱 자체를 지워도 계정은 살아있으니, 그것도 이루다가 썼을 것 같아 찝찝하다”고 했다.

특히 연애의 과학 서비스를 유료로 사용해 온 이용자들의 배신감은 더 크다. 연애의 과학은 간단한 설문조사로 연애 스타일을 분석해주는 무료 서비스도 제공하지만, ‘카톡으로 보는 속마음’, ‘우리의 2020년 보고서(1년치 카톡 요약 서비스)’ 등 일부는 유료로 제공하고 있다. 앱에서만 사용할 수 있는 코인을 사전결제한 후, 이를 서비스 이용에 활용하는 방식이다. 앱 코인 100개를 1만2000원에 구입할 수 있는데, ‘이별 예측 테스트’의 경우 200코인(2만4000원)이 필요하다.

AI 챗봇 이루다를 개발한 스캐터랩의 또다른 앱 ‘연애의 과학’ 서비스 화면 갈무리

이루다는 지난달 23일 출시됐다. 이후 2주도 채 지나지 않아 일부 남초(男超) 커뮤니티에서 이루다를 성적 대상으로 취급하는 등 악용 사례가 드러나 논란이 됐다. 특히 지난 9일 레즈비언이라는 단어에 대해 “진짜 싫다, 혐오스럽다, 질 떨어져 보인다”라고 답한 대화 캡처 내용이 공유되면서 논란이 증폭됐고, 이어 장애인 혐오, 인종차별 등 비윤리적 답변도 발견됐다.

SNS에선 ‘#이루다봇_운영금지’ 등 해시태그를 달며 앱을 지탄하는 분위기가 확산되고 있지만, 개발자 측은 “출시 이후 사용자들의 부적절한 대화를 발판으로 삼아 더 좋은 대화를 하는 방향으로 학습을 시키려고 준비하고 있다”며 서비스 중단 의사가 없음을 밝혔다.

human@heraldcorp.com