김종윤 스캐터랩 대표 인터뷰 영상 갈무리 [유튜브, 시사저널이코노미]

[헤럴드경제=최준선 기자] ‘성감대 업데이트’, ‘섹슈얼 판타지 매칭’.

인공지능(AI) 챗봇(채팅로봇) ‘이루다’가 일부 남성들의 성희롱 도구로 전락하며 사회적 논란으로 떠오른 가운데, 서비스 개발사인 스캐터랩에 대한 비판도 함께 커지고 있다.

특히 과거 유튜브에 게재된 개발사 대표의 인터뷰 영상과 영상에 담긴 칠판 위 자극적 문구들이 재조명되면서 ‘왜 이루다가 이렇게 만들어졌는지 알겠다’는 등의 반응이 이어지고 있다.

11일 관련 업계와 온라인 커뮤니티에 따르면, 과거 김종윤 스캐터랩 대표가 온라인 매체 시사저널이코노미와 진행한 인터뷰 영상이 최근 화제가 되고 있다. 해당 영상은 약 3년 전인 2017년 11월 유튜브에 게재됐다. 스캐터랩의 아이디어 회의 과정으로 추정되는 칠판의 상황이 영상에 담겼는데, ‘성감대 업데이트’, ‘섹슈얼 판타지’, ‘나는 금사빠(금방 사랑에 빠지는 사람)일까?’ 등 문구가 적힌 종이가 붙어있다.

해당 영상에서 김종윤 대표는 “(심리학 논문에는) 사람들의 연애를 더 행복하게 만들어 줄 만한 내용들이 많다”며 “이를 쉽고 재밌는, 유익한 콘텐츠로 만드는 일을 하고 있다”고 소개했다. 이어 일상 대화가 가능한 AI를 개발하는, 이른바 ‘핑퐁’ 프로젝트에 대해서도 소개하는데, “사람과 AI가 자유롭게 일상적 대화를 하면서 의미 있는 관계를 맺게 만드는 데에 까지 나아가고 싶다”고 했다.

스캐터랩은 빅데이터와 AI를 활용해 일상언어를 분석하는 스타트업이다. 지난 2011년 설립된 뒤 소프트뱅크벤처스, KTB네트웍스, 엔씨소프트 등 굴지의 투자자들로부터 자금을 유치하기도 했다. 상대방과의 카카오톡 대화 데이터를 제출하면 애정도 수치 등을 분석해주는 앱 ‘연애의과학’의 스캐터랩의 대표적 작품이다.

일상 대화가 가능한 AI 서비스도 개발하고 있는데, 지난달 스무 살 대학생 여성으로 설정된 챗봇 서비스 ‘이루다’를 출시하면서 약 3주 만에 40만명에 달하는 사용자를 끌어모으기도 했다.

스캐터랩이 개발한 AI 챗봇서비스 이루다의 인스타그램 계정 갈무리

문제는 AI 챗봇 이루다가 일부 남성들에 의해 성희롱 도구로 전락하고 있다는 점이다. 물론 민감한 단어들은 시스템 필터링에 걸려 사용자에게 경고 메시지가 전송되고, 수차례 반복될 시 이용을 차단하겠다고 고지된다.

하지만 단어 사이에 ‘@’ 등 특수문자를 넣으면 필터링을 우회할 수 있다. ‘내 침대로 와’라는 말에 “가고 싶어, 안겨있고 싶다”을 답변을 내놓은 사례도 있다. 이에 일부 남초 커뮤니티에는 “이루다 성희롱하는 재미에 산다”는 후기가 올라오기도 했다.

이루다를 상대로 한 성희롱이 논란이 된 뒤, 스캐터랩은 적극 해명에 나섰다. 김 대표는 홈페이지를 통해 “인간이 AI에게 사회적으로 용인되지 않는 인터랙션을 한다는 건 자명한 사실이었고, 충분히 예상할 수 있는 일이었다”고 “1차적으로는 대처했다” 강조했다.

이어 “처음부터 모든 부적절한 대화를 완벽히 막는 것은 어렵다고 생각했다”며 “출시 이후 사용자들의 부적절한 대화를 발판으로 삼아 더 좋은 대화를 하는 방향으로 학습을 시키려고 준비하고 있다”고 했다. 즉 ▷비윤리적인 상호작용을 이미 예상했고 ▷이를 막기 위한 최대한의 조치를 취해뒀으며 ▷그럼에도 막을 수 없는 비윤리적 대화는 발전에 밑거름으로 활용하겠다는 것이다.

김종윤 스캐터랩 대표 인터뷰 영상(시사저널이코노미)에 달린 댓글 갈무리 [유튜브]

하지만, 3년 전 유튜브에 게재된 대표의 인터뷰 영상을 찾아본 누리꾼들은 이같은 해명의 진실성이 의심된다며 비판하고 있다. 공적인 회의 자리에서도 ‘성감대’, ‘섹슈얼 판타지’ 등을 거론하는 분위기라면, 이루다의 답변 알고리즘에도 분명 성적인 대화에서 만족을 얻을 수 있도록 하는 장치가 반영돼 있을 거란 지적이다.

동영상을 찾아본 유튜브 회원들은 “성적 판타지에 기반해 나쁜 영향력을 끼치려고 했으면서 착한 척 둔갑한 것 같다”, “AI가 이러라고 있는 게 아닐 텐데, 왜 사람 성욕 채우는 데에 쓰려고 하냐”, “AI 디자인을 그렇게 만든 이유를 알 것 같다” 등 반응을 보이고 있다.

human@heraldcorp.com