인공지능(AI) 챗봇 '이루다'가 성적 대상으로 악용당하는 성희롱 이슈부터 동성애와 장애인에 대한 차별·혐오 표현, 익명화되지 않은 개인정보 유출 문제로 출시 한 달만에 이용이 중단됐다.
20대 여성을 콘셉트로 한 '이루다'는 지난해 12월 출시 직후 여느 챗봇과 달리 자연스러운 말투로 10~20대 청년 사이에서 집중 조명을 받았다.
이루다는 스타트업 '스캐터랩'이 지난 2016년 출시한 앱 '연애의 과학'에서 수집한 카카오톡 대화로 만든 AI 챗봇이다. 연애의 과학은 사용자가 연인 또는 호감 있는 사람과 나눈 카톡 대화를 등록하면, 답장 시간 등의 데이터를 바탕으로 대화 패턴을 분석해 애정도 수치를 보여주는 앱이다.
당시 이 앱은 실제 인공지능이 카톡 대화를 분석하고 연애 팁을 제공하는 차별점 덕분에 구글 플레이스토에서만 10만 명이 넘게 다운로드 받는 등 10~20대 사이에서 흥행했다.
AI 챗봇 이루다가 바로 연애의 과학 이용자들이 제공한 카톡 대화를 데이터 삼아 개발됐다. 이루다가 학습한 카톡 대화 양만 약 100억 건에 달하는 것으로 알려졌다. 이것이 다른 챗봇과 달리 자연스러운 언어를 구사할 수 있었던 이유다.
그러나 이루다는 출시 후 일부 남초 사이트에서 '이루다 성노예 만드는 법' 등 성적 대상화하는 글이 다수 올라오면서 'AI 성희롱 및 인권' 문제로 잡음이 일었다.
또한 이루다가 기존 데이터에서 장애인과 성소수자 혐오 및 인종차별을 학습, 사회적 합의 수준에 못 미치는 의식수준을 보여줘 여론의 뭇매를 맞았다. 이외에도 실제 주소나 이름으로 보이는 개인정보가 그대로 노출되는 사례가 발견되면서 결국 서비스 중단으로 이어졌다.
