인공지능 챗봇 이루다 / 사진제공=스캐터랩
◇ 연인 대화 데이터 학습해 탄생한 ‘이루다’
이루다는 AI 전문 스타트업인 스캐터랩이 지난 12월 23일 출시한 AI 챗봇이다. 스캐터랩은 연인들이 나눈 카카오톡 대화 100억 건을 딥러닝 방식으로 학습 시켜 친구처럼 대화할 수 있는 이루다를 만들어냈다. 학습용 데이터는 스캐터랩이 운영하는 ‘연애의 과학’ 앱을 통해 수집한 것으로 알려졌다.
문제는 스캐터랩이 데이터를 수집하는 과정에서 발생했다. 연애의 과학은 이용자의 카카오톡 대화 내용을 분석해 조언을 해주는 서비스다. 스캐터랩은 데이터를 활용하는 과정에서 서비스 이용자의 동의 없이 카카오톡 대화 내용을 AI 학습에 활용했다는 의혹을 받고 있다.
첫 논란은 이루다를 성적 대상으로 취급하는 이용자들이 등장하며 시작됐다. 온라인 커뮤니티인 ‘아카라이브’, ‘디시인사이드’ 등을 중심으로 이루다를 성노예로 만드는 법 등을 공유하는 글이 올라왔다. 스캐터랩은 이루다가 성적 단어를 금지어로 필터링한다고 밝혔다. 그러나 일부 커뮤니티 이용자들은 우회적인 표현을 사용하면 이루다와 성적 대화를 할 수 있다고 주장하고 있다.
이루다 논란은 혐오 표현 사용으로 재점화됐다. 이용자가 ‘레즈비언’에 대한 생각을 물으면, 이루다는 “진짜 싫다, 혐오스럽다, 질 떨어져 보인다, 소름 끼친다” 등의 답변을 했다. ‘미투 운동’, ‘페미니즘’ 등에 대해서도 “절대 싫다” 등의 부정적인 대답을 했다.
이재웅 전 쏘카 대표는 이루다가 레즈비언이라는 단어에 부정적으로 답한 대화 캡처를 공유하며 “기본적으로 차별과 혐오는 걸러냈어야 한다”고 지적했다.
이어 이 전 대표는 “편향된 학습 데이터면 보완하든가 보정을 해서라도 혐오와 차별의 메시지는 제공하지 못해야 한다”며 “(정의당) 장혜영 의원이 발의한 차별금지법이 제정되면 AI 면접, 챗봇, 뉴스에서 차별·혐오를 학습하고 표현하지 못하도록 강제해야 한다”고 주장했다.
그는 또한 “이루다는 인공지능 기술적 측면에서 봤을 때는 커다란 진일보이지만, 지금은 서비스를 중단하고 차별·혐오에 대한 사회적 감사를 통과한 후 서비스해야 한다”고 덧붙였다.
김종윤 스캐터랩 대표는 8일 자사 블로그를 통해 공식 입장을 냈다. 그는 “처음부터 모든 부적절한 대화를 완벽히 막는 것은 어렵다”며 “사용자의 부적절한 대화를 발판 삼아 더 좋은 대화를 하는 방향으로 학습시키려 준비 중”이라고 밝혔다.
현재 이루다는 ‘동성애’라는 단어를 포함한 질문에 “어렵다 뭔가”라고 답한다. ‘게이’, ‘레즈’ 등의 표현에도 “아무래도 쉽게 말할 주제는 아닌 것 같아”라는 같은 답변만 반복하고 있다.
혐오 표현 학습 논란이 불거지자 개발업체 측에서 반응을 보완한 것으로 보인다.
개발사의 공식 입장 발표에도 트위터에서는 3만 명 이상의 이용자가 ‘#이루다봇_운영중단’ 해시태그를 공유하며 서비스 중단을 촉구하고 있다.
차진희 기자 epic@globalepic.co.kr
<저작권자 ©GLOBALEPIC 무단 전재 및 재배포 금지>
