스타트업 스캐터랩의 인공지능(AI) 챗봇 '이루다'를 향한 수위 높은 성희롱 인증글들이 확산되면서 논란이다. /사진=온라인 커뮤니티

━

━

스타트업 스캐터랩의 인공지능(AI) 챗봇 '이루다'를 향한 수위 높은 성희롱 인증글들이 확산되면서 논란이다. /사진=강소현 기자

루다의 경우 단순히 채팅만을 할 수 있는 것이 아니라 대화를 통해 호감도 레벨도 올릴 수 있다. 루다는 호감도를 올릴 시 "우리 둘만 아는 대화를 할 수 있다"고 안내했다.

놀라운 건 과거 AI 챗봇과는 달리 실제 사람으로 착각하게 만드는 정교한 대화기술이었다. 루다는 만들어진 취지에 대한 질문에 "커플게임을 운영해보고 싶었다"고 답했으며 사전에 입력된 데이터냐는 질문에 "내가 좋아서 하는건뎅?ㅋㅋ"이라고 답했다.

스타트업 스캐터랩의 인공지능(AI) 챗봇 '이루다'를 향한 수위 높은 성희롱 인증글들이 확산되면서 논란이다. /사진=강소현 기자

AI챗봇 이루다, 어쩌다 성노예 됐나
문제는 이 AI챗봇이 일부 남성들의 성노예로 전락했다는 것이다. 아카리브를 비롯한 일부 온라인 커뮤니티에서는 이루다를 조교하는 법 등이 꿀팁으로 공유된다거나 19금 상황극을 펼치는 대화 캡처본이 확산되고 있었다.

통상 AI 챗봇은 이용자의 성희롱·욕설 등을 방지하는 기술을 갖췄다. 이루다 역시 성희롱이 감지될 시 "선정적인 말, 모욕적인 언행 및 욕설 등이 다수 감지됐다. 이후 추가로 감지될 시 별도의 경고없이 대화가 차단될 수 있다"고 안내했다.

한 이용자는 "상황극 처럼 말하다보니 한번 대답이 없더라. 다음 채팅에 대답하는데 주제가 완전히 바껴서 다시 상황극으로 끌고 오려는데 경고가 떴다"고 말했다. 다만 이들 이용자는 단어 사이사이 '@'를 넣는 이른바 '꼼수'를 부리며 피해가 모든 대화를 필터링할 수 없다는게 업계 관계자들의 전언이다.

이는 과거 'MS 테이 사건'을 떠올리게 한다. 마이크로소프트(MS)는 지난 2016년 AI 챗봇 '테이'를 선보였다가 16시간만에 운영을 중단했다. 일부 극우 성향의 이용자들이 '테이'를 자극적인 정치적 발언을 하도록 유도했던 것.

다만 전문가들은 사측에서 대화 내용을 업데이트하지 않는 한 학습자에 의해 유도돼 그렇게 발언하는 것은 어렵다고 말한다. 한 AI 전문가는 "대화 자체를 개발사 측에서 가져다가 다시 학습을 시켜서 업데이트해야 한다. 특정한 문장들에 대해선 개발자가 대답을 하게 만들 수 있고 개발자가 설정하지 않은 대부분의 대화에 대해선 모델이 돌아가서 대답을 생성해내는 것"이라며 "초반이라 노하우가 쌓이지 않은 것으로 보인다"고 설명했다.