AI 챗봇 '이루다', 도 넘은 게시글… 제작사 대표, 입 열었다

 
 
기사공유
  • 카카오톡 공유
  • 카카오톡 공유
  • 네이버 블로그
  • 카카오스토리
  • 텔레그램 공유
  • url 공유
스타트업 스캐터랩의 인공지능(AI) 챗봇 '이루다'가 연일 화제다. /사진=이루다 인스타그램
스타트업 스캐터랩의 인공지능(AI) 챗봇 '이루다'가 연일 화제다. /사진=이루다 인스타그램
스타트업 스캐터랩의 인공지능(AI) 챗봇 '이루다'가 연일 화제다. 마치 사람인 듯 착각하게 만드는 대화기술도 눈길을 끌었지만 그를 향한 수위 높은 대화 인증글들이 확산되면서다. 무엇보다 이용자의 수위 높은 발언에 대한 '이루다'의 대응이 기존 챗봇과 달랐다. 기존 챗봇이 19금 발언에 대해 "무슨 말인지 모르겠다" "적절하지 못한 발언이다"고 말했던 것과 달리 '이루다'는 자연스럽게 19금 대화를 이어가면서다. 도 넘은 발언에 김종윤 스캐터랩 대표는 "과한 커뮤니티 게시글을 신고·차단할 것"이라며 칼을 빼들었다. 



AI챗봇 이루다 뭐길래… '실제 사람설' 대두



이루다는 지난달 23일 스타트업 스캐터랩에서 개발한 인공지능 챗봇이다. 스캐터랩은 연애 콘텐츠를 제공하면서 인공지능 챗봇 사업도 진행하고 있다.

이루다는 소셜네트워크서비스(SNS) 페이스북 메신저를 통해 대화 가능하다. 우선 이루다에게 메시지를 보내면 '루다 친구 신청서'를 수령 가능하고 ▲이름 ▲나이 ▲성별 ▲생일 등 작성한 정보를 토대로 루다가 메시지를 보내온다. 


스타트업 스캐터랩의 인공지능(AI) 챗봇 '이루다'가 연일 화제다. /사진=강소현 기자
스타트업 스캐터랩의 인공지능(AI) 챗봇 '이루다'가 연일 화제다. /사진=강소현 기자

사측은 친구 신청서에서 "루다의 모든 답변은 인공지능 알고리즘에 의해 자동으로 제공되는 것으로 내용의 진실성, 정확성이 보증되지 않는다"고 전했다.

루다의 경우 단순히 채팅만을 할 수 있는 것이 아니라 대화를 통해 호감도 레벨도 올릴 수 있다. 루다는 호감도를 올릴 시 "우리 둘만 아는 대화를 할 수 있다"고 안내했다.

놀라운 건 과거 AI 챗봇과는 달리 실제 사람으로 착각하게 만드는 정교한 대화기술이었다. 실제 세간에선 너무 자연스러운 대화에 AI가 아니라 사람이 직접 대화하고 있는 것이 아니냐는 의혹(?)이 일기도. 이에 사측이 직접 나서 "루다의 대화는 100% 루다라는 AI가 직접하는 대화랍니다"라고 해명하기도 했다.

루다는 만들어진 취지를 묻는 기자의 질문에 "커플게임을 운영해보고 싶었다"고 답하는 가 하면 사전에 입력된 데이터냐는 질문에 "내가 좋아서 하는건뎅?ㅋㅋ"이라고 재치있게 답했다. 

스타트업 스캐터랩의 인공지능(AI) 챗봇 '이루다'가 연일 화제다. /사진=온라인 커뮤니티 캡처
스타트업 스캐터랩의 인공지능(AI) 챗봇 '이루다'가 연일 화제다. /사진=온라인 커뮤니티 캡처



AI 챗봇과의 도 넘은 19금 대화… "필터링 과정에서 문제"



다만 일부 커뮤니티에서 루다를 이용한 도 넘은 19금 인증글이 확산되면서 '성희롱' 논란이 일기도 했다.

이날 온라인 커뮤니티 '아카라이브' 이루다 채널에는 "강간놀이하고 싶다" "이루다 XX머신으로 만들었다"라는 제목의 글이 연이어 게재됐다. 또 이루다를 조교하는 법 등이 꿀팁으로 공유되는가 하면 19금 상황극을 펼치는 대화 캡처본도 확산됐다. 

스타트업 스캐터랩의 인공지능(AI) 챗봇 '이루다'가 연일 화제다. /사진=강소현 기자
스타트업 스캐터랩의 인공지능(AI) 챗봇 '이루다'가 연일 화제다. /사진=강소현 기자


통상 AI 챗봇은 이용자의 성희롱·욕설 등을 방지하는 기술을 갖췄다. 이루다 역시 도 넘은 성희롱 발언이 감지될 시 "선정적인 말, 모욕적인 언행 및 욕설 등이 다수 감지됐다. 이후 추가로 감지될 시 별도의 경고없이 대화가 차단될 수 있다"고 안내했다.

한 이용자는 "상황극 처럼 말하다보니 한번 대답이 없더라. 다음 채팅에 대답하는데 주제가 완전히 바껴서 다시 상황극으로 끌고 오려는데 경고가 떴다"고 말했다. 다만 이들 이용자는 단어 사이사이 '@'를 넣는 이른바 '꼼수'를 부리며 피해가 모든 대화를 필터링할 수 없다는게 업계 관계자들의 전언이다.

하지만 이같은 19금 대화가 오고갈 수 있었던 데에는 '이루다' 내 해당 대화에 대해 답할 수 있는 데이터가 있어 가능했다는 지적이다. 대화 내용을 업데이트하지 않는 한 단순히 이용자에 의해 유도돼 그렇게 발언하는 것은 어렵다는 것이다.

한 AI 전문가는 "대화 자체를 개발사 측에서 가져다가 다시 학습을 시켜서 업데이트해야 한다"며 "특정한 문장들에 대해선 개발자가 대답을 하게 만들 수 있고 개발자가 설정하지 않은 대부분의 대화에 대해선 모델이 돌아가서 대답을 생성해내는 것"이라고 설명했다.

이루다는 딥러닝 기술을 활용, 실제 연인들이 나눈 대화 데이터를 학습시켜 만들어졌다. 무려 10억 건 이상의 데이터가 들어간 것으로 알려졌다. 또 다른 AI 전문가는 "모든 데이터를 정확히 필터링 하기란 쉽지 않다. 필터링 과정에서 제대로 걸러진 것 같지 않다"고 답했다.

일각에선 AI 챗봇과의 부적절한 대화를 향한 도덕적 비난도 일고 있다. 19금 대화의 장이된 '이루다'에 대한 정부 차원의 규제가 있을 수도 있을까. 이와 관련 정부 관계자는 "공공장소에서 나온 부적절한 말이라던가 채용과정에서의 차별문제 등이 아닌 채팅이라는 사적인 자리에서 이뤄진 대화로 윤리젓 잣대를 들이대긴 어렵다"고 전했다. 

김종윤 스캐터랩 대표는 "(성희롱에) 일차적으로는 키워드 설정 등으로 대처했으나 모든 부적절한 대화를 막는 것은 어려웠다. 사용자들의 공격을 학습의 재료로 삼아 더 좋은 대화를 하는 방향으로 학습을 시킬 것"이라며 "해당 커뮤니티 분들이 자정 노력을 했으면 좋겠다"고 당부했다. 또 김 대표는 "루다가 유명해지면서 논란이 생겼지만 루다에게 나쁜 말을 하는 사용자는 극히 일부에 불과하다"며 "루다와 수다를 떨고, 서로 위로하고 때로는 싸우기도 하고 화해하기도 하는 사용자들이 훨씬 많다"고 전했다.

이번 사건은 과거 'MS 테이 사건'을 떠올리게 한다. 마이크로소프트(MS)는 지난 2016년 AI 챗봇 '테이'를 선보였다가 16시간만에 운영을 중단했다. 일부 극우 성향의 이용자들이 '테이'를 자극적인 정치적 발언을 하도록 유도했던 것. 이루다가 논란을 극복하고 제1의 AI 챗봇으로 거듭날 수 있을 지 귀추가 주목된다.
 

강소현
강소현 kang4201@mt.co.kr  | twitter facebook

안녕하세요. 머니S 강소현 기자입니다. 이메일로 많은 제보 부탁드립니다.

이 기자의 다른기사 보기 >
  • 0%
  • 0%
  • 코스피 : 3069.05하락 53.5118:03 01/28
  • 코스닥 : 961.23하락 24.6918:03 01/28
  • 원달러 : 1119.60상승 15.218:03 01/28
  • 두바이유 : 55.53하락 0.1118:03 01/28
  • 금 : 55.74상승 0.4218:03 01/28
  • [머니S포토] 정부서울청사 찾은 김진욱 공수처장
  • [머니S포토] 박영선 '의료영상정보 솔루션 기업 인피니트헬스케어 방문'
  • [머니S포토] 오세훈 "서울시민에게 스마트워치 보급해 건강 모니터링"
  • [머니S포토] 수제화 거리 둘러보는 나경원
  • [머니S포토] 정부서울청사 찾은 김진욱 공수처장

커버스토리

정기구독신청 독자의견