AI 중무장한 네이버, '악플과의 전쟁' 선포… "악플러, 꼼짝마"

 
 
기사공유
차단기능 예시. /사진=네이버 다이어리
네이버가 악성댓글(악플)과의 전면전을 선포했다. 인공지능(AI) 등 고도화된 기술적 역량을 결집해 악플을 작성하기 어려운 환경을 구축하는 한편 매크로·어뷰징 등 불법적인 접근까지 전면 차단할 계획이다. 크게 5개 방안을 순차적으로 도입해 악플 근절에 나선다.

◆닉네임
·활동이력 공개

현재 네이버뉴스에서는 댓글 작성자 정보를 아이디 앞 4자리만 공개하고 뒷자리의 경우 ‘마스킹 처리’(****)하고 있다. 이용자 정보보호를 위해 메일 및 블로그 주소인 전체 아이디를 공개하지 않았다.

이제 댓글 공간에 아이디 앞 4자리가 같은 두 사람이 마주했을 때 각자 등록한 닉네임과 사진을 통해 다른 사람임을 인지할 수 있게 된다. 2012년 실명제 위헌 판결 후 논란이 됐던 익명성 문제를 일정 부분 해소할 전망이다.

네이버는 댓글 작성자마다 처음 작성 날짜, 댓글, 답글 작성수, 지금까지 받은 공감수, 최근 받은 공감 비율, 본인이 최근 삭제한 댓글 비율도 함께 제공할 계획이다.

◆고도화된 클린봇 2.0

AI를 기반으로 악플을 잡아내는 ‘클린봇’이 한층 강화된다. 악플을 줄이기 위해 네이버가 자체 개발한 클린봇은 현재 스포츠, 쥬니버, 연예, 뉴스 등에 적용됐고 욕설 및 비속어가 들어간 댓글을 탐지해 자동 블라인드 처리한다.

향후 클린봇은 보다 고도화된 악성 댓글 탐지력을 갖춘 2.0엔진을 적용해 ‘욕설단어’ 중심에서 ‘문장 맥락’까지 고려한 판단이 가능할 전망이다. 비속어 외에 모욕적인 표현이나 무례한 댓글까지 탐지범위가 넓어진다는 의미다. 네이버가 자체 시뮬레이션한 결과 기존 모델보다 5배이상 탐지능력이 향상돼 악플에 대한 효과적인 대응이 가능할 것으로 기대를 모았다.

◆특정 작성자 글, 원천 차단

같은 사람이 비슷한 어조와 내용으로 불쾌한 댓글을 반복해서 작성하는 경우를 목격했다면 댓글 신고만으로 부족하다는 느낌을 받았을 것이다. 앞으로는 반복적으로 불쾌한 글을 남기는 작성자를 서비스상에서 접하고 싶지 않을 때 해당 댓글 작성자의 글을 내 화면에서 제외하는 차단 기능을 제공한다. 댓글 프로필 영역이나 신고 과정에서 특정인의 글을 차단하는 방식이다.

◆악플은 작성마저 어렵게

클린봇을 활용해 악플을 차단하고 있는 네이버는 향후 댓글 등록 과정부터 욕설 및 무례한 표현 여부를 감지하도록 AI 기반 클린봇을 강화한다. 악플을 작성하고 등록 버튼을 누르면 부적절할 표현 여부를 먼저 확인한 후 댓글 등록이 진행될 전망이다. 악플이 지나칠 경우 욕설 표현 등을 수정해야 등록되는 기능을 마련한다.

◆악성 댓글러 판단되면 이용제한

클린봇은 각 댓글 악성 여부를 실시간으로 판단해 노출을 제어하고 있다. 네이버는 클린봇의 판단이 축적될 경우 악플을 반복적으로 작성하는 이용자 탐지도 가능할 것으로 보고 있다.

AI 클린봇으로 각 댓글 악플 정도를 실시간 판별해 반복 작성자에 대해 일정기간 댓글 서비스 이용을 제한시킬 계획이다. 이 과정을 통해 상습 악플러로 판단되면 작성할 수 있는 댓글과 참여할 공감 수까지 제한하는 방식이다.

네이버는 현재 AI기술 고도화와 성능 개선작업을 진행하며 악성 댓글러로 판단한 작성자의 글을 댓글 목록에서 모두 제외하는 필터 설정기능과 악성 댓글러의 활동을 정지시키는 강력한 제한 정책을 준비중이다.

네이버 관계자는 “댓글 공간은 양방향 소통 공간으로서의 순기능과 역기능을 모두 지닌다”며 “네이버는 이번에 소개한 AI기술을 통해 어뷰징 및 악플 대응, 프로필과 댓글 이력공개 등 새 정책을 고루 활용해 뉴스 댓글을 책임감 있게 개선할 것”이라고 말했다.
 

채성오 cso86@mt.co.kr  | twitter facebook

머니S 채성오 기자입니다

이 기자의 다른기사 보기 >
  • 0%
  • 0%
  • 코스피 : 1823.60상승 31.7218:03 04/07
  • 코스닥 : 606.90상승 9.6918:03 04/07
  • 원달러 : 1221.20하락 8.118:03 04/07
  • 두바이유 : 33.05하락 1.0618:03 04/07
  • 금 : 24.87상승 0.3618:03 04/07
  • image
  • image
  • image
  • image
  • image

커버스토리

정기구독신청 독자의견
"