[출근길] '악플마니아=차단'… 포털업계, 철퇴 든다

 
 
기사공유
/사진=이미지투데이
온라인 뉴스에 달리는 ‘악성댓글’(악플)이 심각한 사회 부작용으로 떠오른 가운데 뉴스서비스를 제공하는 포털업계가 예방책 마련에 나섰다. 기존 댓글 기능에 고도화된 인공지능(AI) 기술을 적용하는 형태로 악플러를 가려낼 계획이다.

27일 포털업계에 따르면 네이버와 카카오는 각각 AI기술을 활용한 서비스를 적용해 악플 차단에 주력한다.

네이버는 AI를 기반으로 악플을 잡아내는 ‘클린봇’을 고도화해 관련 부작용을 해소할 계획이다. 클린봇은 현재 스포츠, 쥬니버, 연예, 뉴스 등에 적용돼 욕설 및 비속어가 들어간 댓글을 탐지한 후 자동 블라인드 처리한다.

향후 네이버는 고도화된 악성 댓글 탐지력을 갖춘 2.0엔진을 적용해 클린봇을 고도화 한다. 클린봇 2.0은 ‘욕설단어’ 중심에서 ‘문장 맥락’까지 고려한 판단을 통해 비속어를 포함, 무례한 뉘앙스의 댓글까지 탐지할 수 있게 된다.

네이버가 자체 시뮬레이션한 결과 기존 모델보다 5배이상 탐지능력이 향상돼 악플에 대한 효과적인 대응이 가능할 것으로 기대를 모았다.

클린봇의 판단이 축적될 경우 악플을 반복적으로 작성하는 이용자 탐지도 가능할 전망이다. 상습 악플러로 판단되면 작성할 수 있는 댓글과 참여할 공감 수까지 제한하는 한편 댓글 목록에서 모두 제외하는 필터 설정기능과 악성 댓글러 활동을 정지시키는 강력한 제한 정책도 준비중이다.

카카오도 포털 다음(DAUM)과 카카오톡 샵(#)탭 뉴스 댓글 서비스 및 운영 정책을 개편해 악성 댓글 신고 및 제재 정책을 강화한다.

2017년 7월부터 AI를 통해 모든 댓글의 욕설 및 비속어를 필터링하는 ‘욕설 음표 치환 기능’을 적용한 카카오는 개편을 통해 욕설·비속어 뿐 아니라 ‘차별·혐오’에 대한 신고 항목을 신설했다.

신고한 악성 댓글이 문제가 있다고 확인되면 해당글을 삭제할 뿐 아니라 작성자에 대한 제재도 진행해 악성 댓글 작성을 원천적으로 예방한다. 신고한 댓글이 삭제되면 그 결과를 알려주는 ‘신고 알림’ 기능도 도입해 이용자의 지속적인 참여를 유도한다.

보고 싶지 않은 댓글이나 작성자를 나에게 보이지 않게 하는 ‘덮어두기’ 기능도 추가된다. 이용자가 많이 덮어둔 댓글과 사용자에 대한 데이터는 AI로 분석해 서비스 개선에 활용할 방침이다.

IT업계 관계자는 “악플이 개인의 인격권을 침해하고 타인을 비방할 목적으로 자행되는 만큼 플랫폼이 더 강력한 필터링시스템을 도입하는 상황”이라면서도 “다만 해당 기능이 활성화 되면서 타 플랫폼으로 이동하는 고정층이 발생할 부작용도 배제할 수 없다”고 우려했다.
 

채성오 cso86@mt.co.kr  | twitter facebook

머니S 채성오 기자입니다

이 기자의 다른기사 보기 >
  • 100%
  • 0%
  • 코스피 : 2181.87상승 30.6918:03 06/05
  • 코스닥 : 749.31상승 6.9418:03 06/05
  • 원달러 : 1207.10하락 11.618:03 06/05
  • 두바이유 : 39.99상승 0.218:03 06/05
  • 금 : 38.82하락 1.0518:03 06/05
  • image
  • image
  • image
  • image
  • image

커버스토리

정기구독신청 독자의견