중국, AI가 만든 '딥페이크'에 철퇴 든다

 
 
기사공유
본 사진은 기사와 관련이 없습니다. /사진=픽사베이
중국이 인공지능(AI)과 가상현실(VR) 등을 사용해 만든 ‘딥페이크’와의 전쟁을 선포했다.

2일(한국시간) 벤처비트 등 외신에 따르면 중국의 인터넷 감독 및 통제 기관인 CAC(Cyberspace Administration of China)가 AI·VR을 통한 딥페이크를 뿌리뽑기 위해 새 규정을 발표했다.

해당 규정에는 온라인 비디오 뉴스 서비스 업체와 사용자는 딥러닝 및 VR을 이용한 가짜뉴스를 생성할 경우 처벌에 대한 세부 정보를 제공하지 않고 형사 범죄로 간주될 수 있다고 명시됐다.

이 규정은 최근 온라인 환경에서 발생하는 ‘딥페이크’를 차단하기 위해 제정된 것으로 알려졌다. CAC 측은 “딥페이크가 사회질서를 방해하고 사람들의 이익을 침해해 정치적 위험을 초래한다”며 “국가 안보와 사회 안정에도 부정적 영향을 줄 수 있다”고 경고했다.

딥페이크는 ‘딥러닝’(deep learning)과 ‘가짜’(fake)의 합성어로 AI를 기반으로 만든 고도화된 합성기술이다. 생성적 적대 신경망(GAN)라는 기계 학습기술을 사용해 사진이나 영상에 일부 이미지만 합성시켜 실제처럼 보이도록 만들고 있다.

실제로 2016년 미국에서는 선거 운동후 오바마 전 미국 대통령 등 정치인을 대상으로 한 딥페이크 영상이 온라인에 확산됐다. 이후 포르노 영상에 유명인을 합성한 딥페이크 콘텐츠도 늘면서 심각한 사회문제로 비화됐다.

네덜란드의 사이버보안 연구업체 딥트레이스에 따르면 지난 9월 딥페이크 영상 유포지 5곳을 분석한 결과 96%가 포르노 영상인 것으로 알려졌다. 이중 41%가 헐리우드 여배우로 나타났고 한국 여자 연예인도 약 25%에 달한 것으로 밝혀져 충격을 안겼다. 지난해 4월에는 실제로 걸그룹 멤버가 자신의 딥페이크 영상에 대한 수사를 의뢰하며 그 심각성이 알려진 바 있다.

IT업계 관계자는 “딥페이크기술이 점차 고도화 되면서 포르노나 가짜 정치뉴스 등에 악용되고 있다”며 “중국은 물론 미국도 딥페이크 관리 정책을 내세운 만큼 우리나라도 관련 대안책 마련에 힘써야 할 때”라고 말했다.
 

채성오 cso86@mt.co.kr  |  facebook

머니S 채성오 기자입니다

이 기자의 다른기사 보기 >
  • 0%
  • 0%
  • 코스피 : 2246.13하락 21.1218:03 01/23
  • 코스닥 : 685.57하락 2.6818:03 01/23
  • 원달러 : 1168.70상승 4.118:03 01/23
  • 두바이유 : 60.69하락 1.3518:03 01/23
  • 금 : 64.26하락 0.0118:03 01/23
  • image
  • image
  • image
  • image
  • image

커버스토리

정기구독신청 독자의견
"