딥페이크는 왜 글로벌리스크가 됐나

 
 
기사공유
가짜 포르노·정치선동 악용 빈번
국내도 '딥페이크 처벌법' 발의… 판별기술 개발 시급

/자료=딥트레이스, 사진=머니S
기술의 발전은 동전의 양면과 같다. 삶을 풍요롭게 만들지만 가공할 만한 부작용을 가져오기도 한다. 알프레드 노벨이 개발한 ‘다이너마이트’는 굴착공사, 철도 및 도로건설 등에 사용되며 산업혁명 속도를 앞당겼지만 살상무기로 사용되며 수많은 참극을 빚었다. 

현대사회의 기술 발전도 궤를 같이 한다. 최근 4차 산업혁명시대에 발맞춘 인공지능(AI)의 발전은 다양한 편의성을 제공함과 동시에 심각한 사회문제를 야기하고 있다. ‘딥페이크’(Deepfake)는 그 중심에 서 있다. 

◆기술혁신과 부작용 사이

방대한 데이터를 입력해 스스로 학습하며 진화하는 머신러닝(기계학습)은 개발자에 의해 한층 고도화 되면서 심화단계인 딥러닝으로 발전했다. 딥러닝을 활용한 딥페이크(딥러닝과 fake의 합성어)의 경우 ‘생성적 적대 신경망’을 통해 영상·음향을 합성하는 기술이다. 

딥페이크기술은 합성 대상의 표정, 습관, 음성 등을 입력하면 AI가 스스로 학습하기 때문에 실제와 다름없는 인물을 만들 수 있다. 온라인에 공개된 무료 소스코드와 머신러닝 알고리즘만으로 제작 가능하다. 컴퓨터그래픽(CG)까지 적용하면 입모양, 행동, 얼굴 생김새까지 자연스럽게 표현하기 때문에 진위여부를 가리기 어렵다. 

IT업계에서는 향후 딥페이크기술이 AI 아나운서, 드라마·영화 제작, 교육 현장 영역에서 활용도가 높을 것으로 기대하고 있다. 

문제는 기술 편의성을 악용한다는 점이다. 정교한 합성기술을 통해 진위 여부를 판별하기 어려운 만큼 유명인의 얼굴을 포르노에 합성하거나 정치인의 메시지를 조작하는 경우가 비일비재하다. 딥페이크의 첫 등장이 헐리우드 배우의 가짜 포르노 영상이었다는 점은 이 기술의 어두운 이면을 낱낱이 보여준다.

◆딥페이크 주의보 발령

지난해 4월 버락 오바마는 유튜브 채널을 통해 도널드 트럼프 미국 대통령을 비난했다. 그는 영상에서 “트럼프는 쓸모없는 사람”이라며 비난 수위를 높였다. 

글로벌 네티즌들이 화들짝 놀란 이 영상의 이면에는 딥페이크가 있었다. 커뮤니티사이트인 버즈피드가 만든 딥페이크 영상으로 실제 오바마가 아닌 AI를 이용해 감쪽같이 속일 수 있었다. 정치적으로 딥페이크를 악용할 경우 발생하는 사례를 보여주며 경각심을 제고했다.

딥페이크는 ‘AI의 진화’로 불리며 엔터테인먼트산업에서 인간을 대체하는 최첨단기술로 부상할 것만 같았다. 하지만 시간이 지나면서 고도화된 딥페이크기술은 인간을 위협하는 디지털 무기로 자리잡았다. 실제로 미국과 중국은 딥페이크와의 전쟁을 선포했다. 

지난 6월 미국 민주당 하원의원인 이베트 클라크는 ‘딥페이크 책임법’을 발의했고 버지니아·텍사스·뉴욕 주의회도 관련 법안을 마련하기 시작했다. 딥페이크를 악용해 가짜 포르노 영상과 정치적 메시지를 조작하는 상황이 연달아 발생했기 때문이다. 

내년 대선을 앞둔 미국은 2016년 도널드 트럼프와 힐러리 클린턴의 얼굴을 합성한 딥페이크 영상으로 곤혹을 치룬 경험을 되풀이하지 않기 위해 총력을 기울이고 있다. 민주당 소속 애덤 시프 미 하원 정보위원장은 페이스북, 트위터, 구글(유튜브)에 ‘딥페이크로 만든 사진·동영상 관련 대책을 제시하라는 서한’을 보내며 사태의 심각성을 알렸다.

중국의 인터넷 감독 및 통제 기관인 CAC(Cyberspace Administration of China)는 지난 2일 딥페이크 관련 새 규정을 발표했다. 

해당 규정에는 “딥러닝 및 가상현실을 이용해 딥페이크 콘텐츠를 생성할 경우 처벌 세부정보를 제공하지 않고 형사범죄로 간주한다”고 명시됐다. 딥페이크가 심각한 사회문제로 떠오르면서 강도 높은 처벌규정이 제정된 것이다. 특히 지난 10월 제19기 중앙위원회 제4차 전체회의를 통해 입지를 공고히 한 시진핑 중국 국가주석 입장에서는 체제를 위협할 만한 요소를 배제해야 하는 상황이다. 

CAC 측은 “딥페이크가 사회질서를 방해하고 사람들의 이익을 침해해 정치적 위험을 초래한다”며 “국가 안보와 사회 안정에도 부정적 영향을 줄 수 있다”고 경고했다.

◆한국은 어떻게 대응하나

국내에서도 딥페이크의 부작용이 노출되고 있다. 네덜란드의 사이버보안 연구업체 딥트레이스에 따르면 지난 9월 딥페이크 영상 유포사이트 5곳을 분석한 결과 한국 여자 연예인을 합성한 게시물이 25%에 달했다. 지난해 4월 걸그룹 멤버가 자신의 딥페이크 영상에 대한 수사를 의뢰했을 만큼 심각한 수준에 이르렀다. 아직까지는 유명인에 한한 범죄에 악용됐지만 목적에 따라 일반인까지 디지털 성범죄의 희생양이 될 수 있다.

딥페이크 영상이 사회관계망서비스(SNS)를 중심으로 빠르게 확산되고 있지만 현재로썬 막을 방법이 전무하다. 국내법상 딥페이크 영상에 대한 처벌규정이 존재하지 않는데다 판별기술도 상용화 되지 않았기 때문이다.

딥페이크 처벌기준을 요구하는 목소리가 높아지면서 국회도 입법에 나섰다. 박대출 의원(자유한국당) 외 11명은 지난달 29일 이른바 ‘딥페이크 처벌법안’을 발의하며 대책 마련에 나섰다. 성폭력범죄의 처벌 등에 관한 특례법 개정안과 정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정법률안을 발의한 상태다. 

주요 골자는 AI 기술을 이용한 허위 음향·영상 제작 등 딥페이크에 대한 처벌기준이다. 개정안에는 ‘AI로 딥페이크 영상 및 음향을 만들고 이를 배포할 경우 5년 이하의 징역 또는 5000만원의 벌금에 처한다’고 명시됐다. 

박 의원은 “AI를 이용해 만든 딥페이크 정보가 정교할수록 이용자가 해당 정보의 거짓 여부를 판별하기 어려워 식별할 수 있는 기술을 개발·보급하는 것이 시급하다”며 “관련 정보를 식별하는 기술의 개발·보급을 포함시켜 건전한 정보통신망 이용환경을 조성하려 한다”고 밝혔다.

☞ 본 기사는 <머니S> 제622호(2019년 12월10일~16일)에 실린 기사입니다.
 

채성오 cso86@mt.co.kr  | twitter facebook

머니S 채성오 기자입니다

이 기자의 다른기사 보기 >
  • 0%
  • 0%
  • 코스피 : 2407.49하락 30.0418:01 08/14
  • 코스닥 : 835.03하락 19.7418:01 08/14
  • 원달러 : 1184.60상승 1.318:01 08/14
  • 두바이유 : 44.96하락 0.4718:01 08/14
  • 금 : 44.18상승 0.5518:01 08/14
  • image
  • image
  • image
  • image
  • image

커버스토리

정기구독신청 독자의견