[민수빈의 사회 칼럼] 인공지능 기술의 양날의 검, 딥페이크

 

 

우리 사회는 그야말로 인공지능의 시대라 할 정도로 AI 기술이 큰 발전을 이루고 있다. 필자는 많은 인공지능 기술 중 우리가 아직은 잘 알지 못하는 어떤 기술을 소개하고자 한다. 바로 딥페이크(Deepfake) 기술이다. 딥페이크는 딥러닝(deep learning)과 페이크(fake)의 합성어로, 인공지능 기술을 이용하여 진위를 구별하기 어려운 가짜 이미지나 영상물을 뜻한다.1 필자는 인공지능 기술 ‘딥페이크’가 어떻게 만들어지고 문제점은 무엇인지, 그 모든 것에 대하여 A부터 Z까지 알아보고자 한다.

 

기술의 원리는 다음과 같다. 먼저 합성하려는 인물의 얼굴이 주로 나오는 고화질의 사진, 동영상 구한다. 그리고 그 영상을 통해 딥러닝하여, 프레임 단위로 합성하는 것이다. 머리 외곽선을 통째로 따서 합성하는 것이 아니고, 안면 윤곽 안쪽 부분만 피부색을 맞춰 바꿔치기하는 방식이기 때문에 일반 합성보다 더 자연스럽게 연출된다.

 

그렇다면 딥페이크 기술은 어떻게 활용되고 있을까? 필자가 초점을 맞춰 소개하려는 것은 딥페이크 기술의 문제점이지만, 이점 또한 분명 존재한다. 대표적으로 고인이나 연예인을 딥페이크 기술을 통하여 구현하여 다양한 콘텐츠를 제작할 수 있다. 2016년 작 영화에서는 1977년 스타워즈 작에 출현한 배우가 딥페이크 기술을 통해 1977년 모습 그대로 나오기도 했다.참고 또 딥페이크 기술로 유관순, 윤봉길 독립운동가들의 과거 모습을 복원하여 영상으로 제작한 사례도 있다. 딥페이크 기술을 통해 현재는 제작할 수 없는 영상을 만들 수 있고, 콘텐츠 제작 과정이 간단해질 수 있다는 것이다.

 

하지만 이점을 뛰어넘는 문제들이 존재한다. 앞서 말한 고인을 재구현하는 것에 반대하는 의견이 있는데, 이 작업은 고인의 동의 없이 진행될 수밖에 없는 일이기 때문에 재구현하지 않고 그 자체로 남겨둬야 한다는 의견이 있다. 그리고 두 번째, 딥페이크 기술은 피싱 사기에도 악용될 수 있다. 정교한 합성으로 이루어진 이 기술을 악용한다면 영상통화나 동영상으로 피해자의 지인이나 관련 인물로 위장해 피해자는 손쓸 새 없이 사기를 당하게 될 수 있다.

 

그리고 가장 큰 문제점은 딥페이크 기술을 악용한 ‘딥페이크 포르노’ 제작이다. 필자가 딥페이크에 대하여 알게 된 계기도 딥페이크 포르노에 대한 논란 때문인데, 안타까운 사실이지만 딥페이크 기술의 사용 용도의 약 96%가 음란물 제작에 쓰이고 있다는 것이다. 주 피해자는 여성 연예인이며 점점 일반인 여성의 합성물도 급격히 늘어나는 추세다. 딥페이크 포르노 제작자들은 여성의 얼굴을 여성 나체 사진, 영상에 합성하여 포르노 사이트 혹은 SNS에 유포하는데, 당연하게도 이 딥페이크 음란 합성물은 피해자의 동의를 얻지 않은 제작물이다. 또한 피해자는 이런 사진, 영상들이 만들어지고 유포되어 많은 사람이 보고 있다는 사실조차 모르고 살고 있다는 것이다. 또한, 자신의 사진이 이런 음란물을 만드는 데 사용되는 것을 알게 된다면, 피해자는 씻을 수 없는 정신적 피해를 입게 될 것이다. 이런 문제가 지속되자 대한민국에서는 2020년 6월 25일부터 딥페이크에 대한 음란 처벌 규정이 더욱 강화되었다. 하지만 딥페이크 음란물을 제작, 유포한 사람만 처벌되고 음란물을 소비, 소장하고 있는 사람들은 처벌받지 않는다는 것이 현실이다2

 

딥페이크 기술을 이용한다면 앞으로도 분명 다방면으로 이용할 길이 많다. 하지만 딥페이크 기술로 인한 피해가 있다면 그것을 제한할 필요 또한 있다. 이런 상황에서 인공지능 시대를 살아갈 우리는 어떤 선택을 해야 할까? 무조건 딥페이크 기술을 억압해야 할까? 아니면 기술의 악용을 감수하고 사용을 지속해야 할까? 이 문제에 정답은 없다고 생각한다.

 

정답이 없기 때문에 앞으로 딥페이크 기술을 사용하게 될 우리의 역할이 중요하다. 딥페이크 기술을 완전히 제한할 수는 없다. 그러므로 악용을 줄일 수 있는 법안이 절실히 필요하다. 예를 들자면 딥페이크 기술을 자격증을 취득한 후에만 사용할 수 있도록 하거나, 딥페이크 음란물 제작자와 소비자 모두를 엄중 처벌하는 방법이 있다. 하지만 이런 정책은 가만히 있을 때 나오지 않는다. 우리가 목소리를 높여 기술의 악용에 관해 이야기하고 바꿔나가야 한다. 

 

이처럼 미래를 살아가는 우리가 이 기술에 대해서 깊이 고민하고, 두 가지 입장을 절충할 수 있는 대책을 마련한다면 딥페이크 기술은 더는 양날의 검이 아니게 될 것이다.

 

각주

1,참고:namu.wiki/w/딥페이크
2.참고news.lawtalk.co.kr/3181

 

 

 

 

이 기사 친구들에게 공유하기