딥페이크? 딥페이크 뜻! 활용 및 악용 사례까지

바야흐로 AI 전성시대입니다. 인공지능기술이 IT 뉴스의 전면을 장식함에 따라 더불어 거론되는 용어로 딥페이크가 있습니다. 딥페이크(deepfake) 뜻과 활용·악용 사례 살펴봅니다.

✅ 목차

딥페이크?
딥페이크의 등장
딥페이크의 원리
딥페이크 제작 오픈소스
딥페이크의 활용
딥페이크의 악용
마치며

딥페이크? 딥페이크 뜻!

딥페이크(deepfake)는 인공지능 기술인 딥러닝(deep learning)과 '가짜'를 의미하는 단어인 페이크(fake)가 결합된 합성어로, 인공지능 기술을 이용하여 가짜 이미지나 영상물을 만들어내는 것을 말합니다. 요컨대 딥페이크란 이미지 합성기술을 의미합니다.

✅ 딥 러닝(deep learning)

딥 러닝은 인간의 뇌와 유사한 방식으로 새로운 정보를 학습하도록 설계된 기계 학습의 한 유형을 말합니다. 여기서 '딥'이란 시간이 지나면서 축적되는 신경망의 여러 층을 의미하는데, 신경망이 깊어질수록 성능 또한 향상됩니다.

딥 러닝의 알고리즘은 인간 뇌의 사고 절차를 미러링하도록 설계된 계층형 모델을 구축함으로써, 결과물을 얻기 위해 입력 데이터를 사전 처리할 필요가 없는 다중 계층 신경망을 사용합니다. 데이터 과학자는 알고리즘에 원시 데이터를 공급하고, 시스템은 이미 알고 있는 내용과 새로운 데이터에서 추론 가능한 내용을 취해 데이터를 분석한 후 예측을 합니다.

이러한 딥 러닝의 이점은 단순한 규칙 기반 AI로는 불가능한 데이터를 처리할 수 있다는 점입니다.

딥페이크의 단어 뜻 자체는 중성적입니다. 따라서 잘 쓰면 '활용'이고 못 쓰면 '악용'이 됩니다. 문제는 딥페이크가 초상권을 침해하고, 정치적으로 악용되며, 성인물과 범죄에 악용된다는 점입니다. 딥러닝 기술의 발달로 딥페이크의 접근이 수월해짐에 따라 딥페이크의 악용 가능성은 더욱 커지고 있습니다.

딥페이크의 등장

딥페이크라는 단어가 등장한 시기는 2017년, 미국 온라인 커뮤니티 Reddit의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 콘텐츠를 게재한 데서 유래하였습니다. 이후 온라인 커뮤니티와 SNS를 중심으로 딥페이크는 급속히 확산되었는데, 최근에는 DeepFaceLab, Faceswap 등 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하게 되었습니다. 대표적인 딥페이크 사례로 버락 오바마, 도널드 트럼프 두 전 미 대통령이 있습니다.

버락 오바마

2018년 4월 17일, 미국 배우 조던 필, 버즈피드 및 몽키포 프로덕션스는 버락 오바마의 딥페이크를 유튜브에 게시했습니다. 영상 속에서 버락 오바마는 도널드 트럼프의 이름을 저주하고 부르는 모습으로 묘사되었는데, 이는 합성된 영상이었습니다.

이 영상은 필의 목소리와 얼굴이 오바마의 목소리와 얼굴로 변형 조작된 딥페이크였습니다. 영상 제작진은 영상의 목적이 딥페이크의 위험한 결과와 위력, 그리고 딥페이크가 어떻게 작동하는지를 보여주기 위함이었다고 합니다.

도널드 트럼프

2019년 5월 5일, NBC의 더 투나잇 쇼에는 지미 팰런의 촌극을 바탕으로 한 도널드 트럼프의 딥페이크가 게시되었습니다.

이는 2016년 5월 4일에 방영되었던 원작 촌극에, 지미 팰런이 도널드 트럼프 복장을 하고 버락 오바마와 전화통화하는 척하며 인디애나에서의 첫 승리를 자랑하는 것이었는데, 딥페이크에서 지미 팰런의 얼굴은 도널드 트럼프의 얼굴로 바뀌었지만 오디오는 동일하게 유지되었습니다. 영상의 목적은 코믹을 위한 의도였다고 합니다.

딥페이크의 원리

딥페이크란 딥러닝 기술을 이용해 조작된 음성, 영상, 이미지 등을 만들어 내는 것을 말합니다. 딥페이크의 밑바탕에는 딥러닝 기술이 있습니다.

딥페이크가 가능한 원리는 적대관계생성신경망(Generative Adversarial Networks, 이하 GAN)’이라는 원리입니다. 이는 2014년에 등장한 머신러닝 기술로, GAN은 AI 모델을 생성모델과 분류모델로 구분해 각 모델의 학습을 반복하는 과정을 거칩니다.

이러한 과정에서 생성모델과 분류모델은 서로를 적대적 경쟁자로 인식하며 상호 발전하게 되는데, 생성모델은 실제와 유사한 데이터를 생성할 수 있게 되고, 분류모델은 데이터의 진위여부를 구별할 수 없게 됩니다. 과정을 반복함에 따라 원본 영상과의 구별이 불가능할 정도로 정교한 합성 영상이 만들어집니다.

딥페이크로 만들어진 합성영상이 어떻게 활용 또는 악용되고 있는지, 자세한 내용은 아래 글을 참고하세요.

2019 미디어 이슈&트렌트(12월호)_[트랜드리포트]딥페이크 기술의 빛과 그림자.pdf

0.52MB

딥페이크 제작 오픈소스

다음은 딥페이크를 제작할 수 있는 대표적인 오픈소스 두 곳을 소개합니다. DeepFaceLab(딥페이스랩)과 Faceswap(페이스스왑)이 그것입니다.

DeepFaceLab(딥페이스랩)

DeepFaceLab(DFL)은 깃허브(GitHub)의 프로그램으로 딥페이크 영상을 만드는 소프트웨어입니다. 현재 95% 이상의 딥페이크 영상이 이 소프트웨어를 사용해 제작됩니다.

DeepFaceLab 바로가기

초기 딥페이크의 경우는 기존 얼굴을 뜯어내고 다른 얼굴로 바꿔치기하는 방식으로 제작되었지만, 오늘날 딥페이크는 DeepFaceLab으로 학습한 모델을 DeepFakeLive에 삽입해 기본으로 제공되는 셀러브리티의 얼굴 외에도 여러 얼굴로 변형할 수 있습니다.

DeepFaceLab은 앱 스토어에서 다운로드할 수 있으며, iPhone, iPad, iPod touch 등에서 사용할 수 있습니다.

Faceswap(페이스스왑)

Faceswap 역시 깃허브(GitHub)의 프로그램으로 이미지와 영상에서 얼굴을 바꾸는 프레임워크입니다. 무료 오픈 소스 다중 플랫폼 Deepfakes 소프트웨어로, Tensorflow, Keras 및 Python으로 구동됩니다. Faceswap은 Windows, macOS 및 Linux에서 실행됩니다.

Faceswap 바로가기

딥페이크의 활용

딥페이크를 활용하는 사례는 다양합니다. 선한 활용에서부터 악한 이용까지, 어찌 보면 선악의 경계에 선 것이 AI기술이고, 그 선봉에 선 것이 딥페이크가 아닐까 싶습니다. 먼저 활용 사례 살펴봅니다.

미디어 업계의 활용

딥페이크 기술은 미디어 업계에서 특수효과로 활용됩니다. 이는 콘텐츠의 품질 개선에 크게 기여하는데, 할리우드를 비롯한 영상 제작 업계에서는 딥페이크 기술을 활용한 특수효과로 과거를 재현하거나 더 이상 실존하지 인물을 그려내기도 합니다.

AR·VR 콘텐츠 제작에 활용

딥페이크 기술은 AR·VR 콘텐츠 제작에도 활용되고 있습니다.

대표적 사례로 미국 플로리다에 있는 화가 Dali 박물관은 미국 광고사 GS&P와 협업을 통해 작고한 예술가 Dali를 되살려냈습니다.

GS&P는 Dali의 영상을 수집한 후 머신러닝 기법을 활용해 표정 알고리즘을 분석하는 한편, 대역 배우를 섭외해 배우의 얼굴에 Dali의 얼굴을 합성하고 Dali와 비슷한 성우의 목소리를 입혔습니다.

이렇게 부활한 Dali 덕분에 Dali 박물관 관람객들은 실물 크기의 키오스크 속에 등장하는 Dali와 촬영하고 대화할 수 있으며, AR Dali의 안내를 받으며 작품을 감상할 수 있게 되었습니다.

딥페이크의 악용

한편 딥페이크는 그 악용이 더욱 우려됩니다. 연예인의 신체를 무단 도용해 만든 딥페이크 포르노가 확산되는가 하면, 유명인의 딥페이크 영상이 SNS에 가짜뉴스로 퍼지기도 합니다.

온라인 딥페이크, 성인물 영상

Deeptrace에 따르면, 온라인에 퍼져 있는 딥페이크 영상은 2018년 대비 2019년에는 84% 증가했으며 그중 성인물이 전체 영상의 96%를 차지한다고 합니다.(자료출처 : 2019 미디어 이슈&트렌트(12월호)_[트랜드리포트]딥페이크 기술의 빛과 그림자.pdf)

Deeptrace가 딥페이크 성인용 사이트 영상을 분석한 결과, 영상에 등장하는 인물의 성별은 모두 여성으로서, 국적별로 보면 41%가 미국인, 25%가 한국인, 12%가 영국인, 6%가 캐나다인, 3%가 인도인 순이고, 인물의 99%가 연예계 종사자라고 합니다. 이는 딥페이크의 피해자가 여성, 특히 연예인에 집중돼 있음을 보여줍니다.

유명인사 딥페이크, 가짜뉴스

유명인사의 가짜 뉴스도 딥페이크의 대표적인 악용 사례입니다.

이는 정치적·사회적 불안감을 가중시키거나 기업 윤리에 흠집을 내기도 하는데, 대표적인 사례가 페이스북(메타)의 마크 저커버스의 딥페이크 사례입니다.

2019년 6월 Facebook CEO Mark Zuckerberg가 등장하는 14초 분량의 영상이 Instagram에서 화제를 모았은데, 영상에서 마크 저커버그는 Facebook 이용자들의 데이터를 통제할 힘이 본인에게 있다는 과시적 내용의 발언을 합니다.

이용자 데이터 유출사건으로 신뢰도가 하락해 있던 Facebook CEO로서는 당치 않은발언이라는 비판이 줄을 이었습니다. 하지만 해당 영상은 실제가 아닌 조작된 영상이었으며, 영국의 한 디지털 예술가 빌 포스터가 '스펙터 프로젝트'라는 이름의 AI 프로젝트의 일환으로 제작·게재한 영상이었음이 드러났습니다.

▼ Mark Zuckerberg 딥페이크 관련 기사 보기

저커버그인데 저커버그 아니다···美대선 비상 걸리게 한 영상 | 중앙일보

AI 기술을 이용해 사람들이 하지 않은 말과 행동을 진짜 한 것처럼 보이게 만들 수 있게 되면서다. 실제 하지 않은 발언을 한 것처럼 보이게 하는 ‘가짜 영상’ 제작도 앱을 통해 물론 가능한 상

www.joongang.co.kr

마치며

이상 딥페이크(deepfake) 뜻과 원리, 활용·악용 사례를 살펴봅니다. 딥페이크의 바탕에는 딥 러닝이 있고, 또 그 바탕에는 인공지능 AI기술이 있음 또한 알게 되었습니다. 진짜와 가짜의 경계가 점점 모호해지는 시대에 들어섰습니다. AI가 인류에게 어떤 존재로 다가올지, 선택을 해야 하는 시기입니다.

'용어서랍' 카테고리의 다른 글

휴머니즘(Humanism)의 뜻 역사 & 포스트 휴머니즘(Post-Humanism)의 출현 (1)	2024.04.05
bbw? 비떱? 비떱 뜻! bbw 갤러리까지 (0)	2023.11.24
폴리아모리(Polyamory) vs. 모노가미(Monogamy), 영화 '아내가 결혼했다'로 알아 봅니다 (0)	2023.11.16
'fwb' 뜻, 'ons' 'nsa' 'ltr' 뜻까지! (0)	2023.09.13
'개구리화 현상' 뜻과 원인, 사례, '뱀화 현상'까지 총정리 \| 일본 Z세대 신조어 (0)	2023.09.04

딥페이크? 딥페이크 뜻! 활용 및 악용 사례까지

딥페이크? 딥페이크 뜻!