인공지능이 급속도록 성장을 하면서 좋아지는 현실도 있지만 나빠지는 현실도 존재합니다.
그중 대표가 되는 부분이 바로 딥페이크 기술입니다.
딥페이크는 인공지능을 이용하여 이미지 및 영상을 만드는 기술로 성능이 너무 좋아 진짜와 가짜를 구별하기 어렵습니다.
오늘은 딥페이크 뜻과 기술, 앱 종류와 처벌 사례 등을 살펴보겠습니다.
딥페이크 뜻
인공지능이 급속도로 발전하면서 다양한 기술들을 선보이고 있습니다.
딥페이크는 딥러닝과 페이크를 합성한 신종 언어로 인공지능을 활용하여 기존 사진이나 동영상에 새로운 목소리를 삽입을 시키거나 새로운 얼굴을 창조하여 내 목소리나 다른 사람 목소리를 합성시키는 기술입니다.
이러한 기술은 과거에도 만들어지기는 하였지만 진짜와 가짜를 구별하기 쉬웠습니다. 하지만 지금은 인공지능의 성장으로 인하여 진짜와 가짜를 구별하기 어렵습니다.
딥페이크 기술은 기계 학습 기술인 GAN(생성적 적대 신경망)을 기반으로 하기 때문에 그 성능이 뛰어납니다.
딥페이크 기술
딥페이크는 인공지능의 딥러닝(Deep Learing)을 기반으로 작동을 합니다.
딥러닝은 사람의 두뇌 역할을 하는 기술로 복잡한 알고리즘을 사용하는 인공 신경망을 이용하여 기존 데이터를 분석하고 학습을 합니다.
이러한 딥러닝 기술의 GAN(생성적 적대 신경망)을 이미지, 영상 제작 및 합성에 활용한 것이 딥페이크입니다.
딥페이크를 작동하는 GAN은 생정자 와 판별자라는 두 개의 신경망으로 이루어져 있습니다.
생성자는 말 그대로 이미지를 만들어 내거나 합성하는 역할을 하고 판별자는 만들어진 이지미자 영상이 진짜 인지 판별하는 역할을 합니다.
두 개의 신경망은 반복 학습을 통하여 더욱 실감 나고 사실적인 이미지 및 영상을 만들어 냅니다.
생성자 역할
딥페이크 영상 및 이미지를 만들어내는 기술로 다양한 편집 소프트웨어를 활용하여 기존 영상이나 이미지에 다른 사람의 목소리를 삽입하고, 기존 영상 기반하여 새로운 영상 제작을 합니다.
- 데이터 수집 및 정제 : 기존 데이터(영상이나 이미지)를 수집 및 학습하여 딥페이크 모델에 맞게 정제를 합니다.
- 딥페이크 모델 학습 : 수집한 기존 데이터를 딥러닝 기술을 활용하여 딥페이크를 학습시켜 모델의 구조 및 하이퍼라라미터를 조정하여 사실적인 결과를 얻어냅니다.
- 영상 및 이미지 제작 : 학습된 딥페이크 모델을 사용하여 원하는 영상 및 이미지를 생성합니다.
- 윤리적 판단 : 이렇게 만들어진 영상 및 이미지는 악용 가능성이 높기 때문에 윤리적 판단 능력이 갖추어져야 합니다.
판별자 역할
생성자에 의해 만들어진 이미지 및 영상을 진짜인지 판별하는 기술입니다.
- 딥페이크 특징 분석 : 아무리 진짜처럼 만들어도 진짜가 아니라는 것은 다들 압니다. 판별자는 생성자가 만들어낸 영상 및 이미지에서 미묘한 오류나 불일치 부분을 찾아냅니다.
- 딥러닝 모델 활용 : 이미지 생성을 할 때도 딥러닝을 활용을 하지만 판별할 때도 딥러닝 모델을 활용을 합니다. 판별자는 GAN(생성적 적대 신경망)을 학습시켜 만들어진 영상 및 이미지를 자동으로 식별하게 합니다.
- 인간 판단 : 인공지능 성능이 많이 성장을 하였지만 완벽하게 판별하기는 어렵습니다. 그렇기 때문에 판별자는 딥러닝 모델 판별 결과를 분석합니다. 사람의 경험 및 판단력은 인공지능의 성능을 넘어서기도 합니다.
딥페이크 앱 종류 3가지
딥페이크의 앱 종류는 크게 3가지로 구분을 할 수 있습니다.
얼굴 바꾸기 앱
기존 사진 및 영상을 기반으로 하여 기존 얼굴을 다른 사람을 바꾸는 앱입니다.
이러한 콘텐츠는 많은 재미를 만들어 내지만 명예훼손 등 악용 가능성이 매우 높습니다. 대표적인 앱으로는 Reface, FaceAPP, FaceLAP, Zombify 등이 있습니다.
- Reface : 자연스럽게 가족 및 친구, 유명인 등의 얼굴을 바꿔주는 앱으로 이미지 및 영상으로 만들 수 있습니다.
- FaceAPP : 헤어스타일 및 메이크업, 성별, 나이 적용을 할 수 있는 앱으로 기존 얼굴에 나이를 적용하여 늙게도 젊게도 조작이 가능하고, 성별 등을 바꿀 수 있습니다.
- FaceLAP : 얼굴 변형 및 헤어 스타일뿐만 아니라 의상까지 바꿀 수 있는 앱입니다.
- Zombify : 좀비, 요정, 외계인 등 다양한 캐릭터로 바꿀 수 있는 앱으로 재미 창출에 많이 사용합니다.
음성 합성 앱
음성 합성 앱은 기존 영상에 다른 사람 목소리를 합성시키는 앱입니다.
이러한 기술은 뉴스 및 유튜브, 드라마, 영화에 많이 사용을 하고 있습니다. 대표적인 앱으로는 Natural Reader, Speecx, Text to Speech 등이 있습니다.
- Natural Reader : 다양한 목소리와 언어를 지원하는 앱으로 텍스트를 음성으로 변환이 가능하며, 음량 조절 및 속도 제공 등의 기능이 있는 무료 앱입니다.
- Speecx : 영어, 일본어, 한국어 등 다양한 언어를 무료로 합성하는 앱으로 MP3, AAC 등으로 저장이 가능합니다. 또한 믹싱 기능 및 음악 추가 기능 등이 있습니다.
- Text to Speech : 구글에서 무료로 제공하는 앱으로 텍스트를 읽어주거나, 다양한 언어 및 목소리를 지원하고, MP3, 및 WAV으로 저장이 가능합니다. 또한 발음 조절 및 음량 조절, 속도 조절 등의 기능이 있습니다.
영상 합성 앱
기존 영상에 새로운 효과나 장면을 추가하는 앱으로 영화 및 드라마, 광고 제작에 많이 사용을 합니다.
대표적인 앱으로는 CapCut, InShot, PowerDirector 등이 있습니다.
- CapCut : 초보자 전용 앱으로 전문가도 많이 사용을 하는 무료 앱입니다. 다양한 편집 기능을 제공을 하고, 직관적인 인터페이스를 가지고 있어 매우 쉽게 이용이 가능합니다.
- InShot : 빠르고 간편한 앱으로 SNS 공유 기능 및 필터, 효과, 음악 기능을 제공합니다.
- PowerDirector : 전문가용 유료 앱으로 다양한 트랙 및 레이어, 효과 등이 무료 앱과 다르게 세밀하게 구성이 되어 있습니다.
- Adobe Premiere Rush : 유료 앱으로 다양한 기기에서 사용이 가능합니다. 또한 간편한 인터페이스 및 뛰어난 성능을 제공하고, 초보자도 쉽게 이용이 가능한 전문가용 앱입니다.
딥페이크 처벌 사례 3가지
딥페이크 기술은 다양한 분야에 활용을 할 정도로 성능이 좋은 기술입니다. 하지만 이를 악용한 사례도 많이 있습니다.
유명 인사 영상 제작 및 배포 사례
2019년 영국에서 일어난 사례로 유명한 여배우 얼굴에 다른 여성의 모을 합성 하여 배포하였습니다.
이로 인하여 여배우의 명예훼손 및 정신적 피해를 입히게 되어, 제작자는 1년 6개월 정도의 징역을 선고받았으며, 배포자는 6개월의 징역(유예) 선고를 받았습니다.
정치인 영상 제작 및 유튜브 공유 사례
2020년 대한민국에서 일어난 사례로 정치인의 얼굴에 다른 영상을 합성하여 유튜브에 공유하였습니다.
이로 인하여 정치인 명예훼손 및 정치적인 이슈를 일으키게 되어, 제작자는 정보통신망법 위반죄 협의로 10개월의 징역(유예)을 선고받았습니다.
가짜 뉴스 제작 및 SNS 공유
2021년 미국에서 일어난 사례로 유명 기간의 로고를 사용하여 가짜 뉴스 제작 SNS 공유를 하였습니다.
이로 인하여 사회적 혼란을 일으키게 되었고, 사기죄로 6개월의 징역(유예)을 선고받았습니다.
위 사례는 일부분입니다. 실제로 더욱 많은 악용 사례가 발생을 하고 있습니다.
이를 막기 위해서는 올바른 사용 방법 제시 및 처벌 강화를 해야 합니다.
마치며
딥페이크는 양날의 검으로 인공지능의 발전과 더불어 놀라운 성과를 보여주고 있습니다.
하지만 이를 악용을 하게 되면 심각한 문제를 일으킵니다.
앞으로 딥페이크는 사회에 매우 긍정적 영향을 줄 핵심 기술입니다.
하지만 올바르게 사용을 하지 않는 다면 강력한 처벌로 돌아올 것입니다.
딥페이크의 긍정적인 잠재력은 최대한 활용을 하고, 악용을 최대한 막아 더 나은 미래를 만들어 나가야 합니다.
감사합니다