딥페이크 피싱 범죄를 탐지하는 기술들 및 딥 페이크 피싱 범죄 예방 방법에 대해 알아보기

인공지능(AI) 기술은 나날이 발전하고 있습니다. 자율 주행 차량, 가전제품등 우리의 일상생활에 매우 빠르게 스며들고 있습니다. 그러나 인공지능(AI) 기술은 많은 범죄에도 매우 교묘하게 악용되고 있는 것도 사실입니다. 최근에는 유명인과 연예인들을 등장시켜 투자를 유도하는 딥페이크 영상들이 SNS상에서 매우 빠르게 퍼져나가고 있다고 합니다. 그로 인해 금전적인 피해를 본 사람들도 지속적으로 늘어나고 있다고 합니다. 피해를 입은 사람들은 하나같이 유명인과 연예인들이 등장하는 영상을 보고 투자를 해도 안심할 수 있겠다는 믿음이 생겼다고 합니다. 그렇다면 그 영상은 얼마나 감쪽같이 제작되었길래 많은 사람들이 의심 없이 투자하게 된 것일까요? 이번에는 나날이 발전하고 있는 인공지능 (AI) 기술 중 하나인 딥페이크 기술에 대한 문제점과 딥페이크 영상을 잡아 낼 수 있는 기술들에 대해서 알아보도록 하겠습니다.

딥페이크란?

딥페이크(deepfake)는 인공지능(AI) 기술인 딥러닝(deep learing)과 가짜(fake)의 합성어이며, 인공지능 기술을 기반으로 인물들의 얼굴표정과 행동들 그리고 인물들의 음성까지 정교하게 합성하여 제작된 영상 편집물을 말합니다. 딥러닝 기술이 활용되는 영역은 매우 다양하지만 가장 널리 사용되고 있는 분야는 단연 드라마나 영화와 같은 미디어 산업 분야일 것입니다. 우리에게 친숙한 대표적인 사례로는 디즈니플러스 오리지널 드라마시리즈였던 카지노에서는 최민식 배우가 맡은 차무식이란 캐릭터의 젊은 시절 모습을 다른 대역 없이 최민식 배우의 30대 시절의 얼굴과 목소리를 딥러닝기술로 스캔하여 최민식배우의 현재모습에 덧입혀서 촬영한 것이 화제가 되기도 하였습니다. 이외에도 할리우드에서는 과거를 재현하는 영상이나 이미 사망하여 더 이상 실존하지 않는 배우를 영화에 등장시키는 장면 등을 촬영할 때 딥페이크 기술을 활용한다고 합니다. 이뿐만이 아니라 딥페이크 기술은 유명인을 활용하여 홍보물을 제작하거나 교육분야에서도 활용되는 등 다양한 분야에서 사용되고 있다고 합니다.

딥페이크의 문제점

딥페이크 기술은 여러 가지 분야에서 다양하게 활용되고 있지만 많은 사람들이 범죄를 저지를 목적으로 딥페이크 기술을 악용하고 있습니다. 딥페이크 기술이 범죄에 악용되는 사례들을 살펴보면 허위정보들을 진짜 정보인 양 가짜뉴스를 만들어 유포하거나 자신의 지인들 또는 연예인들의 얼굴 사진을 가지고 성착취물을 만들어 유포하는 등 여러 가지 사회적 문제를 일으키고 있지만 가장 심각한 범죄행위는 금전을 노리는 피싱 범죄에 악용되고 있다는 점입니다. 최근에는 송혜교, 조인성 등 유명 연예인이 등장하여 투자를 유도하는 딥페이크 영상이 여러 온라인 매체와 SNS에서 퍼져 나갔고 그 영상을 본 많은 사람들은 이 영상을 진짜 조인성 배우와 송혜교 배우가 찍은 영상으로 믿고서 투자를 했다가 막대한 금전적 피해를 봤다고 합니다. 이 딥페이크 영상의 피해자들은 아직까지 계속해서 늘어나고 있다고 합니다. 이외에도 캐나다에서는 자신의 아들이 미국 여행 중 운전을 하다가 사람을 치어 숨지게 해 미국 경찰에 체포되었고 미국 계좌가 없으니 가상화폐로 돈을 보내달라는 아들의 목소리를 흉내 낸 딥페이크 영상편집물을 아들이라고 믿고 피싱 범죄자들에게 약 2000천만 원에 해당하는 가상화폐를 곧바로 입금하고 난 후 얼마 지나지 않아 아들이 멀쩡하다는 것을 알게 되었다는 사례도 있었습니다. 독일의 한 통신회사에서는 SNS상에 공유된 자녀의 사진을 딥페이크기술을 이용하여 피싱범죄에 악용될 수 있다는 캠페인 영상을 제작하여 많은 사람들에게 경고하기도 하였습니다. 이처럼 딥페이크 기술들은 점점 발전하고 있기 때문에 딥페이크 기술을 악용한 범죄들 또한 점점 교묘해지고 있는 것입니다. 그렇기에 우리들은 딥페이크 기술로 만들어진 영상들에 대해 조금 더 경각심을 가지고 주의를 기울여야 할 것 같습니다.

딥페이크 영상편집물 범죄가 꾸준히 늘어나는 이유

딥페이크 영상편집물 범죄가 늘어나는 이유는 무엇일까요? 그 이유는 딥페이크 영상편집물을 만드는데 드는 비용과 시간이 예전보다 많이 줄었기 때문에 누구나 손쉽게 영상편집물을 만들 수 있게 된 것이 이유라고 합니다. 기술은 발전을 합니다. 기술이 발전하게 되면 만들어지는 결과물의 질은 높아지고 제작시간은 단축되기에 매우 효율적인 작업들이 가능해집니다. 그러나 우리는 이러한 기술의 발전들이 때로는 좋은 범죄의 도구로써 이용될 수도 있다는 점을 알아 두어야 할 것입니다. 현재 딥페이크 기술로 제작된 영상편집물은 누가 현실적 인물이고 누가 가상의 인물인지 말해주지 않는 이상 전혀 분간이 되지 않을 정도의 수준까지 오게 되었습니다. 딥페이크의 기술은 우리 생활을 편리하고 윤택하게 해주는 기술임은 분명하지만 딥페이크 기술의 발전으로 어린 학생부터 범죄조직들까지 너무나 손쉽게 딥페이크 영상편집물을 만들어 범죄에 악용하는 행위들은 딥페이크 기술이 끝까지 짊어져야 할 문제일 것입니다. 만약 재미로 타인을 대상으로 딥페이크 영상편집물을 만들고 계신 분들이 있다면 이는 명백한 범죄행위이므로 지금이라도 그만두시는 것이 좋을 것 같습니다.

딥페이크 범죄 피해를 줄이려면?

딥페이크 영상편집물로 인한 범죄 피해를 줄이려면 어떻게 해야 할까요? 먼저 개인정보 관리에 신경을 써야 합니다. 인적정보가 담긴 사진이나 동영상 및 음성 파일들을 인터넷상에 함부로 공유하지 않도록 노력해야 하고 공유가 되었다고 해도 타인들에게 노출되지 않도록 각별한 관리가 필요합니다. 또한 딥페이크 영상편집물들이 피싱범죄에 활용되고 있다는 것도 인지하고 대비해야 할 것입니다. 예를 들면 상대방이 갑자기 금전을 요구하는 음성통화나 영상통화가 걸려오게 되면 상대방의 신분증을 확인하는 등 상대방의 신분을 정확하게 파악하는 것이 중요하다고 합니다.

딥페이크 영상편집물을 잡아내는 기술들

딥페이크 영상편집물을 만드는 것도 인공지능(AI) 기술이지만 딥페이크 영상편집물을 잡아내는 것도 인공지능(AI) 기술이라고 합니다. 그렇다면 딥페이크 영상편집물을 잡아내는 기술들에는 어떤 기술들이 있는지 알아보도록 하겠습니다. 가장 먼저 알아볼 기술은 인텔의 페이크캐처라는 프로그램에 대해 알아보겠습니다. 인텔에서 개발한 페이크캐처 프로그램은 딥페이크를 96%까지 탐지할 수 있다고 합니다. 페이크캐처가 딥페이크를 탐지하는 원리는 밀리초(1000분의 1초) 단위로 딥페이크 영상을 나눈 뒤 각 시간대별로 분석하여 딥페이크 영상에서 어색한 부분을 찾아내는 기술이라고 합니다. 다음으로 알아볼 기술은 에스토니아의 AI플랫폼 기업인 센티널에서 개발한 AI 센티널입니다. AI 센티널가 딥페이크 영상을 잡아내는 원리로는 AI 센터널 웹사이트에 딥페이크 의심 영상을 업로드하면 그 영상의 진위 여부를 분석해 주는 기술입니다. AI 센티널은 자체 알고리즘은 업로드된 영상에서 변경된 부분을 시각화하여 묘사해 주기 때문에 사용자는 영상이 조작된 위치와 방법을 손쉽게 알 수 있다고 합니다. 다음으로 알아볼 기술은 국내의 생성형 AI기술 전문회사인 딥브레인 AI의 딥페이크 탐지 AI 설루션입니다. 딥브레인 AI의 딥페이크 탐지 AI 설루션은 합성곱 신경망과 트랜스포머라는 AI알고리즘 분석 기술을 기반으로 개발되었으며, 가상 인물을 원하는 얼굴로 교체하는 페이스 스왑, AI 립싱크, 특정인물의 영상데이터를 기반으로 특정인물을 분석해 딥러닝 학습을 진행한 후 특정 인물의 진위 여부를 판별하는 특정인물 탐지 모델과 특정인물의 음성을 합성했는지 탐지하는 음성탐지 모델까지 지원하고 있다고 합니다. 이외에도 카이스트(KAIST)에서는 딥페이크를 탐지해 주는 AI모바일 앱인 카이캐치를 개발했다고 합니다. 카이캐치는 구글 플레이스토어에서 다운로드하여서 사용하실 수 있습니다.

글을 마치며

이번 포스팅에서는 딥페이크 기술이 활용되는 분야와 딥페이크 기술이 발전함에 따라 악용되는 범죄 피해 사례들을 알아보았고 딥페이크를 잡는 기술들에는 어떤 것들이 개발되었는지도 알아보았습니다. 현재 딥페이크 영상편집물들이 만들어지는 속도와 그것을 잡아내는 기술들은 쥐와 고양이의 관계라고 합니다. 딥페이크를 잡아는 내는 기술이 발전하면 할수록 딥페이크 영상편집물은 더욱더 교묘하게 제작되기 때문이라고 합니다. 그러므로 딥페이크 범죄로 인한 피해를 최소화하기 위해서는 딥페이크 영상편집물이 제작되는 과정과 딥페이크 영상편집물들이 범죄에 악용되는 사례들을 충분히 인지하고 대비하는 방법 밖에 없다는 것이 저의 생각입니다. 이번 포스팅이 딥페이크 기술에 대해 궁금하신 분들에게 작게나마 도움이 되었으면 합니다.