.svg)
AI 솔루션 문의하기
딥페이크(Deepfake)는 딥러닝(Deep Learning)과 가짜(Fake)를 합친 말로, 인공지능을 이용해 사람의 얼굴이나 목소리를 합성하거나 바꾼 영상, 이미지, 음성을 뜻합니다. 처음에는 영상 속 인물의 얼굴을 다른 사람으로 바꾸는 기술로 알려졌지만, 지금은 존재하지 않는 사람의 얼굴을 새로 만들거나 실시간 영상 통화 화면을 바꾸는 수준까지 발전했습니다.
딥페이크를 만드는 대표적인 방식은 GAN(생성적 적대 신경망)입니다. 가짜를 만드는 생성 모델과 진짜인지 가려내는 판별 모델이 서로 경쟁하며 학습하는 구조로, 학습이 반복될수록 판별 모델도 속을 만큼 정교한 결과물이 나옵니다. 최근에는 이미지 생성에 쓰이는 디퓨전 모델까지 활용되면서, 적은 양의 사진만으로도 자연스러운 얼굴을 만들 수 있게 되었습니다. 누구나 쓸 수 있는 앱과 오픈소스 도구가 늘면서, 딥페이크를 만드는 데 필요한 시간과 비용도 크게 줄었습니다.
딥페이크는 만드는 방식에 따라 크게 세 가지로 나눌 수 있습니다.
여기에 AI로 특정인의 목소리를 복제하는 음성 합성까지 더해지면, 얼굴과 목소리가 모두 가짜인 영상도 만들 수 있습니다.
딥페이크는 영화 제작이나 교육 콘텐츠처럼 긍정적으로 쓰이기도 하지만, 범죄에 악용되는 사례도 늘고 있습니다. 특정 인물의 허위 영상을 만들어 명예를 훼손하거나 가짜 뉴스를 퍼뜨리는 경우가 대표적입니다. 가족이나 지인, 회사 임원의 얼굴과 목소리를 흉내 내 영상 통화로 송금을 요구하는 사칭 사기도 보고되고 있습니다.
기업 입장에서 특히 주의해야 할 것은 신원을 속이는 데 딥페이크가 쓰이는 경우입니다. 다른 사람의 이름으로 계좌를 열거나 대출을 받고, 휴대폰을 개통하거나 플랫폼 계정을 만드는 명의도용에 딥페이크가 동원되면, 그 피해는 결국 서비스를 운영하는 기업과 명의를 도용당한 고객에게 돌아갑니다.
비대면 본인확인은 고객이 카메라 앞에서 신분증과 얼굴을 보여주는 과정입니다. 딥페이크는 이 과정에서 기업이 확인하는 지점을 하나씩 노립니다.
세 지점은 서로 연결되어 있습니다. 신분증 사진과 셀피가 모두 같은 가짜 얼굴이라면, 얼굴 매칭 자체는 문제없이 통과될 수 있습니다. 그래서 두 얼굴이 같은지만 볼 것이 아니라, 신분증이 실물인지와 촬영된 얼굴이 실제 사람인지를 따로 확인해야 합니다.
비대면 본인확인에서 딥페이크를 막으려면 촬영된 얼굴이 실제 사람인지, 제출된 신분증이 실물인지를 함께 확인할 수 있어야 합니다. 알체라 eKYC는 RGB 기반 얼굴 위변조 탐지(PAD)로 국내에서 유일하게 iBeta 평가를 통과했으며, 촬영된 얼굴의 위변조 여부를 먼저 판별한 뒤 신분증 사진과 매칭하여 동일인 여부를 확인합니다. 여기에 신분증 사본판별을 함께 적용하면 화면이나 출력물로 제시된 신분증도 판별할 수 있습니다.
딥페이크가 얼굴 인증 시스템에 들어오는 경로는 크게 두 가지입니다.
최근에는 실시간으로 얼굴을 바꿔 주는 도구가 늘면서, 고개를 돌리거나 눈을 깜빡이라는 요청에 맞춰 움직이는 합성 영상도 만들 수 있게 되었습니다. 정해진 동작을 따라 하는지만 확인하는 방식으로는 이런 공격을 가려내기 어려워졌다는 뜻입니다.
두 경로는 막는 방법도 다릅니다. 프레젠테이션 공격은 촬영된 영상 안에서 실제 사람인지를 판별해 걸러낼 수 있지만, 인젝션 공격은 영상이 실제 카메라에서 왔는지, 기기와 앱이 변조되지 않았는지까지 확인해야 합니다. 두 공격의 차이와 방어 계층은 딥페이크 우회 공격 대응 글에서 더 자세히 볼 수 있습니다.
딥페이크를 한 번에 막는 단일 기술은 없습니다. 비대면 본인확인의 각 단계에서 서로 다른 위조를 걸러내도록 확인을 겹쳐 두는 것이 현실적인 방법입니다.
확인을 가입 단계에서만 하고 끝내는 것도 위험합니다. 가입 이후에도 고액 이체, 기기 변경, 비밀번호 재설정처럼 계정이 넘어갈 수 있는 순간에는 얼굴을 다시 확인하는 것이 좋습니다. 이때도 같은 단계를 거치게 하면, 가입 시점에는 정상이던 계정이 나중에 탈취되어 딥페이크로 재인증을 시도하는 경우까지 막을 수 있습니다.
단계별로 어떤 공격을 막는지는 딥페이크 탐지를 넣은 비대면 본인확인 흐름에서, 탐지 기술이 실제 사람과 합성 얼굴을 구분하는 원리는 딥페이크 탐지 기술 원리 글에서 정리했습니다.
딥페이크 대응을 내세우는 솔루션은 많지만, 기업이 확인해야 할 기준은 비교적 분명합니다.
평가 수치를 읽는 방법은 딥페이크 탐지 알고리즘 평가 지표 글에서, 얼굴 인식에서의 딥페이크 탐지 개념은 딥페이크 탐지와 얼굴 인식 글에서 함께 볼 수 있습니다. 딥페이크 기술은 계속 바뀌기 때문에, 도입 후에도 새로운 공격 유형에 맞춰 탐지 모델이 꾸준히 개선되는지 확인하는 것이 좋습니다. 또한 얼굴 정보는 민감한 개인정보이므로, 촬영된 이미지를 어디에 얼마나 보관하는지, 전송 구간이 암호화되는지도 함께 따져 봐야 합니다. 보안 인증을 받은 환경에서 운영되는지 확인해 두면, 내부 보안 심사와 감독 기관 점검에도 대응하기 수월합니다.
.png)
.svg)
.svg)
