.svg)
AI 솔루션 문의하기
최근 생성형 AI 기술의 급속한 발전으로 인해 누구나 고품질의 셀피를 만들 수 있게 되었습니다. 생성형 AI 서비스는 텍스트 설명만으로도 아주 현실적인 인물 사진을 만들어낼 수 있습니다. 이러한 이미지는 이제 육안으로 구분하기 어려울 정도로 정교해졌습니다.
문제는 금융기관의 본인인증에 이러한 생성 셀피가 제출될 수 있다는 것입니다. 완전히 가상의 인물 사진을 실제 고객의 셀피인 것처럼 제출하여 계정을 개설하거나, 기존 고객의 사진을 생성 기술로 변형하여 보안을 우회할 수 있습니다. 특히 생성 셀피는 도난 셀피와 달리 아무도 소유권을 주장할 수 없으므로, 적발 후에도 책임 추적이 어렵습니다. 이는 금융기관과 고객 모두에게 새로운 보안 위협을 제시합니다.
다양한 생성형 AI 모델들이 서로 다른 방식으로 이미지를 생성합니다. GAN 기반 모델, 확산 모델, 자동인코더 기반 모델 등이 있으며, 각 모델은 고유한 특징을 남깁니다. 이러한 특징들을 모델의 ''지문''이라고 부르며, 이를 분석하면 어떤 생성 도구로 만들어진 이미지인지를 판별할 수 있습니다.
GAN으로 만든 이미지는 특정한 주파수 패턴과 색상 분포를 보입니다. 확산 모델은 다른 종류의 노이즈 패턴을 남기며, 이를 통해 생성 과정을 역추적할 수 있습니다. 또한 같은 모델의 이미지라도 생성 과정의 단계별 매개변수에 따라 특정한 결함이 나타납니다. 예를 들어 눈의 동공이 부자연스럽거나, 이빨이 기하학적으로 불규칙하거나, 머리카락의 경계가 흐릿한 패턴들이 있습니다. 이러한 생성 모델별 지문을 학습한 분류기를 사용하면, 생성 셀피를 효과적으로 적발할 수 있습니다.
생성 이미지는 완벽해 보이지만, 초고해상도에서 분석하면 여러 미세한 결함을 발견할 수 있습니다. 얼굴의 세부 특징인 눈, 코, 입의 경계 부분에서 특히 결함이 나타납니다. 예를 들어 눈썹과 피부의 경계가 부자연스럽거나, 입술의 색상이 불규칙하게 변하거나, 이빨의 배치가 비정상적일 수 있습니다.
또한 피부 질감도 분석 대상입니다. 실제 피부는 모공, 주름, 미세한 색상 변화로 인한 질감이 있지만, 생성 이미지는 이러한 질감이 통계적으로 불규칙하거나 과도하게 매끄럽습니다. 머리카락도 마찬가지로, 개별 머리카락의 표현이 부자연스럽거나 경계가 흐릿할 수 있습니다. 이러한 픽셀 단위의 결함들을 자동으로 감지하는 알고리즘을 개발하면, 고품질의 생성 이미지도 적발할 수 있습니다.
생성 셀피도 정지된 이미지일 수 있고, 동영상일 수도 있습니다. 동영상 형태로 제출될 경우, 얼굴의 움직임이 물리적으로 일관성 있게 나타나는지를 검증할 수 있습니다. 실제 사람의 얼굴은 특정한 물리적 법칙을 따르지만, 생성 동영상은 이를 완벽하게 재현하지 못할 수 있습니다.
눈, 코, 입 같은 안면 특징점들의 움직임을 추적합니다. 특징점들 간의 거리 변화, 각도 변화가 물리적으로 타당한지를 평가합니다. 또한 얼굴의 기하학적 변형도 분석합니다. 고개를 기울일 때 얼굴의 각 부위가 예상대로 변형되는지를 확인합니다. 생성 동영상에서는 이러한 기하학적 변형이 부자연스럽거나 불가능할 수 있습니다. 또한 눈과 입의 움직임 간의 상관성도 검증합니다. 실제로 웃을 때 눈과 입의 움직임이 일관되게 나타나야 하지만, 생성 이미지에서는 이 상관성이 깨질 수 있습니다.
생성 셀피는 배경과의 상호작용에서 결함을 보입니다. 얼굴과 배경의 경계 부분, 머리카락이 배경과 겹치는 부분에서 특히 부자연스러운 처리가 나타날 수 있습니다. 또한 조명의 일관성도 중요합니다. 얼굴에 비추는 빛의 각도와 강도가 배경의 조명과 일치하는지를 검증합니다. 실제 사진에서는 단일 광원이나 일관된 다중 광원이 있지만, 생성 이미지에서는 이 조명이 부자연스럽거나 불일치할 수 있습니다.
또한 그림자와 반사도 분석합니다. 얼굴의 어느 부분에 그림자가 있고, 반사광이 나타나는 위치가 물리적으로 일관되는지를 확인합니다. 생성 이미지에서는 이러한 물리적 특성이 종종 무시되거나 부정확하게 처리됩니다. 이러한 환경 신호들을 종합하면, 고도로 정교한 생성 이미지도 적발할 수 있습니다.
특정 생성 도구로 만든 이미지들은 특정한 실수를 반복합니다. 예를 들어 어떤 도구는 손가락의 개수를 틀리거나, 어떤 도구는 텍스트 렌더링에 실패합니다. 이러한 특성적 결함을 학습하면, 특정 도구로 만든 이미지를 빠르게 식별할 수 있습니다.
또한 공격자들이 사용하는 프롬프트 패턴도 추적할 수 있습니다. 특정 지역이나 인종의 얼굴을 대량으로 생성하는 패턴, 특정 나이대를 주로 생성하는 패턴 같은 것들이 있습니다. 이러한 패턴을 감지하면 조직화된 대규모 사기 공격도 적발할 수 있습니다. 또한 같은 시드에서 생성된 유사한 이미지들을 감지하여, 같은 생성 세션에서 만들어진 여러 가짜 이미지를 동시에 차단할 수 있습니다.
생성 이미지는 실제 사진과는 다른 통계적 특성을 가집니다. 색상 분포, 엣지 분포, 텍스처 패턴 같은 통계적 특성을 분석하면 생성 여부를 판별할 수 있습니다. 또한 인간이 주의를 기울이는 영역과 기울이지 않는 영역의 상세도 차이도 있습니다.
실제 사진에서는 인간이 주의 깊게 촬영한 부분은 고해상도이고, 나머지는 낮을 수 있습니다. 반면 생성 이미지는 이러한 주의 집중도 패턴을 완벽하게 모방하지 못합니다. 또한 불가능한 물리적 배치도 감지할 수 있습니다. 예를 들어 귀와 머리카락의 배치가 물리적으로 불가능하거나, 얼굴 골격과 피부의 관계가 비정상적일 수 있습니다. 이러한 통계적, 물리적 특성들의 조합을 분석하면, 가장 정교한 생성 셀피도 적발할 수 있습니다.
셀피가 동영상 형태로 제출될 경우, 음성도 함께 제출될 수 있습니다. 음성의 자연스러움, 입술과 음성의 동기화, 목소리의 개인적 특성 같은 요소들을 분석합니다. 생성 동영상에 생성 음성이 더해진 경우, 이들 간의 일관성 부족을 감지할 수 있습니다.
또한 얼굴 표정과 음성의 감정적 일치도도 검증합니다. 슬픈 음성으로 말하는데 얼굴 표정이 행복해 보인다면 이는 이상한 신호입니다. 생성 이미지와 생성 음성을 함께 사용하는 경우, 이들의 동기화 수준이 완벽하지 않을 수 있습니다. 이러한 멀티모달 분석을 통해, 생성 셀피와 생성 음성의 조합까지도 감지할 수 있습니다.
생성형 AI 기술도 계속 발전하고 있습니다. 새로운 생성 모델, 개선된 품질, 새로운 생성 기법들이 지속적으로 등장합니다. 딥페이크 셀피 탐지 시스템도 이러한 변화에 신속하게 대응해야 합니다.
미탐지된 생성 이미지가 발견되면, 이를 즉시 분석하여 탐지 알고리즘에 반영합니다. 새로운 생성 도구의 특징을 학습하고, 기존 모델의 약점을 보완합니다. 또한 보안 연구자들과의 협력을 통해 최신의 공격 기법과 방어 기법을 공유합니다. 이러한 지속적인 진화를 통해, 딥페이크 셀피 탐지 시스템은 항상 최신의 위협에 대응할 수 있게 됩니다.
.svg)
.svg)
