.svg)
AI 솔루션 문의하기
딥러닝 기술이 빠르게 발전하면서 사람의 눈으로는 구별하기 어려운 딥페이크 영상이 생성되고 있습니다. 딥페이크와 딥보이스 등 진화하는 허위콘텐츠 범죄에 대응하기 위해 정부와 기업들이 탐지 기술 개발에 나서고 있습니다. 온라인에서 생성되는 딥페이크 영상의 대부분이 음란물이고 유명인의 경우 악의적으로 조작된 영상이 무분별하게 생성되어 피해를 볼 가능성이 큽니다. 이러한 상황에서 딥페이크 탐지 기술은 필수적인 보안 기술로 자리잡고 있습니다.
딥페이크 탐지에는 엑셉션과 이피션트넷 등의 모델이 자주 사용됩니다. 딥페이크 탐지 솔루션은 영상 이미지 음성 탐지를 바탕으로 페이스 제너레이션 페이스 스왑 립싱크 합성 등 다양한 유형의 조작된 합성 콘텐츠를 탐지합니다. 딥러닝 기술이 적용된 인공지능이 이미지 음성 영상 구간 단위로 분석하여 구분하고 딥페이크로 위조된 영상인지 정확하게 판별할 수 있습니다. 픽셀 차이로 딥페이크 여부를 판별하는 기술력이 핵심 강점으로 작용하고 있습니다.
▲ 국내 딥페이크 탐지 기술 발전 현황
▲ 딥브레인AI의 딥페이크 탐지 솔루션이 소프트웨어 품질인증 굿SW 1등급을 획득
▲ 한컴위드는 화자인증과 딥페이크 음성 탐지 기술을 결합한 AI 기반 통합 보안 솔루션을 출시
▲ 경찰청 소프트웨어는 한국인과 아시아 계열 인종 데이터를 포함한 다양한 학습 데이터 활용
이러한 기술들은 분석 작업을 신속하게 완료하여 가짜 영상인지 진짜 영상인지 판별할 수 있습니다. 특히 한국인 데이터를 중심으로 학습된 모델들이 국내 환경에서 높은 정확도를 보여주고 있습니다.
얼굴인식 기술은 얼굴의 벡터와 특징을 식별하여 미리 등록된 개인과 맞춰보는 생체 인식 기술입니다. 얼굴인식 알고리즘의 첫 번째 단계는 감지로 얼굴이 이미지 내에서 어디에 위치하는지를 식별하는 과정입니다. 최신 AI 기반 솔루션들은 멀리 떨어진 거리에서도 피사체를 식별할 수 있으며 좌우 상하 기울임 각도 등 다양한 조건에서도 정확한 인식이 가능합니다. 지문 인식보다 얼굴 인식의 오차율이 현저히 낮아 더욱 정확한 인증 수단으로 활용되고 있습니다.
케이뱅크는 고객이 제출한 신분증이 실제 고객의 것인지 판단하기 위해 실시간 얼굴인식 기술을 활용하고 있습니다. LG CNS는 올해 3월부터 서울 마곡 본사에서 AI 기반 얼굴인식 출입통제 시스템을 가동하고 있습니다. 토스가 페이스페이 서비스를 오픈하면서 편의점 체인들에서 얼굴결제 서비스를 이용할 수 있게 되었습니다. 실시간 처리의 장점은 대기 시간 없이 즉시 본인 확인이 가능하다는 점으로 기존 수동 검증 방식에서 오래 걸리던 과정이 이제는 순식간에 완료됩니다.
▲ 글로벌 얼굴인식 시장의 성장 전망
▲ 3D 얼굴 인식 부문이 시장을 주도할 것으로 예상
▲ AI와 딥러닝 기술의 발전으로 적용 영역이 확대
▲ 정부 및 교통 부문이 최종 사용자 기준으로 큰 비중 차지
얼굴인식 기술은 기존의 출입통제 시장에서 더 확대되어 다양한 분야로 영역을 넓히고 있습니다. 보안성이 중요한 환경에서 3D 기술과 결합한 솔루션들이 주목받고 있습니다.
글로벌 딥페이크 탐지 시장이 급속도로 성장하고 있습니다. 이러한 급성장은 딥페이크 기술의 악용 사례가 증가하면서 탐지 기술에 대한 수요가 폭증하고 있기 때문입니다. 오픈AI 구글 마이크로소프트 메타 등 주요 기술 기업들이 딥페이크 기술의 악용을 방지하기 위해 자체적인 탐지 기술을 개발하고 있습니다. 특히 지난 2월 뮌헨안보회의에서 이들 기업은 AI 생성 콘텐츠가 가짜 콘텐츠와 가짜뉴스를 유포하는 것을 방지하기 위한 공동 대응 선언문을 발표했습니다.
기존 딥페이크 탐지를 위한 대규모 데이터셋은 외국인 중심으로 구성되어 있다는 한계점이 있습니다. 이를 해결하기 위해 한국인 중심 데이터를 사용하여 딥페이크 탐지 모델을 학습시키는 연구가 활발히 진행되고 있습니다. 대규모 한국어 데이터를 학습한 최신 딥러닝 화자 인식 모델을 적용해 본인 검증 신뢰도를 높이는 것이 특징입니다. 이러한 접근 방식은 국내에서 활용 가능한 딥페이크 탐지 모델의 정확도를 크게 향상시키고 있습니다.
▲ 차세대 딥페이크 탐지 기술의 발전 방향
▲ 음성 영상 텍스트 데이터를 종합 분석하는 멀티모달 통합 탐지 모델 개발
▲ 개인 고유의 억양이나 사투리 등 미세한 음성 특징까지 추출하는 기술
▲ 단일 매체 분석의 한계를 극복한 포괄적 탐지 시스템
이러한 기술은 단일 매체만을 분석하는 기존 방식의 한계를 극복하고 더욱 정확하고 포괄적인 딥페이크 탐지를 가능하게 합니다. 딥페이크 기술이 점점 정교해지는 상황에서 탐지 기술 또한 다각도로 접근해야 한다는 필요성을 보여줍니다.
안면인식 딥러닝 모델의 발전은 더욱 정교하고 신뢰성 있는 인식 시스템을 가능하게 하며 이를 통해 비즈니스 교육 헬스케어 등 여러 분야에서의 활용이 증가할 것입니다. UC 리버사이드 연구팀이 개발한 딥페이크 비디오 감지 기술은 높은 정확도를 보여주어 기술의 발전 가능성을 입증했습니다. 앞으로는 더욱 지능화된 딥페이크 생성 기술에 대응하기 위해 탐지 기술도 함께 발전해야 할 것입니다. 얼굴인식과 딥페이크 탐지 기술의 결합은 디지털 시대의 보안과 신뢰성을 확보하는 데 중요한 역할을 담당하게 될 것입니다.
.svg)
.svg)
