
금융기관이 말하는 이상거래는 거래액이 큰 것이 아니라 고객의 평상시 행동 패턴에서 벗어난 거래입니다. 월 100만 원만 거래하던 고객의 갑작스러운 1,000만 원 송금, 새벽 시간대의 거래, 평소 거래하지 않던 국가로의 송금 같은 경우들입니다. 이러한 이상 거래가 반드시 사기는 아니지만, 통계적으로 이상 거래의 30~50%가 실제 부정거래와 관련되어 있습니다.
지금까지는 사람이 거래를 확인하고 판단했지만, 매일 수백만 건의 거래를 모두 검사하는 것은 불가능합니다. 따라서 AI가 자동으로 이상 신호를 감지하고 우선순위를 정하는 방식이 필요하게 되었습니다. 얼굴인식 기술과 거래 패턴 분석이 결합되면 거래자의 신원 확인과 거래의 정당성을 동시에 판단할 수 있습니다.
얼굴인식 AI 이상거래 탐지 시스템은 거래 시점의 고객의 얼굴, 감정 표현, 행동까지 분석하여 정당한 거래인지를 판단하는 차세대 감시 기술입니다.
금융 AI가 탐지하는 가장 기본적인 이상 신호는 거래 금액의 급격한 변화입니다. 지난 12개월의 거래 기록에서 평균값과 표준편차를 계산하면, 고객의 정상 거래 범위를 수학적으로 정의할 수 있습니다. 예를 들어 평균 거래액이 300만 원, 표준편차가 100만 원이라면, 정상 범위는 약 100만 원에서 500만 원입니다. 이 범위를 벗어나는 거래는 자동으로 의심 신호를 발생시킵니다.
다만 이 방식만으로는 부족합니다. 예를 들어 보너스 시즌에는 정상적으로 거래액이 증가하고, 휴가 기간에는 감소하기 때문입니다. 따라서 고급 시스템은 월별, 계절별, 요일별 거래 패턴을 분리하여 분석합니다. 또한 거래의 목적(월급 송금, 카드 결제, 자녀 용돈)에 따라 별도의 기준을 적용합니다.
거래 금액 외에도 거래 빈도의 변화가 중요합니다. 평소 월 10회 정도 송금하던 고객이 갑자기 하루에 10회를 연속으로 송금한다면 강력한 이상 신호가 됩니다.

최신 얼굴인식 기술은 신원 확인부터 거래자의 감정 상태와 심리 상태까지 분석합니다. 보이스피싱 피해자들은 종종 불안감, 두려움, 혼란 같은 감정을 드러내는데, AI가 이러한 감정 신호를 감지하면 거래를 중단하고 확인할 수 있습니다.
얼굴 표정 분석의 원리는 다음과 같습니다. 행복할 때는 광대뼈 주변의 근육이 수축하고 눈가에 주름이 생기며, 두려워할 때는 눈썹이 올라가고 입이 벌어집니다. AI는 이러한 근육의 미묘한 움직임을 픽셀 단위로 분석하여 감정을 분류합니다.
거래 상황에서 고객이 불필요하게 불안한 표정을 보이거나 의식적으로 표정을 숨기려는 행동 또한 일종의 이상 신호입니다. 정상 고객은 대부분 무표정하거나 자연스러운 표정을 유지하기 때문입니다.
같은 금액이라도 거래의 맥락에 따라 정상 또는 이상이 결정됩니다. 예를 들어 어린이 용품 판매점으로 500만 원 송금은 이상하지만, 자동차 전시장으로의 송금은 정상입니다. 따라서 AI는 송금처의 특성, 산업, 위험도를 함께 분석합니다.
금융기관은 거래 상대방의 정보를 자동으로 검색합니다. 송금처가 정부 기관, 대형 기업, 신뢰할 수 있는 상점이면 위험도가 낮고 새로 등록된 개인 계좌나 해외 계좌면 위험도가 높습니다. 또한 같은 상대방으로의 반복 거래는 신뢰도가 누적되어 점차 감시 수준이 낮아집니다.
거래 목적의 설명도 분석 대상입니다. 고객이 거래 이유를 묻는 질문에 명확하게 답하면 신뢰도가 올라가고 불명확하거나 모호하게 답하면 의심 신호가 증가합니다.

거리와 시간을 고려한 이상 신호도 효과적입니다. 예를 들어 오후 2시에 서울에서 거래하다가 2시간 30분 뒤에 부산에서 같은 사람이 거래하는 것은 물리적으로 불가능합니다(일반도로 기준 최소 4시간 이상 소요). 이를 이동 불가능 거래(Impossible Transaction)라고 부르며, 자동으로 차단됩니다.
또한 국가 간 거래의 경우 시차를 고려합니다. 한국에서 오전 10시에 미국 거래를 하는 것은 미국 시간으로 밤 11시이므로 정상이지만 밤 12시에 거래하는 것은 비정상으로 간주될 수 있습니다. 정상 거래자는 통상적인 근무 시간 또는 생활 패턴에 맞춰 거래하기 때문입니다.
더 정교한 시스템은 고객의 과거 위치 데이터(스마트폰 GPS, 신용카드 거래 위치)까지 활용하여 이상을 판단합니다.
금융기관의 이상거래 탐지 모델은 정상 거래와 부정 거래의 예시 수백만 건을 학습합니다. 모델이 학습하는 패턴들은 다음과 같습니다.
▸ 송금 직전 거래 활동 증가 - 부정 거래자는 적발되기 전에 빠르게 자산을 이동, 정상 고객과 달리 갑작스러운 거래 빈도 증가
▸ 거래처 다양성 증가 - 정상 고객은 일정한 상대방과 거래하지만, 부정 거래자는 여러 새로운 계좌로 분산 송금
▸ 거래 시간 편차 증가 - 정상 고객은 일관된 시간에 거래하지만, 부정자는 불규칙한 시간에 거래
머신러닝은 이러한 패턴들을 자동으로 학습하므로, 새로운 사기 수법이 등장해도 빠르게 적응합니다.


이상거래 탐지 시스템은 각 거래에 위험도 점수를 부여합니다. 점수는 0~100으로 표시되며, 50점 이상이 의심 거래입니다. 금융기관은 이 점수를 바탕으로 어떤 거래를 우선적으로 검증할지를 결정합니다.
예를 들어 50~70점 거래는 자동 추가 인증(OTP, 생체인증) 요구, 70~90점은 직원의 통화 확인, 90점 이상은 즉시 거래 차단 및 고객 방문 요청 같은 방식으로 대응합니다. 이러한 우선순위 방식은 정상 거래는 빠르게 처리하면서도 의심 거래에 집중 감시를 할 수 있게 합니다.

연말, 명절, 학기 시작 같은 특수 기간에는 정상 거래의 범위가 크게 달라집니다. AI는 이를 학습하여 같은 금액이라도 시기에 따라 다르게 판단합니다. 예를 들어 12월의 500만 원 송금(년말 보너스)은 정상이지만 7월의 같은 금액은 의심 신호일 수 있습니다.
또한 월급일(보통 25일) 전후로 거래 패턴이 크게 달라지는 고객들이 많으므로, AI는 월급일 주변에서는 더욱 유연한 기준을 적용합니다. 다만 월급일이 아닌데 대액 송금을 시도하면 의심 신호가 증가합니다.
거래 시점의 얼굴인식 생체인증과 이상거래 탐지가 결합되면 위력이 극대화됩니다. 고위험 거래(위험도 75점 이상)에 대해 시스템은 거래를 차단하는 것이 아니라 얼굴 인증 수준을 올려서 재검증합니다.
예를 들어 저위험 거래에서는 얼굴 정면 촬영만 요구하지만 고위험 거래에서는 여러 각도의 얼굴 촬영, 라이브니스 탐지 강화, 음성 인증 추가 같은 방식으로 대응합니다. 또한 얼굴 표정 분석 결과(불안함, 피로감 등)까지 고려하여 최종 거래 승인을 결정합니다.

같은 고객의 이상거래가 반복되면 누적 위험도가 증가합니다. 한 달에 한 번 이상 신호가 나타나는 고객은 점차 감시 수준이 높아집니다. 또한 이전 거래에서 설명했던 내용과 현재 거래의 설명이 맞지 않으면 추가 의심이 발생합니다.
반대로 이상 신호가 나타났지만 최종 확인 결과 정상 거래였던 경우는 시스템이 학습합니다. 예를 들어 매번 명절마다 부모님께 송금하는데 금액이 변동하는 고객은, 명절 전후에는 변동성 기준을 자동으로 확대합니다.
국제 송금은 국내 거래보다 훨씬 복잡한 이상거래 탐지가 필요합니다. 환율 변동, 송금 수수료, 통관 절차 때문에 실제 수취액이 예상과 다를 수 있기 때문입니다. 또한 특정 국가로의 송금 자체가 위험 신호일 수 있습니다.
더 복잡한 경우는 여러 거래가 결합된 이상패턴입니다. 정상 송금 한도를 피하기 위해 일일 천만 원 미만을 여러 번 송금하는 행위는 개별적으로는 정상이지만 패턴 분석으로 즉시 탐지됩니다.

이상거래 탐지 시스템도 오류가 발생합니다. 정상 거래를 이상으로 판단(위양성)하거나, 이상 거래를 정상으로 판단할 수 있습니다. 금융기관은 이러한 오류를 체계적으로 수집하여 모델을 개선합니다.
예를 들어 특정 고객 집단에서 위양성이 높다면(예: 해외 주재원), 그 집단의 특성을 반영하도록 모델을 조정합니다. 또한 고객이 직접 피드백을 제공할 수 있도록(예: "이 거래는 내가 승인했습니다") 하면, 모델이 더욱 정확해집니다.
금융기관은 정기적으로 모델의 정확도를 검증합니다. 재현율(실제 이상 거래 중 적발한 비율), 정밀도(이상으로 판정한 것 중 실제 이상 비율) 같은 지표를 모니터링하여 75% 이상의 정확도를 유지하려고 합니다.
