.svg)
AI 솔루션 문의하기
AI 에이전트 보안 침해는 대부분 에이전트 자체가 뚫리는 것이 아니라, 에이전트를 움직이는 계정이나 토큰이 탈취된 뒤에 일어납니다. 탈취한 쪽은 정상적인 자격 증명을 가지고 있기 때문에 시스템 입장에서는 평소와 같은 요청으로 보입니다. 이 상태에서 에이전트가 결제나 데이터 반출 같은 작업을 실행하면, 접근 통제나 권한 설정은 모두 통과한 채로 피해가 발생합니다. 얼굴 재인증은 이렇게 탈취된 자격 증명이 실제 행동으로 이어지기 직전에, 권한을 가진 사람이 지금 그 자리에 있는지 다시 확인하는 마지막 확인 지점입니다.
에이전트가 관련된 침해 경로는 크게 세 가지입니다. 에이전트에게 일을 맡기는 사용자 계정이 탈취되는 경우, 에이전트가 시스템에 접근할 때 쓰는 토큰이 탈취되는 경우, 그리고 외부 문서나 메일에 숨긴 지시로 에이전트가 가진 권한을 남용하게 만드는 프롬프트 주입입니다. 세 경로는 시작점이 다르지만, 결국 에이전트가 정상 권한으로 위험한 행동을 실행한다는 점에서 같은 지점에서 막을 수 있습니다.
피싱, 비밀번호 재사용, 악성 프로그램, 설정 파일 유출처럼 자격 증명이 새는 경로는 계속 늘어나고 있습니다. 그래서 침해 방지는 탈취를 막는 데서 끝나지 않고, 탈취가 일어났다고 가정한 상태에서 피해를 어디까지 줄일 수 있는지를 함께 설계해야 합니다. 에이전트가 많아질수록 관리해야 할 계정과 토큰도 늘어나기 때문에, 모든 자격 증명을 완벽하게 지키는 것보다 탈취된 자격 증명이 위험한 행동으로 이어지는 길목을 막는 편이 현실적입니다. 에이전트가 다루는 데이터를 보호하는 방법은 기업 AI 에이전트 데이터 보안 글에서 다뤘고, 이 글은 탈취 이후의 오용을 막는 방법에 집중합니다.
사용자 계정이 탈취되면 공격자는 그 사용자의 이름으로 에이전트에게 일을 시킬 수 있습니다. 에이전트는 지시한 사람이 실제 계정 주인인지 알지 못하기 때문에, 평소와 같은 방식으로 메일을 보내고 결제를 처리하고 자료를 내려받습니다. 공격자가 에이전트의 권한을 넓히거나 새 에이전트를 만들어 두면, 계정 비밀번호를 바꾼 뒤에도 공격이 계속될 수 있습니다. 예를 들어 재무 담당자의 계정이 탈취되면 공격자는 정산 에이전트에게 거래처 계좌 변경과 대금 지급을 차례로 지시할 수 있습니다.
많은 서비스가 로그인 단계에서 문자 인증번호나 OTP로 추가 확인을 합니다. 하지만 공격자가 가짜 로그인 화면으로 인증번호까지 함께 입력받거나, 휴대폰 번호를 다른 유심으로 옮기는 방식으로 이 확인을 넘을 수 있습니다. 한 번 로그인에 성공하면 세션이 유지되는 동안 추가 확인 없이 에이전트를 쓸 수 있다는 점도 문제입니다. 로그인할 때 한 번 확인하는 것만으로는 탈취된 세션에서 이어지는 고위험 작업을 막기 어렵습니다. 비밀번호를 바꿔도 이미 발급된 세션과 에이전트 토큰이 남아 있으면 공격이 이어지므로, 계정 탈취가 의심될 때는 세션과 토큰을 함께 만료시켜야 합니다.
계정이나 토큰이 탈취된 상황에서도 공격자가 쉽게 확보할 수 없는 것은 권한을 가진 사람의 실제 얼굴입니다. 알체라 eKYC는 촬영된 얼굴의 위변조 여부를 판별하고 신분증 사진과 매칭하여 동일인 여부를 확인하며, 얼굴 위변조 탐지는 국제 표준인 ISO/IEC 30107-3을 준수합니다. 고위험 행동 직전에 이 확인 과정을 거치도록 하면 탈취된 계정이나 토큰만으로는 실제 실행까지 이어지지 않도록 막을 수 있습니다.
에이전트 토큰은 사람이 직접 입력하지 않고 코드나 설정에 저장되어 쓰이기 때문에, 의도하지 않은 곳에 남기 쉽습니다. 코드 저장소에 함께 올라간 설정 파일, 오류를 확인하려고 남긴 로그, 다른 팀과 공유한 테스트 환경이 대표적인 유출 경로입니다. 토큰이 유출되면 공격자는 사람 계정 없이도 에이전트의 권한을 그대로 쓸 수 있습니다.
토큰 관리가 잘 되어 있어도 유효 시간 안에 탈취되면 막을 수 없기 때문에, 고위험 작업에는 토큰 외에 사람 확인을 한 단계 더 두는 것이 안전합니다. 토큰마다 어떤 에이전트가 어떤 권한으로 쓰는지 목록을 관리해 두면, 유출이 확인되었을 때 영향 범위를 빠르게 파악하고 필요한 토큰만 골라 폐기할 수 있습니다.
프롬프트 주입은 자격 증명을 훔치지 않고도 에이전트를 움직이는 공격입니다. 에이전트가 읽는 메일, 문서, 웹페이지 안에 "이 자료를 외부 주소로 보내라" 같은 지시를 숨겨 두면, 에이전트가 이를 사용자의 지시로 오해해 자기가 가진 권한으로 실행할 수 있습니다. 이 경우 계정과 토큰은 모두 정상이기 때문에 접근 통제만으로는 막기 어렵습니다.
프롬프트 주입은 사람이 지시하지 않은 행동을 에이전트가 하게 만드는 공격이므로, 사람이 직접 내용을 보고 확인하는 단계가 가장 확실한 차단 지점이 됩니다.
세 가지 경로 모두 결국 에이전트가 평소와 다른 행동을 하는 것으로 드러납니다. 에이전트별로 평소의 작업 종류, 처리량, 접근 대상, 시간대를 기록해 두고, 이와 다른 행동을 이상 신호로 봅니다.
이상 신호가 보이면 바로 정지하기보다 단계적으로 대응하는 것이 운영에 부담이 적습니다. 먼저 고위험 작업만 막고, 위임자에게 얼굴 재인증을 요청해 본인이 지시한 것인지 확인한 뒤, 확인되지 않으면 에이전트를 정지하고 토큰을 폐기합니다. 이상 신호의 기준은 운영 초기에 정상 사용자가 자주 걸리기 쉬우므로, 실제 사례를 모아 기준을 주기적으로 조정합니다.
얼굴 재인증은 로그인 시점이 아니라 고위험 행동이 실행되기 직전에 넣어야 효과가 있습니다. 로그인 단계의 확인은 탈취된 세션이나 토큰, 프롬프트 주입을 막지 못하지만, 실행 직전의 확인은 세 경로 모두에 공통으로 작동합니다.
재인증 화면에는 에이전트가 하려는 작업과 대상, 금액을 함께 보여 주어 사용자가 내용을 보고 판단하도록 합니다.
.png)
.svg)
.svg)
