.svg)
AI 솔루션 문의하기
에이전트 거버넌스는 기업이 AI 에이전트를 만들고 운영하는 과정에서 에이전트가 무엇을 할 수 있는지, 중요한 행동은 누가 승인하는지, 그 결과를 어떻게 기록하고 점검하는지를 정한 규칙과 통제 체계입니다. 에이전트가 사람을 대신해 실제 시스템에서 행동하기 시작하면서, 어떤 에이전트가 있는지조차 파악되지 않는 상황을 막기 위한 관리 틀로 주목받고 있습니다. 여기서 사람 승인은 에이전트의 중요한 행동에 사람이 책임을 지는 장치이고, 생체 인증은 그 승인을 실제로 권한 있는 사람이 했다는 것을 확인하는 수단입니다.
기존 AI 거버넌스는 주로 AI가 내놓는 결과물의 위험을 다뤘습니다. 답변이 틀리지 않았는지, 편향되지 않았는지, 개인정보를 노출하지 않았는지를 점검하는 식입니다. 이 경우 AI의 결과를 사람이 읽고 판단한 뒤에 행동으로 옮기기 때문에, 사람이 마지막 단계에서 걸러 낼 기회가 있습니다.
에이전트는 결과를 내놓는 데서 멈추지 않고 직접 행동합니다. 메일을 보내고, 결제를 하고, 시스템 설정을 바꿉니다. 결과물이 틀렸다면 고치면 되지만, 이미 실행된 송금이나 외부로 나간 데이터는 되돌리기 어렵습니다. 그래서 에이전트 거버넌스는 출력의 위험보다 행동의 위험을 중심에 두고, 행동 전에 누가 확인하고 승인하는지를 핵심 통제로 다룹니다. 예를 들어 고객 문의 답변 초안을 쓰는 AI는 담당자가 읽고 고친 뒤 보낼 수 있지만, 답변을 직접 발송하고 환불까지 처리하는 에이전트는 잘못된 판단이 곧바로 고객과 회사의 손실로 이어집니다.
에이전트 거버넌스는 보통 다음 다섯 가지 통제 항목으로 구성합니다.
많은 기업이 앞의 세 가지와 감사는 갖추지만, 승인자 본인 확인은 계정 로그인으로 대신하는 경우가 많습니다. 이 빈틈은 뒤에서 따로 다룹니다.
레지스트리는 거버넌스의 출발점입니다. 존재를 모르는 에이전트는 통제할 수 없기 때문입니다. 에이전트마다 고유 ID, 소유자, 생성 목적, 연결된 시스템, 생성일을 기록하고, 레지스트리에 등록되지 않은 에이전트는 사내 시스템에 접근할 수 없도록 합니다. 권한 정책은 레지스트리에 등록된 에이전트가 할 수 있는 일을 정합니다. 업무에 필요한 작업만 허용하고, 결제나 외부 전송처럼 위험이 큰 작업은 승인이 필요한 작업으로 따로 지정합니다. 에이전트는 부서마다 빠르게 늘어나기 때문에 등록 절차가 복잡하면 우회하는 일이 생깁니다. 등록은 간단하게 만들되, 등록하지 않은 에이전트는 접근 자체를 막는 방식으로 레지스트리의 완전성을 지킵니다.
승인자 본인 확인을 거버넌스 통제 항목으로 운영하려면 확인 과정 자체도 보안 기준을 충족하는 환경에서 처리되어야 합니다. 알체라 eKYC는 촬영된 얼굴의 위변조 여부를 판별하고 신분증 사진과 매칭하여 본인 여부를 확인하며, 금융사 보안 규격을 충족하는 코스콤 금융 클라우드 기반에서 운영됩니다. 별도의 서버 구축 없이 API로 연동할 수 있어 기존 승인 절차에 본인 확인 단계를 더하기 쉽습니다.
승인 절차는 어떤 작업에 승인이 필요한지, 누가 승인하는지, 승인 결과를 어떻게 남기는지 세 가지를 정책으로 정하는 일입니다.
승인 정책은 문서로 정해 두고 모든 부서가 같은 기준을 따르도록 해야 합니다. 부서마다 기준이 다르면 위험한 작업이 승인 없이 처리되는 부서가 생기고, 감사할 때 비교하기도 어렵습니다. 반대로 승인 대상을 너무 넓게 잡으면 승인자가 내용을 보지 않고 습관처럼 승인하게 되므로, 위험이 큰 작업부터 시작해 운영 기록을 보며 대상을 조정합니다.
사람 승인은 에이전트의 행동에 사람이 책임을 지게 하는 장치입니다. 그런데 승인 버튼은 계정에 로그인한 사람이라면 누구나 누를 수 있습니다. 계정이 탈취되었거나, 동료가 자리를 비운 사이 다른 사람이 화면을 쓰고 있거나, 담당자가 비밀번호를 공유하고 있다면 승인 기록에 남은 이름과 실제로 승인한 사람이 다를 수 있습니다. 이 경우 승인 절차는 형식만 남고, 문제가 생겼을 때 책임을 확인할 근거가 사라집니다.
그래서 승인자 본인 확인을 별도의 통제 항목으로 두고, 위험이 큰 작업의 승인은 생체 인증으로 확인합니다. 얼굴 위변조 판별로 사진이나 화면이 아닌 실제 사람인지 확인하고, 얼굴 매칭으로 그 사람이 권한을 가진 본인인지 확인하면, 승인 기록이 실제 승인자를 정확히 가리키게 됩니다. 감사할 때도 승인 시점의 본인 확인 결과를 함께 제시할 수 있어 승인 절차가 제대로 작동했다는 근거가 됩니다. 어떤 작업에 생체 인증을 요구할지, 본인 확인에 실패하면 어떻게 처리할지도 승인 정책과 함께 문서로 정해 두어야 부서마다 다르게 운영되는 일을 막을 수 있습니다.
감사는 통제 항목이 실제로 지켜지고 있는지 확인하는 단계입니다. 에이전트의 행동 기록, 승인 기록, 승인자 확인 결과를 하나의 흐름으로 볼 수 있도록 남기고, 기록은 나중에 고칠 수 없도록 저장합니다.
점검 주기는 분기나 반기처럼 정해 두고, 점검 결과에서 나온 문제는 권한 정책과 승인 기준을 고치는 데 반영합니다. 감사 결과는 보안 부서 안에서 끝내지 않고 경영진에게 정기적으로 보고해, 에이전트 도입이 늘어나는 속도에 맞춰 통제 수준도 함께 올라가도록 합니다.
에이전트 거버넌스를 설계할 때는 국제적으로 논의되는 기준을 참고하면 통제 항목을 빠짐없이 갖추는 데 도움이 됩니다. 유럽연합의 AI법(EU AI Act)은 AI를 위험 수준에 따라 나누고, 고위험 AI에는 사람이 감독할 수 있는 장치를 갖추도록 요구합니다. 미국 국립표준기술연구소(NIST)의 AI 위험관리 프레임워크(AI RMF)는 거버넌스, 위험 파악, 측정, 관리라는 네 가지 기능으로 AI 위험을 다루도록 안내합니다. 두 기준 모두 에이전트만을 위해 만들어진 것은 아니지만, 사람의 감독과 책임을 분명히 하라는 방향은 에이전트 거버넌스의 승인과 감사 항목과 같은 곳을 가리킵니다. 실제 적용 범위와 의무는 사업 지역과 업종에 따라 다르므로, 세부 내용은 법무 검토를 거쳐 정합니다.
.png)
.svg)
.svg)
