.svg)
AI 솔루션 문의하기
LLM AI 보안 거버넌스 체크리스트는 기업이 대규모 언어 모델(LLM)을 도입하고 운영할 때 생길 수 있는 보안 위험과, 이를 관리하는 책임 체계가 갖춰져 있는지 점검하는 항목 모음입니다. 많은 기업이 국제 오픈소스 보안 커뮤니티인 OWASP가 공개한 자료를 기준으로 삼습니다. 대표적인 자료는 LLM 애플리케이션의 주요 보안 위험을 정리한 'OWASP Top 10 for LLM Applications'와, 기업의 도입과 운영 전반을 점검하도록 정리한 'LLM AI 사이버보안 및 거버넌스 체크리스트'입니다.
이 기준들은 모델과 데이터, 애플리케이션의 위험을 폭넓게 다루지만, 시스템을 관리하고 중요한 행동을 승인하는 사람이 실제 본인인지 확인하는 부분은 상대적으로 덜 구체적입니다. 이 글은 OWASP 항목을 짧게 요약한 뒤, 체크리스트에 더해야 할 사람 확인 항목을 점검 질문 형태로 정리합니다. AI 도입 전반의 사업화 관점 체크리스트는 기업 AI 사업화 체크리스트 글에서 다뤘고, 이 글은 보안과 거버넌스에 집중합니다.
OWASP의 거버넌스 체크리스트는 기술 점검만이 아니라 조직 차원의 준비까지 함께 묻습니다. 사내에서 쓰는 AI 자산 목록을 관리하는지, 위협 모델링을 했는지, 임직원 보안 교육을 하는지, 법률과 규제 검토를 거쳤는지, 도입 전후로 테스트와 검증을 하는지, 레드팀 점검을 하는지 같은 항목이 포함됩니다. 체크리스트를 처음 만드는 기업이라면 이 범위를 기본 틀로 두고 자사 상황에 맞게 항목을 더하는 방식이 효율적입니다.
OWASP Top 10 for LLM Applications는 LLM을 쓰는 서비스에서 자주 발생하는 위험을 열 가지로 정리합니다. 2025년판 기준으로 요약하면 다음과 같습니다.
과도한 권한 항목은 위험한 행동 전에 사람이 승인하도록 권합니다. 그런데 승인한 사람이 실제로 권한을 가진 본인인지까지 확인하지 않으면, 계정이 탈취되거나 공유된 상태에서 이 통제는 형식만 남습니다. 관리자 계정으로 시스템 프롬프트나 권한 설정을 바꾸는 경우도 마찬가지입니다. 그래서 체크리스트에 관리자와 승인자 본인 확인, 딥페이크 대응, 계정 공유 금지를 별도 항목으로 더할 필요가 있습니다.
체크리스트에 사람 확인 항목을 더할 때는 본인 확인 솔루션 자체도 보안 점검 대상이 됩니다. 알체라 eKYC는 촬영된 얼굴의 위변조 여부를 판별하고 신분증 사진과 매칭하여 본인 여부를 확인하며, 소프트웨어 구성 요소 목록(SBOM)을 제공해 공급망 보안 점검에 필요한 투명성을 확보할 수 있습니다.
LLM 시스템에서 가장 큰 권한을 가진 사람은 모델 설정과 시스템 프롬프트를 바꾸는 관리자, 그리고 에이전트의 고위험 행동을 승인하는 승인자입니다. 이 두 역할의 계정이 탈취되면 OWASP 항목을 모두 지켜도 우회될 수 있습니다. 비밀번호와 문자 인증번호는 피싱으로 함께 빼앗길 수 있기 때문에, 이 역할만큼은 얼굴처럼 넘겨줄 수 없는 수단으로 본인을 확인하는 것이 안전합니다.
특히 시스템 프롬프트와 권한 정책은 프롬프트 주입이나 과도한 권한 같은 OWASP 위험을 막는 설정이 들어 있는 곳입니다. 관리자 계정이 탈취되면 공격자는 이 방어 설정 자체를 끄거나 바꿀 수 있으므로, 설정 변경 직전의 본인 확인은 다른 항목보다 먼저 갖추는 것이 좋습니다.
생성형 AI가 발전하면서 얼굴과 목소리를 흉내 내는 공격도 쉬워졌습니다. 사람 확인 항목을 더하더라도 그 확인이 딥페이크에 뚫린다면 의미가 없습니다.
딥페이크는 공개된 사진과 영상이 많은 임원이나 관리자를 노리는 경우가 많습니다. 영상 회의에서 임원의 얼굴로 급한 승인을 요청하는 방식이 대표적이므로, 급하다는 이유로 절차를 건너뛰자는 요청 자체를 경고 신호로 보도록 임직원 교육에도 반영합니다.
LLM 도구를 빠르게 쓰려고 팀원끼리 관리자 계정이나 API 키를 공유하는 경우가 적지 않습니다. 공유된 계정에서는 누가 무엇을 했는지 구분할 수 없어, 사고가 나도 원인을 찾기 어렵습니다.
계정 공유는 대부분 편의 때문에 생기므로 금지 규정만으로는 잘 사라지지 않습니다. 개인별 계정을 빠르게 발급받을 수 있는 절차를 함께 마련하고, 접근 기록에서 한 계정이 여러 기기나 위치에서 동시에 쓰이는 경우를 찾아 공유 여부를 점검합니다.
체크리스트는 한 번 작성하고 끝내면 금방 현실과 멀어집니다. LLM 서비스와 에이전트는 도입 속도가 빨라서, 작성 당시에는 없던 도구와 권한이 몇 달 사이에 늘어나 있는 경우가 많습니다. 항목마다 담당자를 정하고, 분기나 반기처럼 점검 주기를 정해 실제로 지켜지는지 확인합니다. 점검할 때는 '그렇다'는 답만 받지 않고 승인 기록, 권한 목록, 교육 이력 같은 증빙을 함께 확인합니다. 새로운 LLM 서비스를 도입하거나 에이전트에 새 권한을 줄 때도 체크리스트를 다시 거치도록 도입 절차에 넣어 두면 점검이 빠지지 않습니다. OWASP 자료도 정기적으로 개정되므로, 새 판이 나오면 항목을 비교해 체크리스트를 함께 고칩니다. 점검 결과는 보안 부서 안에서만 공유하지 않고 경영진에게 보고해, 미흡한 항목을 개선하는 데 필요한 예산과 인력이 함께 정해지도록 합니다.
.png)
.svg)
.svg)
