.svg)
AI 솔루션 문의하기
많은 기업이 AI 기술의 도입에는 열정적이지만 보안 정책 수립에는 미온적입니다. 이는 AI 기술의 빠른 발전 속도가 정책 수립보다 빠르기 때문이기도 하고, 정책 수립이 복잡하고 시간이 오래 걸린다고 생각하기 때문입니다. 그러나 무대책으로 AI를 도입한 조직들이 보안 사고를 경험하면서 정책의 중요성이 대두되고 있습니다.
보안 정책 없이 AI를 도입하는 것은 지도 없이 미지의 영역으로 항해하는 것과 같습니다. AI 시스템이 어떤 데이터에 접근할 수 있는가, 어떤 의사결정을 내릴 수 있는가, 오작동했을 때 누가 책임지는가가 명확하지 않습니다. 결국 사고가 발생했을 때 조직은 혼란에 빠지고 대응이 지연됩니다.
따라서 기업이 AI를 안전하게 운영하려면 명확하고 포괄적인 보안 정책이 필수적입니다. 이 정책은 기술 영역을 넘어 조직 전체의 문화와 운영 방식에 영향을 미치므로 최고 경영진의 의지와 모든 부서의 협력이 필요합니다.
효과적인 AI 보안 정책은 기술, 조직, 법률, 윤리라는 네 가지 영역을 포괄해야 합니다.
AI 시스템의 개발, 배포, 운영, 폐기 전 생명 주기 전체를 다룹니다. 모델의 안전성을 어떻게 검증할 것인가, 데이터를 어떻게 보호할 것인가, 시스템이 오작동했을 때 어떻게 대응할 것인가 같은 구체적인 기술적 요구사항을 정의합니다.
AI를 다루는 인력의 역량, 책임, 감시 구조를 정합니다. 누가 AI 관련 결정을 내릴 수 있는가, AI 거버넌스 위원회는 어떻게 구성되는가, 보안 사고 발생 시 누가 책임지는가를 명확히 합니다.
규제 준수, 계약 관계, 책임 추적성을 다룹니다. GDPR, 개인정보보호법, AI 규제 같은 법적 요구사항을 AI 시스템에 어떻게 반영할 것인가를 정의합니다.
AI의 공정성, 투명성, 책임성을 다룹니다. AI가 특정 집단을 차별하지 않도록 어떻게 보장할 것인가, 사용자가 AI의 의사결정을 이해할 수 있도록 어떻게 설명할 것인가를 정합니다.
모든 AI 시스템이 같은 수준의 보호가 필요한 것은 아니므로 위험도에 따라 분류합니다.
낮은 위험의 AI 시스템은 챗봇, 검색 최적화, 간단한 데이터 분석 같은 것들입니다. 이들이 오작동해도 금전적 손실이 없거나 미미합니다. 이러한 시스템에는 기본적인 보안만 적용하면 됩니다.
중간 위험의 AI는 거래 금액 예측, 고객 신용도 평가, 재무 보고 자동화 같은 것들입니다. 오작동이 재무적 손실이나 고객 불만으로 이어질 수 있습니다. 이들에는 더욱 엄격한 검증과 모니터링이 필요합니다.
높은 위험의 AI는 대출 승인, 의료 진단 보조, 채용 의사결정을 처리합니다. 차별적 결정으로 인한 법적 문제, 의료 오류로 인한 환자 피해, 채용 차별로 인한 소송 같은 심각한 결과가 따릅니다. 이들은 엄격한 감시, 인간의 최종 검토, 정기적 감사가 필수적입니다.
AI 시스템의 보안은 결국 데이터 보안에서부터 시작됩니다.
데이터 수집 정책: 어떤 데이터를 수집할 수 있는가, 수집 시 동의를 어떻게 받을 것인가를 정합니다. 개인정보는 명시적 동의 없이 수집할 수 없다는 원칙을 정합니다.
데이터 저장 정책: 민감 데이터를 어떻게 암호화하여 저장할 것인가, 누가 접근할 수 있는가, 얼마나 오래 보관할 것인가를 정합니다. 보관 기간이 끝나면 명확한 절차에 따라 삭제하도록 합니다.
데이터 사용 정책: AI 학습에 사용되는 데이터의 출처와 사용 목적을 명확히 합니다. 개인이 동의한 목적 범위를 벗어나서 데이터를 사용할 수 없습니다.
데이터 접근 통제 정책: 최소 권한 원칙을 적용합니다. 각 인력이 자신의 업무에 필요한 최소한의 데이터만 접근할 수 있도록 제한합니다.
▲ 모델 개발 단계의 보안 - AI 모델을 개발할 때 보안을 설계의 초기 단계부터 고려합니다. 의도적으로 백도어나 취약점을 만들지 않도록 주의하고, 민감한 정보가 모델의 가중치에 남지 않도록 관리합니다. 모든 개발 과정을 기록하여 나중에 감사할 수 있도록 합니다.
▲ 배포 전 검증 기준 - 모델이 프로덕션에 배포되기 전에 보안 검사와 성능 검사를 모두 통과해야 합니다. 독립적인 보안 팀이 모델을 공격해보는 침투 테스트를 수행하고 약점을 찾아 수정합니다. 또한 모델의 공정성, 편향성, 설명 가능성도 검증합니다.
지속적인 모니터링 기준도 정해져야 합니다. 배포 후에도 정기적으로 모델의 성능과 보안을 평가하고 문제가 발견되면 신속하게 대응합니다.
AI 시스템에 대한 접근과 권한을 명확하게 관리하는 것이 기본입니다.
역할 기반 접근 제어(RBAC) 정책은 각 직원의 직책과 역할에 따라 AI 시스템 접근을 제한합니다. 고객 서비스 담당자는 고객 상담 AI에는 접근하지만 거래 승인 AI에는 접근할 수 없습니다. 다요소 인증 정책은 민감한 AI 시스템에 접근할 때 비밀번호만으로는 부족하고 추가 인증이 필요함을 규정합니다.
권한 감사 정책은 정기적으로 누가 어떤 시스템에 접근할 수 있는가를 점검합니다. 부서 이동이나 퇴사한 직원의 권한이 즉시 제거되도록 합니다. 긴급 접근 절차 정책은 일반적인 절차로는 불가능한 긴급 상황에서 임시적으로 권한을 부여하되 이를 명확히 기록하도록 합니다.
모든 AI 시스템의 활동을 기록하고 정기적으로 검토해야 합니다. 로깅 정책은 누가 언제 어떤 모델을 사용했는가, 어떤 입력을 제공했는가, 모델이 어떤 출력을 제시했는가를 기록합니다. 다만 민감한 개인정보는 마스킹하여 보관합니다.
또한 로그 보관 정책은 최소 몇 년간 로그를 보관하도록 정합니다. 규제 요구사항이 5년 보관을 요구한다면 최소 5년은 보관합니다. 접근 제어 로깅 정책은 누가 AI 시스템에 접근했는가, 접근 성공 여부, 접근 목적을 기록합니다. 비정상적인 접근 시도(예: 밤 11시에 금융 AI에 접근)는 자동으로 경고합니다.
정기 감사 정책은 분기마다 로그를 분석하여 비정상 활동이 없었는가, 권한 남용은 없었는가, 정책 위반은 없었는가를 확인합니다.
기업이 외부 공급업체나 클라우드 서비스를 통해 AI를 운영할 때도 보안 정책이 필요합니다. 공급업체 평가 정책은 AI 공급업체를 계약하기 전에 그들의 보안 수준을 평가합니다. 보안 인증(ISO 27001), 침투 테스트 결과, 정보 보호 정책 같은 것들을 검토합니다.
계약 정책은 보안 요구사항을 계약서에 명시합니다. 데이터 보호 수준, 정기 감사 권리, 데이터 유출 시 책임, 계약 해지 시 데이터 반환 같은 것들을 규정합니다. 지속적 감시 정책은 공급업체의 보안 수준이 계속 유지되는가를 정기적으로 확인합니다. 6개월마다 보안 인증 상태, 침해 사고 발생 여부, 보안 업데이트 현황을 확인합니다.
탈출 계획 정책은 공급업체와의 계약을 종료할 때 데이터를 안전하게 이전하고 공급업체 시스템에서 완전히 제거하는 절차를 정의합니다.
.svg)
.svg)
