.svg)
AI 솔루션 문의하기
금융기관은 수십 년에 걸쳐 방대한 내부 문서를 축적해왔습니다. 규제 대응 지침, 상품 운영 규정, 위험 관리 정책, 업무 처리 매뉴얼, 거래 기록, 의사결정 자료 같은 다양한 문서들이 있습니다. 이러한 내부 문서들은 금융기관의 가장 귀중한 지식 자산입니다.
직원들이 업무를 수행할 때 필요한 정보는 대부분 이 내부 문서들에 담겨 있습니다. 검색 증강 생성 기술은 이러한 내부 문서들을 활용하여 생성형 AI가 더욱 정확하고 신뢰할 수 있는 답변을 생성하도록 합니다. RAG 시스템이 없으면 AI는 자신의 학습 데이터에만 의존하게 되어 최신 정보나 기관 특화 정보를 제공하지 못합니다.
RAG 시스템을 구축하기 위해서는 먼저 내부 문서를 체계적으로 수집해야 합니다. 금융기관의 모든 부서에서 보유한 문서들을 목록화하고 분류합니다. 문서의 유형, 생성 시기, 담당 부서, 보안 수준, 최종 수정 날짜를 기록합니다. 규정서, 매뉴얼, 정책서는 최신 버전과 이전 버전을 구분하여 저장합니다. 폐기된 규정서도 언제까지 유효했는지 기록해야 합니다. 같은 내용의 문서가 여러 부서에 중복되어 있는 경우 통합 여부를 검토합니다. 수집된 모든 문서는 암호화하여 저장하고 접근 권한을 엄격하게 관리합니다.
금융기관의 내부 문서 중 일부는 스캔된 이미지 형태일 수 있습니다. 이들을 RAG 시스템에 활용하려면 먼저 텍스트로 변환해야 합니다. OCR 기술을 사용하여 이미지 문서를 텍스트로 변환합니다. 변환된 텍스트의 정확도를 검증하고 오류를 수정합니다. 문서의 형식도 통일합니다. 표, 목록, 도표 같은 구조화된 정보도 텍스트로 표현 가능하도록 변환합니다. 개인정보나 기밀 정보는 마스킹하거나 제거합니다. 문서의 구조를 명확하게 표시하여 AI가 섹션과 계층 관계를 파악할 수 있도록 합니다.
RAG 시스템이 문서를 검색하기 위해서는 문서를 의미를 담은 벡터로 변환해야 합니다. 대규모 언어 모델의 임베딩 기능을 사용하여 각 문서를 고차원 벡터 공간에 표현합니다. 의미가 비슷한 문서들은 벡터 공간에서도 가까이 위치하게 됩니다.
문서 전체를 하나의 벡터로 변환할 수도 있고, 문서를 여러 청크로 나누어 각 청크를 벡터로 변환할 수도 있습니다. 청크 단위 임베딩은 더욱 세밀한 검색을 가능하게 합니다. 금융 도메인 특화 임베딩 모델을 사용하면 도메인 특화 용어를 더 잘 이해할 수 있습니다.
문서 수집 및 정리: 전사 문서 목록화, 유형별 분류, 버전 관리, 보안 수준 지정, 중복 제거
텍스트화 및 정제: OCR 처리, 형식 통일, 개인정보 제거, 구조 명시, 품질 검증
임베딩: 의미 벡터 변환, 청크 단위 분할, 도메인 특화 모델, 메타데이터 보존, 인덱싱
검색 및 검증: 쿼리 임베딩, 유사 문서 검색, 관련성 점수 계산, 신뢰도 평가, 결과 검증
답변 생성: 검색 결과 활용, 맥락 통합, 출처 명시, 신뢰도 표시, 한계 설명
사용자가 질문을 제기하면 RAG 시스템은 그 질문을 임베딩하여 벡터로 변환합니다. 벡터 공간에서 사용자의 쿼리 벡터와 가장 유사한 문서들을 검색합니다. 검색 엔진은 유사성 점수를 계산하여 관련성이 가장 높은 문서부터 반환합니다.
단순한 키워드 매칭이 아니라 의미 기반 매칭이므로 정확한 단어가 포함되지 않아도 의미가 관련된 문서를 찾을 수 있습니다. 예를 들어 ''대출 금리는 어떻게 결정되는가''라는 질문에 대해 ''신용등급별 금리 결정 기준''이라는 문서를 찾아낼 수 있습니다. 다중 문서 검색도 지원하여 여러 출처의 정보를 통합할 수 있습니다.
검색된 문서들을 생성형 AI에 제시하고 사용자의 질문에 답하도록 합니다. AI는 검색된 문서의 내용을 기반으로 답변을 생성하므로 자신의 학습 데이터에 없는 최신 정보도 제공할 수 있습니다. 여러 문서에서 관련 정보를 찾으면 그것들을 통합하여 더욱 포괄적인 답변을 작성합니다.
문서에 명확한 답이 없는 경우 AI는 이를 명확히 표시합니다. 답변에는 반드시 출처 문서를 명시하여 사용자가 원본을 확인할 수 있도록 합니다. 답변의 신뢰도도 함께 표시합니다. 확신도가 높은 답변과 낮은 답변을 구분하여 사용자가 정보의 신뢰도를 판단할 수 있도록 합니다.
일반적인 RAG 시스템에 금융 도메인 특화 기능을 추가하면 더욱 정확한 답변을 제공할 수 있습니다. 금융 용어 사전을 구축하여 동의어와 약어를 매칭합니다. 예를 들어 ''KYC''와 ''고객확인의무''를 같은 개념으로 인식합니다. 금융 규제 변경 이력도 관리합니다. 특정 시점의 규제 기준을 조회할 수 있도록 구축하면 과거 거래의 적법성을 검증할 수 있습니다. 금융상품별 적용 규정을 명시하여 상품별 조회도 가능하게 합니다. 이를 통해 사용자가 자신이 관심 있는 상품의 규정을 쉽게 찾을 수 있습니다.
RAG 시스템이 제시한 정보의 신뢰도를 평가하는 것이 중요합니다. 검색된 문서의 신뢰도, 정보의 최신성, 출처의 공식성 등을 종합하여 답변의 신뢰도를 계산합니다. 공식 규정서에서 찾은 정보는 높은 신뢰도를, 개인이 작성한 메모에서 찾은 정보는 낮은 신뢰도를 가집니다.
사용자의 피드백을 수집합니다. 제시된 답변이 도움이 되었는지, 부정확했는지를 기록합니다. 이러한 피드백으로부터 RAG 시스템을 개선합니다. 검색 품질이 낮은 쿼리는 따로 분석하여 문서 구조나 임베딩 방식을 개선합니다.
내부 문서는 기밀 정보를 포함할 수 있으므로 강력한 보안이 필요합니다. 사용자의 권한 수준에 따라 접근 가능한 문서를 제한합니다. 신입 직원이 경영 전략 문서에 접근하지 못하도록 제어합니다. 민감한 정보는 특별히 표시하여 답변에 포함될 때 경고를 표시합니다. 모든 검색과 조회 기록을 로깅하여 감시 대상이 되는 정보에 누가 언제 접근했는지 추적할 수 있도록 합니다. 정기적으로 접근 로그를 검토하여 비정상적인 접근을 감지합니다.
RAG 시스템은 지속적으로 개선되어야 합니다. 새로운 규정이나 정책이 생기면 즉시 시스템에 추가합니다. 폐기된 정보는 아카이브로 옮기되 접근 불가 상태로 전환합니다. 사용자 피드백과 성능 지표를 분석하여 문제를 식별합니다. 자주 검색되지만 원하는 정보를 찾지 못하는 쿼리는 개선 대상입니다. 임베딩 모델을 정기적으로 재훈련하거나 더 나은 모델로 업그레이드합니다. 문서의 구조와 태깅 방식도 사용자의 검색 패턴에 맞게 최적화합니다.
.svg)
.svg)
