보안과 효율성을 중시하는 금융권에서 RAG 기술이 어떻게 활용되고 있는지 살펴봅니다.
금융 산업에서 정보는 그 어느 때보다 중요한 자산이 되었습니다. 하지만 많은 금융 기관들이 이러한 귀중한 정보 자산을 제대로 활용하지 못하고 있죠.
방대한 문서가 여러 시스템에 분산되어 있고, 복잡한 규정과 절차는 신속한 정보 접근을 어렵게 만들고 있기 때문입니다.
신한투자증권의 임직원들도 같은 고민을 겪고 있었습니다. 특히 금융 기관 특성상 직면한 어려움은 더욱 컸습니다.
매일 아침, 임직원들은 필요한 정보를 찾기 위해 여러 시스템을 넘나들며 많은 시간을 소비해야 했습니다. 예를 들어, 특정 금융 상품의 최신 규정을 확인하기 위해서는 평균 30분 이상이 소요되었죠. 게다가 찾은 정보가 최신 버전인지 확신하기도 어려웠습니다.
기존의 검색 시스템은 단순히 키워드만 매칭할 뿐, 문서의 실제 맥락은 이해하지 못했습니다. 예를 들어 '금리 인상의 영향'을 검색하면, 관련 없는 수많은 문서가 검색 결과로 나열될 뿐이었죠. 실제로 필요한 정보를 찾기 위해서는 이 결과들을 일일이 확인해야 했습니다.
이번 블로그 글에서는 신한투자증권이 어떻게 RAG(Retrieval-Augmented Generation) 기술을 통해 이러한 도전 과제를 해결했는지, 그리고 그 과정에서 얻은 값진 인사이트를 공유하고자 합니다.
📖 목차
• 서비스 개요
• Problems and Solutions
• 정성적 및 정량적 결과
• RAG 도입 배경
• RAG 도입 성공 요인
📍 증권사 RAG 활용 실제 사례 :: 신한투자증권
- 서비스 도입 기관: 신한투자증권
- 서비스 개요: 임직원들이 빠르고 정확하게 사내 정보를 검색할 수 있도록 RAG 기반 챗봇 시스템 도입 및 업무 효율화 지원
- 사용된 솔루션 및 기술: 스켈터랩스의 RAG 기술
- 서비스 구현 방식: 온프레미스(내부 서버에 구축)
📍 문제점 (Problems)
- 비효율적인 정보 검색
- 금융권 특성상 방대한 양의 문서와 데이터가 여러 시스템에 분산되어 있어, 필요한 정보를 찾는 데 많은 시간이 소요됨.
- 기존의 키워드 기반 검색 시스템은 문서의 맥락을 이해하지 못해, 정확한 검색 결과 제공이 어려웠음.
- 반복적인 검색 작업과 비효율적인 정보 탐색으로 인해, 업무 생산성이 저하되고 의사결정 속도가 느려졌음.
- 제한적인 검색 환경과 보안 문제
- 금융권의 엄격한 보안 규정으로 인해, 모든 시스템은 외부망과 완전히 분리된 온프레미스 환경에서 운영됨.
- 외부 AI 도구 사용이 불가능해, 최신 AI 기술을 적용하기 어려웠음.
- 민감한 데이터를 보호해야 하는 규정으로 인해, 정보 접근 이력 관리와 내부 승인 절차가 필요했으며, 이로 인해 정보 검색이 더 복잡해짐.
- 특수 정보 검색의 어려움
- 표 등 복잡한 구조의 금융 문서들은 기존 검색 시스템에서 효과적으로 처리되지 않음.
- 검색 품질 저하로 인해, 정보 왜곡과 잘못된 의사결정의 위험이 존재함.
- 데이터 전처리의 어려움
- 다양한 형식의 문서 데이터를 AI가 이해할 수 있도록 전처리하는 과정에서 기술적 난제가 발생함.
- 표 형식 데이터와 혼합된 문서 구조는 AI 모델이 정확히 분석하기 어렵고, 부정확한 답변을 초래함.
- 일관되지 않은 문서 형식과 확장자로 인해 데이터 처리와 검색 성능이 저하됨.
📍 스켈터랩스가 구현한 해결책 (Solutions)
- 고도화된 RAG 기술 도입
- 스켈터랩스의 RAG 기술을 통해 단순 키워드 검색이 아닌, 문서의 맥락 이해와 정보 요약 기능을 제공하는 AI 챗봇 시스템을 구축.
- 다양한 형식의 금융 문서에서 정확한 정보 추출 기능을 지원하여 사용자 경험을 개선.
- 온프레미스 환경에서의 안정적인 AI 인프라 구축
- 외부 도구 사용이 제한된 온프레미스 환경에서 AI 시스템을 구축해 보안을 유지하면서도 최신 AI 기술을 활용할 수 있게 함.
- 내부 도구를 추가 개발하여, 파일 업로드와 검색 성능 측정을 지원하고 생산성을 높임.
- 통합 문서 검색 및 자동화 기능 제공
- 사내에 분산된 다양한 형식의 문서를 통합적으로 처리해, 임직원들이 필요한 정보를 한 번의 검색으로 찾아볼 수 있도록 개선.
- 표 등의 복잡한 문서 구조를 효율적으로 분석할 수 있는 맞춤형 전처리 로직을 개발.
- 맞춤형 데이터 전처리 파이프라인 구축
- 문서의 다양한 형식에 맞춘 전처리 파이프라인을 구축해 검색 정확도와 정보 제공의 신뢰성을 높임.
- 유연한 고객사 협업과 피드백 반영
- 프로젝트 중 고객사의 피드백을 적극 반영해, 기능 요구사항 변경이나 추가 요청에 유연하게 대처.
- 고객사의 사용성을 고려해 프롬프트 수정과 데이터 정리를 통해 검색 정확도와 사용자 만족도를 개선.
📍 정량적 및 정성적 결과 (Results)
[정량적 성과]
- 정보 검색 시간 단축
약 15,000건의 방대한 문서를 효율적으로 검색할 수 있어, 많은 시간이 걸리던 정보 검색 시간이 단축됨. - MOS 평가 점수
목표했던 성능 기준을 5% 이상 초과 달성하며, 고객사의 기대치를 뛰어넘는 성과를 기록함. - 업무 적응 기간 단축
고객사 인력 대상 업무분장 문서에 대한 신속한 접근과 이해가 가능해지면서, 직원들의 업무 적응 속도와 인적 자원 관리의 효율성이 크게 개선됨.
[정성적 성과]
- 업무 방식의 변화
임직원들은 단순한 정보 검색을 넘어, AI 챗봇을 통해 업무 맥락에 맞는 인사이트를 도출하며, 직원별 정보와 팀 구성원, 업무 담당자 확인 기능을 통해 더욱 빠르게 필요한 정보를 찾을 수 있게 됨. - 사용자 만족도 증가
사용자가 필요한 정보를 빠르게 찾고 요약된 내용을 제공받으면서, 명함 신청 담당자 확인, 인사 규정 조회 등 실무에 필요한 정보 접근이 편리해져 사용자 경험이 크게 개선됨. - 고객사 내부의 긍정적 피드백
‘부서 담당자 찾기’ 기능의 개선뿐만 아니라, 내부 IT 매뉴얼, 인사 규정, 전체 사규 등 다양한 KMS 문서 활용이 가능해져 조직 내 커뮤니케이션과 협업 효율성이 향상됨. - 보안과 효율성의 균형 유지
온프레미스 환경에서 안정적인 성능을 제공하며, 보안 문제를 해결하고 데이터 보호를 강화함으로써, 임직원들이 신뢰할 수 있는 정보 검색 환경을 제공함.
이제, 이러한 정량적·정성적 성과를 가능하게 한 RAG 도입의 핵심 성공 요인들을 살펴보겠습니다.
📍 신한투자증권이 RAG 도입을 선택한 이유
금융 산업에서의 정보 검색은 단순한 키워드 매칭이 아니라 문서의 맥락과 의미를 이해하는 능력이 필요합니다. RAG 기술은 단순한 검색 엔진의 한계를 넘어, 문서의 의미를 파악하고 관련된 핵심 정보를 정확히 제공할 수 있습니다.
신한투자증권의 경우, 다음과 같은 이유로 RAG 기술이 필수적이었습니다:
- 복잡한 문서 구조 이해
- 금융 문서들은 표 등이 포함된 복잡한 구조로 이루어져 있어, 기존 검색 시스템으로는 정확한 정보를 추출하기 어려웠습니다.
- RAG 기술을 통해 문서의 맥락을 이해하고 정확한 답변을 제공합니다.
- 온프레미스 환경에서도 안정적인 성능
- 금융권은 보안을 위해 외부망과 차단된 온프레미스 환경에서 AI 시스템을 운영해야 합니다.
- 스켈터랩스의 RAG 기술은 온프레미스 환경에서도 성능 저하 없이 최신 AI 기술을 적용할 수 있으며, 보안 규정을 준수하면서도 높은 검색 정확도를 유지할 수 있습니다.
- 빠르고 정확한 정보 제공
- 기존의 키워드 기반 검색 시스템은 맥락 이해가 부족해, 원하는 정보를 찾는 데 시간이 오래 걸렸습니다.
- RAG 기술은 문서의 맥락을 파악하고 의미 있는 정보를 요약하여 제공함으로써, 정보 검색 시간을 획기적으로 단축시켰습니다.
📍 RAG 도입 성공 요인
- 맞춤형 전처리 로직으로 검색 정확도 극대화
- 금융 문서의 다양한 형식에 맞춘 전처리 파이프라인 덕분에, 기존 시스템의 비효율성을 극복할 수 있었습니다.
- 표와 같은 복잡한 문서를 효과적으로 분석함으로써, 임직원들이 필요한 정보를 빠르게 찾을 수 있게 되었습니다.
- 보안과 효율성의 조화
- 온프레미스 환경에서도 성능 저하 없이 AI 기술을 적용할 수 있었고, 보안 문제를 해결하면서도 최신 기술의 혜택을 제공할 수 있었습니다.
- 고객사 내부에서는 RAG 도입 후, 정보 접근 속도가 빨라지고 데이터 보호가 강화되면서, 업무 효율성이 크게 향상되었습니다.
신한투자증권의 RAG 도입 사례는 금융권에서도 최신 AI 기술을 안전하고 효과적으로 활용할 수 있다는 것을 입증했습니다. 특히 보안과 효율성이라는 두 가지 상충되는 요구 사항을 성공적으로 조화시켰다는 점에서 큰 의미가 있습니다.
방대한 문서를 보유한 금융 기관들에게 정보 검색의 혁신은 더 이상 선택이 아닌 필수가 되었습니다. RAG 기술은 단순한 검색 도구를 넘어, 업무 방식의 근본적인 변화를 가져올 수 있는 강력한 솔루션임이 입증되었습니다.
더 많은 기업들의 AI 도입 성공 사례는, "기업용 대화형 AI 도입 성공 사례 모음.zip" 글에서 확인해보실 수 있습니다.