Retrieval-Augmented Generation

검색 증강 생성
나스플러스 RAG

수만 장의 사내 문서를 빠르게 읽고 정확한 답을 드립니다.

기술 알아보기

Concept

RAG란 무엇인가요?

"똑똑하지만 우리 회사는 모르는 AI(LLM)에게
사내 전용 요약집을 쥐여주는 기술"

일반적인 생성형 AI는 학습된 데이터의 기억력에만 의존합니다. 이로 인해 사실이 아닌 정보를 그럴듯하게 지어내는 '환각(Hallucination)' 현상이 발생할 수 있습니다.

RAG(검색 증강 생성)는 AI가 답변을 생성하기 전에 회사 내부의 검증된 데이터베이스를 먼저 검색하여 참고합니다. 이를 통해 사실 기반의 정확하고 신뢰할 수 있는 답변만을 제공합니다.

사내 데이터
LLM (AI)
정확한 답변

Comparison

일반 검색 vs RAG 검색

기존 일반 검색

단순 키워드 매칭 방식

  • 키워드가 정확히 일치해야만 문서를 찾습니다.
    (예: '휴가' 검색 시 '연차' 관련 문서는 누락됨)

  • 결과로 문서 목록만 제공하므로, 사용자가 직접 문서를 열어 읽고 답을 찾아야 합니다.

nasplus AI

RAG 기반 하이브리드 검색

형태소(Nori) + 의미(Vector) 이해 방식

  • Nori 형태소 분석과 문맥을 이해하는 벡터 검색을 융합하여 질문의 숨은 의미까지 파악해 문서를 찾습니다.

  • 검색된 문서를 AI가 종합하여, 질문에 대한 정답을 완전한 문장으로 요약하여 즉시 제공합니다.

Technology

NASPLUS AI (기술 스택)

각 분야의 최고 성능을 자랑하는 최신 오픈 소스 모델들을 결합하여 최적의 파이프라인을 구축했습니다.

Elasticsearch 9 & Nori

#지능형_사서 #형태소분석

한글 조사와 어미를 정밀하게 분석하는 최신 Nori 엔진을 탑재하여 빠르고 정확한 형태소 및 키워드 기반 탐색을 수행합니다.

bge-m3

#의미_번역기 #임베딩

사내 문서의 텍스트를 기계가 이해할 수 있는 다차원 AI 좌표(Vector)로 변환하여, 문장의 '숨은 의미와 문맥'을 수치화합니다.

mxbai-reranker

#정밀_검사원 #리랭킹

1차 검색된 수많은 후보 문서들을 질문과의 실질적 연관성 기준으로 다시 평가하여, 가장 정확한 정답 문서만을 고르는 최종 면접관입니다.

Gemma 2 (Ollama)

#답변_전문가 #LLM

Ollama 환경에서 구동되는 구글의 최신 Gemma 2 모델을 활용해, 선별된 내부 데이터를 바탕으로 정확하고 자연스러운 답변을 작성합니다.

Process

프로세스 흐름도

1

지식 쌓기 (Ingestion)

사내 DB / 문서

데이터 분할
(Chunking)

형태소 분석
(Nori 플러그인)

벡터 변환
(Embedding)

멀티 인덱싱 저장
(ES 9)

* Java 21 가상 스레드(Virtual Threads)를 활용하여 대용량 문서 고속 병렬 처리
2

지식 찾기 및 답변 (Query & Generate)

사용자 질문

질문 분석
(형태소 추출 + 벡터화)

하이브리드 검색
(키워드 + 형태소 + 벡터)

리랭킹
(Reranking)

답변 생성
(Gemma 2)