"RAG 핵심 학습 (23/26) — Graph RAG: Knowledge Graph + Vector"

-

문서 조각의 의미 유사도만으로는 "누가 누구와 어떤 관계인가"를 안정적으로 찾기 어렵다. 그래서 그래프가 등장한다.

Graph RAG는 문서에서 추출한 개체(entity) 와 관계(relation) 를 그래프로 저장하고, 벡터 검색과 함께 활용하는 접근이다. 전통적 RAG가 "비슷한 문단"을 찾는 데 강했다면, Graph RAG는 "연결 관계를 따라가는 질문"에 강하다.

0. Prerequisites

  • 22편 corrective RAG
  • 7편 메타데이터 설계
  • 9편 벡터DB 비교

1. 학습 목표

  1. Graph RAG가 왜 필요한지 설명한다.
  2. entity, relation, multi-hop retrieval의 의미를 이해한다.
  3. vector retrieval과 graph traversal의 역할 차이를 안다.
  4. 언제 Graph RAG가 과한 선택인지 구분한다.

2. 핵심 요약

Graph RAG는 문서 속 개체와 관계를 구조화해, 단순 유사도 검색이 놓치기 쉬운 관계형 질의를 더 잘 다루려는 시도다. 예를 들어 "A 정책을 승인한 부서와 그 예외 절차를 관리하는 팀은?" 같은 질문은 여러 문서를 넘나드는 관계 탐색이 필요하다. Graph RAG는 보통 entity extraction → relation graph 저장 → graph + vector 결합 검색 구조를 가진다. 강력하지만, 구축 비용과 정합성 관리가 어렵다.

3. 직관 — multi-hop 질문에서 왜 그래프가 필요한가

질문: "외부 공유 예외를 승인하는 부서와, 그 절차를 마지막으로 개정한 위원회는?"

이 질문은: 1. 승인 부서 문서 2. 절차 문서 3. 개정 이력 문서

세 문서의 연결을 따라가야 한다. 단순 벡터 검색은 각각을 찾을 수 있어도, 연결 구조를 명시적으로 갖고 있지 않다.

4. 정의 — graph RAG의 핵심 용어

용어 정의
Entity 사람, 조직, 정책, 제품 같은 개체
Relation 개체 사이 연결 (승인한다, 소속된다, 개정했다 등)
Triple (주어, 관계, 목적어) 형태의 관계 단위
Multi-hop Retrieval 하나의 관계가 아니라 여러 연결을 따라가는 검색
Graph Traversal 그래프 위에서 노드와 엣지를 따라 탐색

5. 구조 — graph와 vector는 무엇이 다른가

  • Vector retrieval: 의미가 비슷한 문장을 찾는다.
  • Graph traversal: 연결 구조를 따라간다.

둘은 경쟁자가 아니라 보완재다. 흔한 구조는 이렇다.

  1. vector로 관련 문서 후보를 좁힌다
  2. 문서에서 entity를 추출한다
  3. graph에서 관련 연결을 따라간다
  4. 최종 context를 조합한다

6. 원리 워크스루 — 최소 Graph RAG 파이프라인

6.1 triple 추출 개념

triples = [
    ("외부 공유 예외", "승인한다", "보안 책임자"),
    ("외부 공유 예외 절차", "개정했다", "정보보호위원회"),
]

6.2 graph query 예시

MATCH (p:Policy {name: "외부 공유 예외"})-[:APPROVED_BY]->(team)
MATCH (p)-[:REVISED_BY]->(committee)
RETURN team, committee

6.3 vector와 graph 결합

seed_docs = vector_store.search(query, k=5)
seed_entities = extract_entities(seed_docs)
graph_context = graph.expand(seed_entities, hops=2)

자기 설명: graph RAG가 "더 좋은 vector DB"가 아닌 이유를 한 문장으로 설명해 보라.

7. 변형과 사례

7.1 Entity-centric Graph

사람, 조직, 제품 같은 핵심 개체를 중심으로 그래프를 구축한다. 설명이 쉽고 유지가 비교적 단순하다.

7.2 Document-Entity Hybrid Graph

문서 노드와 entity 노드를 함께 두어, 문서와 관계 구조를 동시에 탐색한다.

7.3 Global Summary Graph

장문 보고서 전체를 요약한 상위 노드와 세부 노드를 연결해 계층적으로 탐색하는 패턴도 있다.

8. 한계와 실패 양상

8.1 graph 구축 비용이 크다

entity와 relation 추출 품질이 낮으면 잘못된 그래프가 생긴다.

8.2 업데이트가 어렵다

문서가 바뀔 때 그래프도 함께 갱신해야 한다. re-indexing보다 관리가 까다롭다.

8.3 모든 문제에 graph가 필요한 것은 아니다

단순 FAQ나 짧은 정책 질의에는 vector + metadata만으로 충분할 수 있다.

8.4 다음 단계 — 여러 단계 추론을 계획적으로 묶는 구조

graph까지 왔다면 이제 retrieval이 단일 단계가 아니다. 다음 24편은 agentic RAG다.

8.5 입문자가 자주 빠지는 함정 5선

# 함정 증상 빠른 점검
1 단순 FAQ에도 graph 도입 과설계 질의 유형 점검
2 entity 추출 품질 미검증 잘못된 관계 연결 샘플 triple 검수
3 그래프 갱신 전략 없음 stale graph update pipeline 정의
4 vector와 graph를 대체 관계로 봄 검색 품질 불안정 역할 분리 명시
5 hops를 과하게 확장 노이즈 증가 hop 제한 실험

9. 정리된 결론 — 보지 않고 답해 보라

Q1. Graph RAG의 핵심 목적은?

정답 관계형, multi-hop 질문을 더 잘 다루는 것이다.
왜 단순 의미 유사도만으로는 연결 구조를 안정적으로 표현하기 어렵기 때문이다.

Q2. vector retrieval과 graph traversal의 차이는?

정답 vector는 비슷한 문장을 찾고, graph는 연결 관계를 따라간다.
왜 표현 구조 자체가 다르기 때문이다.

Q3. Graph RAG가 과한 선택일 수 있는 경우는?

정답 FAQ처럼 관계 구조가 단순한 질의가 대부분일 때다.
왜 구축 비용에 비해 추가 이득이 작을 수 있기 때문이다.

Cheat Sheet — 이 편의 식·정의 1페이지

정의 - Entity: 개체 - Relation: 관계 - Triple: (주어, 관계, 목적어) - Multi-hop: 여러 연결을 따라가는 질의

최소 코드

seed_entities = extract_entities(seed_docs)
graph_context = graph.expand(seed_entities, hops=2)

언제 무엇을 | 상황 | 선택 | |---|---| | 단순 의미 검색 | vector 중심 | | 관계형 질의 | graph 결합 | | 다중 문서 연결 필요 | graph + vector |

참고 자료

1차 자료

  • Edge, D. et al. From Local to Global: A Graph RAG Approach to Query-Focused Summarization. 2024.

보조 자료

  • 사용자 노트 20장 graph rag

다음 편으로 이어지는 흐름

관계 구조까지 들어오면 retrieval은 사실상 여러 단계를 계획적으로 수행하는 문제에 가까워진다. 다음 24편은 agentic RAG를 다룬다.

댓글

댓글 쓰기

이 블로그의 인기 게시물

"LLM 핵심 학습 (1/6) — 기본: 토큰화·임베딩·어텐션·위치 인코딩"

-
이미지
(시리즈 시작) 📚 시리즈 목차 2/6 파인튜닝 → 트랜스포머 한 블록의 데이터 흐름을 문자열 → 토큰 → 임베딩 → 어텐션 → 출력 표현 까지 손으로 풀어 본다. 이번 편이 끝나면 "왜 \(\sqrt{d_k}\)로 나누는가", "RoPE는 무엇을 회전시키는가", "한국어가 영어보다 토큰이 많은 까닭은 무엇인가"가 한 줄로 설명될 수 있다. 0. 학습 목표 이 편을 마치면 다음을 직접 할 수 있다. BPE 토크나이저 가 어휘를 어떻게 학습하고 새 문자열을 어떻게 자르는지 종이 위에서 시뮬레이션한다. 임베딩 행렬 의 모양과 초기화, weight tying의 의미를 한 줄로 설명한다. Scaled Dot-Product Attention 의 식을 차원 단위로 추적하고 PyTorch 30줄로 재현한다. Multi-Head Attention 이 한 헤드와 비교해 무엇이 다른지, 헤드 수가 늘면 어디가 비싸지는지 답한다. Sinusoidal·RoPE·ALiBi 세 위치 인코딩의 식과 외삽 성질을 구분한다. 컨텍스트 확장이 왜 \(O(N^2)\)인지, "Lost in the Middle"이 왜 발생하는지 설명한다. 1. 핵심 요약 트랜스포머의 입력은 문자열 이 아니라 정수 ID 시퀀스 다. 토크나이저가 문자열 → ID로 자른다. 임베딩은 정수 ID를 \(d\)차원 벡터로 lookup하는 학습 가능한 테이블이다. Self-Attention은 \(\text{softmax}(QK^\top / \sqrt{d_k}) V\) 한 줄이 핵심이고, 멀티헤드는 같은 연산을 여러 부분 공간에서 병렬화한 것이다. 위치 정보는 임베딩에 직접 더하거나(Sinusoidal), Q·K에 회전을 가하거나(RoPE), 어텐션 스코어에 거리 패널티를 더해서(ALiBi) 주입한다. 컨텍스트 길이 \(N\)에 대해 표준 어텐션은 \(O(N^2)\) 비용을 갖고, 긴 컨텍스트에서는 중간 위...
Read more »

"LLM 핵심 학습 (2/6) — 파인튜닝: LoRA·QLoRA·증류·Adapter"

-
이미지
← 1/6 기본 📚 시리즈 목차 3/6 디코딩과 생성 → 사전학습된 LLM을 내 데이터 에 적응시키는 방법을 비용·메모리·일반화 관점에서 정리한다. Full FT의 한계 → Adapter → LoRA → QLoRA → Distillation 순으로 같은 그림을 점점 확대해 본다. 0. 학습 목표 Full fine-tuning의 메모리 병목을 옵티마이저 상태·그래디언트·가중치·활성화 의 4분할로 설명한다. Adapter(Houlsby 2019)와 LoRA(Hu 2021)의 식 차이를 한 줄로 적는다. LoRA의 \(A, B\) 행렬이 왜 저랭크 이고, rank \(r\) 선택이 무엇을 결정하는지 답한다. QLoRA(Dettmers 2023)의 NF4·double-quant·paged optimizer를 분리해서 설명한다. Catastrophic Forgetting을 분포 시프트 관점에서 정의하고 완화 기법을 두 개 이상 든다. Hinton 2015의 Knowledge Distillation 식을 손으로 유도한다. 1. 핵심 요약 Full FT는 메모리/디스크/시간 모두 비싸다. 7B 모델 full FT는 V100 8장 + A100 1장으로도 큰 부담이다. PEFT(파라미터 효율 파인튜닝) 일가족은 극히 일부 파라미터만 학습 해 같은 효과를 얻는다. LoRA: \(\Delta W = BA\) (rank \(r \ll \min(d_{\text{in}}, d_{\text{out}})\))로 가중치 업데이트를 저랭크 분해. QLoRA: 베이스 모델을 4-bit(NF4)로 양자화한 채 LoRA만 풀-정밀(BF16)으로 학습. Catastrophic Forgetting: 새 분포에 적응하느라 이전 능력이 무너지는 현상. PEFT 자체가 부분 완화책. Distillation: 큰 교사 모델의 soft target 을 학습 신호로 써서 작은 학생 모델 을 만든다. 2. 직관: 왜 사전학습만으로는 부족한가 사전학습은 일반...
Read more »

"ML 기초 학습 (1/9) — 머신러닝과 sklearn: 학습의 좌표계"

-
이미지
(시리즈 시작) 📚 시리즈 목차 2/9 이웃 알고리즘 → 이 시리즈는 신경망과 로컬 LLM으로 가기 전에 손에 익혀 둬야 할 머신러닝 기초 9편이다. 1편은 모든 ML 코드가 공유하는 공통 문법 을 잡는 데 쓴다. sklearn은 그 문법을 가장 일관되게 보여주는 도구다. 이번 편이 끝나면 어떤 모델을 만나도 fit → predict → score → 평가 흐름이 같다는 것이 손에 잡힌다. 0. 학습 목표 이 편을 마치면 다음을 할 수 있어야 한다. 지도학습·비지도학습·강화학습을 한 문장씩 구분해 설명한다. sklearn의 estimator 인터페이스 ( fit , predict , score , transform )를 코드 한 화면 안에서 쓸 수 있다. train/validation/test 분할을 왜 하는지, 어디서 데이터 누수가 생기는지 식과 그림으로 설명한다. 분류·회귀의 핵심 평가 지표(accuracy, precision, recall, F1, MSE, R²)를 정의에서 직접 계산할 수 있다. k-fold 교차검증 을 코드 한 줄로 돌리고, 결과의 평균과 표준편차를 함께 보고할 수 있다. Pipeline 으로 전처리와 모델을 묶어 데이터 누수를 구조적으로 막는 방법을 설명한다. 1. 핵심 요약 머신러닝은 데이터에서 함수 \(f: X \to Y\)를 찾는 작업 이다. 어떤 모델이든 이 본질은 같다. sklearn은 모든 모델을 같은 인터페이스( fit , predict , score )로 통일해, 모델을 바꿀 때 한 줄만 바꾸면 되게 한다. train/val/test 세 분할이 표준이다. 검증으로 하이퍼파라미터를 고르고, 테스트는 마지막에 한 번만 본다. 데이터 누수 (test 정보가 train에 새는 현상)는 ML 입문자가 가장 자주 만드는 실수이며, Pipeline + cross_val_score 조합으로 구조적으로 막을 수 있다. 평가 지표는 문제 유형 (분류/회귀) 과 클래스 불균형...
Read more »