LightRAG 的双图边蒸馏索引机制，是实现低延迟 RAG 的核心创新。它将文档知识转化为实体节点（nodes）和关系边（edges）的双层图结构，通过 LLM 提炼多键值对（key-value pairs），支持高效检索与多跳推理。这种设计比传统向量 RAG 更能捕捉复杂语义关联，同时避免 GraphRAG 的高开销重建问题。
核心流程从实体-关系提取开始。将文档切分为 1200 token 块，利用 LLM（如 GPT-4o-mini）一次性识别实体（如“心脏病专家”）和关系（如“诊断心脏病”）。证据显示，这种图增强提取能显著提升多跳查询的全面性，例如在 EMNLP 评估中，LightRAG 在四个数据集上的胜率超过 GraphRAG。“LightRAG 通过图结构有效捕捉和表示实体间的复杂关系。”接下来是键值精炼：LLM 为每个实体生成唯一键（如实体名）和多个扩展键（如相关主题），值则为摘要文本，支持模糊匹配检索。
1-hop 扩展进一步强化检索深度。在 low-level 检索中，从查询实体出发，扩展其直接邻接节点（1-hop），收集上下文值；在 high-level 检索中，聚合关系边，形成全局视图。这种双层范式确保具体查询（如“傲慢与偏见作者”）获精确实体，高层查询（如“AI 对教育影响”）获抽象总结。融合参数控制 top_k（默认 60）：low-level top_k=20（实体数），high-level top_k=40（关系数），通过 rerank（如 ColBERT）融合，阈值设为 0.7 相似度，避免噪声。
生产部署中，可落地参数包括：
- 索引参数：chunk_token_size=1200，llm_model="gpt-4o-mini"（成本 <0.1 USD/10k 文档），去重阈值=0.95（基于嵌入余弦相似）。
- 检索参数：mode="mix"（融合 KG+向量），max_token_local=4000，max_token_global=4000，1-hop_depth=1（扩展层级），fusion_weight=[0.6 local, 0.4 global]（经验权重）。
- 更新机制：增量 union 操作，新文档直接 merge 图，batch_size=100（避免 OOM）。
- 存储配置：向量用 Faiss（CPU 友好），图用 NetworkX（<1GB/100k 节点），KV 用 Redis（缓存命中率 >90%）。
监控要点清单：
- 索引延迟：目标 <5s/文档，告警 >10s。
- 检索 QPS：>100，监控 top_k 召回率 >0.85。
- LLM Token 消耗：索引 <100 token/块，检索 <2000 token/查询。
- 图规模：节点 <1M，边 <5M，回滚策略为快照恢复（每日备份 NetworkX pickle）。
- 准确性：RAGAS 评估 faithfulness >0.9，answer_relevancy >0.8。
风险与回滚：LLM 幻觉导致错误边时，fallback 到 naive 向量模式；图膨胀时，prune 低频边（freq<5）。实际案例中，客服知识库部署后，响应时延从 3s 降至 0.3s，FAQ 覆盖率升至 92%。
优化扩展：集成异步流水线，提升 QPS 3-5x；多模态用 CLIP 嵌入图像节点。参数调优用网格搜索：top_k [20,40,60]，fusion_weight [0.5-0.7]，验证集 Recall@10 >0.9。
资料来源：HKUDS/LightRAG GitHub 仓库；arXiv:2410.05779 论文。