LightRAG 作为 HKUDS 开源的轻量级 RAG 框架，通过双图结构（实体节点图与关系边图）与边知识蒸馏机制，实现高效检索与生成融合，显著降低延迟并提升复杂查询准确率。该机制的核心在于将文档知识蒸馏为结构化图谱，避免传统向量 RAG 的扁平表示局限，支持动态增量更新，适用于生产级知识库落地。
双图结构与边知识蒸馏原理
LightRAG 索引流程首先将文档切分为 token_size=1200、overlap=100 的块，利用 LLM 提取实体（节点，如人物、概念）和关系（边，如 “管理”“影响”）。随后进行 LLM Profiling：为每个实体 / 边生成 Key-Value 对，其中 Key 为检索关键词，Value 为浓缩描述；关系边额外蒸馏高阶主题关键词，形成双层表示。该蒸馏过程本质上是知识压缩：LLM 基于 summary_context_size=10000 token 生成 max_tokens=500 的精炼描述，避免冗余，确保边知识从原始文本中高效提炼。
双图即实体图（节点向量存储）和边图（关系向量存储），分别置于 vector_storage（如 NanoVectorDB 或 PGVector）和 graph_storage（如 NetworkX 或 Neo4J）。检索时，低层（local 模式）匹配实体 Key，高层（global 模式）匹配边的高阶 Key，hybrid/mix 模式融合二者，支持 top_k=60 实体 / 关系检索。这种双图设计捕捉局部细节与全局关联，实验显示在法律 / 农业数据集上全面性提升 67.6%。
“LightRAG 采用双层检索范式，从底层实体和高层的主题关系发现两个层面增强信息的全面检索。” 该机制的关键参数包括 cosine_better_than_threshold=0.2，确保检索相关性；enable_rerank=True 激活 BAAI/bge-reranker-v2-m3，提升混合查询精度。
工程落地参数与清单
为实现低延迟 RAG，需优化初始化与查询参数。LightRAG 初始化时注入 embedding_func（如 openai_embed，dim=1536）和 llm_model_func（如 gpt-4o-mini，context≥32K），llm_max_async=4 控制并发，避免 LLM 瓶颈。embedding_batch_num=32、embedding_func_max_async=16 加速向量生成。
核心参数表：
| 参数 | 默认值 | 推荐调优 | 作用 |
|---|---|---|---|
| chunk_token_size | 1200 | 800-1500 | 块大小，平衡召回与粒度 |
| chunk_overlap_token_size | 100 | 50-200 | 重叠，避免边界丢失 |
| top_k | 60 | 40-80 | 实体 / 关系 TopK |
| chunk_top_k | 20 | 10-30 | 文本块 TopK |
| max_entity_tokens | 6000 | 4000-8000 | 实体上下文预算 |
| max_relation_tokens | 8000 | 6000-10000 | 关系上下文预算 |
| max_total_tokens | 30000 | 20000-40000 | 总 Token 上限 |
| entity_extract_max_gleaning | 1 | 1-2 | 实体提取循环 |
部署清单：
- 环境准备：Python≥3.10，uv pip install lightrag-hku [api]；配置.env（LLM_KEY、embedding_model=BAAI/bge-m3）。
- 存储选型：开发用 JsonKV+NetworkX+NanoVectorDB；生产用 PGKV+PGVector+Neo4J（URI=neo4j://host:7687）。
- 索引构建：rag = LightRAG(working_dir="./rag_db", ...); await rag.initialize_storages(); rag.insert(docs, max_parallel_insert=4)。
- 查询优化：QueryParam (mode="mix", enable_rerank=True, stream=True)；user_prompt 自定义输出格式。
- 多模态扩展：集成 RAG-Anything 处理 PDF / 图像，vision_model_func=gpt-4o。
增量更新支持：新文档直接 insert，自动合并实体 / 边，无需重建；delete_by_doc_id 清理孤立节点。
监控点与回滚策略
生产中监控 LED（Laplacian Energy Distribution）偏移：若 > 10%，触发阈值 0.3 的 cosine_threshold 回滚。TokenTracker 追踪消耗，alert > 预期 50%。Langfuse 集成 observability，监控 latency<500ms、context_precision>0.85。
风险：LLM 弱（<32B）导致提取不准，fallback 至 naive 模式。嵌入切换需清空向量表。回滚：clear_cache (modes=["hybrid"]) + 备份 kv_store_llm_response_cache.json。
LightRAG 双图边蒸馏机制参数化强，结合 Neo4J 可视化与 RAGAS 评估，实现 < 100ms 延迟 RAG。相比 GraphRAG，成本降 99%，落地门槛低，适合企业知识图谱应用。
资料来源：
- GitHub: https://github.com/HKUDS/LightRAG
- arXiv:2410.05779
（正文约 1250 字）