LightRAG 作为一款轻量高效的检索增强生成（RAG）框架，其核心创新在于双知识图（dual-graph）索引与查询融合机制。这种设计特别适用于低资源环境，通过知识蒸馏优化小模型的知识图谱（KG）提取能力，实现高效的 chunk 阈值选择与实体关系索引工程实践，避免了传统 RAG 的扁平检索局限和 GraphRAG 的高计算开销。
双图索引：实体与关系的结构化分离
LightRAG 的索引流程首先将文档分块（chunking），默认 chunk_token_size=1200、chunk_overlap_token_size=100。这种阈值选择基于 Tiktoken 分词器（tiktoken_model_name='gpt-4o-mini'），确保每个 chunk 控制在 LLM 上下文窗口内，同时重叠 100 tokens 保留上下文连贯性。在低资源场景下，此阈值可进一步调小至 800-1000 tokens，以适应小模型如 Qwen2-7B 的 32K 上下文限制，避免 OOM。
分块后，LLM（如 gpt-4o-mini）执行实体关系提取（R(.)），生成节点（entities，如“养蜂人”）与边（relations，如“观察”）。每个实体/关系经 LLM 剖析（P(.)）生成键值对（key: 关键词，value: 描述），再去重（D(.)）合并重复项，形成双图：实体图（vector_storage 如 NanoVectorDBStorage）和关系图（graph_storage 如 NetworkXStorage）。证据显示，此双图结构在 UltraDomain 数据集上胜过 NaiveRAG 达 60-80%，因其捕捉多跳关系（如“养蜂人→管理→蜂群”）。
低资源实践：使用 embedding_batch_num=16、llm_model_max_async=4 限制并发，embedding_func_max_async=8 批处理嵌入。vector_db_storage_cls_kwargs={'cosine_better_than_threshold': 0.2} 过滤低相似向量，减少存储压力。风险：小模型 KG 提取准确率低（<70%），故启用 entity_extract_max_gleaning=2 迭代提炼。
查询融合：Local/Global 双层关键词检索
LightRAG 的查询融合是双层检索（dual-level retrieval）核心：LLM 从用户查询提取 low-level（局部关键词，如具体实体）和 high-level（全局关键词，如抽象主题）关键词。local 模式下，low-level 关键词检索实体图（top_k=60）；global 模式检索关系图（chunk_top_k=20）；hybrid 融合二者，max_entity_tokens=6000、max_relation_tokens=8000、max_total_tokens=30000 控制 token 预算。
融合过程：检索后扩展一跳邻接节点（邻域聚合），整合实体描述、关系描述与原始 chunk，形成统一上下文注入 LLM 生成。工程参数：enable_rerank=True 使用 BAAI/bge-reranker-v2-m3 重排序 chunk；mode='mix' 结合 KG 与向量检索。低资源下，embedding_cache_config={'enabled': True, 'similarity_threshold': 0.95} 缓存相似查询，use_llm_check=False 避免额外 LLM 调用。
证据：在 Legal 数据集（500万 tokens），LightRAG hybrid 模式胜 GraphRAG 54%，因查询融合减少 token 消耗 <100 tokens/查询（GraphRAG 61万）。实践清单：
- 查询预处理：user_prompt 注入自定义指令，如“优先实体关系”。
- 阈值调优：top_k=40（低资源），max_async=2。
- 监控：Langfuse 追踪 token/latency，RAGAS 评估 context_precision。
知识蒸馏优化：小模型 KG 提取增强
LightRAG 通过知识蒸馏适配小 LLM（如 Qwen3-30B-A3B、Llama-3.2-1B），显著提升 KG 提取准确率。默认 llm_model_name='meta-llama/Llama-3.2-1B-Instruct'，summary_max_tokens=500、summary_context_size=10000 压缩实体描述。蒸馏实践：使用大模型（如 gpt-4o-mini）生成高质量 KV 对，作为小模型教师数据；enable_llm_cache=True、enable_llm_cache_for_entity_extract=True 缓存提取结果。
低资源阈值选择：chunk_token_size=1024（Ollama num_ctx=32768），node2vec_params={'dimensions': 1536, 'num_walks': 10} 节点嵌入降维。风险：小模型幻觉高，回滚至大模型索引（llm_model_func 切换）。参数清单：
| 参数 |
默认 |
低资源调优 |
作用 |
| chunk_token_size |
1200 |
800-1000 |
分块大小 |
| chunk_overlap_token_size |
100 |
50 |
上下文重叠 |
| top_k |
60 |
40 |
实体/关系 TopK |
| max_total_tokens |
30000 |
16000 |
查询预算 |
| llm_model_max_async |
4 |
2 |
并发限 |
工程部署与回滚策略
生产实践：PostgreSQL 一体化存储（kv=PGKVStorage, vector=PGVectorStorage, graph=PGGraphStorage）；Neo4J 生产 KG（NEO4J_URI）。增量插入：max_parallel_insert=4，避免全重建。监控：TokenTracker 追踪消耗，RAGAS 评估 faithfulness。
回滚：clear_cache(modes=['local','global']) 清缓存；delete_by_doc_id 文档删除重索引。低资源下，workspace 参数隔离多实例。
LightRAG 通过双图查询融合与蒸馏优化，在低资源 RAG 中实现高效 chunk 阈值（800-1200）与实体关系索引，检索精度提升 50%以上，适用于边缘部署。
资料来源：
（正文字数：1256）