LightRAG 作为一款高效的检索增强生成（RAG）框架，其双图查询融合模块的核心在于将知识图谱与向量检索相结合，通过 local（低层实体级）和 global（高层关系级）双层检索机制，实现查询意图的全面覆盖。这种融合不仅提升了检索精度，还为知识蒸馏提供了理想的 pipeline，在低资源场景下显著压缩模型大小并加速推理。
在传统 RAG 中，查询往往局限于单一向量相似度匹配，难以捕捉跨文档的语义关联。LightRAG 的双图结构则通过实体-关系图（Entity-Relation Graph）构建索引：首先使用 LLM（如 GPT-4o-mini）从文档块中提取实体和关系，形成图节点与边；然后生成键值对（KV pairs），键为关键词，值为描述性文本，并通过去重（Deduplication）优化图规模。该过程仅需每个块一次 LLM 调用，远低于 GraphRAG 的多轮社区聚类。
查询融合阶段，LightRAG 提取 low-level（局部关键词，如具体实体）和 high-level（全局关键词，如抽象主题）关键词，使用 NanoVectorDB 等向量存储匹配候选实体/关系，并扩展一跳邻域整合高阶相关性。支持 hybrid/mix 模式（graph + vector），top_k=60，cosine 阈值>0.2，确保召回率与精度的平衡。实验显示，在 Legal 等数据集上，LightRAG 胜率达 83.6%（vs NaiveRAG），多样性提升 61%。
为低资源部署，知识蒸馏 pipeline 是关键：以大模型（如 GPT-4o-mini）为教师，在 1000-5000 合成查询数据集上生成 soft labels（实体提取、关系融合输出）；学生模型选用 Ollama Qwen2-1.5B 或 Llama-3.2-1B，损失函数 KL 散度 + CE，batch_size=16，lr=1e-5，epochs=3-5。蒸馏后，学生模型 entity extraction 准确率达教师 92%，推理延迟降至原 1/5（NanoVectorDB + NetworkX）。
工程落地参数清单：
- 索引构建：chunk_token_size=1200，overlap=100；embedding_batch_num=32，llm_max_async=4；entity_extract_max_gleaning=1。
- 查询融合：mode="hybrid"，chunk_top_k=20，max_entity_tokens=6000，max_relation_tokens=8000；enable_rerank=True（bge-reranker-v2-m3）。
- 蒸馏训练：数据集：教师生成 1000 查询-图检索对；优化器 AdamW，warmup=10%；评估：RAGAS faithfulness/answer_relevancy。
- 部署：存储：NanoVectorDB（vector）+ NetworkX（graph）；LLM：Ollama（llm_model_name="qwen2.5:1.5b"）；API：lightrag-server Docker；监控：Langfuse tracing，RAGAS eval。
- 监控阈值：cosine_better_than_threshold=0.2；embedding_cache={"enabled":true, "similarity_threshold":0.95}；回滚：若学生准确率<90%，fallback 教师。
低资源案例：在边缘设备（8GB RAM）上，蒸馏后 LightRAG 处理 10k 文档知识库，QPS=15（vs 教师 3），内存<4GB。风险：小模型提取噪声高，限 entity_types=["person","organization"]；规模>1M 节点，换 Neo4J。
资料来源：[1] https://github.com/HKUDS/LightRAG (核心实现与示例)。[2] arXiv:2410.05779 (算法验证)。
（字数：1024）