在LLM RAG管道中集成Milvus实现亚秒级实时向量索引
面向高吞吐LLM RAG管道,探讨Milvus的动态分片、副本管理和HNSW-IVF混合索引,以实现低延迟检索。
Latest Essays
继续沿着时间线阅读近期的工程实践与技术观察。
近期的思考与工程笔记。
面向高吞吐LLM RAG管道,探讨Milvus的动态分片、副本管理和HNSW-IVF混合索引,以实现低延迟检索。
通过量化索引和分层图检索优化 LightRAG,实现移动设备上的高效、隐私保护 RAG 系统,提供具体工程参数和部署清单。
通过 Emacs Lisp 配置,仿真 VSCode 核心功能,实现无缝混合编辑器-IDE 工作流,无需离开 Emacs。
利用 ADK-Go 构建评估框架,针对 AI 代理的工具调用、状态保持和多步推理进行基准测试,提供可控场景下的工程化参数和监控要点。
在分布式LLM系统中,工程化CRDT版本控制实现多代理内存共享,焦点于冲突解决机制、长期持久化策略及低开销参数配置。
针对分支预测器的安全漏洞评估,介绍利用推测执行的 exploits 工程方法,包括时序测量和缓存侧信道泄露敏感数据的技术要点与参数设置。
探讨 Verl 框架中 PPO 策略更新的自定义采样器集成,优化 LLM 对齐轨迹并降低奖励信号方差,提供工程参数与监控要点。
通过服务器端IP/UA指纹和请求时序检测,实现对分布式LLM爬虫的无JS阻塞,提供速率限制参数与实施清单。
探讨自动化处理中国 K-12 和大学教材 PDF 的管道设计,包括 OCR 文本提取、元数据解析及 BERT 向量嵌入构建搜索索引。提供工程参数、监控要点及落地清单。
分析 Ubiquiti Flex Mini 2.5G 的硬件工程要点,提供无风扇冷却策略、VLAN 配置参数和部署清单,实现低成本 2.5GbE 网络扩展。
面向高吞吐量 WiFi 监控,给出基于 libwifi 的无锁多线程帧解析方案,包括队列设计、原子操作参数与性能调优。
探讨在 Boa JS 引擎中从 JS 脚本调用 Rust 原生代码的 FFI 桥接工程,使用 AST 遍历和 VM 钩子确保嵌入式系统的安全低开销互操作。
通过 libwifi 库自定义生成 deauth 帧,实现针对性断开测试,而不依赖操作系统 WiFi 驱动。提供工程参数和监控要点。
使用 libwifi 在 C 中生成自定义 WiFi 帧,模拟 deauth 和 rogue AP 攻击,测试入侵检测系统和协议鲁棒性,无需物理硬件。
面向反编译器开发,探讨解析 JVM 异常表以处理 finally 块的重复字节码和重叠异常范围,实现精确的 try-catch 结构恢复的工程实践与参数配置。
在PlayCanvas中使用WebXR实现浏览器游戏的沉浸式体验,焦点于控制器映射、空间锚点和低延迟渲染的工程实践。
实现服务器端速率限制、用户代理指纹识别和行为启发式来检测并阻挡分布式 LLM 爬虫,无需依赖 JavaScript 执行。
基于 libwifi 的 C 语言帧生成,构建针对 WiFi 芯片状态机的模糊输入,揭示缓冲区溢出等安全隐患,提供工程化参数与监控要点。
面向分布式 LLM 爬虫,给出无状态服务器端启发式检测方法,包括时间异常分析和头部模式匹配的工程实现。
面向 CI/CD 管道,介绍使用 POSIX 兼容 Bash 脚本实现 NVM 的 Node.js 版本检测、自动安装与 profile 集成,实现多版本无缝工作流。