本地隐私防火墙:在请求抵达 ChatGPT 前用本地模型拦截并脱敏 PII/密钥
利用本地 7B 量化模型在 80 ms 内完成 PII/密钥脱敏,再调用云端 LLM,兼顾合规、延迟与成本。
Latest Essays
继续沿着时间线阅读近期的工程实践与技术观察。
近期的思考与工程笔记。
利用本地 7B 量化模型在 80 ms 内完成 PII/密钥脱敏,再调用云端 LLM,兼顾合规、延迟与成本。
基于浏览器运行时快照的自动化 IDE,实现零脚本录制、确定性回放与脚本自修复,彻底解决 flaky test 与维护漂移难题。
面向多模型流式输出,给出 SSE 连接管理与断线续传的可落地方案与超时阈值清单。
在请求出境前本地完成 PII、密钥与源代码片段的毫秒级检测与脱敏,给出可落地的拦截面、参数与回滚策略。
从 211 ms 首包到 144 GB 显存,一份可复制的工程参数表,带你跑通原生四模态大模型推理。
基于 privacyshield-ai 思路,给出在浏览器内以 WASM 过滤器实现『零出站』PII 与密钥拦截的工程化参数与落地清单。
深入分析Cloudflare Python Workers如何通过内存快照技术和uv包管理器集成,实现平均1.027秒的亚秒级冷启动,相比AWS Lambda快2.4倍。
基于 PrivacyFirewall 的双层本地拦截方案,在浏览器端完成正则+Transformer 检测,无需上传任何数据即可阻断 PII 与密钥泄漏。
在本地先清场再出网,给出可落地的 PII 检测阈值、占位符映射与一键回滚参数,让零信任架构直接下沉到 Prompt 侧。
在本地侧拦截 PII 与机密再送入 ChatGPT,用流式 Guardrails 实现零配置隐私防火墙。
基于浏览器扩展+本地 BERT 的双层过滤器,零外部请求,可插拔 SDK,适合企业与个人在 AI 聊天场景下落地零信任隐私防护。
Qwen3-Omni 通过 AuT 编码器、TM-RoPE 位置编码与 Thinker-Talker MoE 架构,实现四模态统一序列输入与 234ms 低延迟流式输出。详解工程参数、并发优化与部署清单。
实战剖析如何为 Heroes III VCMI 引擎注入跨平台 C++ 插件与 Lua 脚本框架,包括接口设计、事件总线与 mod 打包要点。
Rust实现的Goose Agent运行时,通过MCP插件化设计支持任意LLM驱动的全流程自动化,附工程化参数与监控清单。
面向单模型原生多模态推理,给出端到端延迟实测、显存优化参数与部署清单。
用 234 ms 首包实测切入,拆解 Thinker-Talker MoE 背后跨模态并行调度器的四条机制与可落地参数,给出并发曲线与端侧优化清单。
实测 Qwen3-Omni-Flash 在 8GB 显存 RTX 4060 下的 INT8 量化吞吐/延迟曲线,给出工程参数清单与监控要点。
基于 BDHS 算法,优化大型 Web 应用的内存泄漏检测流程,提供断点搜索、可视化追溯与运行时修补参数配置。
聚焦Qwen3-Omni-Flash原生多模态推理:流式I/O与异构缓存设计,让8B端侧模型实时处理图文音混合请求。
拆解 VCMI 的 C++ 重构思路:JSON 描述 + 动态脚本加载 + Lua 事件总线,实现零冲突模组与热插拔。