工程化 garak 进行多模型链式漏洞探测与风险分数聚合
基于 garak 框架,设计多 LLM 链式探测脚本,实现风险分数聚合,支持安全基准测试与漏洞优先级排序。
Latest Essays
继续沿着时间线阅读近期的工程实践与技术观察。
近期的思考与工程笔记。
基于 garak 框架,设计多 LLM 链式探测脚本,实现风险分数聚合,支持安全基准测试与漏洞优先级排序。
基于 Crawl4AI 实现异步 web 爬虫,聚焦 LLM 友好输出、动态内容捕获与高效 RAG 集成,提供工程参数与低延迟优化。
构建高效RAG数据管道的语义web爬虫工程实践,包括异步Python实现、提取策略与分块优化。
探讨顶层规划代理如何将复杂任务分解为并行子代理执行,提供工程参数和配置指南,实现跨领域自动化求解。
基于 WebAudio API 和 Lua 脚本,在浏览器中构建实时生成音乐环境,聚焦 36 音微分音阶的程序化作曲与互动声音设计,提供工程参数与监控要点。
利用 PowerShell 7+ 和 .NET 运行时,实现跨 Windows、Linux、macOS 的统一自动化脚本,聚焦可扩展 cmdlet 和安全远程执行的工程实践。
探讨如何通过数据流节点和运行时解释工程化图形化视觉编程系统,以克服表单小部件限制,实现复杂过程逻辑的组合。
面向 Unix 系统,给出 Pass 工具的 GPG 加密存储、Git 同步管理与审计参数的工程化实践。
面向交互式语音代理,给出低延迟神经TTS管道的构建参数、优化策略与延迟监控要点。
探讨在Apple Silicon上使用MLX-LM构建LLM推理管道,利用统一内存优化低延迟生成,支持模型量化与多模型切换,提供工程参数与落地清单。
针对pthread_cancel弃用,介绍使用信号、异步取消点和结构化并发模式实现POSIX应用中可靠线程中断与资源清理的工程参数与策略。
探讨 Ripple 框架中基于信号的响应性原语设计,实现声明式 UI 更新与细粒度重渲染,提升应用性能。
面向细粒度更新,给出 Ripple 中 signal-based 响应式原语的工程化参数与监控要点。
面向复杂研究任务,构建顶层规划代理以实现任务分解、并行执行、多跳检索与自适应协调的工程实践。
基于DeepResearchAgent框架,探讨顶级规划代理的任务分解机制,支持并行子任务执行、多跳检索与跨领域适应,提供工程参数与监控要点。
探讨如何使用 TypeScript 工程化后端,支持 AI 驱动的发票处理、时间跟踪和文件对账,通过 LLM 代理实现自动化费用分类和客户报告生成。
基于 Bun 的并行依赖解析与 LLM 集成,构建高效终端 AI 代码生成 CLI,支持离线代码合成管道与多代理协作。
通过自定义插件扩展 garak 工具,实现模块化 LLM 红队测试,重点介绍探测器链式连接、风险评分机制,以及与生产推理管道的集成,用于高效幻觉探测。
通过高效 Triton 内核实现线性注意力,支持长序列 Transformer 的 O(n) 复杂度和子二次方计算,无需注意力掩码,提供工程化集成参数。
基于Happy-LLM项目,探讨使用PyTorch从零构建Transformer LLM的训练管道,包括tokenization、注意力机制、fine-tuning及部署优化。