使用 Unsloth 工程化 RLHF/DPO 管道：Llama3 的低 VRAM 对齐
在消费级 GPU 上利用 Unsloth 实现 Llama3 的 RLHF/DPO 微调，结合 4-bit QLORA、梯度检查点和奖励模型集成。
2025-09-19ai-engineering2025-09
Latest Essays
最新见解 · 第 1035 页
继续沿着时间线阅读近期的工程实践与技术观察。
最新见解
近期的思考与工程笔记。
使用 MarkItDown 构建 AI 辅助的文档到 Markdown 转换管道
面向 RAG/LLM 工作流，给出 MarkItDown 工具的工程化管道构建、布局解析与表格提取参数。
2025-09-19ai-systems2025-09
使用 C++ 构建 Monad 并行 EVM 执行管道：集成 BFT 共识优化 10k+ TPS
探讨 Monad 的 C++ 并行 EVM 执行管道设计，集成 BFT 共识，实现流水线交易处理与分片状态管理，针对 10k+ TPS 优化工程参数。
2025-09-19systems-engineering2025-09
工程化紧凑 Lua 游戏引擎：TIC-80 的像素艺术、声音合成与实时渲染
针对低资源硬件，探讨 TIC-80 中 Lua 驱动的像素艺术工具、声音合成机制与实时渲染管道的工程实践，包括优化参数与部署清单。
2025-09-19systems-engineering2025-09
将配置文件工程化为交互式用户界面：Schema验证与实时预览
利用JSON Schema生成交互式UI编辑配置文件，实现实时验证、预览和错误提示，提升开发者效率并减少误配置。
2025-09-19systems-engineering2025-09
基于 PP-OCRv4 的边缘部署 OCR 管道工程：PTQ、ONNX 导出与运行时优化实现实时多语言文本检测与识别
利用 PP-OCRv4 构建资源受限设备上的实时多语言 OCR 管道，涵盖 PTQ 量化、ONNX 导出及运行时优化，提供工程参数与监控要点。
2025-09-19ai-systems2025-09
Flipper Zero上的低功耗盖革计数器集成：嵌入式C管道工程化
在Flipper Zero上实现Geiger-Mueller管低功耗接口的嵌入式C工程实践，涵盖实时辐射数据采集、校准机制与SD卡安全日志。
2025-09-19systems-engineering2025-09
工程化生成式 AI 管道：动态教科书个性化适配
构建生成式 AI 管道，实现教科书的动态个性化，包括解释生成、互动练习和实时内容合成，提供工程参数与落地清单。
2025-09-19ai-systems2025-09
工程化 KDE Plasma Wayland 会话：低延迟合成、GPU 加速渲染与多显示器优化
针对现代硬件，优化 KDE Plasma 的 Wayland 会话，实现低延迟合成、GPU 加速渲染和无缝多显示器工作流的关键工程参数。
2025-09-19systems-engineering2025-09
从单一提示工程化 LLM 驱动的全栈应用代码生成：自动 schema 设计、CRUD API 与持久数据库集成
基于 LLM 从单一提示生成全栈应用的工程实践，包括 schema 设计、API 端点与数据库集成，提供参数配置与监控要点。
2025-09-19ai-systems2025-09
工程化 LLM 多代理管道实现实时波动预测与动态对冲策略
探讨 LLM 协调的多代理系统在 AI 对冲基金中的应用，聚焦实时波动预测、动态投资组合再平衡及自适应对冲策略的工程参数与落地清单。
2025-09-19ai-systems2025-09
在 Linera 微链中使用 Rust 工程化流水线共识协议
针对 Linera 微链，介绍使用 Rust 实现流水线共识协议的工程实践，支持分片执行和高吞吐用户拥有的链，并确保容错验证。
2025-09-19systems-engineering2025-09
工程化 ArXiv 论文的 RAG 管道：语义搜索、LLM 问答与交互聊天
针对 ArXiv 学术论文构建检索增强生成 (RAG) 系统，实现语义搜索、基于 LLM 的问答、引用提取及带来源链接的交互式聊天界面，提供工程实现要点、参数配置和监控建议。
2025-09-19ai-systems2025-09
通过恢复密钥工程化 macOS FileVault 加密卷的 SSH 远程访问
探讨在 macOS 恢复模式下启用 SSH 访问，使用恢复密钥解锁 FileVault 加密卷，实现安全与可用性的平衡，而无需完全解密。
2025-09-19ai-security2025-09
使用 Brush 工程化 Rust 3D 重建：摄影测量管道
基于 Rust 的 Brush 工具，通过摄影测量从图像生成 3D 模型，支持跨平台部署而无需特定 GPU 依赖。
2025-09-19systems-engineering2025-09
树莓派集群上使用Kubernetes构建可扩展AI推理管道：成本性能权衡与电源优化
在树莓派集群上利用Kubernetes实现AI模型服务的可扩展部署，聚焦成本性能分析与电源管理优化策略。
2025-09-19systems-engineering2025-09
LLaMA-Factory 中使用 QLoRA 工程化 SFT 和 DPO 管道：低资源指令调优
在 LLaMA-Factory 框架下，利用 QLoRA 技术构建 SFT 和 DPO 管道，实现低资源环境下的开源 LLM 指令调优，提供数据 curation、参数配置和评估策略。
2025-09-19ai-engineering2025-09
用 Python 工程化 Tongyi DeepResearch 代理实现多跳推理：工具调用编排与迭代查询细化
指导在 Python 中构建 Tongyi DeepResearch 代理，聚焦多跳推理的工具调用管理和迭代查询优化，适用于复杂研究任务。
2025-09-19ai-systems2025-09
用流水线共识工程用户拥有的微链：分片执行与资源隔离
面向可扩展隐私区块链应用，给出Linera中微链的流水线共识、分片执行和资源隔离的工程参数与实现要点。
2025-09-19systems-engineering2025-09
增强 SQLBot 的 RAG 管道：动态 schema 检索、查询分解与错误反馈循环
通过动态 schema 检索、查询分解和错误反馈机制，提升 SQLBot 在复杂多表查询和聚合场景下的 SQL 生成准确性，给出工程化参数和监控要点。
2025-09-19ai-systems2025-09