使用 Perplexica 和 Ollama 构建隐私优先的本地 RAG 搜索引擎
基于开源 Perplexica，利用 TypeScript 和本地 Ollama LLM 集成 RAG，实现无云依赖的隐私搜索引擎部署。
2025-09-16ai-systems2025-09
Latest Essays
最新见解 · 第 1045 页
继续沿着时间线阅读近期的工程实践与技术观察。
最新见解
近期的思考与工程笔记。
用纯 Rust 在 no_std 嵌入式环境中构建 Transformer LLM：自定义分词、内存高效注意力及无分配推理
针对 IoT 边缘 AI，介绍 no_std Rust 下 Transformer LLM 的自定义分词、固定内存注意力机制，以及无动态分配的推理优化要点。
2025-09-16ai-systems2025-09
用不到65行C++代码构建类型安全的字符串格式化器
通过模板元编程实现编译时格式字符串验证和高效运行时插值的类型安全格式化库，无需外部依赖。
2025-09-16compiler-design2025-09
De-Googled Linux Phones: Sandbox Isolation and Hardware Kill Switches for Verifiable Privacy
在Linux手机OS中集成沙箱隔离、硬件杀开关和审计内核，实现de-Googled隐私保护的工程指南。
2025-09-16systems-engineering2025-09
Debian Sarge 遗留系统升级策略：依赖解析、包重建与兼容垫片
针对 Debian 3.1 Sarge 系统迁移到现代发行版，提供依赖管理、包重建和兼容支持的工程实践，确保数据完整无损。
2025-09-16systems-engineering2025-09
DeepCode：多代理框架下论文到代码转换、Text2Web UI 生成与 Text2Backend API 实现
通过 DeepCode 的多代理 LLM 协调框架，实现论文到代码的自动化转换，以及 Text2Web 前端和 Text2Backend 后端的工程化参数与落地实践。
2025-09-16ai-systems2025-09
边缘设备部署 PaddleOCR：多语言文本识别与文档解析的低延迟量化优化
在边缘设备上部署PaddleOCR，实现多语言OCR与文档解析的低延迟推理，通过模型量化提供工程参数与监控要点。
2025-09-16ai-systems2025-09
使用 pyproc 通过 UDS 实现 Go 与 Python 的高效互操作：无 CGO 的函数调用
pyproc 利用 Unix Domain Sockets 让 Go 直接调用 Python 函数，避免 CGO 和微服务开销。支持 ML 推理和数据处理，提供连接池和并行 worker 以绕过 GIL。
2025-09-16systems-engineering2025-09
利用 MLX-LM 在 Apple Silicon 上高效运行 LLM：推理、微调与优化
基于 MLX 框架，详述 Apple Silicon 上 LLM 的加载、推理加速、LoRA 微调集成及内存管理参数，实现低延迟文本生成。
2025-09-16ai-systems2025-09
使用 Pyproc 实现无 CGO 的高效 Python-Go 互操作
探讨如何通过 Unix 域套接字在 Go 服务中嵌入 Python 运行时，实现直接函数调用，避免 CGO 和微服务的开销。
2025-09-16systems-engineering2025-09
工程化 Gemini 项目档案图像修复管道：噪声减少、颜色校正与 AI 上采样
面向 1960 年代太空档案照片，给出噪声减少、颜色校正和 AI 上采样工程化管道的参数与历史保真度监控要点。
2025-09-16ai-systems2025-09
工程化 LLM 友好型网络爬虫：语义分块与结构化提取优化 RAG 管道
利用 Crawl4AI 实现语义分块和结构化提取，提升网络爬取数据在 RAG 管道中的预处理效率，提供工程参数和监控要点。
2025-09-16ai-systems2025-09
基于 GE2E-Tacotron2-WaveRNN 的低延迟实时语音克隆工程实践
从 5 秒音频样本实现实时语音克隆的工程 pipeline：GE2E 编码、Tacotron2 生成与 WaveRNN 合成。
2025-09-16ai-systems2025-09
使用 Rust 固件工程化低功耗 CubeSat 负载：轨道传感器数据采集与下行遥测协议
针对低功耗 CubeSat 负载，探讨 Rust 固件在轨道传感器数据采集与下行遥测协议的工程实践，包括协议优化与电源管理参数。
2025-09-16systems-engineering2025-09
工程多代理LLM框架：实时市场分析与自动化交易执行
基于 ai-hedge-fund 项目，探讨多代理 LLM 系统在金融交易中的工程实践，包括并行协调、风险评估与执行参数配置。
2025-09-16ai-systems2025-09
工程化 PowerShell Core：跨 Windows、Linux 和 macOS 的统一脚本自动化
探讨 PowerShell Core 在多平台下的工程实践，包括模块兼容、管道优化，以及 DevOps 工作流的落地参数和监控要点。
2025-09-16systems-engineering2025-09
基于系统卡附加的GPT-5-Codex工程化生产保障：安全评估、偏见缓解与可靠代码合成
基于GPT-5-Codex系统卡附加，阐述工程化生产保障，包括安全评估框架、偏见缓解机制及可靠代码合成管道的参数与监控要点。
2025-09-16ai-systems2025-09
工程运行时检测与安全依赖扫描：缓解 Tinycolor NPM 供应链攻击
针对 Tinycolor NPM 包供应链妥协事件，介绍构建运行时检测和依赖扫描管道的工程实践，覆盖 40 个受影响包的缓解策略。
2025-09-16ai-security2025-09
工程化自传播 NPM 恶意软件注入链路追踪与沙箱隔离
针对自传播 NPM 恶意软件，介绍注入链路追踪技术、沙箱隔离策略，以及供应链实时审计和自动回滚的工程实现。
2025-09-16ai-security2025-09
工程化顶层规划代理：分层多代理任务分解
探讨如何设计顶层规划代理，将复杂任务分解为子任务，分配给专属下层代理，实现研究和通用AI工作流中的高效多代理协调。
2025-09-16ai-systems2025-09