在嵌入式设备上部署 Sherpa-ONNX 实现多语言离线 STT
探讨在 Raspberry Pi、iOS 和 Android 等嵌入式设备上使用 Sherpa-ONNX 部署离线多语言语音转文本，支持说话者分离和 VAD，提供工程化参数与优化要点。
2025-10-22ai-systems2025-10
Latest Essays
最新见解 · 第 880 页
继续沿着时间线阅读近期的工程实践与技术观察。
最新见解
近期的思考与工程笔记。
LLM 脑腐：低质量训练数据导致性能衰退及选择性再训练缓解策略
探讨 LLM 训练数据质量诱发的脑腐现象，并给出选择性再训练的工程参数与风险监控。
2025-10-22ai-systems2025-10
从线程每核模型到异步运行时的演进：针对 I/O 密集型负载的 Rust 和 Go 实践
面向 I/O 密集型工作负载，给出从 thread-per-core 向 async runtimes 迁移的工程参数与监控要点。
2025-10-22systems-engineering2025-10
使用Katakate、Kata Containers和Firecracker实现高密度VM沙箱
面向多租户沙箱，探讨Katakate在Kubernetes中利用Kata和Firecracker的高密度VM部署策略与性能优化参数。
2025-10-22systems-engineering2025-10
在NVIDIA上暴力部署DeepSeek-OCR：Claude代码生成优化GPU推理，实现边缘实时OCR
利用brute-force超参数调优和Claude AI辅助编码，在NVIDIA GPU上部署DeepSeek-OCR，实现高效文档解析。提供优化参数、监控要点，适用于边缘硬件实时OCR场景。
2025-10-22ai-systems2025-10
GPU优先操作系统轻量Bootloader：CUDA初始化
开发面向GPU-first OS的轻量bootloader和kernel stub，实现直接CUDA设备枚举与内存映射，无需传统CPU OS层。
2025-10-22systems-engineering2025-10
在 Skyvern 中集成 YOLO 实现实时 UI 元素检测
在 Skyvern 浏览器自动化框架中集成 YOLO 模型，用于从截图实时检测 UI 元素，支持 LLM 驱动的动作选择，适用于动态网站自动化。
2025-10-22ai-systems2025-10
Bilinearlabs Rust Merkle 树库中的高性能批量证明验证实现
面向区块链数据完整性检查，在 Bilinearlabs 的 rs-merkle-tree 库中实现高性能批量证明生成与并行验证的工程参数与优化要点。
2025-10-22systems-engineering2025-10
使用 Sherpa-ONNX 工程化离线语音到文本管道：说话者分离、增强与 VAD
探讨如何利用 Sherpa-ONNX 在嵌入式系统、移动设备和服务器上构建离线 STT、说话者分离、语音增强和 VAD 管道，提供关键参数和部署指南。
2025-10-22ai-systems2025-10
iOS 锁定模式中行为启发式与 ML 异常检测的实现：针对高风险用户的实时政府间谍软件警报
面向高风险用户，在 iOS 锁定模式下集成行为启发式和机器学习异常检测，实现对国家赞助间谍软件的实时警报与响应工程化。
2025-10-22ai-security2025-10
端到端电子书合成管道：解析、克隆与多语言TTS集成
工程化Python工作流，实现电子书解析、章节分割、零-shot语音克隆及多说话人TTS集成，离线生成1100+语言自然有声书。
2025-10-22ai-systems2025-10
从零构建最小关系型数据库：B树索引、WAL日志与查询解析器
从头实现一个简单关系型数据库的核心组件，包括B树索引用于高效数据检索、WAL日志保障事务持久性，以及查询解析器处理基本SQL语句。
2025-10-22systems-engineering2025-10
Hugging Face Chat UI：模块化 SvelteKit 多 LLM 前端工程实践
基于 SvelteKit 的 Hugging Face Chat UI，支持多模型流式对话、用户认证和插件扩展，提供工程化参数和集成指南。
2025-10-22application-security2025-10
二元RAG奖励模型在幻觉缓解中的应用
将二元检索增强机制集成到奖励模型中，用于LLM生成管道中的精确幻觉检测与缓解，提供工程参数与监控要点。
2025-10-22ai-systems2025-10
在 Servo 中使用 Rayon 实现并行 CSS 布局并集成 WebGPU
探讨 Servo 引擎中 Rayon 并行 CSS 布局与 WebGPU GPU 加速的工程实践，包括参数配置与监控要点。
2025-10-22application-security2025-10
仿真器驱动的 JIT 引擎：执行非执行内存以规避 NX 保护
探讨如何构建基于仿真器的 JIT 引擎，从只读内存加载并执行代码，通过内存映射和动态反汇编技巧规避 NX 保护，用于安全测试场景。
2025-10-22ai-security2025-10
Kubernetes 高密度多 VM 编排：Kata Containers 与 Firecracker 实践
利用 Kata Containers 和 Firecracker 在 Kubernetes 中实现每个节点数十个安全隔离 VM 的编排，优化代码执行沙箱的安全性和效率。
2025-10-22systems-engineering2025-10
工程化可审计开源投票系统
探讨 VotingWorks VxSuite 如何通过开源组件构建防篡改投票栈，实现选举完整性和公共透明。焦点在可验证纸质选票、风险限制审计的工程参数与实践。
2025-10-22ai-security2025-10
工程化 Clink CLI 代理的模块化流水线：即时部署与生产集成
Clink 通过 CLI AI agents 实现自定义代理的即时生产部署，提供 modular pipelines 支持 runtime execution 和开发者工作流无缝集成。
2025-10-22ai-systems2025-10
CVD 钻石薄膜在 AI 芯片冷却中的热扩散应用：处理 1kW+ 功率密度
面向 AI 芯片let 的高功率密度，介绍 CVD 钻石薄膜的集成策略与参数，实现高效热扩散与热点缓解。
2025-10-22systems-engineering2025-10