使用 Sherpa-ONNX 在边缘设备上构建实时说话人分割管道
面向噪声音频的多说话人场景，给出 Sherpa-ONNX 实时说话人 diarization 管道的低延迟 VAD 集成、参数优化与监控要点。
2025-10-23ai-systems2025-10
Latest Essays
最新见解 · 第 871 页
继续沿着时间线阅读近期的工程实践与技术观察。
最新见解
近期的思考与工程笔记。
Monarch 矩阵实现：块对角与低秩分解用于高效线性变换
通过块对角加低秩分解实现 Monarch 矩阵，用于 ML 模型的参数高效线性变换，减少 FLOPs 和内存，支持边缘设备 Transformer 训练。
2025-10-23ai-systems2025-10
使用 ONNX Runtime Web、Yjs 和无锁入同步工程化离线 AI 笔记本
探讨在 AI 笔记本中实现离线推理，使用 ONNX Runtime Web 运行本地模型，Yjs 基于 CRDT 的实时协作，以及无缝本地-云同步策略，避免供应商锁入。
2025-10-23ai-systems2025-10
在 D 语言中实现高效 ASN.1 解析与代码生成：嵌入式序列化与 BER/DER 支持
探讨在 D 语言中构建 ASN.1 解析器和代码生成器，实现低开销嵌入式序列化，支持 BER 和 DER 编码规则的关键技术和参数配置。
2025-10-23compiler-design2025-10
Sherpa-ONNX 源分离与 VAD 在嵌入式系统中的实时多说话人解纠缠实现
面向实时嵌入式系统，给出 Sherpa-ONNX 源分离、VAD 与低延迟梁形成集成的工程参数、监控要点及实施清单。
2025-10-23ai-systems2025-10
Transformer 中蝴蝶因子分解用于低秩注意力近似
探讨在Transformer中使用蝴蝶结构矩阵近似低秩注意力，实现大模型在消费级GPU上的内存优化训练，提供工程参数与实现要点。
2025-10-23ai-systems2025-10
利用 scikit-opt 的 GA 和 PSO 在分布式 ML 中进行超参数调优和特征选择
在分布式机器学习工作流中，利用 scikit-opt 的遗传算法和粒子群优化算法实现高效超参数调优和特征选择，关注收敛速度与解多样性，提供工程化参数和集成策略。
2025-10-23ai-engineering2025-10
Willow 芯片中表面码可扩展逻辑量子比特网格工程
基于 Willow 量子芯片，探讨使用表面码从 3x3 到 7x7 阵列动态缩放逻辑量子比特的工程实践，提供容错参数、实时解码要点与监控清单。
2025-10-23systems-engineering2025-10
从零实现 CSS 布局引擎：Ladybird 的 Flexbox 支持与 LibWeb 集成
面向独立浏览器开发，给出 Ladybird 中 CSS 布局引擎的 Flexbox 实现与 LibWeb 集成的工程化参数与要点。
2025-10-23application-security2025-10
使用 TorchForge 构建 PyTorch 原生后训练优化流水线：量化、校准与分布式部署
利用 TorchForge 在分布式环境中构建 PyTorch 原生后训练量化、校准和部署优化流水线，给出关键参数与实践指南。
2025-10-23ai-engineering2025-10
Paperless-ngx 中工程化可扩展 OCR 摄入管道
在 Paperless-ngx 中，利用 Tesseract 集成构建可扩展的 OCR 摄入管道，结合 ML 分类和 Elasticsearch 搜索，实现高效的自托管文档归档与检索。
2025-10-23systems-engineering2025-10
在 PyTorch 中集成 Monarch 矩阵：Transformer 的结构化低秩近似优化
探讨 Monarch 矩阵在 PyTorch 中的集成，用于 Transformer 的结构化低秩近似，优化大型模型训练的内存和计算效率，同时最小化准确性损失。
2025-10-23ai-systems2025-10
实现小于零的极简资源编程：超约束环境优化
探讨在极度资源受限环境中实现功能的最小化编程技术，借鉴Josh Moody的方法，实现子千字节占用和零额外分配。
2025-10-23systems-engineering2025-10
分布式仿真平台设计：内存计算系统中的低延迟同步与神经形态硬件模拟
探讨为内存计算系统设计分布式仿真平台的工程方案，聚焦低延迟节点间同步、故障注入机制及神经形态硬件的可扩展模拟，提供实用参数与监控要点。
2025-10-23systems-engineering2025-10
利用体内射频能量为可穿戴设备供电的工程实践
探讨 intra-body RF 传播通道的低损耗设计，用于体导能量采集，支持全身体传感器网络的最小化电池方案。
2025-10-23systems-engineering2025-10
浏览器中集成 Fish Speech 与 SSE 实现实时多语言 TTS 流式输出
将 Fish Speech 扩散模型与 SSE 结合，在浏览器环境中实现低延迟多语言 TTS 流式合成，支持部分音频处理和连接重连。
2025-10-23ai-systems2025-10
使用 Lengauer-Tarjan 算法高效构建支配树：为 SSA 形式插入提供精确支持
介绍 Lengauer-Tarjan 算法在编译器中高效构建支配树的过程，支持 SSA 形式的 phi 函数放置，实现大规模控制流图的可扩展数据流分析。
2025-10-23compiler-design2025-10
使用 Cuq 中的符号执行检测 Rust GPU 内核中的竞态条件
利用 Cuq 框架的符号执行技术，验证 Rust GPU 内核共享内存访问模式的竞态条件，确保无运行时开销的并行安全。
2025-10-23systems-engineering2025-10
构建电子书到有声书管道：零-shot语音克隆与多语言支持
基于ebook2audiobook，介绍零-shot语音克隆、多语言TTS管道的构建，包含语调转移、多说话者混合的参数配置与优化要点。
2025-10-23ai-systems2025-10
将 MIT 许可的 VST3 插件集成到跨平台宿主：实现低延迟模块化音频处理链
探讨如何将 MIT 许可的 VST3 音频插件集成到跨平台宿主中，支持模块化实时处理链、低延迟桥接和插件沙箱化，避免专有限制，提供工程参数和最佳实践。
2025-10-23systems-engineering2025-10