使用 FlashAttention 内核实现最先进的线性注意力：长序列 Transformer 的 O(n) 缩放
面向长序列 Transformer，给出 Flash Linear Attention 的高效实现、训练参数和推理优化要点，支持超过 1M tokens 的序列处理。
2025-09-13ai-systems2025-09
Latest Essays
最新见解 · 第 1058 页
继续沿着时间线阅读近期的工程实践与技术观察。
最新见解
近期的思考与工程笔记。
使用 Milvus 云原生分片实现亿级向量数据库的可扩展 ANN 搜索
面向亿级向量数据库，给出 Milvus 云原生分片、混合 HNSW/IVF 索引、实时数据摄入以及容错复制的工程化参数与监控要点。
2025-09-13ai-systems2025-09
用 C/C++ 实现多架构内核：支持 ARM、x86 和 RISC-V 的 SkiftOS 可移植设计
通过 ISA 抽象层和统一引导加载器，SkiftOS 实现多架构内核支持，提供内存、中断和驱动的工程化参数与实现清单。
2025-09-13systems-engineering2025-09
K2-Think 中基于适配器的 PEFT 模块实现：高效 LLM 推理
在 K2-Think 框架中集成适配器-based PEFT 模块，通过低秩适配和任务特定路由优化 LLM 推理，提供工程参数和监控要点。
2025-09-13ai-systems2025-09
使用 FlashAttention 内核实现高效线性注意力模型
基于 Flash Linear Attention 库，探讨优化内核在 Transformer 长序列处理中的应用，提供安装与配置指南。
2025-09-13ai-systems2025-09
使用 FlashAttention 内核实现高效线性注意力：O(n) 长序列 Transformer 训练与推理优化
基于 Flash Linear Attention 库，探讨如何在 GPU 上实现 O(n) 复杂度线性注意力机制，支持多种 SOTA 模型的快速训练和推理。
2025-09-13ai-systems2025-09
实现 Java 25 的异步 CPU 时间分析器：JFR 集成与火焰图可视化
探讨 Java 25 中低开销 CPU 分析，利用 JFR 集成和火焰图可视化高效分析多线程应用瓶颈。
2025-09-13compiler-design2025-09
使用Flash Linear Attention的高效内核实现线性注意力模型
基于Triton优化的Flash Linear Attention内核，帮助Transformer处理长序列，降低内存开销，提供安装与调优指南。
2025-09-13ai-systems2025-09
实现 Plan 9 启发的 Web OS：虚拟命名空间与联合文件系统
基于浏览器实现 Plan 9 风格的 Web OS，利用虚拟命名空间和联合文件系统，支持无服务器状态的分布式应用托管。
2025-09-13application-security2025-09
SkiftOS 中使用 C/C++ 实现可移植多架构引导加载器：ARM、x86 和 RISC-V 的统一引导过程与硬件抽象
面向 ARM、x86 和 RISC-V，SkiftOS 的多架构引导加载器设计，涵盖统一引导、硬件抽象和错误恢复序列的工程实践。
2025-09-13systems-engineering2025-09
在Aris中实现安全的自适应响应生成：儿童教育的安全AI助手
探讨如何在Aris AI中使用过滤LLM、互动测验和家长控制来生成安全、适应性的响应，确保儿童教育无害且引人入胜。
2025-09-13ai-systems2025-09
使用 PyTorch DDP 实现可扩展分布式 ML 训练：EPFL 课程实验洞见
基于 EPFL 机器学习课程实验，探讨 PyTorch DDP 的数据并行、多 GPU 同步和容错梯度聚合的最佳实践与工程参数。
2025-09-13ai-engineering2025-09
Claude 子代理的任务分解与并发执行：并行化复杂代码开发工作流
使用Claude子代理实现任务分解和并发执行，以优化复杂代码开发工作流的管理与共享状态。
2025-09-13ai-systems2025-09
UTF-8 可变长度编码在字符串处理管道中的实现与验证
探讨 UTF-8 的可变长度编码设计及其在字符串处理管道中的实现，提供国际化支持和错误恢复解析的实用参数与清单。
2025-09-13systems-engineering2025-09
在网络文件系统中集成 dm-cache 实现 SSD 分层加速：缓存一致性、预取启发式与带宽优化
通过 device-mapper 的 dm-cache 在 NFS 等网络文件系统中引入 SSD 缓存，分析缓存一致性维护、预取策略及带宽降低的工程参数与实践。
2025-09-13systems-engineering2025-09
Chatbox 中集成本地 LLM：离线推理与多模型无缝切换
通过 Chatbox 集成 Ollama 等本地 LLM，实现跨平台离线 AI 聊天，支持多模型切换与 UI 优化。
2025-09-13ai-systems2025-09
Integrating Multiple AI Models in Genkit: Code Patterns with Observability
Using Genkit to integrate various AI models and platforms, leveraging code-centric patterns and built-in observability for scalable development.
2025-09-13ai-systems2025-09
Kefir：独立实现的C17/C23编译器验证与工程实践
探讨Kefir编译器如何通过solo开发实现C17/C23标准合规，包括AST解析、广泛验证套件以及生成可移植二进制文件的代码生成策略。
2025-09-13compiler-design2025-09
通过 Kyverno CRD 实现 Kubernetes 策略准入控制：动态生成网络策略
利用 Kyverno 的 CRD 机制，通过 validate、mutate 和 generate 规则实现资源变异、配置验证以及无代理动态网络策略生成，确保 Kubernetes 集群安全合规。
2025-09-13ai-security2025-09
Vectroid 中亿级向量内存高效索引：48MB 紧凑结构
探讨 Vectroid 如何使用紧凑结构在 48MB 内索引 1B 向量，实现资源受限 AI 系统的快速 ANN 搜索。
2025-09-13ai-systems2025-09