Triton内核命名嵌入Cutlass：自动调用FP8 Tensor Core GEMM路径，实现LLM多头注意力100 TFLOPS加速
介绍Triton中通过内核命名trick自动调用CUTLASS优化的FP8 GEMM路径，无需代码修改即可在LLM serving的多头注意力中获得100 TFLOPS加速，提供工程化参数和落地清单。
2025-10-04ai-systems2025-10
Latest Essays
最新见解 · 第 969 页
继续沿着时间线阅读近期的工程实践与技术观察。
最新见解
近期的思考与工程笔记。
使用 Zig 移植 macOS 热键守护进程：高效事件拦截与低延迟输入处理
探讨将 macOS 热键守护进程移植到 Zig 语言，实现内存安全的并发和全局快捷键管理，提供工程化参数和监控要点。
2025-10-04systems-engineering2025-10
在 Tunix 中集成 Flax 构建自定义 LLM 层
利用 Flax 在 Tunix 的 JAX 原生后训练管道中构建自定义 LLM 层，实现模块化模型扩展，提供工程化参数与监控要点。
2025-10-04ai-systems2025-10
Python中显式惰性导入工程实践：PEP 810优化启动时间
探讨PEP 810提出的显式惰性导入语法，在模块化应用中实现运行时属性访问触发导入，优化冷启动性能，并给出工程落地参数与清单。
2025-10-04compiler-design2025-10
Kotlin 实现 AB Download Manager 的分段多线程下载：动态分配与断点续传
基于 Kotlin 和 OkHttp 的分段多线程下载机制，探讨动态线程分配、断点续传与网络中断处理的工程参数与监控要点。
2025-10-04systems-engineering2025-10
实现弱测量协议与低温放大用于量子相干性非破坏检测
在小量子系统中，通过弱测量协议结合低温放大，实现叠加态的非破坏量化，适用于量子计算验证与监控。
2025-10-04systems-engineering2025-10
Rust 异步编程中的取消语义：协作取消与 select! 宏扩展
探讨 Rust 异步任务取消机制，包括 Future 丢弃的中断、select! 宏的并发与安全，以及 CancellationToken 的协作式取消，提供参数与实践要点。
2025-10-04systems-engineering2025-10
Nextcloud 中 PHP 实现的 chunked 可恢复上传与端到端加密工程实践
基于 PHP 和 SabreDAV，探讨 Nextcloud 大文件分块可恢复上传机制，并集成端到端加密的工程参数与监控要点。
2025-10-04systems-engineering2025-10
在 Airweave 中工程化模块化 LLM Agents：跨应用 API 搜索的动态链式、重试与错误恢复
利用 Airweave 构建模块化 LLM agents，实现跨应用动态 API 链式调用，聚焦自适应重试机制与错误恢复策略，确保生产部署可靠性。
2025-10-04ai-systems2025-10
Airweave 中的动态工具发现与自适应查询
在 Airweave 中利用 MCP 协议构建可扩展 LLM agents，实现动态 API 工具发现和查询适应，支持跨应用的无缝搜索集成。
2025-10-04ai-systems2025-10
工程化可扩展的自托管照片视频管理：Immich ML 自动标签、面部识别与重复检测
基于 Immich 框架，探讨 ML 驱动的媒体组织工程实践，包括自动标签生成、面部聚类与重复检测的可扩展配置。
2025-10-04ai-systems2025-10
用 COBOL 实现最小化 HTTP/1.1 静态文件服务器：Webbol 项目工程实践
探讨 Webbol 项目如何使用 COBOL 通过 sockets 实现静态文件服务，包括请求解析、MIME 类型检测和安全参数配置，提供可落地的工程化要点。
2025-10-04application-security2025-10
Glide 浏览器：键盘导向的可扩展架构
Glide 浏览器通过键盘导航和 TypeScript 配置实现模块化扩展，提供高效的浏览体验，基于 Firefox 引擎的工程实践要点。
2025-10-04application-security2025-10
使用 ViT 模型实现图像数学公式到 LaTeX 转换
基于 ViT 的公式 OCR 系统，支持手写与印刷公式解析，fine-tuning 于 Im2LaTeX 数据集，实现 80%+ 符号检测准确率。
2025-10-04ai-systems2025-10
使用异步 Rust FSM 构建可靠的支付处理系统
基于 Hyperswitch，探讨异步 Rust 有限状态机在支付连接器编排中的应用，以及断路器与指数退避的容错参数配置。
2025-10-04systems-engineering2025-10
Unity 运行时安全反序列化：输入验证、沙箱与类型白名单防止 RCE 漏洞
针对 Unity 运行时 YAML/JSON 反序列化 RCE 漏洞，提供输入验证、沙箱隔离及类型白名单的工程化实现参数与监控要点。
2025-10-04ai-security2025-10
Litestream：SQLite WAL 到 S3 的连续复制工程实践
基于 Litestream v0.5.0，实现零配置的 SQLite WAL 流式复制到 S3，处理复制滞后与快照一致性，提供 resilient 本地数据库备份的关键参数与监控要点。
2025-10-04systems-engineering2025-10
使用 Maia ASIC 逐步替换 Azure 中的 AMD/Nvidia GPU：工程策略与优化参数
基于 CTO 愿景，分析 Maia ASIC 在 Azure AI 训练中的替换策略，包括经济模型、 rollout 清单和集成参数。
2025-10-04ai-systems2025-10
为Azure规模LLM训练/推理工程化Maia ASIC
面向Azure规模LLM工作负载，优化Maia ASIC的张量核心、HBM集成与自定义ND fabric，实现100x效率提升的工程参数与监控要点。
2025-10-03ai-systems2025-10
使用 libp2p 实现 Radicle 的 P2P Git 协作：去中心化代码审查与同步
Radicle 通过 libp2p 网络实现 Git 对象交换，支持无服务器的代码审查、forking 和历史同步。文章探讨工程参数、离线协作要点及监控策略，确保高效去中心化开发。
2025-10-03systems-engineering2025-10