TPU脉动阵列对比GPU张量核：HBM效率与Google长期AI训练路径
对比TPU systolic array与GPU tensor cores在HBM带宽与功率效率的优势，剖析Google长期AI训练的工程参数与扩展策略。
2025-11-27ai-systems2025-11
Latest Essays
最新见解 · 第 715 页
继续沿着时间线阅读近期的工程实践与技术观察。
最新见解
近期的思考与工程笔记。
TPU 脉动阵列与 HBM 带宽对比 GPU 张量核：稠密矩阵乘法与动态负载下的能效扩展
剖析 TPU 脉动阵列在稠密矩阵乘法中的 HBM 带宽利用与能效优势，对比 GPU 张量核在动态负载下的灵活性与长期训练热功耗挑战，提供集群参数与监控清单。
2025-11-27ai-systems2025-11
单一 Git 仓库 + LFS 分发 59k 中国教材 PDF：高效克隆与镜像加速实践
剖析 ChinaTextbook 项目用单一 Git + LFS 分发超 40GB PDF 教材的技术细节，包括 delta 克隆优化、全球镜像加速及落地参数，避免 HTTP 分发瓶颈。
2025-11-27systems-engineering2025-11
ADK-Go 零依赖运行时：无 Shim 工具调用与并发 Context 缓存
Go 代码优先的零依赖 AI 代理运行时，实现 shimless 工具调用与并发 context 缓存，支持多代理低延迟协调的参数配置。
2025-11-27ai-systems2025-11
通过 n8n 节点图编排容错代理式 AI 流水线：LLM 链式、条件分支、重试逻辑与凭证隔离
利用 n8n 可视化节点图构建生产级代理式 AI 流水线，详解 LLM 链式调用、API 编排、条件分支、重试机制及凭证隔离的最佳参数与监控要点。
2025-11-27ai-systems2025-11
LM辅助编码：本质与事故复杂性的工程平衡
工程化LM辅助编码实践：平衡本质复杂性（形式正确性验证）与事故复杂性（实用迭代部署、错误容忍），提供工具链集成、参数配置与监控框架。
2025-11-27ai-systems2025-11
LightRAG 双图实体关系索引与查询融合：简易低资源 RAG 实现
LightRAG 通过双图索引、查询融合与 chunk 参数优化，实现低资源高效 RAG，结合蒸馏技术超越稠密检索基线。
2025-11-27ai-systems2025-11
工程化GPL许可证在AI模型训练/蒸馏链路中的传播检测：token注入追踪、合规模型过滤与自动化审计管道
面向AI模型训练与蒸馏链路，给出GPL许可证传播检测的token注入追踪、合规模型过滤及自动化审计管道的具体工程参数与监控要点。
2025-11-27ai-security2025-11
训练时令牌注入实现 GPL 许可元数据嵌入 AI 模型权重：蒸馏传播检查与合规审计
针对 GPL copyleft 在 AI 模型训练中的传播不确定性，提出通过训练时特殊令牌注入嵌入可验证许可元数据的技术方案，实现蒸馏传播检查与合规审计机制。
2025-11-27ai-systems2025-11
NVM 无竞态并发 Shim 实现：POSIX 符号链接隔离与共享缓存
详解 nvm 在 POSIX 环境下通过 shim 机制实现并发 Node 版本安装与切换的无竞态设计，包括符号链接隔离、共享缓存参数与监控要点。
2025-11-27systems-engineering2025-11
攻克 AI 代理工程陷阱：稳健规划循环、可靠工具调用与持久状态管理
针对 AI 代理设计核心痛点，提供规划循环、工具调用及状态管理的工程参数、阈值与监控清单，实现生产级可靠性。
2025-11-27ai-systems2025-11
Linux内核结构体交互式导航：逆向工程可视化与指针追逐
reverser.dev启发的内核struct交互工具，提供布局可视化、指针追逐、搜索，提升逆向工程工作流。详解机制、参数清单与监控要点。
2025-11-27systems-engineering2025-11
Penpot实时SVG多用户协作：基于CRDT的无冲突形状编辑实现
基于Penpot的SVG设计场景，解析CRDT在多用户实时形状编辑、层级管理和原型交互中的工程参数与落地清单，确保零冲突同步与代码导出。
2025-11-27application-security2025-11
通过 Azure /call API 工程化 AI Agent 主动拨打电话
利用 Microsoft Call Center AI 的 /call API 派遣 AI agent 主动拨出电话，支持 GPT-4o-mini 流式语音、RAG 检索、中断感知工具调用，实现呼叫中心 outbound 自动化。
2025-11-27ai-systems2025-11
Coq：世界上最好的宏汇编器——宏汇编IR形式化与验证
形式化宏汇编器中间表示（IR）语义，实现扩展/收缩过程验证，证明双向等价，并提取OCaml检查器，提供卫生宏处理的工程参数。
2025-11-27compiler-design2025-11
Fara-7B LoRA 高效微调：屏幕解析到动作执行的低延迟代理管道
基于Fara-7B的LoRA微调方案，实现屏幕截图解析、动作预测与执行的工程化优化，提供参数配置、训练清单与低延迟推理要点。
2025-11-27ai-systems2025-11
Tracy 剖析器无锁环形缓冲区采样设计
剖析Tracy profiler中lock-free ring buffer的设计，用于多线程低开销采样，支持user zones和并发捕获，提供工程参数与监控要点。
2025-11-27systems-engineering2025-11
VERL中多GPU数据并行KL正则化PPO：可扩展离线RLHF偏好排名蒸馏实现
VERL框架下，利用FSDP实现多GPU数据并行KL-PPO，支持离线RLHF偏好排名蒸馏。详解配置参数、3D-HybridEngine优化与监控要点，确保高效训练大模型对齐。
2025-11-27ai-systems2025-11
高阶逻辑证明器中的血管计算形式化：验证宏展开与计算模型
面向血管计算原则的形式化，给出HOL证明器中宏展开验证与计算模型的类型定义、重写规则与证明策略清单。
2025-11-27compiler-design2025-11
LightRAG 双图查询融合：低资源环境下的快速检索
LightRAG 通过实体-关系双图与 hybrid 查询融合，实现低资源 RAG 的 chunk 阈值优化、边提炼与快速检索参数。
2025-11-27ai-systems2025-11