用 Rust 打造本地优先的插件化 AI Agent:Goose 架构与实战
本地安装、执行、编辑与测试的 Rust 插件化 AI Agent,支持任意 LLM 后端,给出可落地的冷启动参数与扩展开发清单。
Latest Essays
继续沿着时间线阅读近期的工程实践与技术观察。
近期的思考与工程笔记。
本地安装、执行、编辑与测试的 Rust 插件化 AI Agent,支持任意 LLM 后端,给出可落地的冷启动参数与扩展开发清单。
面向多模型流式输出,给出 SSE 连接管理与断线续传的工程化参数与监控要点。
在内核侧反向实现 FRL 链路训练与 DSC 解压,绕过封闭 HDMI 2.1 spec 实现 4K120/8K 满血输出。
在骁龙 8 Gen2 开发板上实测 Qwen3-Omni-3B-INT4,从 patch 切片、交叉注意力提前退出到 token budget,给出可复现的端到端延迟公式与调优清单。
从 Thinker-Talker 架构到 INT4 量化,拆解阿里开源全模态模型在边缘节点跑出 200 ms 级首 token 的完整工程参数与踩坑笔记。
从异步 chunked prefill 到左上下文多码本,逐帧还原阿里 Qwen3-Omni-Flash 在端侧实现 234 ms 首 Token 的完整优化路径与可直接落地的参数清单。
用单一模板 vec<T,N> 实现编译期精度推导与向量优化,零开销支持混合精度,避免手动 intrinsic 样板代码。
用单层数组+偏移编码替代传统指针树,彻底消除序列化开销并提升遍历缓存命中率,给出可直接落地的对齐、子节点上限与重建阈值参数。
claude-mem 通过 5 个生命周期钩子实时捕获工具输出,用 Claude 自生成 500 token 观察,实现 95 % 压缩率与渐进披露,支撑 20× 工具调用寿命。
介绍 Kernel Float 如何借助单一 vec<T,N> 模板与编译期决策,在同一 CUDA kernel 内自动完成 warp 级精度切换,实现 H100 上 1.4× 性能提升且误差 <1e-5,并给出可落地的寄存器分配与监控参数。
拆解 Qwen3-Omni-Flash 如何在单一模型内完成文本、图像、音频、视频的原生融合,给出可落地的延迟、显存、并发与量化参数。
Rust for Linux 摘掉实验标签后,给出启用 CONFIG_RUST 的完整构建流程、模块迁移清单与性能对比数据,帮助开发者快速上手并评估收益。
Linux 6.18 LTS 将摘掉 Rust 的实验标签,本文给出可落地的 ABI 稳定策略、驱动移植步骤与生产环境 checklist。
Linux 6.14 起,Rust 内核代码可完全用 stable 工具链编译。本文聚焦稳定分配器两大接口 kallocator 与 bumpalo 的权衡、实测数据及热升级限制,给出可落地的参数与监控要点。
在 Office 经典版仍占企业七成份额的 2025 年,用 Rust 写 COM 加载项能把崩溃率从 0.4‰ 降到 0.05‰,同时驻留内存 <2MB。本文给出可落地的 repr(C)+stdcall 骨架与 4 条性能红线,让你避开 LoadBehavior=2 的死亡回滚。
Outlook 32 位进程地址空间翻倍后,Rust COM 加载项如何避开高地址误判、引用计数循环与 4-Crash 拉黑机制。
Rust 代码正式移出实验分支,首批内核模块合入主线:构建工具链参数、ABI 兼容规则与最小 misc 驱动实战。
从 Linux 6.14 起,Rust 不再是‘实验品’。本文给出可落地的 ABI 边界锁定方法与 PREEMPT_RT 硬实时约束清单,帮助你在第一个 LTS 周期内安全交付 Rust 驱动。
深入 Goose 的 MCP 插件机制、多模型混调与本地安全沙箱,给出可落地的 6 步上线清单与 Docker-Compose 模板。
拆解 kmod 加载流程与 DKLM 新机制,给出 25 ms 级热替换实测数据,附 unsafe 审查与回滚清单。