Anadim 进位传播标记化:最小 Transformer 实现 10 位加法
通过零填充与输出反转的标记化策略,小型 Transformer 无需显式溢出逻辑即可处理 10 位加法,提供模型参数、训练阈值与复现清单。
Latest Essays
继续沿着时间线阅读近期的工程实践与技术观察。
近期的思考与工程笔记。
通过零填充与输出反转的标记化策略,小型 Transformer 无需显式溢出逻辑即可处理 10 位加法,提供模型参数、训练阈值与复现清单。
利用 PaddlePaddle Fleet 通过参数服务器、环形 AllReduce、管道并行及算子融合,实现工业级多节点 GPU 训练,支持异构设备的工程参数配置与监控要点。
基于 X-PLUG MobileAgent,实现移动端分层 GUI 代理的核心组件,包括屏幕解析、任务分解、动作预测、多轮交互的工程参数、监控要点与落地清单。
详解 datagouv-mcp 项目,通过 MCP 协议实现 AI 聊天机器人对法国国家开放数据平台的语义搜索、数据集探索与分析,提供工具参数、部署清单与客户端集成指南。
工程化本地 IDE 管理 Claude Code/Codex 等代理军队:工作区隔离、模型切换、工具执行与运行时编排的参数配置与落地清单。
用属性基模糊测试生成随机Toy IR程序,运行解释器比较优化前后堆状态,捕获load/store优化bug,提供生成参数、不变量与CI集成要点。
从随机序列池体外进化出的45nt QT45核酶聚合酶,能在eutectic冰条件下利用三核苷酸底物实现互补链与自身拷贝合成,给出工程参数与优化策略。
Unsloth Dynamic 2.0 GGUFs 通过每层智能量化选择,实现LLM在异构硬件上的高效推理,详解阈值自适应、offload参数与格式转换实践。
macOS 菜单栏应用 CodexBar,无需登录实时监控 OpenAI Codex、Claude 等多 LLM 提供商的 token 限额、会话统计与重置时间,支持 CLI 成本扫描。
Unsloth Dynamic 2.0 GGUFs 通过每层异构量化实现近全精度的高效本地 LLM 推理,提供部署参数、监控阈值与优化清单。
针对黑盒NN,通过API批量查询设计高效输入序列,并采用数值稳定梯度近似迭代恢复层权重,实现低查询成本的结构解析与参数重建。
剖析 RuVector 高性能向量图 NN DB 的实时自学习机制,聚焦在线梯度更新阈值、动态图采样启发式及嵌入适应参数,实现低延迟推理工程化。
通过 bootc 集成 OSTree,从 OCI registry pull 更新,实现 Podman 工作流下的原子 Linux 部署与零停机滚动升级的工程参数与实践。
利用轮胎气压监测系统(TPMS)的 RSSI 信号,通过多边测量、多普勒滤波和状态估计实现无 GPS 依赖的车辆速度与轨迹推断,提供部署参数、滤波阈值与监控清单。
在异构系统中嵌入 Rust 性能模块,提供最小 FFI 设计参数、借用安全清单与零停机升级策略。
基于 Moonshine Voice 纯 C 流式 ASR,剖析 ARM NEON 定点优化与 CTC 解码调参,实现边缘设备端到端延迟低于 100ms 的工程实践。
在多语言混合系统中实用使用Rust,通过FFI无缝集成、Cargo构建工具链协作,以及借用检查器实现零成本高性能优化,无需完整重写现有代码。
OpenSandbox 通过多语言 SDK 提供统一的沙箱 API,支持 Docker 和 K8s 运行时,实现 coding/GUI agents 和 RL 训练的隔离执行与资源调度要点。
通过沙箱执行、持久记忆与工具/技能调度,DeerFlow 实现多代理对复杂多小时研究、编码、创作任务的自主编排。
Superpowers 通过自动触发的代理技能框架,实现从需求 brainstorm 到分支合并的全开发流程,强调 subagent 协作、TDD 与系统化 review,提供生产级参数与监控清单。