在 Raspberry Pi 上部署 1-bit LLM：BitNet 的低功耗 IoT 优化与 ARM NEON 加速
基于 BitNet 框架，在 Raspberry Pi 上实现 1-bit LLM 部署，利用 ARM NEON intrinsics 优化 bit-serial 操作，实现 sub-100ms 延迟的低功耗 IoT 推理。
2025-10-06ai-systems2025-10
Latest Essays
最新见解 · 第 891 页
继续沿着时间线阅读近期的工程实践与技术观察。
最新见解
近期的思考与工程笔记。
将 Battering RAM 适应于 ARM TrustZone 的插层攻击
面向 ARM TrustZone 的低成本插层器适应，聚焦 AArch64 DDR 总线拦截与电磁侧信道密钥提取，提供 FPGA 重新配置参数与信号隔离要点。
2025-10-06ai-security2025-10
低成本插层器工程：拦截 DDR 总线流量提取 enclave 密钥的侧信道攻击
探讨使用低成本自定义插层器拦截 DDR 总线流量，通过侧信道分析从 Intel SGX 和 AMD SEV 等 TEE 中提取 enclave 密钥的工程实践，提供硬件构建参数、实现清单与监控要点。
2025-10-06ai-security2025-10
工程 FPGA 基中介板原型用于 TEE 中的 DDR 总线拦截
在机密计算环境中，使用 FPGA 构建中介板原型拦截 DDR 内存总线信号，关注信号完整性、动态重配置及侧信道利用，支持 SGX 和 SEV 等 TEE，提供设计参数和实现指南。
2025-10-06ai-security2025-10
评估 Ada/SPARK/Rust 替代 C/C++ 在嵌入式安全关键系统中的安全保证、性能基准与工具链成熟度
针对嵌入式安全关键系统，评估 Ada、SPARK 和 Rust 作为 C/C++ 替代品的决策框架，包括安全保证、性能基准、工具链成熟度和迁移策略。
2025-10-06embedded-systems2025-10
低成本中介层探针工程：通过内存总线侧信道从 SGX 飞地提取密钥
面向 SGX 飞地安全，给出低成本 interposer 探针的设计参数、信号捕获实现与绕过硬件隔离的工程要点。
2025-10-06ai-security2025-10
GPU 架构中图形渲染与计算任务的偏见分析
探讨消费级 GPU 架构对图形渲染的偏好，包括固定功能单元的影响，以及优化 AI 工作负载的工程参数。
2025-10-06systems-engineering2025-10
通过 popcount 内在函数优化 CPU 上的 BitNet 1-bit LLM 推理
针对电池供电边缘设备，探讨使用 popcount 内在函数、向量化位操作和内存绑定内核优化 BitNet 1-bit LLM 在 CPU 上的推理性能，包括工程参数和监控要点。
2025-10-06ai-systems2025-10
海马表情符号与VS16分词器规范化
在LLM分词器中实现自定义NFC规范化与VS16变体处理，防止海马表情符号诱发的异常，通过子词重组和对抗输入净化。
2025-10-06ai-systems2025-10
基于硬件计数器的LLM推理能耗剖析：集成预测模型估算可扩展部署碳足迹
针对LLM推理能耗，使用硬件计数器剖析关键指标，并集成预测模型估算碳足迹，提供参数阈值与监控策略。
2025-10-06ai-systems2025-10
CHERI 架构下 Linux 用户空间应用的移植：能力感知系统调用与混合 ABI 翻译
探讨 CHERI 架构中 Linux 用户空间应用的兼容策略，通过能力感知系统调用和混合 ABI 翻译实现细粒度内存保护与二进制移植。
2025-10-06ai-security2025-10
Engineering Inode Structures for Efficient File Metadata in Unix-like Filesystems: APFS and HFS+ Optimizations
在 Unix-like 文件系统中，探讨 inode 结构的设计，用于高效存储文件元数据、处理链接和删除操作。重点优化 APFS 和 HFS+ 的 inode 映射，提供可落地参数和监控要点。
2025-10-06systems-engineering2025-10
构建带有确定性因子的前向链规则引擎：模仿 Mycin 系统诊断细菌感染
基于经典 Mycin 系统，探讨前向链规则引擎结合确定性因子在细菌感染诊断中的工程化实现参数与监控要点。
2025-10-06ai-systems2025-10
基于LSH的万亿网页去重：分布式爬取与分片PB级存储工程实践
探讨Internet Archive在存档1万亿独特网页时的工程方案，包括LSH去重算法、分布式爬取系统和分片PB级存储策略，提供可落地参数与监控要点。
2025-10-06systems-engineering2025-10
在 CHERI 硬件上以纯能力模式引导 Linux 内核：编译挑战与模式切换
探讨 CHERI 纯能力模式下 Linux 内核引导过程，分析编译难点、模式切换机制及工程化参数，实现无混合妥协的硬件内存隔离。
2025-10-06ai-security2025-10
Infisical 中自动化 PKI 证书轮换与 SSH 访问审计
利用 Infisical 的 policy-driven workflows 自动化 PKI 证书轮换和 SSH 访问审计，实现安全合规的基础设施秘密管理。涵盖证书模板配置、续期策略、SSH 证书发行及审计日志监控要点。
2025-10-06ai-security2025-10
CHERI 能力架构在 Linux 内核中的集成：细粒度内存隔离实践
探讨 CHERI 如何通过能力指针增强 Linux 的内存安全，提供隔离参数和工程实践要点。
2025-10-06ai-security2025-10
BitNet 的 TVM 优化移动部署：位串行操作与低延迟内核融合
整合 TVM 编译器传递以支持 BitNet 中的位串行操作，实现移动端低延迟的 1 位 LLM 推理，包括内核融合和运行时调度。
2025-10-06ai-systems2025-10
通过GPT-OSS反刍模式推断OpenAI训练数据组成与比例
分析开源GPT模型输出中的反刍模式，以逆向工程推断OpenAI训练数据的具体来源和比例，提供高效自定义LLM数据集 curation 的指导参数和清单。
2025-10-06ai-systems2025-10
工程化众包 ALPR 摄像头位置映射工具：集成开放数据 API 实现隐私导航与警报
探讨 Deflock 项目如何通过众包和开放 API 工程化 ALPR 摄像头映射，支持隐私保护的导航和实时警报，提供工程参数与最佳实践。
2025-10-06ai-security2025-10