实现动态令牌路由优化 MoE 负载均衡：5 倍加速工程实践
通过动态令牌路由实现 MoE 负载均衡优化，提供 5 倍加速的工程参数与监控要点。
2025-10-24ai-systems2025-10
Latest Essays
最新见解 · 第 868 页
继续沿着时间线阅读近期的工程实践与技术观察。
最新见解
近期的思考与工程笔记。
AI发现的MoE负载均衡在生产环境中的集成：Ray编排与异构GPU处理
在分布式服务中部署AI发现的token-choice路由，实现MoE模型专家利用均衡，推理速度提升5倍，支持动态缩放和故障转移。
2025-10-24ai-engineering2025-10
Claude 持久内存工具集成：实现有状态多轮代理工作流
探讨Claude的内存工具如何与工具调用结合，支持跨会话状态管理，实现无重置的多轮代理应用。提供API参数、示例和工程化建议。
2025-10-24ai-systems2025-10
Postgres 17 与 18 基准测试：OLTP 查询吞吐量、索引效率及并发扩展升级指南
通过基准测试剖析 Postgres 18 的 I/O 优化对 OLTP 的影响，指导查询吞吐、索引和并发升级。
2025-10-24systems-engineering2025-10
使用 Sherpa-ONNX 构建 WebSocket 服务器实现实时双向 STT/TTS 流式处理
本文探讨如何利用 Sherpa-ONNX 的 ONNX 模型，通过 WebSocket 服务器构建低延迟的分布式语音应用，支持实时 STT 和 TTS 流式传输，无需互联网依赖。
2025-10-24ai-systems2025-10
在 Delphi VCL 中嵌入 Python 运行时：实现无外部依赖的 Windows Python IDE
利用 Python4Delphi 在 Delphi VCL 中嵌入 Python 引擎，提供原生调试、代码补全和 PyPI 包管理，实现高效的 Windows Python 开发环境。
2025-10-24systems-engineering2025-10
剖析2025年DynamoDB US-East-1区域宕机：DNS级联故障分析与弹性工程实践
基于2025年AWS US-East-1 DynamoDB宕机事件，剖析DNS解析故障引发的级联效应，并提供预测缩放、熔断器及多区域健康检查的工程化参数，确保NoSQL系统韧性。
2025-10-24systems-engineering2025-10
MinIO 多站点 Active-Active 复制：使用纠删码实现零停机故障转移
在 S3 兼容对象存储中实现 active-active 多站点复制，利用纠删码确保数据耐久性和一致前缀读取，支持零停机故障转移的工程实践。
2025-10-24systems-engineering2025-10
异构硬件集群中分布式ML训练的自适应检查点与恢复策略实现
面向异构硬件集群的分布式ML训练，给出自适应检查点与恢复策略的工程实现要点与参数配置。
2025-10-24ai-engineering2025-10
基于 Docker 的 Uptime Kuma 部署：自定义 Webhook 告警与多站点故障转移工程实践
通过 Docker 部署 Uptime Kuma，实现自定义 Webhook 告警和多站点 failover，提升自托管监控的可靠性和弹性。
2025-10-24systems-engineering2025-10
Hoppscotch：多协议 API 测试的统一客户端实现
探讨 Hoppscotch 如何通过统一客户端支持 REST、GraphQL、WebSockets、SSE 和 gRPC 等多协议 API 测试，包括实时协作和插件扩展的工程实践。
2025-10-24application-security2025-10
使用 React Flow 实现交互式节点编辑器：自定义节点、边缘验证与视口控制
面向视觉编程，使用 React Flow 构建交互式节点编辑器，涵盖自定义节点、边缘验证和视口控制的可落地工程实践。
2025-10-24application-security2025-10
scikit-opt 中差分进化算法用于连续空间全局优化：自适应缩放因子与交叉率在多模态景观中的应用
利用 scikit-opt 的差分进化算法进行连续空间全局优化，重点介绍自适应缩放因子和交叉率处理多模态景观，用于机器学习超参数搜索。
2025-10-24ai-engineering2025-10
通过 Sherpa-ONNX 在边缘设备上部署离线 STT 模型：实时转录与 ONNX 优化
面向边缘设备，给出 Sherpa-ONNX 离线 STT 部署的工程化参数与多语言实时转录要点。
2025-10-24ai-systems2025-10
Sherpa-ONNX 在嵌入式系统上的离线 TTS 模型部署：低延迟与多说话人优化
使用 Sherpa-ONNX 在嵌入式设备上实现离线 TTS，聚焦低延迟合成、多说话人支持及资源优化策略。
2025-10-24ai-systems2025-10
AI发现的MoE负载均衡算法：实现5倍更快推理
在MoE模型中实施AI发现的token路由和专家负载均衡，实现无准确性损失的5倍推理加速，提供优化参数和监控要点。
2025-10-24ai-systems2025-10
OS/2 显示驱动的反向工程与仿真实现
从VGA到3D的OS/2显示驱动多样性，反向工程挑战与仿真中准确再现1990s PC图形硬件行为的工程参数与监控要点。
2025-10-24systems-engineering2025-10
通过分叉 Snowplow 构建 OpenSnowcat：实现 GDPR 合规的事件跟踪
利用 OpenSnowcat 分叉 Snowplow，实现模块化数据保留策略和审计日志，确保事件跟踪符合 GDPR 要求，提供工程化参数与监控要点。
2025-10-24ai-engineering2025-10
盲水印无参考提取算法：基于频域分析的检测与解码优化
面向图像盲水印的无参考提取，给出频域DCT-DWT方法、鲁棒性参数与假阳性最小化策略。
2025-10-24ai-security2025-10
可并行Keccak-based哈希：KangarooTwelve与TurboSHAKE在嵌入式加密应用中的高效海绵构造
介绍KangarooTwelve和TurboSHAKE的并行化哈希机制，针对嵌入式系统的变长输出和高效海绵构造，提供工程参数。
2025-10-24ai-security2025-10