# Gen13服务器架构解析：用CPU核心换缓存的工程权衡 > 深入分析Cloudflare第13代服务器如何通过用CPU核心替代缓存实现2倍边缘计算性能提升，及其硬件软件协同设计思路。 ## 元数据 - 路径: /posts/2026/03/27/cloudflare-gen13-server-architecture/ - 发布时间: 2026-03-27T06:25:19+08:00 - 分类: [systems](/categories/systems/) - 站点: https://blog.hotdry.top ## 正文 Cloudflare于2026年3月正式发布第13代服务器，基于AMD EPYC第五代Turin处理器。与上一代Gen12采用大规模3D V-Cache不同，Gen13选择了高核心密度路线，每核心L3缓存从12MB降至2MB。这一看似退步的设计选择，最终实现了2倍边缘计算吞吐量的突破。本文将深入剖析这一硬件架构权衡背后的工程逻辑。 ## 从缓存优先到核心优先的架构转变 Gen12服务器采用AMD EPYC第四代Genoa-X处理器，其中9684X型号配备96核心192线程，每核心拥有12MB L3缓存。这一海量缓存设计非常适合Cloudflare当时的FL1请求处理层——基于NGINX和LuaJIT构建的代码高度依赖缓存局部性。然而，当Cloudflare评估下一代硬件时，发现了一个两难局面：提供最大吞吐量提升的CPU伴随着显著的缓存缩减。 AMD EPYC Turin处理器家族带来了惊人的核心数增长。最高密度的Turin 9965提供192核心384线程（启用SMT后），相比Gen12实现了100%的核心数增长。然而，高密度OPN做出了一种明确的架构取舍：优先考虑吞吐量而非每核心缓存。经过仔细分析，Turin的192核心共享384MB L3缓存，这意味着每核心仅能访问2MB缓存——仅相当于Gen12的六分之一。对于任何严重依赖缓存局部性的工作负载而言，这种削减构成了严峻挑战。 具体而言，Gen13三个处理器选项的规格对比如下：Turin 9755提供128核心256线程，每核心4MB L3缓存；Turin 9845提供160核心320线程，每核心2MB L3缓存；Turin 9965提供192核心384线程，每核心2MB L3缓存。相比之下，Gen12的Genoa-X 9684X提供96核心192线程，每核心12MB L3缓存。这一代际变化意味着缓存容量的缩减幅度远超核心数的增长幅度。 ## 性能计数器诊断出的瓶颈 面对缓存大幅缩减，Cloudflare工程团队并未假设存在问题，而是通过AMD uProf工具收集CPU性能计数器和分析数据来精确诊断。测试结果揭示了几个关键问题：L3缓存未命中率相比配备3D V-Cache的Gen12服务器急剧上升；内存获取延迟主导了请求处理时间，因为原本保存在L3中的数据现在需要访问DRAM；延迟惩罚随着CPU利用率提升而加剧，因为缓存争用情况恶化。 这一问题的根本原因在于延迟数量级的差异。L3缓存命中大约需要50个周期完成；而L3缓存未命中需要DRAM访问则需要350个以上周期，差距接近一个数量级。由于每核心缓存减少了6倍，FL1在Gen13上更频繁地访问内存，从而产生严重的延迟惩罚。 初步测试结果验证了这一分析。在Gen13上运行FL1时，虽然Turin处理器能够达到更高吞吐量，但代价是极高的延迟成本。具体数据显示：相比Gen12基线，Turin 9755（FL1）吞吐量提升10%，但低至中等CPU利用率下延迟增加10%，高利用率下延迟增加超过20%；Turin 9845（FL1）吞吐量提升31%，低至中等利用率下延迟增加30%，高利用率下延迟增加超过50%；Turin 9965（FL1）吞吐量提升62%，但延迟表现与9845相似，高利用率下延迟增加同样超过50%。 这意味着虽然Turin 9965能带来60%的吞吐量增益（这对于Cloudflare的总体拥有成本TCO是最有吸引力的），但超过50%的延迟惩罚是不可接受的。请求处理延迟的增加将直接影响客户体验。 ## 硬件调优的有限突破 面对这一困境，Cloudflare与AMD合作进行针对性优化实验。团队系统测试了多种配置方案。 硬件调优方面，调整硬件预取器和Data Fabric（DF）Probe Filters仅显示了边际收益。扩展Workers方面，启动更多FL1 workers虽然提升了吞吐量，但损害了其他生产服务的资源。CPU固定与隔离方面，调整工作负载隔离配置以寻找最佳组合，成功有限。 最终发现最有价值的配置是AMD的Platform Quality of Service（PQOS）扩展。PQOS能够对共享资源（如缓存和内存带宽）进行细粒度 regulation。由于Turin处理器由一个I/O Die和最多12个Core Complex Dies（CCD）组成，每个CCD在最多16个核心之间共享L3缓存，团队对此进行了测试。 实验结果显示，在CCD级别为FL1分配专用L3缓存份额收效甚微。然而，当将概念扩展到插槽级别、 dedicating一整个CCD专用于FL1时，团队看到了有意义的吞吐量提升，同时将延迟保持在可接受范围内。具体而言，NUMA感知的核心亲和性（等效于插槽级别的PQOS）使用6个CCD（与NUMA域对齐）运行FL1，在每个CCD中共享32MB L3缓存，实现了超过15%的增量吞吐量增益。相比之下，PQOS配置1、2、3在每个CCD的32MB L3缓存中为FL1分配50%至75%的配置，增量吞吐量增益均小于5%，且其他服务显示出轻微降级迹象。 这些结果表明，单纯的缓存隔离无法根本解决问题。真正的突破来自于软件栈的重新设计。 ## FL2：消除缓存依赖的软件革命 硬件调优和资源配置仅提供了温和的收益，Cloudflare意识到必须重写软件栈从根本上改变系统资源的利用方式。幸运的是，他们并非从零开始。在2025年生日周期间，Cloudflare宣布已从零开始重建FL1。FL2是使用Rust对请求处理层进行全面重写，构建在Pingora和Oxy框架之上，取代了15年的NGINX和LuaJIT代码。 FL2项目并非为解决Gen13缓存问题而启动，而是出于对更好安全性的需求（Rust的内存安全）、更快的开发速度（严格的模块系统）以及整体性能提升（更少的CPU、更少的内存、模块化执行）。然而，这一架构的清洁设计具有更好的内存访问模式和更少的动态分配，可能不像FL1那样依赖大规模L3缓存。这为Cloudflare提供了一个机会：通过FL2过渡来验证Gen13的吞吐量增益能否在无延迟惩罚的情况下实现。 当FL2推出时，Gen13服务器的生产指标验证了团队的假设。结果显示：在AMD Turin 9965（FL2）上，每CPU%的FL请求数比FL1提升50%；相比Gen12，延迟降低70%；相比Gen12，吞吐量提升100%（即2倍）。 FL2的新栈开箱即用的效率提升显著，甚至在系统优化之前就已实现。FL2将延迟惩罚削减了70%，使Cloudflare能够在严格遵守延迟SLA的情况下将Gen13推向更高的CPU利用率。在FL1上，这是不可能实现的。通过有效消除缓存瓶颈，FL2使吞吐量能够随核心数线性扩展。在高密度AMD Turin 9965上，效果不可否认：团队实现了2倍的性能提升，解锁了硬件的全部潜力。 ## 架构权衡的工程启示 Gen13服务器的成功部署揭示了硬件软件协同设计的关键价值。Cloudflare的FL1请求服务层在Gen13上遭遇了缓存争用墙，迫使在吞吐量和延迟之间做出不可接受的权衡。然而，团队没有妥协，而是构建了FL2。 通过采用极简的内存访问模式设计，FL2消除了对大规模L3缓存的依赖，允许性能随核心数线性扩展。在Gen13 AMD Turin平台上运行，FL2解锁了2倍的吞吐量提升了50%的电源效率提升，同时将延迟保持在SLA范围内。这一飞跃有力地证明了硬件软件协同设计的重要性。 对于基础设施工程师而言，Gen13案例提供了重要启示。首先，硬件规格的表面数字并不能直接映射到实际性能——缓存与核心的权衡需要根据具体工作负载特性来评估。其次，现代CPU的PQOS功能为资源隔离提供了有价值的手段，但其效果受限于工作负载的缓存敏感性。第三，软件架构的演进可以彻底改变硬件选择的可行性——FL2的Rust重写使高核心数低缓存的CPU成为最优选择。最后，在大规模边缘计算场景中，吞吐量与延迟的平衡需要综合考量——2倍吞吐量配合SLA合规的价值远超单纯追求峰值性能。 Gen13服务器的部署正在进行中，Cloudflare计划通过进一步系统调优从Gen13集群中榨取更多性能。这一代服务器现在已准备好部署到Cloudflare全球边缘网络的各个位置，为数百万请求提供服务。 --- 参考资料：Cloudflare官方博客Gen13服务器发布公告（2026年3月23日） ## 同分类近期文章 ### [好奇号火星车遍历可视化引擎：Web 端地形渲染与坐标映射实战](/posts/2026/04/09/curiosity-rover-traverse-visualization/) - 日期: 2026-04-09T02:50:12+08:00 - 分类: [systems](/categories/systems/) - 摘要: 基于好奇号2012年至今的原始Telemetry数据，解析交互式火星地形遍历可视化引擎的坐标转换、地形加载与交互控制技术实现。 ### [卡尔曼滤波器雷达状态估计：预测与更新的数学详解](/posts/2026/04/09/kalman-filter-radar-state-estimation/) - 日期: 2026-04-09T02:25:29+08:00 - 分类: [systems](/categories/systems/) - 摘要: 通过一维雷达跟踪飞机的实例，详细剖析卡尔曼滤波器的状态预测与测量更新数学过程，掌握传感器融合中的最优估计方法。 ### [数字存算一体架构加速NFA评估：1.27 fJ_B_transition 的硬件设计解析](/posts/2026/04/09/digital-cim-architecture-nfa-evaluation/) - 日期: 2026-04-09T02:02:48+08:00 - 分类: [systems](/categories/systems/) - 摘要: 深入解析GLVLSI 2025论文中的数字存算一体架构如何以1.27 fJ/B/transition的超低能耗加速非确定有限状态机评估，并给出工程落地的关键参数与监控要点。 ### [Darwin内核移植Wii硬件：PowerPC架构适配与驱动开发实战](/posts/2026/04/09/darwin-wii-kernel-porting/) - 日期: 2026-04-09T00:50:44+08:00 - 分类: [systems](/categories/systems/) - 摘要: 深入解析将macOS Darwin内核移植到Nintendo Wii的技术挑战，涵盖PowerPC 750CL适配、自定义引导加载器编写及IOKit驱动兼容性实现。 ### [Go-Bt 极简行为树库设计解析：节点组合、状态机与游戏 AI 工程实践](/posts/2026/04/09/go-bt-behavior-trees-minimalist-design/) - 日期: 2026-04-09T00:03:02+08:00 - 分类: [systems](/categories/systems/) - 摘要: 深入解析 go-bt 库的四大核心设计原则，探讨行为树与状态机在游戏 AI 中的工程化选择。