Futhark 是一种纯函数式数据并行语言，专为 GPU 高性能计算设计。其编译器的核心任务之一是将高层数组操作（如 map、reduce、scan）高效映射到 GPU 硬件指令，同时尽可能减少内存访问和中间数组分配。Futhark 通过 “内存中心式融合（Memory-Centric Fusion）” 和一系列内存优化技术，在保持纯函数式语义的同时，实现了接近手写 CUDA 的性能。
垂直融合：消除中间数组
传统的 GPU 编程中，连续的数组操作（如先做一次映射再进行一次过滤）通常会产生中间结果，这些结果需要写入全局内存，再被下一个操作读取。这种模式不仅浪费带宽，还会导致频繁的设备内存同步。
Futhark 编译器的 ** 垂直融合（Vertical Fusion）** 机制能够将这种链式操作合并为单一 GPU kernel。编译器会识别出 producer-consumer 关系（例如 map f (map g A) 会被重写为 map (f ○ g) A），从而在源头上避免中间数组的创建。融合后的 kernel 在寄存器级别直接完成数据转换，显著降低了全局内存流量。
垂直融合的核心在于SOAC（Second-Order Array Combinator）融合规则。Futhark 定义了一套严格的类型规则和资源预算分析，确保只有当融合不会导致寄存器溢出或共享内存超限时，才执行融合。这种保守策略在大多数场景下都能生效，因为它基于对 GPU 硬件资源（寄存器文件大小、共享内存容量）的精确建模。
水平融合：提升线程级并行度
垂直融合虽然减少了内存流量，但在某些场景下，连续操作的计算密度可能不足，导致 GPU 利用率低下。Futhark 还支持水平融合（Horizontal Fusion），将多个独立的数组操作合并执行，以提高线程级并行度。
水平融合会将没有数据依赖的 kernel 拼接到同一个 GPU 执行单元中。例如，如果程序中有两个独立的 map 操作，水平融合可以让它们共享同一个 grid-launch 的上下文，减少 kernel 启动开销，并通过交错执行掩盖内存访问延迟。这种技术在处理多个短小操作时尤为有效，因为它能防止 GPU 因任务粒度过小而空闲。
然而，水平融合并非没有代价。合并后的 kernel 可能会增加寄存器压力或共享内存使用量，如果超出硬件限制，反而会降低 occupancy（每个 SM 上活跃的线程块数）。因此，Futhark 的编译器在执行水平融合前，会进行性能建模分析，只有当融合带来的带宽节省和延迟掩盖效果超过资源开销时，才会进行融合。
内存中心式优化：常量提升与跨边界复用
在垂直和水平融合之上，Futhark 的内存优化管道进一步处理了数组的内存布局和生命周期。内存中心式融合不仅关注计算节点的合并，还关注内存资源的分配和回收策略。
一个关键优化是常量提升（Constant Hoisting）。在 GPU 程序中，常量数据（如配置参数、小型查找表）通常存储在常量内存或寄存器中访问，而不是每次都从全局内存加载。Futhark 编译器会识别出在整个 kernel 执行期间保持不变的数据，并将这些数据 “提升” 到更快的存储层级。如果数据足够小，它甚至会被内联到 kernel 的机器码中，實現零拷贝访问。
另一个核心机制是跨边界内存复用。传统编译器在处理函数边界时，会分别为每个子表达式分配独立的内存区间。Futhark 的编译器通过生命周期分析，识别出不同数组的生命周期没有重叠部分，从而让它们复用同一块物理内存。这项技术类似于寄存器分配中的颜色算法，只是作用对象从标量变成了数组。跨边界内存复用不仅减少了总体的显存占用，还改善了数据局部性，因为复用的内存区域往往已经在缓存中。
零拷贝流水线：从源到结果的直通
当垂直融合、水平融合与内存中心式优化协同工作时，Futhark 能构建出接近 “零拷贝” 的计算流水线。理想情况下，一个完整的数据处理管道（如 map -> filter -> reduce）会被编译为一个单一的 GPU kernel，数据从设备内存读取后，无需经过中间缓冲，直接在寄存器间流动直到产生最终结果。
这种设计在处理大规模数据集时优势尤为明显。GPU 的全局内存带宽是稀缺资源，减少读写次数直接转化为吞吐量提升。此外，由于没有中间结果写回，核函数之间不需要同步点，这避免了隐式的隐式 barrier 开销和可能的 occupancy 下降。
工程实践中的调优要点
尽管 Futhark 编译器自动完成了大量融合和内存优化工作，开发者在编写代码时仍有一些准则可以遵循，以帮助编译器做出更好的决策。
首先，保持数组操作链的单调性有助于融合。避免在 map 和 reduce 之间插入非融合友好的操作（如涉及复杂控制流的函数），可以增加融合的成功率。其次，显式地使用并行原语（如 reduce 而非手写的循环）能提供更多融合机会，因为编译器对标准 SOAC 的融合规则支持最为完善。最后，关注编译器输出的中间表示（如 Futhark 的后端 IR），可以发现潜在的优化窗口或资源瓶颈。
小结
Futhark 的内存中心式融合编译器代表了纯函数式语言在 GPU 高性能计算领域的一次重要实践。通过垂直融合消除中间数组、水平融合提升并行度、常量提升减少内存访问、跨边界复用降低显存占用，Futhark 将多层数组操作编译为单次 GPU kernel，构建出零拷贝的计算流水线。这种编译器驱动的优化策略，在保证语义安全的同时，为数据密集型应用提供了高效的执行路径。
资料来源：本篇文章关于 Futhark 融合机制与内存优化策略的技术细节，主要参考了 Futhark 官方出版物中关于内存优化的研究论文，以及 DIKU 大学的博士论文《Design and Implementation of the Futhark Programming Language》中对融合规则的描述。
内容声明：本文无广告投放、无付费植入。
如有事实性问题，欢迎发送勘误至 i@hotdrydog.com。