当我们审视现代神经网络架构与分组密码的实现细节时，会发现一层令人惊讶的结构对偶性。这种相似性并非偶然，而是源于两者共同面对的核心挑战：如何在高维空间中实现信息的有效变换与混淆。本文从数学结构角度，系统解析神经网络与分组密码的深层对应关系，并探讨这种对应为工程实践带来的启示。
线性变换层：对偶于混合与扩散
在神经网络中，线性层构成了模型表达能力的基石。全连接层通过权重矩阵实现输入向量的线性投影，注意力机制则通过查询、键、值的矩阵运算实现 token 间的信息交互。从数学角度看，这些操作本质上是输入空间到输出空间的仿射变换，其核心功能是实现信息的线性混合与维度变换。
分组密码中的线性层承担着类似的使命。以 AES 为例，ShiftRows 操作实现字节级别的行位移，MixColumns 操作则通过有限域上的矩阵乘法实现列混合。这两种操作在密码学中被称为「扩散」（diffusion），目的是将单个明文位的影响扩散到多个密文位。工程实现上，两者都采用可逆的线性变换矩阵，不同之处在于神经网络使用浮点数域运算，而分组密码使用有限域 GF (2⁸) 上的运算。
从工程参数视角看，现代 Transformer 中的注意力机制与分组密码的列混合操作存在有趣的类比：两者的计算复杂度均为 O (d²)，其中 d 为隐含层维度或状态维度。这种结构相似性意味着，针对其中一方的矩阵计算优化技术往往可以迁移到另一方。例如，Intel AVX 指令集对矩阵乘法的加速同时惠及两者。
非线性激活：对偶于 S 盒
神经网络中的非线性激活函数是实现非线性建模能力的关键。ReLU、GELU、SiLU 等激活函数通过引入非线性变换，使网络能够逼近任意复杂的函数边界。没有非线性叠加，再多的线性层也只能实现线性变换，这正是深度学习「深」字的意义所在。
分组密码中的 S 盒（ Substitution box）是非线性变换的核心载体。以 AES 的 S 盒为例，它实现从 GF (2⁸) 到 GF (2⁸) 的非线性映射，兼具非线性与可逆性两大特性。密码学中这被称为「混淆」（confusion），目的是使密文与密钥之间的关系尽可能复杂。S 盒的设计遵循严格的代数免疫度、抗差分分析等安全准则，这与其神经网络中激活函数的选择逻辑形成了有趣的对照。
从计算实现角度，S 盒通常以查表方式实现，预先计算好所有 256 种输入对应的输出值。这种工程优化与神经网络推理中的激活函数查找表化（如量化后的 ReLU 查找表）异曲同工。两者都在追求一个共同目标：用最小的计算开销引入必要的非线性。
迭代结构：对偶于轮函数
现代神经网络普遍采用深度堆叠的架构范式。Transformer 通过堆叠多层 Encoder/Decoder，每层包含注意力子层与前馈网络子层；ResNet 通过残差块的堆叠实现数百层的深度。这种堆叠结构的核心理念是：浅层提取局部特征，深层组合全局语义。
分组密码同样采用迭代结构。以 AES-128 为例，它使用 10 轮迭代，每轮包含 SubBytes、ShiftRows、MixColumns、AddRoundKey 四个步骤。这种轮函数（round function）的迭代设计是分组密码的标配，轮数直接决定安全性与性能的平衡。类比而言，神经网络的层数与密码的轮数承担着相似的角色 —— 都是通过重复应用基本变换来逐步深化表示能力。
这种结构对偶催生了一个有趣的交叉研究方向：能否借鉴分组密码的轮函数设计原则来优化神经网络架构？例如，借鉴 MixColumns 的多项式结构设计新型特征融合层，或者参考 AddRoundKey 的密钥混合机制设计带密钥的注意力模块。
训练过程：对偶于密钥编排
神经网络的训练过程本质是一个大规模优化问题：通过反向传播算法调整数以亿计的权重参数，使模型在给定任务上的损失函数最小化。这个过程需要大量计算资源与精心设计的超参数调度。
分组密码的密钥编排（Key Schedule）负责从主密钥生成每轮使用的子密钥。良好的密钥编排需要确保子密钥之间具有足够的差异性，同时避免密钥相关攻击。类比来看，神经网络的训练过程可以视为一种特殊的「密钥编排」：训练数据相当于明文，模型权重相当于密钥，而推理过程则是使用当前「密钥」对新输入的加密。
从安全角度审视，这种类比揭示了一个重要洞察：神经网络的权重类似于密码系统的密钥，需要妥善保护。模型逆向工程、权重提取攻击等安全问题与密码系统的密钥保护议题高度相关。实践中，对模型权重进行加密存储、对推理过程进行安全隔离，已成为保护大模型知识产权的标准做法。
工程实践启示
上述结构对偶为工程实践带来了几点具体启示。首先，在硬件加速层面，针对分组密码优化的专用芯片（如 AES-NI 指令集）可直接加速含有大量矩阵运算的神经网络推理。其次，在模型压缩层面，分组密码的轮数精简思路可迁移到神经网络的层数压缩 —— 通过知识蒸馏实现的模型压缩与通过减少轮数实现的密码优化遵循相似的信息论原理。第三，在安全评估层面，密码分析中的差分分析、线性分析等方法论可启发对神经网络的对抗样本研究，反之亦然。
值得注意的是，这种结构相似性并不意味着神经网络可以直接替代密码系统。密码系统的安全性建立在严格的数学证明之上，而神经网络的泛化能力缺乏形式化保证。两者在目标函数、设计约束和评估标准上存在本质差异。我们探讨这种结构对偶的价值，在于借鉴而非替代 —— 从密码学的长期工程实践中汲取架构设计的智慧。
结语
神经网络与分组密码在结构层面的深度相似性，源于两者共同面对的「信息变换」这一基本问题。线性层与混合操作、非线性激活与 S 盒、深度堆叠与迭代轮函数、训练优化与密钥编排 —— 这些对应关系揭示了高维空间信息处理的通用模式。对于系统工程师而言，理解这种结构对偶有助于在两个领域之间迁移技术方案，在硬件加速、模型压缩、安全防护等维度实现协同优化。
资料来源：本文核心观点参考 Reiner Pope 关于神经网络与密码结构相似性的分析（reiner.org/neural-net-ciphers），以及神经网络密码分析相关学术文献。