在资源受限的经典硬件如 Apple II 上实现神经网络训练算法，面临着严峻挑战。6502 处理器作为 8 位架构，主频仅 1MHz，地址空间限制在 64KB，这要求我们对反向传播（Backpropagation, BP）算法进行深度优化。本文聚焦于微型神经网络的实现，强调内存高效的梯度计算和权重更新策略，避免浮点运算，转而采用定点数表示，以实现可行的训练过程。这种方法不仅验证了 BP 算法在极简环境下的鲁棒性，还为现代嵌入式 AI 系统提供历史性借鉴。
首先，理解 BP 算法的核心：在多层前馈网络中，通过前向传播计算输出，后向传播计算误差梯度，并更新权重。对于 6502，我们设计一个极简网络：输入层 4 个神经元（模拟简单特征，如像素或传感器数据），隐藏层 3 个神经元，输出层 2 个神经元（二分类任务）。总权重矩阵规模小：输入到隐藏（4x3 + 3 偏置 = 15 参数），隐藏到输出（3x2 + 2 偏置 = 8 参数），总计 23 个参数。每参数使用 8 位定点数（Q7.0 格式，范围 - 128 至 127），总内存占用不足 200 字节，轻松置于页面零区（$00-$FF）以加速访问。
证据显示，这种简化架构在 6502 上可行。历史文献如 Rumelhart 等人的 1986 年论文证明，BP 通过链式法则高效计算梯度：δ_output = (y - t) * sigmoid'(z)，δ_hidden = (W^T * δ_output) * sigmoid'(z)。在 6502 汇编中，我们用整数近似 sigmoid：一个查找表（LUT）存储预计算值，占用 256 字节（$100-$1FF）。乘法使用软件模拟（6502 无硬件乘法器），通过循环移位和加法实现，约需 50-100 周期 / 操作。对于梯度计算，避免矩阵转置的复杂性，直接展开循环：对于隐藏层 δ_j = sum_k (w_jk * δ_k) * (1 - o_j) * o_j。
可落地参数包括：学习率 η=0.01（定点表示为 1/100=0.01*128=1.28，约 1），以防溢出；批量大小 = 1（单样本训练，节省内存）；迭代次数上限 1000（约几分钟模拟时间，6502 循环约 1ms / 迭代）。权重初始化：随机 - 0.5 至 0.5（定点 - 64 至 64）。激活函数：近似 sigmoid o = 1 / (1 + exp (-z)) 用 LUT 替换 exp，输入 z 定点缩放至 - 7 至 7。误差监控：均方误差 MSE = sum (y - t)^2 /n，存储在 $0200，每 10 迭代打印至屏幕（使用 Apple II 的软开关 $ C050 控制显示）。
实现步骤以汇编伪码展示前向传播：
; 前向传播：输入 A ($00-$03)，计算隐藏 H ($10-$12)，输出 O ($20-$21)
LDA input1 ; 加载输入
STA temp_z1
LDA w11 ; 权重
SOFT_MUL ; 软件乘法，结果 acc
ADC temp_z1 ; 累加
; 类似循环所有权重，计算 z_hidden1
LDA z_h1
SIGMOID_LUT ; JSR to LUT subroutine, index z_h1 >>1 (scale)
STA h1
; 重复隐藏到输出
这确保了高效执行，总周期约 5000 / 前向 pass。
后向传播类似：从输出 δ 开始。
; 输出 δ：δ1 = (O1 - T1) * o1 * (1 - o1)
LDA o1
SEC
SBC target1
STA delta1_temp
LDA o1
SOFT_MUL with (1 - o1) ; precompute 1-o1
STA delta1
; 传播到隐藏：δ_h1 = sum (w_h1k * δ_k) * h1 * (1-h1)
; 展开 sum：LDA w_h11 * LDA delta1 * SOFT_MUL * ADC to accum
权重更新：w_new = w_old + η * δ * input
; η=1 (scaled), so w11 = w11 + delta_h1 * input1
LDA w11
CLC
SOFT_MUL delta_h1 and input1 (scaled)
ADC w11
STA w11
为避免溢出，更新后夹紧至 - 128/127。风险包括定点精度丢失导致梯度消失，但通过小网络和低学习率缓解。
监控要点：使用 Apple II 监视器（括号键）检查内存 $0000-$01FF 权重变化；若 MSE<0.1，收敛。回滚策略：若溢出，复位权重至初始。
这种实现证明，即使在 64KB 约束下，BP 可训练简单分类器，如 XOR 门（输入 4 位，输出 1 位）。参数清单：网络大小 (4-3-2)，定点 Q7.0，LUT 256 entries，学习率 1 (scaled)，max epochs 1000。扩展：用页面翻转管理更大数据集（$2000-$BFFF）。
总之，在 6502 上模拟 BP 不仅技术可行，还启发现代低功耗 AI：优先定点、展开循环、LUT 优化。未来，可移植至模拟器验证历史准确性。