微调LLM复刻90年代技术文档风格：数据集构建与风格迁移实践

引言：为什么复古文档风格值得研究

当我们回顾 90 年代的计算机文档时，会发现一种与现代技术写作截然不同的气质。那时的 README 文件开门见山，手册假设读者具备基础技术素养，安装指南省略 "显而易见" 的步骤。这种风格并非简陋，而是建立在对用户能力的信任之上。

近年来，技术写作领域出现了 "复古计算"（retrocomputing）的复兴浪潮。技术写作者开始重新审视旧时代的文档实践，试图从中提取有价值的设计原则。通过微调大语言模型来复刻这种风格，不仅是一种技术实验，更是对技术写作本质的反思。

90 年代技术文档的风格特征

要成功迁移复古风格，首先需要准确识别其核心特征：

语言层面，90 年代文档呈现出显著的命令式语气。指令直接以动词开头，如 "Copy the file to..." 而非 "You should copy the file to..."，省略了现代文档中常见的礼貌性缓冲语。这种风格假设读者是主动寻求解决方案的技术人员，而非需要引导的初学者。

结构层面，文档遵循严格的层级组织。从 README 到 INSTALL，从 MAN 到 FAQ，每个文件承担明确的功能角色。内容密度高，信息噪音低，ASCII 艺术被用于图示而非装饰。

假设层面，作者默认读者具备 Unix 命令行基础、理解环境变量概念、能够阅读 C 语言代码片段。这种 "门槛意识" 与现代追求零门槛的文档哲学形成鲜明对比。

数据集构建策略

构建高质量的风格迁移数据集需要系统性的筛选与清洗流程。

原始素材来源包括：Internet Archive 的复古软件收藏、GitHub 上的历史软件仓库、Usenet 存档中的技术讨论、90 年代开源项目的文档（如早期 Linux 内核文档、GNU 工具手册）。

筛选标准应关注以下维度：时间戳（1990-1999 年）、文件格式（纯文本、troff、早期 HTML）、作者背景（开发者撰写的技术文档而非专业写作者）、内容类型（安装指南、API 参考、故障排除手册）。

清洗流程需要去除现代编辑痕迹。许多复古文档在后续维护中被现代化，需要比对版本历史，提取最接近原始状态的文本。同时过滤掉版权声明显著过长或包含现代营销语言的文件。

建议的数据集规模为 500-1000 个文档片段，每个片段控制在 500-2000 字符，确保覆盖不同的文档类型和写作场景。

微调实现：LoRA 配置与训练参数

采用参数高效微调（PEFT）方法可以在有限计算资源下实现风格迁移。

LoRA 配置建议：

• 目标模块：q_proj, v_proj, k_proj, o_proj（注意力层）
• 秩（rank）：16-32，平衡表达能力与过拟合风险
• Alpha 参数：设置为秩的 2 倍
• Dropout：0.05-0.1，防止对特定语料的过度记忆

训练参数：

• 学习率：1e-4 到 5e-4，配合余弦退火调度
• 批次大小：根据显存调整，建议 4-8
• 训练轮数：3-5 轮，监控验证集损失防止过拟合
• 上下文长度：2048-4096，确保捕获段落级风格模式

数据格式化采用指令跟随格式，将复古文档作为 "assistant" 回复，构造类似 "Write installation instructions in 90s style" 的指令。这种格式引导模型学习风格响应而非内容记忆。

风格评估与质量控制

风格迁移的成功不能仅靠困惑度（perplexity）衡量，需要建立多维评估体系。

自动评估指标：

• 词汇多样性：90 年代文档倾向于使用技术术语的精确变体
• 句子长度分布：平均句子长度通常更短
• 代词使用频率：第一人称和第二人称代词密度较低
• 情态动词比例："should"、"must"、"may" 的使用模式

人工评估维度：

• 时代感：输出是否唤起 90 年代技术文档的阅读体验
• 实用性：信息密度是否保持，是否牺牲清晰度换取风格
• 一致性：长文本生成中风格是否稳定保持

对照实验设计：准备相同技术主题的现代风格与复古风格参考文档，让评估者在不知情状态下判断模型输出的风格归属。

实际应用场景与注意事项

复古风格微调并非为了取代现代文档实践，而是在特定场景下提供差异化价值。

适用场景包括：复古计算社区的技术文档、复古风格游戏的内嵌文档、开发者工具的 CLI 帮助文本、面向资深技术用户的快速参考指南。在这些场景中，简洁直接的风格可能比详尽的逐步说明更符合用户预期。

需要警惕的风险：复古风格可能与现代可访问性标准冲突。90 年代文档很少考虑屏幕阅读器、认知障碍用户或非母语读者的需求。在实际部署中，应确保风格层与内容层分离，允许用户选择呈现模式。

版权与伦理考量：训练数据来源涉及早期软件文档的版权状态。建议优先使用明确开源许可的历史文档，或采用合成数据策略 —— 基于风格特征描述生成训练样本，而非直接复制受保护内容。

结语

通过微调复刻 90 年代技术文档风格，我们不仅在训练模型模仿一种过去的写作方式，更是在探索技术写作中 "效率" 与 "包容" 之间的张力。复古风格的价值不在于回归过去，而在于提醒我们：文档的本质是信息传递，而信息传递的方式应当与受众的需求相匹配。

对于希望尝试这一方向的技术写作者，建议从小规模实验开始：收集几十个代表性的 90 年代文档片段，使用 LoRA 进行快速微调，评估输出是否符合预期。这个过程本身就是对技术写作历史的深度学习。

参考来源

• Fabrizio Ferri, "My time machine runs on technical writing", passo.uno, 2025
• Fabrizio Ferri, "Why I collect and read old computer manuals", passo.uno, 2022
• Hacker News discussion on "Fine-tuning an LLM to write docs like it's 1995", 2026

ai-systems