在人工智能领域，让大型语言模型玩文字冒险游戏是一个极具挑战性的任务。文字冒险（也称为互动小说）要求玩家在一个完全由文本描述的虚拟世界中探索、解谜并完成长期目标。这种场景不仅考验模型的推理能力，还对其状态管理、记忆维护和长期规划提出了严峻考验。本文将深入探讨如何构建一个高效的 LLM 驱动文字冒险系统，重点关注状态机设计、记忆分层管理和回滚策略这三个核心工程问题。
解释器桥接与游戏循环架构
构建 LLM 驱动文字冒险系统的第一步是建立模型与游戏解释器之间的桥梁。传统文字冒险游戏运行在 Z-machine 虚拟机上，而 dfrotz 是一个成熟的解释器实现。通过其 "dumb" 模式（dfrotz），我们可以获得一个纯净的命令行界面，完全通过标准输入输出与游戏进行交互。这种设计使得用 Python 等语言编写包装器变得简单直接：模型生成的命令通过 stdin 发送给解释器，游戏的文本输出则通过 stdout 读取并传递给模型进行分析。
整个游戏循环的核心架构由两个主要组件构成：解释器层负责与游戏引擎通信，维护游戏世界的当前状态；玩家层则封装了 LLM 的调用逻辑，负责接收游戏输出、进行推理并生成下一个命令。这种分离设计的好处是清晰界定了职责边界，使得我们可以独立优化解释器交互逻辑或玩家决策逻辑。解释器层的关键工程挑战在于处理流式输出和非阻塞 IO，由于游戏输出可能不完整或延迟到达，我们需要使用非阻塞读取并实现适当的缓冲机制。在实践中，设置 100 毫秒的等待时间是一个常见的经验值，既能保证响应性又不会过度消耗 CPU 资源。
从系统提示词的设计角度来看，我们需要明确告诉模型如何结构化其输出。一个有效的做法是约定：模型输出的第一行以 > 开头的文本将被解释为游戏命令，其余内容则作为注释或思考过程被忽略。这种设计允许模型在给出命令之前进行自由推理，同时保持输出的可解析性。系统提示词还应当包含游戏的基本规则、可用命令的类型说明以及对世界的初始描述，帮助模型建立正确的情境理解。
记忆分层：从感知记忆到语义记忆的演进
当游戏进行到中后期时，一个严峻的问题开始浮现：随着对话历史不断增长，每次 API 调用的 token 消耗呈线性增长。在一个需要数百回合才能完成的游戏中，后期每个回合的输入可能达到数万个 token，这对于成本和延迟都是不可接受的。解决这一问题的核心思路是实现记忆分层机制，将不同类型的信息存储在不同的 "记忆层" 中，只将最相关的信息放入模型的上下文窗口。
最基础的记忆分层方案是保留最近若干轮次的完整对话历史作为 "感知工作记忆"，同时提供一个可读写的 "语义记忆" 空间供模型存储和检索重要信息。感知工作记忆的作用是让模型理解当前的状态 —— 刚刚发生了什么、现在身处何地、周围有哪些物体。语义记忆则存储那些需要长期保留的信息，如已完成的任务、发现的线索、重要物品的位置等。实验数据表明，采用这种分层结构后，即使在 500 回合之后，每个请求的 token 数量也能控制在 10000 左右，相比无记忆管理的线性增长方案节省了约 75% 的成本。
然而，记忆分层也带来了新的挑战。由于模型只能看到最近几轮的游戏历史，它可能会遗忘那些早期出现但后来变得重要的线索。此外，模型在写入语义记忆时的行为也需要引导 —— 实验观察发现，模型倾向于不断添加新记忆而很少主动删除或编辑过时信息。这导致了记忆膨胀和问题定位困难：当模型在某个地方反复失败时，它需要从积累的数百条记忆中检索到相关的失败尝试记录才能意识到自己陷入了循环。解决这一问题的一种方案是设计更结构化的记忆格式，例如要求模型在记录每个观察时标注时间戳和重要程度，从而实现基于权重的记忆检索和淘汰。
意图解析与动作执行机制
当模型接收到游戏输出后，它需要完成一系列复杂的处理步骤才能生成有效的命令。首先是场景理解：模型需要从大段文本描述中提取关键信息，包括当前位置、可见物体、可交互对象以及可能存在的出口或路径。这一步的质量直接影响后续决策的准确性。然后是意图识别：模型需要根据当前状态和长期目标决定下一步要做什么 —— 是探索新区域、收集物品、还是尝试使用某个物品解决当前的障碍。最后是命令生成：将抽象的意图转换为游戏能够理解的具体命令，如 go north、take lantern、use key on door 等。
在这个过程中，一个常见的问题是 "过度解析"：模型可能对游戏输出的某些细节赋予过多权重，而忽略真正重要的信息。例如，模型可能花费大量篇幅描述环境中无关紧要的装饰细节，却忽略了角落里藏着的关键物品。一种缓解方法是设计更精确的系统提示词，明确告诉模型应该关注哪些类型的信息，或者使用结构化的输出格式引导模型按固定模板组织其分析结果。另一种方法是引入专门的状态提取模块，在将游戏输出发送给模型之前，先用规则或轻量级模型从中提取结构化的状态描述，显著减少输入长度的同时保留关键信息。
动作执行的另一个挑战是如何处理游戏世界的动态变化。一个设计良好的系统应当维护一个对象状态的内部表示，跟踪每个物品的位置、状态和属性。当模型执行一个动作后，系统需要更新这个内部表示，并验证游戏反馈是否与预期一致。如果出现不一致（例如模型预期物品在房间中但游戏反馈说找不到），系统应当标记这种异常并可能触发重新评估或回滚机制。这种验证机制对于长期运行的游戏尤为重要，因为模型在有限上下文中可能产生 "幻觉"，逐渐对游戏世界形成错误的内部模型。
状态快照与回滚策略
在复杂的文字冒险游戏中，模型可能会做出错误的决策并导致游戏进入一个不理想的状态。如果没有回滚能力，唯一的选择是从头开始重新游戏，这对于需要数百回合才能完成的长篇游戏来说是不可接受的。因此，实现可靠的状态快照和回滚机制是构建实用系统的重要环节。最直接的方式是在每个决策点之前保存游戏状态的完整快照，当检测到模型陷入困境或做出明显错误的决策时，可以回退到之前的状态并尝试不同的行动路径。
然而，全量快照的存储成本可能很高，特别是在需要频繁保存的场景中。一个更高效的方案是实现增量快照：只保存每个状态与前一个状态之间的差异（执行的命令和游戏反馈），通过重放这些差异可以在任意两点之间重建完整状态。这种方案将存储复杂度从 O (n) 降低到 O (d)，其中 n 是游戏回合数，d 是两次快照之间的平均间隔回合数。在实践中，设置 10 到 20 回合的快照间隔是一个常见的平衡点，既能在需要时回滚到足够近的状态，又不会产生过多的存储开销。
自动回滚触发条件的设定是一个需要仔细权衡的问题。过于敏感的触发条件会导致频繁回滚，降低游戏效率；而过于宽松的条件则可能让模型在错误路径上走得太远。一种有效的策略是监控多个指标：模型在同一个房间或同一类任务上的重复尝试次数、长期目标进展的停滞时间、以及语义记忆中失败尝试记录的密度。当这些指标超过预设阈值时，系统可以自动触发回滚，或者至少向模型发出警告信号提示其可能陷入了循环。另一种策略是在每个决策点引入模型自省环节，要求模型在执行命令之前简要评估该行动是否会重复之前的错误，从而在源头减少无效循环的产生。
监控与参数调优的工程实践
构建一个可靠的 LLM 驱动文字冒险系统需要建立完善的监控体系，以追踪系统运行状态并指导参数调优。核心监控指标包括：每回合 token 消耗及其累积成本、模型响应延迟分布、动作成功率（游戏反馈是否与预期一致）、探索覆盖率（已访问房间与总房间数的比例）、以及循环检测触发频率。这些指标的时序分析可以揭示系统的行为模式，例如 token 消耗的增长率可以反映记忆管理的效果，而循环触发频率的变化则可以评估回滚策略的有效性。
在参数调优方面，有几个关键的超参数需要根据具体游戏和模型能力进行调整。上下文窗口的大小决定了模型能够 "记住" 多少近期历史，过小的窗口可能导致模型频繁遗忘关键信息，过大的窗口则增加成本和延迟。语义记忆的大小限制和淘汰策略影响长期信息的保留效率，过松会导致信息过载，过严则可能丢失重要线索。回滚阈值（包括循环检测阈值和停滞时间阈值）决定了系统在检测到问题后的反应速度，过低会增加不必要的中断，过高则可能让模型在错误路径上浪费过多资源。通常，这些参数需要通过大量的实验迭代来确定最佳配置，建议从保守的默认值开始，逐步收紧以找到性能与可靠性之间的平衡点。
此外，模型选择对系统性能有显著影响。实验表明，不同规模和训练风格的模型在文字冒险任务上表现差异明显。较强大的模型（如 Claude Opus）能够处理更复杂的推理任务，但也意味着更高的成本；较轻量的模型（如 Haiku）成本较低，但在需要长期规划和复杂推理的场景中可能表现不佳。一个实用的策略是在游戏的不同阶段使用不同规模的模型：初期探索阶段使用轻量模型快速建立对游戏世界的理解，后期关键决策阶段切换到更强大的模型进行深度推理。这种动态模型切换可以在保证关键决策质量的同时控制整体成本。
总结与未来方向
LLM 驱动的文字冒险游戏系统代表了人工智能应用中的一个有趣挑战，它将自然语言处理、状态管理和长期规划等多个技术领域交织在一起。通过本文的探讨，我们看到构建这样一个系统需要解决多个层次的工程问题：从底层的解释器桥接和 IO 处理，到中层的记忆管理和意图解析，再到上层的状态快照和回滚策略。每个层次都有其独特的技术挑战和设计权衡，需要在实际开发中根据具体需求进行平衡和优化。
未来的改进方向包括更细粒度的领域特定记忆结构，例如将任务清单、位置地图、物品清单等不同类型的信息分开存储和管理；自动化的地理构建，让系统从游戏输出中自动推断房间之间的连接关系；以及会话级别的情景记忆，在游戏结束后进行总结分析，为后续游戏提供参考。这些改进有望进一步提升系统的性能和可靠性，使 LLM 能够在更复杂的文字冒险世界中展现更强的自主行动能力。
参考资料
- Fernando Borretti. Letting Claude Play Text Adventures. https://borretti.me/article/letting-claude-play-text-adventures