在断网环境获取 AI 辅助决策能力，正从科幻场景走向工程现实。Project N.O.M.A.D（Node for Offline Media, Archives, and Data）提供了一套完整的离线 AI 生存计算机架构方案，通过容器化编排将本地 LLM 推理、向量知识检索与离线资源库整合为单一可部署单元。本文拆解其三层架构设计，提炼出可在资源受限环境落地的技术参数与配置策略。
架构全景：编排层、AI 层与知识层的分离设计
Project N.O.M.A.D 的核心架构遵循 "离线优先" 原则，将功能拆解为可独立启停的容器化服务。Command Center 作为管理 UI 与 API 层，通过 Docker Compose 编排底层服务，实现安装、配置与更新的集中管控。这种设计使得系统可以在最小 4GB 内存的硬件上运行基础功能，同时支持通过硬件升级逐步解锁 AI 能力。
AI 层采用 Ollama 作为本地 LLM 推理引擎，配合 Qdrant 向量数据库实现 RAG（检索增强生成）能力。Ollama 负责模型加载与推理执行，支持从 3B 到 70B 参数规模的模型切换；Qdrant 则承载文档向量化后的存储与语义检索，使 AI 能够在离线状态下引用本地知识库回答问题。两者通过 OpenAI 兼容 API 交互，也可对接外部 LM Studio 等推理服务。
知识层整合 Kiwix、Kolibri 与 ProtoMaps 三大离线资源引擎。Kiwix 承载压缩后的 Wikipedia、医学参考与生存指南（ZIM 格式），Kolibri 提供 Khan Academy 课程的离线版本并支持学习进度追踪，ProtoMaps 则允许预下载区域地图数据。三者共同构成无需网络即可访问的万级知识节点。
技术实现：RAG 闭环的离线化改造
传统 RAG 架构依赖云端 Embedding API 与向量数据库服务，Project N.O.M.A.D 的改造关键在于全链路本地化。文档上传后，系统使用本地 Embedding 模型（通常随 Ollama 模型分发）生成向量，写入 Qdrant 的本地存储卷。查询时，用户问题经同一 Embedding 模型编码后，在 Qdrant 中执行近似最近邻（ANN）搜索，召回 Top-K 相关片段，最终拼接为上下文送入 Ollama 生成回答。
这一闭环对硬件提出明确要求：Embedding 模型通常需 2-4GB 显存，7B 参数 LLM 在 4-bit 量化下约需 4-8GB 显存，加上 Qdrant 与系统开销，16GB 显存是流畅运行的门槛。若采用 CPU 推理，32GB 系统内存可将 7B 模型加载至内存，但响应延迟会显著增加。
架构还支持远程 Ollama 实例的接入模式。通过在独立主机运行 Ollama 并设置OLLAMA_HOST=0.0.0.0，可将推理负载从 N.O.M.A.D 主机剥离，适用于算力受限但需保留 AI 能力的边缘设备部署。此时 N.O.M.A.D 主机仅需承载 Web UI 与向量数据库，最低配置可降至 4GB 内存。
硬件策略：分层需求与性价比配置
Project N.O.M.A.D 的硬件需求呈现明显的分层特征。基础层（Command Center + Kiwix + FlatNotes）仅需 2GHz 双核处理器、4GB 内存与 5GB 存储，可在树莓派级设备或旧笔记本运行。进阶层（加入 Kolibri、CyberChef 等工具）建议 8GB 内存与 SSD 存储以保障多容器并发性能。完整 AI 层则需要 32GB 内存、RTX 3060 级显卡（12GB 显存）与 250GB 以上 SSD，用于承载 7B-13B 参数模型与大规模向量库。
官方推荐的性价比配置覆盖 150 美元至 1000 美元以上三档。入门级可采用二手小型主机或 NUC，满足基础离线知识检索；中端配置（约 500 美元）引入 GTX 1660 级显卡，支持轻量级 AI 对话；高端配置（1000 美元以上）配备 RTX 3060/4060 与 32GB 内存，可流畅运行 13B 参数模型与多用户并发场景。
存储规划需预留弹性空间。单个 ZIM 格式 Wikipedia 全库约 90GB，医学参考与生存指南约 20GB，Khan Academy 课程约 50GB，加上 Docker 镜像与模型文件，250GB 是实用起点。若需承载多语言版本或扩展电子书库，建议直接配置 1TB SSD。
安全与运维：无认证架构的权衡
Project N.O.M.A.D 采用 "零认证" 设计哲学，默认不启用用户登录，依赖网络层隔离保障访问安全。这种设计降低了部署复杂度，使设备在紧急场景下可被多人快速使用，但也意味着接入公共网络时存在暴露风险。
运维层面，系统提供三条关键脚本：start_nomad.sh与stop_nomad.sh控制容器启停，update_nomad.sh更新 Command Center 与依赖服务。AI 模型与知识内容的更新则通过 Web UI 操作，支持增量下载与版本管理。由于零遥测设计，系统不会主动向外发送任何数据，隐私敏感场景下可完全断网运行。
安全加固建议包括：在路由器层限制 8080 端口访问范围，或部署 WireGuard 等 VPN 实现加密接入；若需暴露至公网，应在 N.O.M.A.D 前置 Nginx 反向代理并启用 TLS。社区路线图显示未来可能引入可选认证层，支持多用户权限管理，但当前版本需自行实现访问控制。
可落地参数清单
基于上述分析，整理离线 AI 生存计算机的部署参数：
最小可行配置（无 AI）
- CPU：Intel i3-10100 / AMD Ryzen 3 3200G
- 内存：8GB DDR4
- 存储：128GB SATA SSD
- 网络：仅安装时需联网
- 适用场景：离线文档检索、应急知识查询
标准 AI 配置
- CPU：Intel i5-12400 / AMD Ryzen 5 5600
- 内存：32GB DDR4
- 显卡：RTX 3060 12GB / RTX 4060 Ti 16GB
- 存储：500GB NVMe SSD
- 适用场景：7B-13B 模型本地推理、RAG 知识问答
高性能配置
- CPU：Intel i7-12700 / AMD Ryzen 7 7700
- 内存：64GB DDR5
- 显卡：RTX 4070 Ti Super 16GB
- 存储：1TB NVMe SSD + 4TB HDD（冷存 ZIM 文件）
- 适用场景：70B 级大模型、多并发用户、完整离线数据中心
关键环境变量
OLLAMA_HOST=0.0.0.0：启用远程 Ollama 访问OLLAMA_NUM_PARALLEL=4：设置并发请求数QDRANT__STORAGE__STORAGE_TYPE=memmap：优化向量库内存映射
结语
Project N.O.M.A.D 展示了边缘 AI 从概念到产品的完整路径：通过容器化编排降低部署门槛，通过分层硬件策略适配不同资源场景，通过 RAG 本地化实现离线知识增强。其架构设计不仅适用于应急生存场景，也为偏远地区教育、野外科研考察、军事前哨等网络受限环境提供了可复用的技术范式。随着端侧模型效率持续提升，离线 AI 生存计算机有望成为基础设施韧性建设的标准组件。
资料来源
- Project N.O.M.A.D GitHub 仓库：https://github.com/Crosstalk-Solutions/project-nomad
- 官方硬件指南与 benchmark 数据：https://www.projectnomad.us/hardware
内容声明：本文无广告投放、无付费植入。
如有事实性问题，欢迎发送勘误至 i@hotdrydog.com。