快速上手：在 Swift 中使用 MLX 进行 Apple Silicon GPU 原生推理
通过官方示例项目，提供从环境配置到模型加载与推理的完整 Swift 实战指南，充分发挥 Apple Silicon GPU 算力。
Apple 的 MLX 框架为开发者在 macOS 和 iOS 平台上利用 Apple Silicon 的强大 GPU 进行机器学习推理开辟了新途径。对于 Swift 开发者而言，mlx-swift-examples 官方示例仓库是快速入门并掌握实战技巧的最佳起点。本文并非泛泛而谈理论，而是聚焦于可立即上手的操作步骤与核心参数，帮助你绕过初期配置的繁琐，直接体验在本地 GPU 上运行大模型的流畅感。
首要步骤是将 MLX 的 Swift 库集成到你的项目中。这可以通过 Swift Package Manager (SPM) 轻松完成。你需要在项目的 Package.swift 文件中，将 mlx-swift-examples 仓库添加为依赖项。具体操作是在 dependencies 数组中加入 .package(url: "https://github.com/ml-explore/mlx-swift-examples/", branch: "main")。接着，在你的目标（target）的 dependencies 列表里，添加你所需的具体库，例如 .product(name: "MLXLLM", package: "mlx-swift-examples") 用于加载大语言模型，或 .product(name: "StableDiffusion", package: "mlx-swift-examples") 用于图像生成。如果你更习惯使用 Xcode 的图形界面，也可以直接在项目设置的 “Package Dependencies” 中添加仓库 URL，并将分支（Branch）设置为 main，然后将所需的库拖拽到你的目标中。这一步是基础，确保了你的项目能够访问到 MLX 的所有核心功能。
模型加载是整个流程的核心环节。mlx-swift-examples 提供了极其简洁的 API 来简化这一过程。你无需手动处理复杂的权重下载、模型架构定义或设备映射。只需一行代码，即可从 Hugging Face Hub 加载一个预训练好的量化模型。例如，let model = try await loadModel(id: "mlx-community/Qwen3-4B-4bit") 会自动下载并加载一个 4-bit 量化的 Qwen3-4B 模型。这里的 mlx-community 是一个托管了大量为 MLX 优化过的模型的组织，选择这些模型能获得最佳的性能和兼容性。加载完成后，你可以创建一个 ChatSession 对象来管理对话状态：let session = ChatSession(model)。这个会话对象会自动处理历史消息的缓存和上下文管理，让你可以像与人类对话一样，连续地向模型提问。例如，print(try await session.respond(to: "旧金山有哪些必去景点？")) 会输出模型的第一轮回复，紧接着调用 print(try await session.respond(to: "那附近有什么推荐的餐厅吗？"))，模型就能理解上下文并给出连贯的第二轮回答。这种设计极大地降低了开发交互式 AI 应用的门槛。
最后，是运行和测试你的代码。官方示例提供了两种主要方式。第一种是通过命令行工具 mlx-run。这是一个位于仓库根目录的 Shell 脚本，它能自动找到由 Xcode 构建的二进制文件并执行。例如，要运行一个名为 llm-tool 的命令行工具来生成文本，你只需在终端中执行 ./mlx-run llm-tool --prompt "介绍一下 Swift 编程语言"。这种方式非常适合快速测试和脚本化操作。第二种，也是更主流的方式，是直接在 Xcode 中打开 mlx-swift-examples.xcodeproj 项目文件。项目中包含了多个预配置好的 Target，如 LLMEval（一个图形化的聊天应用示例）和 StableDiffusionExample（一个图像生成应用）。你可以选择任意一个 Target，连接你的 Mac 或 iPhone/iPad 设备，然后点击运行按钮。Xcode 会自动处理依赖下载、编译和部署，让你能直观地在模拟器或真机上看到应用效果。这种方式对于调试和开发完整的应用程序更为友好。
当然，任何新技术的初期应用都伴随着需要注意的边界和风险。首先，模型的可用性高度依赖于 mlx-community 或其他贡献者在 Hugging Face 上的维护。并非所有 Hugging Face 上的模型都能直接在 MLX 上运行，你需要寻找明确标注了 mlx 或 apple-silicon 兼容性的版本。其次，虽然 API 设计得非常简洁，但其底层仍在快速发展中。这意味着在 main 分支上开发可能会遇到 API 变更或短暂的 Bug。对于生产环境，建议密切关注官方发布的稳定版本（Releases），并在项目中锁定到特定的版本号而非 main 分支，以保证稳定性。通过遵循这些实战步骤和注意事项，你就能高效地利用 Swift 和 MLX，在 Apple Silicon 设备上构建出性能卓越的本地 AI 应用。