X 推荐系统的实时候选生成是确保用户时间线高效更新的关键环节，通过结合图嵌入、RPC 服务和排序启发式，实现亚百毫秒级响应。该系统源自 Twitter（现 X）开源的算法仓库，采用 Scala 语言构建，强调低延迟和高吞吐量。在候选生成阶段，系统从海量推文中快速筛选潜在相关内容，避免全量计算带来的开销。核心观点在于：通过预计算嵌入和异步 RPC 调用，系统能在实时交互中平衡准确性和性能。
TW HIN（Twitter Heterogeneous Information Network）嵌入是候选生成的核心技术之一，它从异构图中提取用户和推文的稠密表示，支持跨实体相似性计算。该图包含用户、推文、广告等节点，以及关注、点赞、转发等边，形成一个多模态知识网络。开源代码显示，TW HIN 使用图神经网络生成 128 维嵌入，每周更新一次以捕捉动态关系。在 out-of-network 候选 sourcing 中，系统通过嵌入余弦相似度检索相似推文，例如用户兴趣社区内的内容。证据表明，这种方法能覆盖 50% 的非社交圈推文召回，显著提升多样性。
为实现低延迟服务，Finagle RPC 框架贯穿整个管道，确保嵌入和候选在服务间高效传输。Finagle 基于 Netty 构建，支持异步非阻塞 I/O 和协议无关设计，在 X 系统中的 representation-manager 服务中用于分发 TW HIN 嵌入。代码实现中，Finagle 的 Service[Req, Future[Rep]] 接口封装 RPC 调用，内置超时和重试机制，默认超时阈值为 50ms 以匹配实时需求。“Finagle 通过 Future 组合实现顺序和并发操作，避免阻塞线程。” 在 tweet-mixer 组件中，它协调 UTEG（User-Tweet-Entity Graph）和外部源，生成初始候选池。
重排序启发式（heavy ranking heuristics）在候选生成后进一步过滤和排序，使用规则和轻量模型优化相关性。该阶段整合 RealGraph 预测互动概率、Tweepcred 计算用户信誉，以及 Trust & Safety 过滤违规内容。Scala 代码中，heavy-ranker 模型采用多任务学习，输入包括 TW HIN 相似度和社交信号，输出 engagement 分数。启发式规则如优先 in-network 推文（占 50%），并应用阈值过滤低分候选（分数 < 0.1）。这种混合方法减少了纯 ML 的计算负担，确保端到端延迟 <100ms。
落地参数与清单：在部署类似系统时，首先配置 TW HIN 嵌入维度为 64-256，根据图规模调整；更新周期设为 1-7 天，监控嵌入新鲜度通过 cosine similarity 漂移率（阈值 <0.05）。Finagle RPC 参数包括连接池大小 100-500、负载均衡采用 p2c（power-of-two choices）以最小化尾部延迟，重试次数上限 3 次，超时 20-100ms。重排序启发式清单：1）定义分数阈值（互动预测 >0.2）；2）规则优先级（信誉 >0.5 权重 x2）；3）A/B 测试监控指标，如 CTR 提升 5% 和 p95 延迟 <80ms；4）回滚策略，若 AUC 下降 >2%，切换至 baseline 规则。风险控制：嵌入 stale 时 fallback 到 SimClusters 稀疏表示；RPC 失败率 >1% 触发熔断。
通过这些组件，X 系统展示了大规模推荐的工程实践：TW HIN 提供语义基础，Finagle 保障传输效率，重排序确保质量。开发者可借鉴其模块化设计，在自定义推荐中集成类似管道，实现实时性与准确性的权衡。未来优化可探索动态嵌入更新，以进一步降低延迟。
（字数：912）