Hotdry.
所有分类

ai-systems

机器智能

击败LLM推理中的非确定性

通过固定随机种子、温度控制和中间结果缓存,实现LLM生产环境输出可复现,提供工程参数与监控要点。

阅读全文 →

MaxKB:企业级代理知识集成

通过 RAG 和工具链集成知识库,实现可扩展代理编排,支持企业 AI 工作流,强调数据隐私和实时查询。

阅读全文 →

BitNet 三元权重阈值优化工程实践

通过自定义三元权重阈值选择算法,优化 BitNet 框架,实现 CPU-only 1-bit LLM 的低延迟推理与内存节省,提供工程参数与监控要点。

阅读全文 →
65 / 66 页 · 共 5280