📝
ai-systems
•2025年
热门实现 MCP 服务器与客户端的 TypeScript SDK：类型安全的 AI 模型-工具交互
本文探讨如何使用 TypeScript SDK 实现 Model Context Protocol (MCP) 的服务器和客户端，支持类型安全的资源、工具和提示交互。涵盖安装、核心概念、传输配置及实际示例，帮助开发者构建标准化 AI 上下文提供系统。
阅读全文
3分钟阅读
🔥每日更新技术干货 · 已更新 1903 篇文章
欢迎来到
Hotdry Blog
技术热点，干货分享。 专注云原生、CDN、AI等前沿技术的实战经验和深度思考
1903
技术文章
59
技术分类
365
天更新
∞
持续学习
📝最新文章
查看全部📝
systems
•2025年
热门使用 C++ 中的 Taskflow 和 Rust 中的 Rayon 实现依赖驱动的并行任务图
超越 OpenMP 的线程级并行，探讨 Taskflow 和 Rayon 如何构建依赖驱动的任务图（DAG），提供高效执行的参数配置与监控要点。
阅读全文
3分钟阅读
📝
systems
•2025年
热门HTTP/3 QUIC 流上 PTY 仿真与交互式终端多路复用的实现
在 HTTP/3 QUIC 流上实现 PTY 仿真和交互式终端多路复用，提供低延迟远程 shell 会话，支持并发命令执行的工程实践。
阅读全文
3分钟阅读
📝
ai-systems
•2025年
热门在 MP4 元数据轨道中实现量化 ANN 索引：面向边缘设备的无数据库向量搜索
探讨如何将近似最近邻索引嵌入 MP4 元数据轨道，实现资源受限边缘设备上的高效语义搜索，结合 Memvid 理念与量化技术，避免外部数据库依赖。
阅读全文
3分钟阅读
📝
systems
•2025年
热门Dynamo中基于Raft共识的动态领导者选举实现
在Dynamo框架中，利用etcd的Raft协议实现领导者选举，支持异构GPU集群的无缝故障转移和分区容忍，提供工程化参数与监控要点。
阅读全文
3分钟阅读
📝
web-infrastructure
•2025年
热门在 Cloudflare Anycast 网络中实现可扩展的边缘缓存和路由
本文探讨如何在 Cloudflare 的 Anycast 网络中实施可扩展的边缘缓存和路由策略，实现全球低延迟内容交付和 PoP 间的动态负载均衡，提供工程参数和监控要点。
阅读全文
3分钟阅读
📝
ai-systems
📝
web
•2025年
热门使用 Directus 从任意 SQL 数据库实例化 Headless CMS
面向现有 SQL 数据库，给出使用 Directus 构建 headless CMS 的工程化参数与配置要点。
阅读全文
3分钟阅读
📝
ai-systems
•2025年
热门使用 OpenTelemetry 仪器化 LLM 服务管道：端到端追踪与指标捕获
利用 OpenTelemetry 标准实现 LLM 应用的端到端可观测性，捕获 token 指标、延迟分解和分布式错误传播。
阅读全文
3分钟阅读
📝
ai-systems
•2025年
热门在 WinUI 应用中集成 ONNX 模型实现低延迟本地推理：利用 DirectML GPU 加速
面向 WinUI 应用，给出使用 Windows ML 集成 ONNX 模型的工程化步骤、DirectML 配置参数与性能优化要点。
阅读全文
3分钟阅读
📝
ai-systems
•2025年
热门Integrate Supervision's Modular CV Postprocessing Tools for Real-Time Multi-Model Inference
在计算机视觉管道中集成 Supervision 的可组合工具，实现高效后处理，包括非最大抑制、跟踪持久性和标注渲染，优化低延迟视频流，支持任意模型无 YOLO 依赖。
阅读全文
3分钟阅读
📝
ai-systems
•2025年
热门在 RAG-Anything 中集成混合稠密-稀疏检索器：模块化管道与 IVF-PQ 索引
探讨如何在 RAG-Anything 框架中结合稠密和稀疏检索器、reranking 以及 IVF-PQ 索引，实现高效的跨域检索增强生成。提供工程参数和最佳实践。
阅读全文
3分钟阅读
📝
systems
•2025年
热门SSH3 中基于 HTTP/3 QUIC 流的 SFTP-like 文件传输集成
探讨在 SSH3 协议中使用 HTTP/3 QUIC 流实现类似 SFTP 的文件传输，支持断点续传、零拷贝 I/O 和拥塞感知节流，提升远程文件操作的可靠性和效率。
阅读全文
3分钟阅读
📝
systems
•2025年
热门SSH3 中基于 QUIC 流的 SFTP-like 文件传输集成
探讨在 SSH3 中利用 QUIC 流实现类似 SFTP 的文件传输，支持并发低延迟数据移动，绕过 TCP 限制，提供工程参数和监控要点。
阅读全文
3分钟阅读
📝
ai-systems
📝
ai-systems
•2025年
热门FlashAttention-4 中的 IO 感知块分块策略
探讨 FlashAttention-4 中 IO-aware 块分块策略的工程实现，通过重叠计算与 HBM 访问，在 A100 GPU 上实现长序列 MQA 推理的 2 倍吞吐量提升。提供参数调优与监控要点。
阅读全文
3分钟阅读
📝
web
•2025年
热门利用 Gin 的 Radix-Tree 路由和上下文池化实现微服务 40 倍 HTTP 处理加速
基于 Gin 框架的 Radix-Tree 路由和上下文池化机制，结合模块化中间件优化微服务 HTTP 处理，提供工程化参数与监控策略。
阅读全文
3分钟阅读
📝
ai-systems
•2025年
热门利用 Supervision 可组合工具构建可扩展标注管道：对象跟踪、过滤与指标计算
利用 Supervision 的 Detections、Annotators 和 trackers 构建 scalable 标注管道，支持跟踪、过滤和 metrics 计算，简化 CV 数据集 curation 与模型评估。
阅读全文
3分钟阅读
📝
ai-systems
•2025年
热门利用 Groq LPU 架构实现超低延迟 LLM 推理加速：张量流式与内存带宽优化
面向 LLM 推理流水线，利用 Groq LPU 的 TSP 和高带宽 SRAM，给出优化参数、集群配置与性能监控策略。
阅读全文
3分钟阅读
📝
systems
•2025年
热门SSH3 中利用 HTTP/3 QUIC 流实现并发会话多路复用
探讨 SSH3 如何利用 QUIC 流支持并发 shell 会话和文件传输，实现低延迟多任务处理，避免 TCP HOL 阻塞。提供工程化参数、监控要点和部署清单。
阅读全文
3分钟阅读