Chrome 中通过 WebNN API 集成 Gemini Nano：浏览器端本地 AI 推理实践
在 Chrome 浏览器中利用 WebNN API 集成 Gemini Nano，实现设备端 AI 任务如标签页总结和内容生成，提供离线工程化参数与监控要点。
2025-09-19ai-systems2025-09
Category
ai-systems
共 7658 篇文章。
OpenAI Codex CLI 与本地 LLM 离线回退集成：终端 RAG 检索与代码合成指南
在低资源硬件终端环境中，集成官方 OpenAI Codex CLI 与本地 LLM 回退，实现离线 RAG 检索、代码合成及调试，提供混合在线-离线管道的工程化参数与优化策略。
2025-09-19ai-systems2025-09
Integrate React UI with AI Copilot Infrastructure Using CopilotKit
使用 CopilotKit 集成 React UI 组件与后端基础设施，实现 AI 副驾驶的 in-app 聊天机器人、状态同步和工具调用。
2025-09-19ai-systems2025-09
SQLBot 与企业数据库集成：安全 RAG Text-to-SQL 实现
探讨 SQLBot 在企业环境中通过 RAG 和 LLM 实现安全的 Text-to-SQL，重点包括 schema 检索、查询生成、迭代修正及角色访问控制，以降低注入风险和数据泄露。
2025-09-19ai-systems2025-09
通过 WebNN API 将 Gemini Nano 集成到 Chrome 中实现设备端 AI 任务
利用 WebNN 在 Chrome 中运行 Gemini Nano，实现离线文本摘要和提示增强，提供启用指南和优化参数。
2025-09-19ai-systems2025-09
Integrating SQLBot RAG Pipeline: Dynamic Schema Retrieval, Query Decomposition, and Error Feedback
利用SQLBot的RAG机制，实现动态schema检索与查询分解，支持错误反馈循环，提升复杂SQL生成的准确性和鲁棒性。
2025-09-19ai-systems2025-09
集成SQLBot RAG管道：动态Schema检索、查询分解与错误反馈
利用SQLBot的RAG机制，实现动态schema检索与查询分解，支持错误反馈循环，提升复杂SQL生成的准确性和鲁棒性。
2025-09-19ai-systems2025-09
使用 WebNN API 在浏览器扩展中嵌入 Gemini Nano：JS/TS 代码自动补全
面向 JS/TS 编辑器，给出 Gemini Nano 在浏览器扩展中的集成参数与代码辅助管道。
2025-09-19ai-systems2025-09
AI对冲基金的多代理交易：基于LLM的实时市场分析与风险对冲
探讨如何通过多代理系统协调LLM代理，实现市场分析、交易执行、风险对冲和投资组合再平衡的工程化实践。
2025-09-19ai-systems2025-09
SQLBot 中多轮 SQL 生成工程化：RAG 驱动的查询分解与错误反馈循环
面向动态数据库的多轮 Text-to-SQL，介绍 SQLBot 中的 RAG 查询分解、动态 schema 检索及 LLM 错误反馈循环的工程参数与实现要点。
2025-09-19ai-systems2025-09
nvmath-python：cuBLAS与cuSOLVER的Python绑定加速ML线性代数
利用nvmath-python绑定cuBLAS和cuSOLVER，实现GPU加速的线性代数操作，支持ML管道中的张量分解和稀疏求解，提升训练可扩展性。
2025-09-19ai-systems2025-09
SQLBot 中查询分解与错误反馈：优化动态 Schema 下的 Text-to-SQL
集成查询分解与错误反馈机制，提升 SQLBot 在复杂动态数据库中的 Text-to-SQL 准确率。
2025-09-19ai-systems2025-09
RAG增强的Text-to-SQL管道：动态模式检索、多步查询分解与LLM错误反馈
工程化RAG增强Text-to-SQL系统，聚焦动态schema检索、多步分解及错误反馈循环。
2025-09-19ai-systems2025-09
构建AI代理自动化竞争编程：问题解析、C++代码生成与提交
介绍AI代理在竞争编程中的应用管道，包括解析问题、生成优化C++代码、符号执行测试和自动化提交。
2025-09-18ai-systems2025-09
构建AI代理自动化ICPC竞赛：问题解析、C++代码生成与提交
介绍AI代理在竞争编程中的应用管道，包括解析问题、生成优化C++代码、符号执行测试和自动化提交。
2025-09-18ai-systems2025-09
构建开源 Perplexity AI 替代品：本地 LLM 集成与隐私搜索
基于 Perplexica 项目，探讨本地 LLM 集成实现隐私优先的 AI 搜索，支持 RAG 和多模态查询，提供部署参数与优化策略。
2025-09-18ai-systems2025-09
使用 RAG 增强的 Text-to-SQL 系统：基于 LLM 的模式检索、查询生成与迭代纠错
构建 RAG 增强的 Text-to-SQL 系统，利用 LLM 进行模式检索、查询生成及迭代纠错，处理复杂数据库查询，减少幻觉。
2025-09-18ai-systems2025-09
终端部署轻量级 OpenAI Codex CLI：利用 Rust 集成实现低延迟代码合成与调试
在终端中部署 OpenAI Codex CLI，通过 Rust 核心和本地沙箱，支持实时代码合成、调试与自动补全，实现低延迟边缘计算。
2025-09-18ai-systems2025-09
边缘设备上部署轻量级PaddleOCR：后训练量化与ONNX Runtime优化
在资源受限的边缘设备上部署PaddleOCR模型，通过后训练量化生成INT8 ONNX模型，利用ONNX Runtime实现高效多语言文本提取的工程参数与优化策略。
2025-09-18ai-systems2025-09
AI辅助编码管道中设计工作单元边界：上下文管理和多文件编辑
在AI辅助编码管道中，通过设计工作单元边界管理上下文窗口，减少错误，确保大型代码库中多文件编辑的连贯性。
2025-09-18ai-systems2025-09
使用双数和图验证诊断与缓解自动微分中的不正确梯度
探讨自动微分系统中梯度不稳定性的诊断与修复方法，包括双数的前向计算、图验证技术，以及稳健的前向/反向模式策略，以实现稳定的机器学习训练。
2025-09-18ai-systems2025-09
使用 TEN 框架工程化低延迟 C 语言代理：实时语音转录、意图检测与多轮对话管理
基于 TEN 框架的 C 组件，实现嵌入式系统的低延迟语音 AI 代理，包括转录、意图识别与对话管理参数。
2025-09-18ai-systems2025-09
工程化分层式AI代理规划：DeepResearch中的顶级规划代理设计
针对多代理系统中的分层任务分解，设计顶级规划代理，支持LLM协调子代理进行查询分解、证据合成与迭代精炼，实现自动化深度研究。
2025-09-18ai-systems2025-09
AI 服务中的工程中断缓解：来自 Anthropic 最近事件的经验教训
基于 Anthropic 最近三起事件，探讨 AI 服务中断的根因分析、告警优化以及容量保障策略，提供可落地的工程参数与清单。
2025-09-18ai-systems2025-09
工程物理基础模型预训练策略：模拟数据管道与Transformer适应
工程物理基础模型预训练的核心在于构建高效模拟数据管道、适应Transformer处理物理约束，并通过多模态融合提升模型精度。
2025-09-18ai-systems2025-09
实现多区域冗余、高级监控和自动回滚机制以处理大规模AI推理服务的级联故障
针对大型AI推理服务的级联故障，提供多区域冗余部署、高级监控指标以及自动回滚策略的工程参数与实施清单。
2025-09-18ai-systems2025-09
将 OpenAI Codex CLI 与本地 LLM 如 Ollama 集成：实现离线实时代码合成与混合云边工作流
通过 MCP 协议将 OpenAI Codex CLI 与 Ollama 集成，实现终端离线代码生成、调试和自动完成，支持混合云边工作流，降低延迟并提升隐私。
2025-09-18ai-systems2025-09
Nanobrowser：基于本地LLM的多代理Web自动化工程实践
工程化Chrome扩展集成本地LLM API，实现多代理协作Web自动化，支持实时任务分解、DOM导航和错误恢复的低延迟工作流要点。
2025-09-18ai-systems2025-09
终端安全部署 OpenAI Codex：沙箱隔离与权限控制指南
在终端部署 OpenAI Codex CLI，实现安全代码执行与沙箱隔离，避免权限提升风险的工程化参数与监控要点。
2025-09-18ai-systems2025-09
AI 生成代码检测：基于令牌模式、语法异常和嵌入相似度的启发式实现
在 CI/CD 管道中集成 AI 代码检测机制，通过统计和机器学习启发式分析令牌模式、语法异常及嵌入相似度，实现 95% 准确率。
2025-09-17ai-systems2025-09
使用 CoT 和 Few-shot 提示重写提升 GPT-5-Mini 在 Tau² 基准上的性能 22%
通过迭代提示重写策略，实现链式思考和少样本引导，在复杂推理任务中提升小型模型性能，提供工程化参数。
2025-09-17ai-systems2025-09
构建 RAG 增强的自纠错 Text-to-SQL 系统：Schema 检索与 LLM 迭代修正
通过 RAG 集成 schema 检索、few-shot 提示和 LLM 迭代错误修正，提升 Text-to-SQL 多表查询准确率至 80%以上，提供工程化参数。
2025-09-17ai-systems2025-09
用Rust构建终端AI编码代理：轻量级LLM实时代码合成与调试
探讨Rust终端AI代理的构建，利用llm库实现低延迟代码生成、补全和调试，提供工程参数和优化策略。
2025-09-17ai-systems2025-09
使用 Nanobrowser Chrome 扩展构建多代理浏览器自动化
基于开源 Nanobrowser，探讨 Chrome 扩展中多代理任务编排、DOM 交互与容错导航的工程实践，提供可落地参数与监控要点。
2025-09-17ai-systems2025-09
用 Rowboat 构建多代理 IDE：实时编排、调试与工作流可视化
探索 Rowboat 开源平台如何作为多代理系统 IDE，支持实时代理编排、调试及工作流可视化，助力协作 AI 开发。
2025-09-17ai-systems2025-09
使用 Anthropic Claude API 构建 VSCode 扩展：上下文感知代码生成与多轮推理
利用 Anthropic Claude API 在 VSCode 中构建上下文感知代码生成扩展，聚焦多轮推理和减少幻觉的实现策略。
2025-09-17ai-systems2025-09
DeepCode：通过多代理编排将研究论文转化为可执行代码的代理管道构建
基于 DeepCode 框架，探讨构建多代理管道以从研究论文和规范生成可执行代码，包括解析、规划与迭代细化，提供工程参数与落地清单。
2025-09-17ai-systems2025-09
DeepResearchAgent：分层多代理系统用于深度研究规划
通过顶级规划代理协调子代理，实现深度研究查询的自动化分解、证据收集与综合。
2025-09-17ai-systems2025-09
通过量化与 ONNX Runtime 在边缘设备部署轻量级 PaddleOCR 模型
面向边缘设备，给出 PaddleOCR 模型量化、ONNX 转换与实时部署的工程参数与优化要点。
2025-09-17ai-systems2025-09
在 Apple Silicon 上使用 MLX 实现高效 LLM 推理：统一内存与优化内核
探讨 MLX 框架如何利用 Apple Silicon 的统一内存和优化内核，实现低延迟 LLM 微调与边缘 AI 部署。
2025-09-17ai-systems2025-09
工程化分层多代理系统中的代理间移交协议与冲突解决：面向自动化深度研究的容错任务委托与实时同步
探讨分层多代理系统中的代理间移交协议设计与冲突解决策略，强调容错任务委托机制与实时同步，确保深度研究任务高效执行，提供工程参数与监控要点。
2025-09-17ai-systems2025-09
工程自治对冲基金的多代理 LLM 系统：实时投资组合优化与风险模拟
构建多代理 LLM 系统，用于自治对冲基金的实时再平衡、风险模拟和 API 交易执行的工程指南。
2025-09-17ai-systems2025-09
Waymo SFO 机场无人出租车导航：实时高精地图更新与多传感器融合工程实践
针对旧金山机场高流量区无人驾驶挑战，探讨实时高精地图更新、多传感器融合及监管合规故障转移的工程参数与监控要点。
2025-09-17ai-systems2025-09
工程化顶级规划代理：DeepResearchAgent的分层任务分解与子代理协作
基于DeepResearchAgent框架，工程化顶级规划代理实现复杂研究任务的自动化分解与多子代理协调，提供设计参数、配置指南与执行清单。
2025-09-17ai-systems2025-09
工程化顶级规划代理：DeepResearchAgent中分层任务分解与子代理协调
在DeepResearchAgent框架中工程化顶级规划代理，实现复杂研究任务的自动化分解与子代理协作，提供设计参数、协调机制与落地实践。
2025-09-17ai-systems2025-09
工程化顶级规划代理：DeepResearchAgent中分层任务分解与子代理协调
探讨DeepResearchAgent框架中顶级规划代理的工程化设计，实现复杂任务的自动化分解与子代理协作，提供实用参数、机制与落地指南。
2025-09-17ai-systems2025-09
实现 RAG 管道用于 Text-to-SQL：模式检索、少样本提示与 LLM 错误修正
通过 RAG 管道、schema 检索、few-shot 提示和 LLM 错误修正，实现复杂数据库的自然语言查询，提供参数配置和监控要点。
2025-09-17ai-systems2025-09
TimesFM Transformer 的零样本多变量时间序列预测实现：利用预训练实现可扩展预测
探讨如何使用 TimesFM 进行零样本多变量时间序列预测，利用其在多样数据集上的预训练，实现无需领域特定微调的可扩展预测。包括架构解析、安装步骤和实用参数配置。
2025-09-17ai-systems2025-09
使用 DiT 模型实现零样本语音与歌唱转换：F0 条件实时低延迟流式处理
基于 Seed-VC 的扩散 Transformer 架构，实现零样本语音转换与歌唱支持，通过 F0 条件和 GPU 加速参数优化实时流式输出。
2025-09-17ai-systems2025-09
将 Ollama 视觉模型集成到 Perplexica：实现多模态 RAG 的本地图像搜索
通过 Ollama 视觉模型增强 Perplexica 的多模态 RAG 能力，支持图像嵌入融合，实现本地高效图像基础搜索，查询延迟控制在 100ms 以内。
2025-09-17ai-systems2025-09
Omi AI 可穿戴设备的低功耗嵌入式 C 固件实现：实时语音转录
基于 Omi 硬件的嵌入式 C 固件开发指南，涵盖实时语音转录的 ML 模型集成、低功耗管理和微控制器加速参数。
2025-09-17ai-systems2025-09
使用多代理LLM编排自主对冲基金风险模拟：Monte Carlo方法、VaR计算与CCXT实时数据馈送
工程多代理LLM系统，实现对冲基金风险模拟，包括Monte Carlo场景生成、VaR计算及CCXT实时数据集成，提供参数配置与压力测试清单。
2025-09-17ai-systems2025-09
Stargate UK：构建支持万亿参数LLM的分布式训练基础设施
通过RDMA网络和液冷系统，实现高带宽低延迟的万亿参数LLM分布式训练，提供可落地参数与清单。
2025-09-17ai-systems2025-09
工程化顶级规划代理：DeepResearchAgent的分层任务分解与子代理协作
基于DeepResearchAgent框架工程化顶级规划代理，实现复杂研究任务的自动化分解、子代理协调与执行，提供关键参数、配置与落地清单。
2025-09-17ai-systems2025-09
使用链式思考和少样本适配工程化提示重写，提升GPT-5-Mini在Tau²基准上的推理性能达22%
面向Tau²基准，介绍提示重写工程化方法，包括链式思考与少样本适配，实现GPT-5-Mini 22%性能提升的关键参数与验证清单。
2025-09-17ai-systems2025-09
使用扩散模型构建实时零样本语音与歌唱转换：GPU 优化低延迟流式应用
基于 Seed-VC，利用扩散模型实现零样本实时语音转换，提供 GPU 加速的低延迟推理参数与流式应用工程指南。
2025-09-16ai-systems2025-09
构建低功耗 AI 可穿戴设备：使用设备端 ML 模型实现实时语音转录
基于 Omi 项目，介绍低功耗可穿戴设备的实时语音转录实现，包括设备端 ML 模型和音频处理管道的优化参数。
2025-09-16ai-systems2025-09
Building Low-Resource 3D Reconstruction Pipeline in Rust: Gaussian Splatting for Photogrammetry
面向消费级硬件，提供 Rust 中 Gaussian Splatting 摄影测量 3D 重建的管道构建与优化参数。
2025-09-16ai-systems2025-09
使用 Perplexica 和 Ollama 构建隐私优先的本地 RAG 搜索引擎
基于开源 Perplexica，利用 TypeScript 和本地 Ollama LLM 集成 RAG，实现无云依赖的隐私搜索引擎部署。
2025-09-16ai-systems2025-09
用纯 Rust 在 no_std 嵌入式环境中构建 Transformer LLM：自定义分词、内存高效注意力及无分配推理
针对 IoT 边缘 AI，介绍 no_std Rust 下 Transformer LLM 的自定义分词、固定内存注意力机制，以及无动态分配的推理优化要点。
2025-09-16ai-systems2025-09
DeepCode：多代理框架下论文到代码转换、Text2Web UI 生成与 Text2Backend API 实现
通过 DeepCode 的多代理 LLM 协调框架，实现论文到代码的自动化转换，以及 Text2Web 前端和 Text2Backend 后端的工程化参数与落地实践。
2025-09-16ai-systems2025-09
边缘设备部署 PaddleOCR：多语言文本识别与文档解析的低延迟量化优化
在边缘设备上部署PaddleOCR，实现多语言OCR与文档解析的低延迟推理，通过模型量化提供工程参数与监控要点。
2025-09-16ai-systems2025-09
利用 MLX-LM 在 Apple Silicon 上高效运行 LLM：推理、微调与优化
基于 MLX 框架，详述 Apple Silicon 上 LLM 的加载、推理加速、LoRA 微调集成及内存管理参数，实现低延迟文本生成。
2025-09-16ai-systems2025-09
工程化 Gemini 项目档案图像修复管道：噪声减少、颜色校正与 AI 上采样
面向 1960 年代太空档案照片，给出噪声减少、颜色校正和 AI 上采样工程化管道的参数与历史保真度监控要点。
2025-09-16ai-systems2025-09
工程化 LLM 友好型网络爬虫：语义分块与结构化提取优化 RAG 管道
利用 Crawl4AI 实现语义分块和结构化提取，提升网络爬取数据在 RAG 管道中的预处理效率，提供工程参数和监控要点。
2025-09-16ai-systems2025-09
基于 GE2E-Tacotron2-WaveRNN 的低延迟实时语音克隆工程实践
从 5 秒音频样本实现实时语音克隆的工程 pipeline：GE2E 编码、Tacotron2 生成与 WaveRNN 合成。
2025-09-16ai-systems2025-09
工程多代理LLM框架：实时市场分析与自动化交易执行
基于 ai-hedge-fund 项目，探讨多代理 LLM 系统在金融交易中的工程实践，包括并行协调、风险评估与执行参数配置。
2025-09-16ai-systems2025-09
基于系统卡附加的GPT-5-Codex工程化生产保障：安全评估、偏见缓解与可靠代码合成
基于GPT-5-Codex系统卡附加，阐述工程化生产保障，包括安全评估框架、偏见缓解机制及可靠代码合成管道的参数与监控要点。
2025-09-16ai-systems2025-09
工程化顶层规划代理：分层多代理任务分解
探讨如何设计顶层规划代理，将复杂任务分解为子任务，分配给专属下层代理，实现研究和通用AI工作流中的高效多代理协调。
2025-09-16ai-systems2025-09
用 TypeScript 构建 Midday AI 自由职业者发票后端：时间跟踪与文件对账工程实践
基于 Midday AI 开源项目，探讨 TypeScript 后端在自由职业者财务自动化中的工程实现，包括实时时间跟踪、AI 文件对账和集成助手的参数优化。
2025-09-16ai-systems2025-09
使用Ollama视觉模型增强Perplexica的多模态RAG管道：混合文本-图像检索与低延迟优化
在Perplexica本地RAG中集成Ollama视觉模型，实现混合文本-图像检索，优化嵌入融合与查询延迟低于500ms，无云依赖。
2025-09-16ai-systems2025-09
从Cursor、Devin和Replit代理提取系统提示：构建模块化、可复现LLM管道
基于Cursor、Devin和Replit代理的系统提示，工程化自定义代码生成与任务编排的模块化LLM管道，提供复现参数与清单。
2025-09-16ai-systems2025-09
基于 GE2E、Tacotron2 和 WaveRNN 的零样本语音克隆实时管道实现
探讨零样本语音克隆管道的工程实现，聚焦 GE2E 编码器提取说话者嵌入、Tacotron2 生成梅尔谱图以及 WaveRNN 低延迟波形合成，适用于实时交互系统。
2025-09-16ai-systems2025-09
使用 Trigger.dev 实现耐久、可观测的 AI 后台作业编排
在 AI 应用中，通过 Trigger.dev 实现后台作业的耐久执行、自动重试和队列管理，提供可观测性和可扩展性参数。
2025-09-16ai-systems2025-09
纯 Rust 从零实现 Transformer LLM：自定义分词与嵌入式优化
基于 RustGPT，讨论纯 Rust Transformer LLM 的从零实现，包括自定义分词、无分配注意力和 no-std 嵌入式推理优化。
2025-09-16ai-systems2025-09
使用 Semlib 构建语义数据处理管道：LLM 驱动的函数式编程实践
介绍 Semlib 如何利用 LLM 实现自然语言驱动的数据处理管道，包括 map、reduce 等原语的应用、并发优化与成本控制参数。
2025-09-16ai-systems2025-09
在 IDE 中集成 GPT-5-Codex API 实现多语言代码合成：聚焦上下文感知重构与自动化测试生成管道
本文指导开发者集成 GPT-5-Codex API 到 IDE，支持零-shot 多语言代码合成，重点分析上下文感知重构和自动化测试管道的实现策略与优化参数。
2025-09-16ai-systems2025-09
n8n 与 LLM 节点集成：构建无代码 AI 自动化管道
集成 n8n 工作流与 LLM 节点，实现无代码自动化管道，支持数据抓取、API 链式调用和条件分支决策，提升 AI 任务编排效率。
2025-09-16ai-systems2025-09
Pydantic-AI 与 FastAPI 集成：结构化数据验证与 MCP 服务器编排
在 AI web 服务中，利用 Pydantic-AI 和 FastAPI 实现结构化验证与 MCP 工具集成，提供类型安全和高效代理协调。
2025-09-16ai-systems2025-09
优化 Seed-VC DiT 模型的 F0 条件控制，实现实时歌唱语音转换
针对 Seed-VC DiT 模型的 F0 条件控制，给出实时歌唱语音转换的优化参数与延迟监控要点。
2025-09-16ai-systems2025-09