Hotdry.
归档
ai-systems

API驱动的AI电话机器人：外呼与呼入集成实现

通过API触发AI代理外呼或处理呼入电话，提供电话机器人工程化参数与部署清单。

在 AI 代理时代，将语音电话系统与大语言模型（LLM）桥接已成为呼叫中心的关键技术路径。通过单一 API 调用，即可让 AI 代理主动外呼客户，或自动接听配置号码，实现结构化信息收集与实时对话。这种 API 驱动的电话机器人设计，不仅支持断线续传与多语言交互，还能按需定制任务目标与数据 schema，确保低延迟、高可靠的客户服务体验。

核心实现依赖 Azure Communication Services 作为电话网关，结合 Cognitive Services 的 STT（语音转文本）和 TTS（文本转语音），上游接入 OpenAI GPT-4o-mini 或 GPT-4o 模型处理对话逻辑。外呼场景下，POST /call 接口只需传入 bot_company、bot_name、phone_number、task 及 claim schema，即可发起呼叫。例如，IT 支持任务可定义 claim 字段如 {"name": "hardware_info", "type": "text"}，AI 会引导用户填充并持久化到 Cosmos DB。呼入时，专用号码直接桥接到 AI，实现无缝切换。该架构的关键在于实时流式处理：用户语音经 STT 后立即推入 LLM，响应经 TTS 流式输出，避免传统批处理延迟。

为确保工程化落地，以下是关键参数配置清单，按优先级排序：

  1. 通话超时与沉默检测（VAD 参数）：

    • vad_silence_timeout_ms: 500（沉默阈值，过低易误触发）。
    • vad_cutoff_timeout_ms: 250（语音结束裁剪）。
    • phone_silence_timeout_sec: 20（长时间沉默触发警告）。
    • answer_soft_timeout_sec: 4（LLM 软超时，发送等待提示）。
    • answer_hard_timeout_sec: 15（硬超时，报错重试）。 建议初始值基于测试调整，目标端到端延迟 < 2s。

  2. LLM 与 RAG 配置：

    • 优先 gpt-4o-mini（成本低、速度快，10-15x 性价比优于 GPT-4o）。
    • RAG 索引 schema：answer/context/vectors（1536 维 ADA 嵌入），每消息搜索 400 tokens。
    • 缓存：Redis TTL 60s，历史对话限 8k tokens。
    • moderation 阈值：0-7 分级，hate/sexual 等设为 5 以上拦截。

  3. Claim 与任务 Schema：

    • 类型支持：text/datetime/email/phone_number。
    • 示例：保险 claim 包含 incident_datetime、policy_number。
    • 动态覆盖默认 schema，避免硬编码。

  4. 语音与语言：

    • 默认：fr-FR-DeniseNeural（自然度高）。
    • 多语言：pronunciations_en 匹配 short_code，如 ["Chinese","ZH"]→zh-CN-XiaoqiuNeural。
    • 自定义声：Azure Custom Neural Voice，填 custom_voice_endpoint_id。

部署清单（Azure 优先，本地备选）：

  • 前置：Azure 资源组、Communication Services（买号码，支持 voice/SMS）、OpenAI 部署。
  • 配置：config.yaml 填端点、密钥；远程用 make deploy name=my-rg。
  • 本地：make install + devtunnel，uv python，local.py 测试无电话。
  • 规模化：2 replicas 1vCPU/2GB，Cosmos 1k RU/s 双区。

监控与优化要点：

  • Application Insights 追踪：call.answer.latency（目标 < 3s）、aec.droped（回声抵消失败 < 1%）。
  • 特征旗标：recording_enabled（录音到 Storage）、slow_llm_for_chat（A/B 测试）。
  • 成本估算（1000 呼叫 / 10min）：~720 USD/mo，主耗 Speech STT/TTS (152 USD)、Cosmos (234 USD)、Container Apps (160 USD)。优化：PTU 减 LLM 延迟一半，采样日志减 Monitor 费。
  • 风险阈值：LLM 空响应重试 3 次，recognition_retry_max=3。

回滚策略：功能旗标渐进启用，A/B via App Configuration；生产前跑负载测试（reproductible via IaC Bicep），覆盖单元 / 集成（persistence/llm_worker）。若异常，fallback 人工转接。

实际参数调优案例：在保险外呼中，将 vad_threshold=0.5 升至 0.6，减少噪声误识 20%；callback_timeout_hour=3，确保未接自动回呼。桥接 telephony 与 LLM 后，呼叫中心人力降 50%，24/7 可用性达 99%。

资料来源：Microsoft GitHub call-center-ai 仓库（POC 级，需强化安全 / 测试生产化）；社区讨论如今日头条 / CSDN。

（字数：1028）

查看归档