大型语言模型（LLM）正在成为开发者的 "认知类固醇"—— 它们提升了任务表现，却也放大了认知偏差，特别是在安全审计环节。最新研究显示，虽然 AI 工具能显著提高代码质量，但使用者往往高估自身能力，忽视了关键的认知偏见问题，从而在安全审查中埋下隐患。
从 "无知者无畏" 到 "AI 加持下的过度自信"
传统的邓宁 - 克鲁格效应（Dunning-Kruger Effect）描述了一个现象：能力较低的人往往高估自己的能力，而真正有能力的专家反而倾向于低估自己。然而，AI 时代的到来正在改变这一心理机制的运作方式。
阿尔托大学的研究人员通过实验发现，使用 AI 完成法律推理任务的人们虽然表现更好，但普遍高估了自己的成绩，尤其令人意外的是，那些自认为 AI 素养更高的参与者，其自我评估的准确性反而更低。这种现象被称为 "认知卸载"—— 用户倾向于将思考过程完全交给 AI，丧失准确自我监控所需的反馈线索。
斯坦福大学的另一项研究进一步揭示了安全层面的隐患：使用 AI 代码助手的开发者 "编写了明显不太安全的代码"，但他们 "更可能相信自己编写的是安全代码"。这表明 AI 工具不仅改变了我们的工作方式，更重要的是重塑了我们对自身能力的认知。
AI 辅助代码审计中的认知偏差放大效应
在代码安全审计环节，这种认知偏差的放大带来了特有的风险模式。传统的人工代码审查依赖于开发者的专业判断和经验积累，而 AI 工具的引入虽然提高了效率，却也带来了新的认知陷阱。
自动化偏见的双重陷阱：当 AI 代码审查工具（如 Claude Code、GitHub Copilot 等）指出问题时，开发者容易过度依赖这些 "权威" 建议。然而，最新评估显示，Claude Code 在处理 Python pandas 库的远程代码执行漏洞时甚至出现了误报，将其标记为 "安全"，这暴露了 AI 工具的判断局限性。
锚定效应与框架效应的强化：当 AI 工具在代码审查中提供看似专业的安全建议时，审查者往往被其 "专业性" 所锚定，难以从独立角度评估问题。Anthropic 的安全专家 Silviu Asandei 指出，过度依赖可能培养 "虚假自信"，导致未经审查的不安全代码和开发者技能下降。
知识盲区的系统性放大：AI 工具的使用者往往缺乏对底层技术细节的深入理解，却因为 AI 的 "专业" 建议而产生了过度的安全感。这种现象在安全审计中尤其危险，因为真正的安全威胁往往隐藏在复杂的上下文和边缘情况中。
工程化防护机制：认知偏见的系统化缓解策略
面对这些认知偏差风险，我们需要构建系统化的工程防护机制，而不仅仅是依赖开发者的个人警觉。
1. 建立 "信任但验证" 的认知框架
首先，需要将 AI 建议视为 "来自经验不足的助手" 的工作，而非 "权威" 结论。工程化实践中，这体现在：
- 多源验证机制：AI 生成的安全建议必须通过至少两种不同的工具进行交叉验证
- 关键路径人工复审：对于涉及敏感数据和核心业务逻辑的代码变更，坚持人工深度审查
- 安全专家介入门槛：建立明确的人工专家介入标准，如复杂业务逻辑或高风险模块
2. 认知偏差的自动化检测
现代 DevSecOps 工具链可以集成认知偏差检测功能：
# 示例：认知偏差检测配置
cognitive_bias_checks:
confidence_threshold: 0.7
validation_layers:
- type: "automated_scan"
tools: ["SAST", "DAST", "SCA"]
- type: "ai_assistance"
required_confirmation: true
- type: "expert_review"
threshold: "high_risk"
3. 上下文切换的最小化设计
认知科学研究表明，频繁的上下文切换会显著降低决策质量。在代码安全审查中，需要：
- 集成化安全工具链：避免开发者在 IDE 和安全扫描工具之间的频繁切换
- 实时反馈机制：将安全检查直接嵌入到开发工作流中，而非作为后置步骤
- 上下文保持策略：为长期安全审查任务提供专门的、不被打断的时间窗口
实践建议清单：重构代码安全审计流程
短期优化措施（1-3 个月）
- 建立 AI 生成代码的额外审查层级：对所有 AI 辅助编写的代码实施比人工代码更严格的审查标准
- 引入 "反 AI 验证" 机制：要求审查者能够独立验证 AI 建议的正确性，而不仅仅依赖 AI 的 "权威性"
- 建立认知偏差训练：对开发团队进行认知偏差识别和缓解的系统性培训
中期体系化改进（3-6 个月）
- 部署 "AI 感知" 安全工具：选择能够识别 AI 生成代码特点的专门化安全检测工具
- 实施零信任代码审查：对所有代码变更（无论来源）执行相同的安全审查标准
- 建立 AI 工具使用档案：跟踪 AI 工具的使用模式与后续发现的安全问题关联性
长期能力建设（6 个月以上）
- 培养系统性安全思维：建立涵盖技术、认知、流程等多维度的安全审查能力评估体系
- 构建人机协作的最佳实践：制定明确的 AI 工具使用边界和人类决策优先级规则
- 建立持续学习机制：基于实践经验不断更新认知偏差防护策略和工具链配置
结语：在效率与安全之间寻找平衡
LLM 作为 "认知类固醇" 确实为我们带来了前所未有的开发效率，但同时也放大了传统的认知偏差风险。在 AI 辅助代码审计的实践中，我们不能简单地将 AI 视为灵丹妙药，而应该理性地认识其局限性，并构建系统化的防护机制。
安全审计的本质不只是发现漏洞，更重要的是建立可靠的认知判断体系。只有在充分理解 AI 工具特性及其对人类认知影响的基础上，我们才能真正实现 "用 AI 提升安全，而不是被 AI 误导安全" 的目标。这种平衡的达成，需要技术、心理学和工程管理的综合视角，更需要持续的系统化实践和迭代优化。
参考资料：
- 阿尔托大学关于 AI 使用与自我评估能力的研究（2025 年 Computers in Human Behavior）
- 斯坦福大学关于 AI 代码助手安全影响的研究
- SonarSource 关于 AI 生成代码安全审查的实践经验
- Checkmarx 对 Claude Code 安全审查功能的评估报告