LLM 漏洞:为何 AI 模型是下一个重大攻击面

一位渗透测试员实测发现：Claude 会拒绝编写 LSASS 转储工具，而本地运行的 DeepSeek 及去审查版 Qwen 模型可轻松生成可用的 XOR 加密 minidumper，表明借助本地 AI 绕过 EDR 已相当容易。

SpecterOps 结合红队实战系统梳理 AI 在进攻性安全中的适用边界：侦察与数据降噪、工具开发、社会工程、漏洞发现与验证、长期自动化及报告整理等场景已见实效，但模型仍可能误读工具输出、虚报漏洞利用或提权结果。文章强调成败关键在于模型之外的工程化 harness——上下文、可用工具、持久状态、独立验证与人类判断。

Borg 讲解如何测试 AI 检索功能是否严格执行租户边界，将 OWASP LLM Top 10 2026 指南转化为针对索引查询内部的具体授权测试。

深入剖析 LLM 智能体中工具与函数调用的攻击面：暴露的 messages[]、特权角色及未正确转义的控制 token 可被利用来操纵智能体行为，对应 OWASP LLM06「过度代理」风险。

对比两类 LLM 注入攻击：语义注入用自然语言诱导模型把恶意指令当作合法指令，token 级注入则利用保留分隔符、对抗性后缀等 tokenizer 特性，两者需要不同的测试与防御手段。

解析 LLM API 配置错误如何击穿信任边界：当客户端可直传 messages[]、特权角色、模型选择与生成参数时，将出现角色注入、参数篡改与 token 消耗失控等后果。