对抗性机器学习常见术语解析

NetSPI 提出安全团队评估 AI/ML 系统应先问的五个问题，涵盖模型业务用途、目标函数、训练数据来源等，帮助以对抗视角审视对抗性机器学习（Adversarial ML）风险，把安全内建到 AI 落地全程。

一位渗透测试员实测发现：Claude 会拒绝编写 LSASS 转储工具，而本地运行的 DeepSeek 及去审查版 Qwen 模型可轻松生成可用的 XOR 加密 minidumper，表明借助本地 AI 绕过 EDR 已相当容易。

SpecterOps 结合红队实战系统梳理 AI 在进攻性安全中的适用边界：侦察与数据降噪、工具开发、社会工程、漏洞发现与验证、长期自动化及报告整理等场景已见实效，但模型仍可能误读工具输出、虚报漏洞利用或提权结果。文章强调成败关键在于模型之外的工程化 harness——上下文、可用工具、持久状态、独立验证与人类判断。

Project Zero 将 Project Naptime 升级为 Big Sleep：利用大语言模型在真实世界软件中发现漏洞，并分享首批成果与观察。

Project Naptime 评估大语言模型的攻击性安全能力：给出方法论、工具链配置，以及在真实代码中发现漏洞的早期成果。

欢迎阅读这篇实战指南，我们将深入探讨大语言模型（LLM）与向量数据库的协同工作。LLM 已成为技术领域的变革者，推动着应用开发创新，但单独使用时其潜力往往未被充分挖掘。向量数据库正是为此而来，能够增强……