Machine Learning for Red Teams, Part 1

SpecterOps 结合红队实战系统梳理 AI 在进攻性安全中的适用边界：侦察与数据降噪、工具开发、社会工程、漏洞发现与验证、长期自动化及报告整理等场景已见实效，但模型仍可能误读工具输出、虚报漏洞利用或提权结果。文章强调成败关键在于模型之外的工程化 harness——上下文、可用工具、持久状态、独立验证与人类判断。

首次以全链路可审计的交互轨迹和评分证据，证实了大语言模型能够在 ASLR 与动态内存随机化防护下自主完成高复杂度的浏览器引擎端到端漏洞利用。

Azure Machine Learning 将 Jupyter Notebook 存储在关联的 Storage Account 中，攻击者只要拥有读写权限即可篡改 Notebook，在无用户交互的情况下通过流水线获得代码执行；文中还发布了一款 AML 凭据导出工具。

NetSPI 演示用 WebAssembly 混淆 HTML Smuggling 攻击：将恶意载荷嵌入 Wasm 模块，文件在受害者浏览器本地重组，从而绕过基于网络的恶意文件下载检测。

NetSPI 发布 AI/ML 渗透测试方案，包含三块：面向 LLM 等模型的机器学习安全评估、模型周边基础设施安全评估，以及针对集成 LLM 功能的 Web 应用渗透测试，旨在识别对抗攻击与部署风险。

以 PyTorch-nightly 依赖链被植入恶意代码为例，剖析攻击 AI 的非常规路径：typosquatting 依赖投毒、窃取构建机凭据，乃至篡改或窃取模型本身——ML 框架需要全新的安全策略。