Skip to content
P
非影
精选
最新
漏洞
研究
工具
主题
来源
搜索
搜索
🌓
English
面向安全从业者的中英双语安全研究与漏洞情报精选。
How Threat Actors Attack AI – and How to Stop Them
netspi.com
| 博客 |
#ai-security
|
#ai-governance
|
#llm
|
#ciso
|
#data-integrity
摘要
面向 CISO 的现场调研显示:82% 的组织已使用或计划使用 AI,但 91% 对训练数据的来源与完整性缺乏信心,63% 未建立数据质量保障措施。文章据此为管理者梳理部署 LLM 时应关注的安全测试与治理优先级。
发布时间
2024-07-16 00:00
收录时间
2026-09-20 05:57
原文 ↗
← 上一篇
Exploiting a Generative AI Chatbot – Prompt Injection to Remote Code Execution (RCE)
下一篇 →
17 Resources You Can’t Miss When Starting Your Career in Application Security
相关内容
博客
·
netspi.com
每个 CISO 都应了解的 6 大安全趋势
从 AI 治理到零信任,探索主要安全趋势。获取帮助 CISO 强化防御的可操作洞察。
博客
·
netspi.com
对抗性机器学习安全建设:先问这 5 个 AI 安全问题
NetSPI 提出安全团队评估 AI/ML 系统应先问的五个问题,涵盖模型业务用途、目标函数、训练数据来源等,帮助以对抗视角审视对抗性机器学习(Adversarial ML)风险,把安全内建到 AI 落地全程。
博客
·
projectblack.io
用本地 AI 绕过 EDR
一位渗透测试员实测发现:Claude 会拒绝编写 LSASS 转储工具,而本地运行的 DeepSeek 及去审查版 Qwen 模型可轻松生成可用的 XOR 加密 minidumper,表明借助本地 AI 绕过 EDR 已相当容易。
博客
·
specterops.io
AI 在进攻性安全中的应用:什么有效,什么无效,以及如何落地
SpecterOps 结合红队实战系统梳理 AI 在进攻性安全中的适用边界:侦察与数据降噪、工具开发、社会工程、漏洞发现与验证、长期自动化及报告整理等场景已见实效,但模型仍可能误读工具输出、虚报漏洞利用或提权结果。文章强调成败关键在于模型之外的工程化 harness——上下文、可用工具、持久状态、独立验证与人类判断。
博客
·
projectzero.google
From Naptime to Big Sleep: Using Large Language Models To Catch Vulnerabilities In Real-World Code
Project Zero 将 Project Naptime 升级为 Big Sleep:利用大语言模型在真实世界软件中发现漏洞,并分享首批成果与观察。
博客
·
projectzero.google
Project Naptime: Evaluating Offensive Security Capabilities of Large Language Models
Project Naptime 评估大语言模型的攻击性安全能力:给出方法论、工具链配置,以及在真实代码中发现漏洞的早期成果。
返回