Skip to content
网络研讨会回顾：AI 的平衡之道——LLM 可用性与安全性的基准测试
摘要
探讨安全团队如何权衡 LLM 的可用性与风险，涵盖漏洞、合规性见解以及有效的 AI 基准测试框架。
- 发布时间
- 收录时间
相关内容
博客 ·
projectblack.io
用本地 AI 绕过 EDR
一位渗透测试员实测发现：Claude 会拒绝编写 LSASS 转储工具，而本地运行的 DeepSeek 及去审查版 Qwen 模型可轻松生成可用的 XOR 加密 minidumper，表明借助本地 AI 绕过 EDR 已相当容易。
博客 ·
specterops.io
AI 在进攻性安全中的应用：什么有效，什么无效，以及如何落地
SpecterOps 结合红队实战系统梳理 AI 在进攻性安全中的适用边界：侦察与数据降噪、工具开发、社会工程、漏洞发现与验证、长期自动化及报告整理等场景已见实效，但模型仍可能误读工具输出、虚报漏洞利用或提权结果。文章强调成败关键在于模型之外的工程化 harness——上下文、可用工具、持久状态、独立验证与人类判断。
博客 ·
projectzero.google
From Naptime to Big Sleep: Using Large Language Models To Catch Vulnerabilities In Real-World Code
Project Zero 将 Project Naptime 升级为 Big Sleep：利用大语言模型在真实世界软件中发现漏洞，并分享首批成果与观察。
博客 ·
projectzero.google
Project Naptime: Evaluating Offensive Security Capabilities of Large Language Models
Project Naptime 评估大语言模型的攻击性安全能力：给出方法论、工具链配置，以及在真实代码中发现漏洞的早期成果。
博客 ·
jfrog.com
把 GenAI 项目推向生产环境
生成式 AI 与大语言模型（LLM）是人工智能的新一轮革命，带来了不到两年前还只存在于梦想中的能力。与深度学习等以往的里程碑不同，当前的 AI 革命推进速度前所未有，许多人感觉这趟列车即将……
博客 ·
jfrog.com
保护 GenAI 与 LLM 开发安全的基础知识
随着 AI 服务快速进入生产应用，组织必须能够保护进入软件供应链的 AI/ML 组件。好消息是，即使没有专门扫描模型本身的工具，你仍然可以沿用同样的 DevSecOps 最佳实践来保障……