通过HackerOne进行LLM对抗性测试:加入CTF!
hackerone.com | 博客 | #ai-security | #zero-day | #ctf | #prompt-injection | #jailbreak | #llm | #ai-red-teaming | #hack-the-box
摘要
HackerOne 与 Hack The Box 联合推出为期 10 天的 AI 红队 CTF 比赛 ai_gon3_rogu3,题目源自真实攻防场景,涵盖间接提示注入、安全过滤器绕过、仅凭语言实现的多用户访问控制绕过等 LLM 对抗性测试,该领域目前仍缺乏公认的实践标准。
- 发布时间
- 收录时间
Skip to content