Exploiting a Generative AI Chatbot – Prompt Injection to Remote Code Execution (RCE)

摘要

NetSPI 构建了一个包含常见漏洞的 LLM 聊天机器人用于演示：通过提示注入操纵模型行为可导致敏感信息泄露；当聊天机器人具备 Python 代码执行功能时，攻击者进一步实现远程代码执行（RCE）。文章详解攻击链与测试方法。