非影资讯
面向安全从业者的中英双语安全研究与漏洞情报精选。

劫持PajaMAS中的多智能体系统

摘要

Trail of Bits 发布 pajaMAS 演示集,展示攻击者如何通过恶意环境、工具或被攻陷的 agent 劫持多智能体系统(MAS)的控制流;此类攻击即使单个 agent 具备较强的 prompt injection 防御也能得手,文章同时给出安全的 MAS 设计原则与检查清单。
发布时间
收录时间

原文 ↗

相关内容

返回