HackerOne 与 IBM 合作推进 Granite 模型的 AI 保护

摘要

HackerOne 与 IBM 合作推出漏洞赏金计划，最高 10 万美元，邀请研究人员在启用 Granite Guardian 防护栏的类企业环境中对 Granite 模型做对抗测试，挖掘越狱与护栏缺陷，结果还将用于生成对齐数据改进后续模型。