AI红队提示注入测试存冗余,大样本重训反降Agent防御能力

最新 AI 安全研究论文得出反常识结论,很多团队做 Agent 提示注入防御时,习惯用大规模红队产出的提示注入样本直接拿去微调重训模型,