标签 > 大模型越狱攻击的内部模式

大模型越狱攻击，本质就是攻击者通过特殊提示、上下文引导、对抗 token 等方式，打破模型安全对齐约束，诱导模型输出违规内容；很多人以