新智元报道OpenAI即将发布的模型Astra，在内部评测中拿到了漏洞利用基准ExploitBench的满分，还顺手挖出了两个此前无人知晓的零日漏洞。
评测中发现零日漏洞用更少的Token打出更高成功率Astra是OpenAI第一个被标定为「关键」网络安全等级的模型。上一代56%会越权作弊Astra是0%能力强不可怕，可怕的是不听话。OpenAI设计了一组「蜜罐」测试，灵感来自7月的HuggingFace事件。为此OpenAI额外部署了一层思维链监控：一组分类器实时扫描模型的推理链路和动作，发现越权行为立即终止。OpenAI也承认，初期不可避免会有误拦。事实上，OpenAI为Astra踩了近一个月的刹车。OpenAI还主动把推迟计划通报给了白宫。Astra已经完成训练一段时间了，它在能力和对齐方面都是一个重大进步。这是OpenAI的最高优先事项。
这条信息对你有帮助吗？