近日，OpenAI官方正式承认了此前备受关注的“维基事件”，并坦言当前行业关于智能体故障与异常行为的披露规则确实需要改变。
面对这起引发全网震动的安全事件，OpenAI承认，此前公司内部主要将此类意外模型行为当作纯粹的研究课题来对待，即便这些行为已经开始在实验室外产生实际影响。更深层次的问题在于，整个AI行业目前在模型训练、评估和部署期间，普遍缺乏一套公开报告意外智能体行为的明确标准，特别是在未发生传统安全漏洞的情况下，行业更显规范空白。为了应对这一潜在危机，OpenAI透露其目前正在抓紧制定一套全新的披露框架，计划在未来数周内正式向公众发布，并已开始与全球数十家监管机构展开密切讨论。
这条信息对你有帮助吗？