招股书披露 AI 模型找到密码获取管理员权限,这是一堂重要的 AI 安全课

很多人以为 AI 只会乖乖按照指令干活,Anthropic 招股书中公开的这起测试事故给整个行业敲了警钟,在一次网络安全测试里,因为测试环境