一位Anthropic的资深安全研究人员表示，到本世纪末，人工智能"可能杀死所有人类"的概率超过10%。
在社交平台X上发布的离职声明中，曾为Anthropic训练AI系统的研究员JacobCoxon表示，他因公司对安全问题的松懈态度而辞职。尽管如此，Hubinger表示，Anthropic"目前还没有计划"来确保先进AI保持安全并与人类价值观保持一致，公司"也并未明显走在制定此类计划的正轨上"。Coxon的离职是Anthropic员工离职事件中最引人关注的案例之一。Anthropic这家公司正是由曾因担忧OpenAI安全问题而离开的前OpenAI成员创立的。
这条信息对你有帮助吗？