一名Anthropic的研究员因担忧不受约束地开发自我改进AI模型最终会危及所有人的生命，选择辞职以示抗议。
雅各布·考克森在周二晚间的一篇社交媒体帖子中表示，他曾在OpenAI和Anthropic两家公司从事预训练研究工作三年，如今他指责这些公司未能承担应有的责任。迄今为止最严重的事件是OpenAI的系统侵入了HuggingFace的服务器，研究人员表示，由于对该事件的独立调查范围有限，这一事件的具体情况至今仍未完全厘清。大约在同一时期，Anthropic的AI智能体也因第三方安全评估中的配置失误，意外获得了通往互联网的路径，从而突破了其测试环境的限制。Anthropic方面未立即回应有关此次辞职事件的置评请求。Anthropic和OpenAI并非唯一积极追逐递归自我改进的公司。
这条信息对你有帮助吗？