AI十年内会杀死全人类？Anthropic研究员发出最严重警报

📋总体概括

AI行业内部安全警报升级：9月9日，曾在OpenAI和Anthropic从事预训练的研究员Jacob Coxon宣布离职，并在X上连发7条帖子，发出类似「诸神黄昏」的严重警告，称AI可能在十年内威胁全人类。与此同时，OpenAI首席科学家也公开呼吁行业减速。此前此类警告多来自安全对齐团队，如今连核心技术人员也开始踩刹车。但行业竞赛并未放缓，新模型持续发布，OpenAI和Anthropic均已筹备上市，警告与狂奔并行构成鲜明矛盾。