Anthropic研究员因担心AGI失控而辞职：或十年内致人类灭绝

📋总体概括

据WSJ报道，Anthropic研究员Jacob Coxon宣布辞职并彻底退出AI行业，理由是Anthropic及其竞争对手正竞相开发连自己都无法控制的AI系统，他担心这类系统可能在本十年末失控，甚至给人类带来灭绝风险。Coxon在AI行业工作三年，曾任职于两家头部AI公司，均在预训练方向。此事再度引发业界对AGI安全性、开发竞赛失控风险与研究者信念之间冲突的讨论。