资讯
AI“自我演进”可能彻底失控？Anthropic顶尖大牛愤然离职！
📋总体概括
9月9日前后，AI安全争议在行业内持续发酵：OpenAI首席科学家上周末发文呼吁放慢开发节奏，周二Anthropic 27岁研究员Jacob Coxon宣布辞职并退出AI行业，理由是不愿参与全行业盲目冲刺「自我演进型AI」的竞赛。他担忧在各大巨头互相竞争、且面临中国新锐企业夹击的背景下，牺牲安全已成默认选项，并预测到明年年底局势可能失控。同期，递归式自我改进（RSI）成为行业最热话题，OpenAI于9月6日首次披露内部RSI进展。
⚡关键信息
- ▸Anthropic研究员Jacob Coxon（27岁）周二宣布辞职并退出AI行业，理由是担忧自我演进型AI失控带来毁灭性灾难
- ▸OpenAI首席科学家上周末发长文呼吁放慢AI开发，安全担忧正在行业内部蔓延
- ▸RSI（递归式自我改进）指AI以自身改进结果为输入、形成自我优化闭环，被视为通往AGI的关键路径
- ▸OpenAI于9月6日首次公开披露内部RSI进展，称已实现自动化相关工作
- ▸Coxon称同行圈已用「决战时刻」「终局之战」描述AI自主迭代轨迹，牺牲安全性成为竞争下的默认筹码
🔥犀利点评
安全派大牛接连出走，本质不是伦理觉醒，而是竞赛逻辑已经压倒了一切制衡——当OpenAI都在秀RSI肌肉时，「放慢」喊得越响越像烟雾弹。一个27岁研究员的辞职改变不了任何研发时间表，真正的信号是：连圈内人都不信这套系统刹得住车了，这比任何监管文件都更有信息量。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 财联社深度 阅读全文 →