资讯
2030年AI可能毁灭人类!AI天才炮轰美国巨头拿人命赌博 马斯克转发
📋总体概括
27岁AI顶尖研究员雅各布·考克森从Anthropic离职,此前他先后任职OpenAI与Anthropic,深度参与前沿大模型预训练。离职时他在社交平台发文警示「他们正在拿我们的命赌」,认为2030年前后AI可能毁灭人类,并非营销噱头。该言论被马斯克转发,全网浏览量突破1.2亿。他指控头部企业在商业竞争驱动下疯狂推进具备自我迭代能力的超级智能研发,安全审核不断妥协,「技术对齐」沦为安抚公众的公关说辞,Anthropic对齐团队主管也公开预估十年内AI毁灭人类概率超10%。
⚡关键信息
- ▸27岁研究员考克森离职,三年内先后任职OpenAI与Anthropic,参与前沿大模型预训练研究
- ▸其「拿命赌博」言论被马斯克转发,全网浏览量突破1.2亿
- ▸考克森称AI开发者真心相信2030年左右AI可能毁灭人类,并非营销噱头
- ▸行业陷入囚徒困境:担心对手率先造出危险超级智能,安全审核持续妥协退让
- ▸Anthropic对齐团队主管胡宾格公开预估十年内AI致人类毁灭概率超10%
🔥犀利点评
最讽刺的莫过于此:造AI的人自己都慌了,还在加班赶进度。安全部门的负责人给出10%的毁灭概率,公司股价照涨不误——这套行业逻辑本质是把人类存续当作可接受的尾部风险,对齐团队不过是给公众买的保险丝。考克森离职发声值得听,但别指望良心发现能跑赢资本竞赛,没有强制约束的自我克制从来都是表演。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 驱动之家 阅读全文 →