资讯
AI可能毁灭人类？专家接连警告
📋总体概括
Anthropic研究员Jacob Coxon辞职并在X平台发帖，指责Anthropic与OpenAI在竞相研发可递归自我改进的超级智能，行为『拿我们的生命做赌注』。该帖浏览量超7000万次，引发业内共鸣。Anthropic对齐科学负责人Evan Hubinger公开响应，称其本人认为未来十年内AI毁灭人类的概率超过10%，且目前尚无解决超级智能对齐问题的方案，将AI安全争议推上风口浪尖。
⚡关键信息
- ▸曾任职Anthropic和OpenAI的研究员Jacob Coxon辞职，公开批评两家公司竞相研发自我提升的超级智能
- ▸Coxon称业内开发者真心相信到2030年AI可能毁灭人类，帖子浏览量超7000万次
- ▸核心担忧是递归式自我改进（RSI），即AI无需人类干预自行设计后续版本，目前尚未实现
- ▸Anthropic对齐科学负责人Hubinger响应称，其估计未来十年内AI毁灭人类概率超过10%
- ▸Hubinger承认目前尚无解决超级智能对齐问题的方案，Anthropic和OpenAI自己也多次警告失控风险
🔥犀利点评
最讽刺的一幕出现了：喊出『AI可能毁灭人类』的不是外部批评者，而是 Anthropic 自己的对齐科学负责人。这本质上是一场安全营销与商业竞赛的共生表演——公司一边警告末日，一边加速冲刺，把『我们在负责任地开发』当成护城河。10%的灭绝概率若为真，任何理性机构都该停下，而不是发帖。当警告成为融资叙事，恐惧本身就变成了生意。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 凤凰网 阅读全文 →