“AI对齐专家”入驻OpenAI董事会，立即警告AI失控风险及灾难性后果！

⚡关键信息

• ▸OpenAI任命AI对齐权威专家Paul Christiano加入基金会董事会和安全与保障委员会，任Group PBC无投票权观察员。
• ▸Christiano警告：构建超级智能若缺乏协调机制，人类将永久失去控制权，大多数人可能丧命。
• ▸他认为AI能力快速提升存在短期内灾难性、不可逆的控制权丧失风险，整个行业未走上降低风险的正轨。
• ▸Christiano同时任美国商务部CAISI高级技术顾问，2024年前曾是OpenAI竞争对手Anthropic非营利信托成员。
• ▸安全与保障委员会由Zico Kolter任主席，负责监督包括OpenAI Group PBC在内的整个OpenAI的安全实践。