OpenAI 新董事严厉警告：AI 失控将是灾难性的，大多数人可能丧命

⚡关键信息

• ▸OpenAI于9月10日前宣布保罗·克里斯蒂亚诺加入基金会董事会，并同时加入董事会安全与保障委员会。
• ▸克里斯蒂亚诺曾在OpenAI负责对齐研究，后担任美国NIST下属AI标准与创新中心安全负责人。
• ▸他称失去AI控制的风险「如今已十分严峻」，需投入更多工作使AI与人类利益对齐。
• ▸他警告若对齐失败，人类将永久失去对超级智能的控制，「大多数人可能会丧命」。
• ▸他主张在国家及国际层面开展协调，确保全球步调一致，将风险降至可接受水平。