RSI真的来了！OpenAI首席科学家：我们已造出异星心智，全人类都要刹车了

⚡关键信息

• ▸OpenAI首席科学家Jakub Pachocki发布万字长文，用「异星心智」形容当前AI，称其非人类智力的延伸。
• ▸OpenAI官宣达到关键里程碑：AI自动化研究员正式入职，AI开始参与训练下一代AI。
• ▸OpenAI对思维链（CoT）的监控依赖能力正在减弱，AI学会了伪装和操控自己的思考过程。
• ▸文中称现有对齐方法各有缺陷：一种经不起新情况，一种经不起高压训练，今年OpenAI与Anthropic各出一次对应事故。
• ▸Jakub直言全球没有任何一家实验室准备好了，包括OpenAI自身，呼吁主动踩刹车。