资讯
两个Token就让Kimi“变成”Claude?前Google DeepMind研究员意外撞上中国大模型的蒸馏疑云
📋总体概括
前Google DeepMind研究员Ilia Shumailov与ELLIS Institute Tübingen、MPI-IS博士生Alexander Panfilov发现,前沿AI模型的加密思考链形同虚设:这些加密推理数据块可以跨用户、跨会话重放,甚至在同系列模型之间转移。将GPT-5、Claude等强模型的加密思考过程塞给同一家族的小模型(如Kimi),仅需两个Token即可诱导其输出接近强模型的表现。研究直指所谓「密封信封」式推理保护几乎无效,蒸馏与安全边界问题再度浮出水面。
⚡关键信息
- ▸前Google DeepMind研究员Shumailov与博士生Panfilov发现模型加密思考链可被跨用户、跨会话重放
- ▸把强模型加密推理数据块交给同一家族的小模型即可套出其推理内容
- ▸仅需两个Token就能让小模型(如Kimi)表现出接近Claude等强模型的能力
- ▸研究显示模型厂商依赖的「密封信封」式思考过程保护机制几乎无效
🔥犀利点评
这项研究戳破的不只是技术封条,更是行业的一层窗户纸:模型厂商一边把思考链当商业机密和免责工具,一边连加密都形同虚设。同家族模型能互相「提取」,说明蒸馏疑云根本不需要阴谋论——架构相近时,泄漏只是成本问题。所谓思考过程的保密性与可复现性,本来就是鱼与熊掌,厂商却想两头通吃。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 虎嗅 阅读全文 →