资讯

Shopify 推出 Gisting 新技术:将大模型系统提示词压缩为主旨词元

InfoQ中文·2026/9/9 16:30:00🔗 原文

📋总体概括

Shopify 推出名为 Gisting 的新技术,核心思路是将大模型应用中冗长的系统提示词压缩为「主旨词元」,以降低重复传输与计算开销。系统提示词在 Agent 类应用中往往占据大量输入 token,压缩后可在保持模型行为一致的前提下提升效率、降低成本。该技术由 Shopify 工程团队对外介绍,为大模型工程优化提供了新的方向。

关键信息

  • Shopify 推出 Gisting 技术,将大模型系统提示词压缩为「主旨词元」
  • 系统提示词在 Agent 应用中通常占用大量输入 token,是重复成本来源
  • 压缩后可降低 token 消耗与推理成本,同时维持模型输出行为
  • 该方法属于大模型工程优化层面,与模型训练无关,部署门槛较低

🔥犀利点评

Shopify 搞 Gisting 说白了就是承认一个尴尬现实:大家堆进系统提示词的所谓「工程能力」,大半是喂给模型的冗余废话。能压缩成主旨词元还保持行为一致,等于戳破了提示词越长越好的泡沫。不过压缩率与效果稳定的边界仍需生产环境验证,先别急着欢呼 token 账单减半。

本文由本站自动聚合,以下为原始来源:前往 InfoQ中文 阅读全文