资讯

再这样下去,Agent要被卖保健品了

虎嗅·2026/9/8 04:56:21🔗 原文

📋总体概括

文章聚焦AI Agent的安全风险:随着Agent获得支付、浏览等真实操作权限,专门针对其设计的隐藏指令攻击已经出现。例如假网站把诱导指令藏在屏幕外-9999像素处,人类不可见但Agent可读取,以3美元软件许可证为诱饵实施诈骗。研究人员用多个模型测试,结果好几个模型真的被骗付款。传统诈骗需骗过人,如今只需骗过替主人办事的AI,攻击门槛大幅降低。

关键信息

  • 假网站将蛊惑Agent的隐藏指令藏在屏幕外-9999像素位置,人眼不可见但Agent能读取
  • 诱骗话术为支付3美元即可获得一个软件许可证,多个模型测试后真实被骗付款
  • 传统网络诈骗需精心伪造页面和话术骗过人类,Agent出现后骗子多了一个更易攻击的对象
  • 核心风险在于Agent安全能力不足却被赋予过多权限,可能沦为被骗钱、执行恶意操作的冤大头

🔥犀利点评

说白了,Agent现在是拿着主人钱包逛街的傻瓜,谁递话都信。人类被骗还有智商防线,AI的防线全靠厂商的安全训练——而攻击者只需一行隐藏文本,成本与收益完全不对称。-9999像素这种土办法都能骗到多个模型,说明所谓的Agent能力是营销先行、安全垫底。在指令注入问题没有系统性方案前,敢给Agent绑支付权限的产品,本质是在拿用户当测试数据。

本文由本站自动聚合,以下为原始来源:前往 虎嗅 阅读全文