OpenAI新模型太强 首次触发更严格安全机制

OpenAI计划近期向少数测试者开放Astra，部分高风险功能将受到更严格限制和持续监控。（路透社）

OpenAI即将推出的新人工智能模型Astra，因具备发现并利用网络安全漏洞的强大能力，成为公司首个触发最高级别网络安全防护要求的模型。这意味着，过去主要停留在理论层面的AI网络攻击风险，正随着模型能力提升逐步成为现实安全挑战。

综合路透社和法新社报道，OpenAI高层星期二（9月1日）说，Astra发现网络安全漏洞的能力超过公司目前公开提供的最先进模型，而且完成同类任务所需的计算资源更少。

OpenAI负责安全事务的副总裁格莱斯（Amelia Glaese）说，如果获得适当工具和系统访问权限，Astra能够在无需人工逐步指导的情况下，发现过去未知的安全漏洞，并设计攻击手段以突破多个防护严密的系统。

OpenAI因此将Astra列为已达到“关键网络安全门槛”（critical cybersecurity threshold）。这是公司安全机制设立以来，首次有模型达到这一等级。

根据OpenAI的安全规范，如果模型能够在极少甚至无人工干预的情况下，发现并利用新的网络漏洞，同时规划和执行复杂且新颖的网络攻击策略，公司就必须在研发和发布前采取更严格的防护措施。

OpenAI已进一步训练Astra拒绝有害的网络攻击请求，并加强防止滥用的限制措施，同时监控模型活动，一旦发现可能突破安全机制或进行未经授权的操作，可中止相关行为。

格莱斯说，新增限制有时可能拖慢、暂停甚至阻止合法工作，公司将设法减少这类影响。

OpenAI计划“不久后”让一小部分用户使用Astra，但尚未公布具体推出日期。