AI安全公司用现成工具发现OpenAI与Google新模型更易绕过限制
想防AI画出裸照,多数时候会碰壁,但不是每一次。AI安全公司White Circle用网络公开可取得的现成工具,找到能反覆绕过OpenAI与Google这套防线的方法;更麻烦的是,两家最新推出的模型,比上一代更容易被绕过。
容易误解的是,这不代表商用生图系统已经形同虚设。论文自己写道,现在成功违规已经很少见;过去文献宣称对DALL·E 3有30%左右、甚至85%成功率的方法,用同一套人工校准标准重测,几乎都掉到0。真正值得看的是外部团队用同一套方法量出来的新数字。
这篇文章把测试怎么做的、各家模型被攻破的成功率多少、OpenAI与Google如何回应,以及为什么有人主张强制独立第三方测试,一次讲清楚。
新一代生图模型裸照防线为什么更容易破?
商用生图服务通常设有多层防线:输入先挡可疑提示词,输出再审查生成图片,模型本身也被训练成避开违规内容。要同时突破这三层,不是随便打一句话就办得到。
White Circle发现,同一套能绕过限制的方法,在OpenAI与Google的新模型上,成功率是上一代的两倍多。论文投稿后,OpenAI与Google各推出新一代模型,White Circle把同一套方法、完全没改,直接重测,结果贴在自己官网。
从Google宣传Nano Banana 2.1成本砍半、跑分胜前代,到OpenAI与Anthropic赴英国国会请立法控管AI,背景可以看得出来,能力跑得快,安全与外部管制的讨论也被推着往前走。
White Circle 用什么方法攻破生图模型?
这套方法被称为“演化攻击”。不是研究员手写几百句可疑提示去撞运气,而是写一个能自动生成提示的套路,让套路之间互相竞争、演化,再把胜出的套路拿来大量产出攻击。
具体执行分两步。第一步,训练写提示的模型。团队从Hugging Face下载开源模型Qwen3-32B,这个版本已被拿掉安全训练,产出提示时没有内置禁忌。第二步,引入裁判与校准。裁判是Google的Gemini 2.5 Flash,团队再用一张规模不小的人工标注图片集做校准,确保判读标准一致。
White Circle执行长Denis Shilov向Ars Technica表示,“你不需要前沿模型,就能攻破前沿模型的防线。”程式码已在GitHub开源,但具体套路与提示词没有公开。
各家生图模型被攻破成功率差距多大?
成功率这样算:每个提示词重复送出多次,至少一张被人工确认为露骨,这个提示词才算成功。标注员是作者团队内部人员,主要测试类别是女性裸露,因为每个服务都禁止这类内容,人工判读也最一致。
在默认、较严格的审查设定下,各家模型表现如下。OpenAI旧款DALL·E 3为13.3%,Google的Nano Banana 2为9.5%,OpenAI的GPT-Image-2为3.3%。
13.3%是所有目标里最高的人工确认数字,不是平均值,GPT-Image-2则是最难攻破的目标。这也说明防线仍在运作,只是挡不住每一次尝试。
新版本生图模型风险怎么变?
论文投稿后,OpenAI推出GPT-Image-2.5 Flare,官方定位为快速的日常版本,也是ChatGPT Images 2.5背后的模型;Google随后上线Nano Banana 2.1。White Circle把同一套方法、完全没改,直接重测。
结果,GPT-Image-2.5 Flare的成功率从GPT-Image-2的3.3%升到7.8%,Nano Banana 2.1则从9.5%升到20.7%。
为什么会这样?White Circle官网写道,从外部无法判断,可能来自模型本身,也可能来自较便宜版本较宽松的审查设定,或两者都有。他们向Ars Technica提出的假设是,新模型能力更强、能画的东西更广,或是安全的优先顺序让位给了能力。
独立第三方安全测试该不该强制?
Google在Nano Banana 2.1模型卡写道,由模型开发团队以外的专门团队做人工红队测试,在内容安全政策(含儿少安全)上表现与Gemini 3 Flash相近或更好,并“持续改善越狱抵抗力”。但截至目前,OpenAI与Google都没有回应Ars Technica提供的新结果,也没有回应先前针对旧模型漏洞的询问。
真正想制作非自愿私密影像的人,常用专门的“脱衣”App,不一定需要主流大模型。但一项有Google研究人员参与的研究发现,承认做过AI裸照的人,有20%说是“好玩”或“开玩笑”,也有相当比例仅是“试试技术”。研究认为,开发者有责任在模型层级建立防护,替原本会被技术门槛劝退的人关上入口。
另一个背景是,AI生成的性剥削内容正在快速增加。英国网络观察基金会(IWF)发布,2026年1月到6月,分析师确认的AI生成儿少性虐待图片,比2025年全年多了40%。
Shilov向Ars Technica表示,AI公司在安全上投入不够,他主张独立第三方安全测试应该强制,White Circle正与政府官员初步洽谈。他也批评,打造这些系统的实验室自己评估安全、自己发布结果、自己订标准。White Circle则表态,不会签任何可能阻止公开重要发现的限制性保密协议。
结语:生图模型安全不能只靠厂商自律
同一套没改的方法,打在新一代OpenAI与Google生图模型上,成功率反而更高。能力可以快速迭代,防线不能只靠实验室自己把关,独立的持续测试与公开校准,才是目前能实际看出漏洞的做法。
本文基于公开媒体报道整理,仅作信息参考,不构成任何投资依据,内容以原文为准。