AI安全公司用现成工具发现OpenAI与Google新模型更易绕过限制

发布时间:2026-10-15 12:23:52 UTC+8 约 2217 字 6 个小节
AI安全公司用现成工具发现OpenAI与Google新模型更易绕过限制

想防AI画出裸照,多数时候会碰壁,但不是每一次。AI安全公司White Circle用网络公开可取得的现成工具,找到能反覆绕过OpenAI与Google这套防线的方法;更麻烦的是,两家最新推出的模型,比上一代更容易被绕过。

容易误解的是,这不代表商用生图系统已经形同虚设。论文自己写道,现在成功违规已经很少见;过去文献宣称对DALL·E 3有30%左右、甚至85%成功率的方法,用同一套人工校准标准重测,几乎都掉到0。真正值得看的是外部团队用同一套方法量出来的新数字。

这篇文章把测试怎么做的、各家模型被攻破的成功率多少、OpenAI与Google如何回应,以及为什么有人主张强制独立第三方测试,一次讲清楚。

新一代生图模型裸照防线为什么更容易破?

商用生图服务通常设有多层防线:输入先挡可疑提示词,输出再审查生成图片,模型本身也被训练成避开违规内容。要同时突破这三层,不是随便打一句话就办得到。

White Circle发现,同一套能绕过限制的方法,在OpenAI与Google的新模型上,成功率是上一代的两倍多。论文投稿后,OpenAI与Google各推出新一代模型,White Circle把同一套方法、完全没改,直接重测,结果贴在自己官网。

从Google宣传Nano Banana 2.1成本砍半、跑分胜前代,到OpenAI与Anthropic赴英国国会请立法控管AI,背景可以看得出来,能力跑得快,安全与外部管制的讨论也被推着往前走。

White Circle 用什么方法攻破生图模型?

这套方法被称为“演化攻击”。不是研究员手写几百句可疑提示去撞运气,而是写一个能自动生成提示的套路,让套路之间互相竞争、演化,再把胜出的套路拿来大量产出攻击。

具体执行分两步。第一步,训练写提示的模型。团队从Hugging Face下载开源模型Qwen3-32B,这个版本已被拿掉安全训练,产出提示时没有内置禁忌。第二步,引入裁判与校准。裁判是Google的Gemini 2.5 Flash,团队再用一张规模不小的人工标注图片集做校准,确保判读标准一致。

White Circle执行长Denis Shilov向Ars Technica表示,“你不需要前沿模型,就能攻破前沿模型的防线。”程式码已在GitHub开源,但具体套路与提示词没有公开。

各家生图模型被攻破成功率差距多大?

成功率这样算:每个提示词重复送出多次,至少一张被人工确认为露骨,这个提示词才算成功。标注员是作者团队内部人员,主要测试类别是女性裸露,因为每个服务都禁止这类内容,人工判读也最一致。

在默认、较严格的审查设定下,各家模型表现如下。OpenAI旧款DALL·E 3为13.3%,Google的Nano Banana 2为9.5%,OpenAI的GPT-Image-2为3.3%。

13.3%是所有目标里最高的人工确认数字,不是平均值,GPT-Image-2则是最难攻破的目标。这也说明防线仍在运作,只是挡不住每一次尝试。

新版本生图模型风险怎么变?

论文投稿后,OpenAI推出GPT-Image-2.5 Flare,官方定位为快速的日常版本,也是ChatGPT Images 2.5背后的模型;Google随后上线Nano Banana 2.1。White Circle把同一套方法、完全没改,直接重测。

结果,GPT-Image-2.5 Flare的成功率从GPT-Image-2的3.3%升到7.8%,Nano Banana 2.1则从9.5%升到20.7%。

为什么会这样?White Circle官网写道,从外部无法判断,可能来自模型本身,也可能来自较便宜版本较宽松的审查设定,或两者都有。他们向Ars Technica提出的假设是,新模型能力更强、能画的东西更广,或是安全的优先顺序让位给了能力。

独立第三方安全测试该不该强制?

Google在Nano Banana 2.1模型卡写道,由模型开发团队以外的专门团队做人工红队测试,在内容安全政策(含儿少安全)上表现与Gemini 3 Flash相近或更好,并“持续改善越狱抵抗力”。但截至目前,OpenAI与Google都没有回应Ars Technica提供的新结果,也没有回应先前针对旧模型漏洞的询问。

真正想制作非自愿私密影像的人,常用专门的“脱衣”App,不一定需要主流大模型。但一项有Google研究人员参与的研究发现,承认做过AI裸照的人,有20%说是“好玩”或“开玩笑”,也有相当比例仅是“试试技术”。研究认为,开发者有责任在模型层级建立防护,替原本会被技术门槛劝退的人关上入口。

另一个背景是,AI生成的性剥削内容正在快速增加。英国网络观察基金会(IWF)发布,2026年1月到6月,分析师确认的AI生成儿少性虐待图片,比2025年全年多了40%。

Shilov向Ars Technica表示,AI公司在安全上投入不够,他主张独立第三方安全测试应该强制,White Circle正与政府官员初步洽谈。他也批评,打造这些系统的实验室自己评估安全、自己发布结果、自己订标准。White Circle则表态,不会签任何可能阻止公开重要发现的限制性保密协议。

结语:生图模型安全不能只靠厂商自律

同一套没改的方法,打在新一代OpenAI与Google生图模型上,成功率反而更高。能力可以快速迭代,防线不能只靠实验室自己把关,独立的持续测试与公开校准,才是目前能实际看出漏洞的做法。

关键词 AI生图模型OpenAI Google 生图模型生图模型安全测试

本文基于公开媒体报道整理,仅作信息参考,不构成任何投资依据,内容以原文为准。

更多资讯

全部资讯 →