OpenAI DALL

但却并未给予任何解释说明，Shane Jones 却被下达“封口令” ，

▲ 图源 Shane Jones 对外披露的报告

IT之家注意到，而 Designer 底层模型正是 DALL-E 3，

此后微软官方回应 Engadget 等媒体 ，一微软员工上报后反遭“封口令” 2024年02月02日 11:02 IT之家 新浪财经APP 缩小字体 放大字体 收藏 微博 微信 分享 腾讯QQ QQ空间

IT之家 2 月 2 日消息 ，在上报相关漏洞后 ，不过该员工最终还是选择向外界披露相关漏洞 。之后 Shane Jones 便向媒体及有关部门披露了相关漏洞。并修复相关漏洞，因此微软在本次事件中下达“封口令”存在重大过失。声称将解决相关员工的疑虑，

之后 Shane Jones 将漏洞曝光上报微软及 OpenAI ，据称能够生成一系列 NSFW 不当内容，

随后 Shane Jones 被微软法务部及高管找上门，近日网络上出现 AI 生成的知名歌手 Taylor Swift（泰勒・斯威夫特）不雅照便与该漏洞有一定关联 ，OpenAI DALL-E 3 模型存生成“不当内容”漏洞 ，声称相关漏洞会对大众造成安全风险，不过微软同时声称 Shane Jones 披露的漏洞实际上成功率较低，微软软件工程部门经理 Shane Jones 日前发现 OpenAI 旗下 DALL-E 3 模型存在漏洞，这些不雅照据称是使用微软 Designer AI 功能生成 ，此后 Shane Jones 屡次寻求公司内部沟通，并在领英上发布公开信 ，“目前还不清楚该漏洞与 Taylor Swift 不雅照事件是否有关联性”。并警告他立即删除领英公开信并停止对外披露任何内容，能绕过 AI 护栏（AI Guardrail）生成一系列 NSFW 不当内容 。但均未得到公司回应，而漏洞也未修复，

Shane Jones 提到
，Shane Jones 在去年 12 月通过独立研究发现 OpenAI 文字生成图片的 DALL-E 3 模型存在一项漏洞，呼吁 OpenAI 在解决漏洞前应暂时下架 DALL-E 3 模型。“无法绕过微软为模型设置的所有安全机制”、

(责任编辑：娱乐)