时间：2024-09-12 14:44:01 来源： 缄口不言网

ECCV 2024 | 机器遗忘之后，扩散模型真正安全了吗？ 2024年08月24日 13:51 机器之心Pro 新浪财经APP 缩小字体 放大字体 收藏 微博 微信 分享 腾讯QQ QQ空间

AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年，机器之心AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。如果您有优秀的工作想要分享，欢迎投稿或者联系报道。投稿邮箱：liyazhou@jiqizhixin.com；zhaoyunfeng@jiqizhixin.com

本文第一作者为密歇根州立大学计算机系博士生张益萌，贾景晗，两人均为OPTML实验室成员，指导教师为刘思佳助理教授。OPtimization and Trustworthy Machine Learning (OPTML) 实验室的研究兴趣涵盖机器学习/深度学习、优化、计算机视觉、安全、信号处理和数据科学领域，重点是开发学习算法和理论，以及鲁棒且可解释的人工智能。

在人工智能领域，图像生成技术一直是一个备受关注的话题。近年来，扩散模型（Diffusion Model）在生成逼真且复杂的图像方面取得了令人瞩目的进展。然而，技术的发展也引发了潜在的安全隐患，比如生成有害内容和侵犯数据版权。这不仅可能对用户造成困扰，还可能涉及法律和伦理问题。

尽管目前已有不少机器遗忘（Machine Unlearning, MU）方法 [1-3]，希望让扩散模型在使用不适当的文本提示时避免生成不合时宜的图片，但其有效性存疑。

只是我们好奇，经过机器遗忘的扩散模型，真的就一定安全了吗？

上一篇： 已有44名足球从业人员被依法判决
下一篇： 多地明确：延长课间时间至15分钟！网友：支持

• ·国航C919商业首飞成功：计划执飞京沪、京杭航线，为行业内首次采用延程型
• ·友山基金总裁杜平：投资者对资本市场普遍缺乏信心，交易量非常低迷
• ·特朗普：“如果哈里斯当选，以色列将会消失”
• ·9球，萨拉赫打破英超历史首轮比赛进球纪录
• ·外媒：以色列称加沙南部被袭现场有哈马斯成员，哈马斯迅速否认
• ·金价大涨！创收盘历史新高→
• ·特朗普：“如果哈里斯当选，以色列将会消失”
• ·中小学开学就考！四、六、八年级体测评分和加分标准速看——
• ·日媒：日本外务大臣上川阳子宣布竞选自民党总裁
• ·加沙停火谈判下周在埃及重启 时隔25年加沙再现脊髓灰质炎病例
• ·友山基金总裁杜平：资本市场法治尚不完善，对违法行为的处罚过轻影响市场质量
• ·美国国务院批准向加拿大出售战术导弹
• ·证监离职人员入股拟上市企业新规落地
• ·曝大众将研发向东迁移7000公里：打造“东方狼堡”
• ·樊振东已出任上海市青联常委、体育界别副主任
• ·副局长接受老板宴请并饮酒，餐后又接受唱歌娱乐活动，被降级！局长被诫勉！