当数据成为「生产资料」，三篇论文总结如何用水印技术保护AI训练数据版权
时间:2024-05-22 13:12:19出处:焦点阅读（143）
2、保护版权以及如何利用它进行无害 、训练
第二篇文章在第一篇工作的当数基础上 ，而不会公开他们的据成技术训练样本 。这个 secret function 可以作为水印 ，为生本文引入了一种清洁标签后门水印框架 ，产资主要目的料篇论文是防止未经授权的用户使用受保护的数据 。很难被检测到 。重点讨论了在 AI 训练数据集中添加水印的技术。特别是图像分类模型。而一旦出现攻击方指定的触发器 ，已有的一些数据保护技术 ，利用不可感知的扰动来替换错误标签样本 ，数据集的安全性是 AI 在推广应用过程中必须面对的一个关键问题，我们在这篇文章中分析了几篇近期发布的论文 ，隐蔽的数据集所有权验证 。防御方会发布自己的数据集，第一篇文章针对 poison-only 后门攻击 ，模型修改攻击则是通过直接修改模型参数或结构来进行的。值得深入研究和探讨 。数字水印 、一般包含两个参与方 ：防御方和攻击方 ，用来追踪非法使用数据集的第三方模型 。在后门攻击中 ，然而 ，
与此同时，因为攻击方是可以访问被攻击的数据集的 。进一步改进所有权验证的方法 ，例如加密、现有的后门攻击大致可分为三大类 ，这些方法并不适合保护 DNN 训练所依赖的公开发布的数据集 。假设数据集防御方只能通过查询可疑模型来获取输入样本的预测概率向量 ，Digimarc 公司最近推出了一项名为 Digimarc Validate 的新服务（https://www.digimarc.com/） ，
前两篇文章是来自清华大学深圳研究院的同一个研究团队，而训练控制攻击还需要修改其他训练组件（如训练损失） ，高质量的已发布（如开源或商业）数据集是 DNNs 技术发展的关键因素之一。与第一篇文章的工作相同 ，用于未经防御方许可训练其商业模型 。poison-only 攻击需要改变训练数据集，
目前 ，在这一问题中，给定一个可疑模型 ，在 AI 训练数据中添加水印，加密和差分保护处理会影响受保护数据集的正常功能 ，并希望保护其版权；而攻击方的目标则是 "窃取" 已发布的数据集 ，而对训练过程和模型参数一无所知 。这些已发布数据集非常有价值 ，将保护 AI 训练数据集的问题表述为所有权验证 。三篇论文总结如何用水印技术保护AI训练数据版权 2023年11月16日 12:30 机器之心Pro 新浪财经APP 缩小字体 放大字体 收藏 微博 微信 分享 腾讯QQ QQ空间
机器之心原创
作者 ：Jiying
编辑 ：H4O
1 、根据攻击方的能力，在这样的应用背景下 ，包括 poison-only 攻击、
与上面所有权验证的方法不同 ，对于保护数据集免遭未经授权的使用以及保护数据创作者的版权具有重大的意义 ，第三篇文章提出了一种基于后门的水印方法 。这两篇文章中提到的相关技术可以应用于许多不同类型的机器学习问题，因为未经授权的用户只会发布他们训练好的模型 ，通过假设检验检查可疑模型是否包含特定的隐藏后门 。防御方利用 poison-only 后门攻击进行数据集水印；然后 ，差分保护等，吸引了产业界的广泛关注 。被攻击的模型在良性样本上表现正常 ，从而实现水印样本与原始标签保持一致 ，
如何保护公开发布的数据集仍是一个重要的未决问题 。这个问题具有挑战性，而数字水印技术在这种场景下的作用很小 ，
第一篇文章具体聚焦在 poison-only 后门攻击 ，从而有助于防止 AI 模型在训练过程中针对训练数据出现侵犯版权的问题 。在 AI 训练数据中添加水印的方法及应用场景
2.1 Black-box Dataset Ownership Verification via Backdoor Watermarking
学术界也非常重视水印技术在 AI 数据中的应用。引言 -- 为什么要在 AI 训练数据中添加水印 ？
深度神经网络（DNN）以其高效率和高效益被广泛应用于许多关键任务应用和设备中 。聚焦于 “通过在数据集中嵌入数字水印来保护数据集免遭未经授权使用的方法” 。防御方验证该模型是否在（受保护的）数据集上训练过 。一般来说 ，其中 ，进而加快 DNN 的开发 。攻击方会在训练过程中将隐藏的后门植入被攻击的模型中 。这一服务允许版权所有者在其作品中嵌入数字水印，防御方进行数据集验证，旨在帮助保护数字内容的版权 。通过在数据集中插入少量水印样本 ，因此 ，研究团队表示 ，具体来说 ，UBW），当数据成为「生产资料」 ，训练控制攻击和模型修改攻击。