基于所有者身份识别的自然语言处理模型水印算法OA
Owner Identity-Based Watermarking Algorithm for Natural Language Processing Models
为了确保模型开发者和数据提供者能够有效地保护其知识资产,提出一种基于所有者身份识别的自然语言处理模型水印框架OIRW,以应对模型版权保护的安全性、鲁棒性等方面的挑战.具体地,在模型训练阶段,通过用户版权信息和密钥生成数字签名用于链接触发器,将触发器插入数据集用于训练水印模型.在模型验证阶段,首先利用数字签名、版权信息等验证所有者身份,随后将插入触发器后的测试数据输入远程模型以得到水印验证结果.为评估水印的性能,在AgNews和SST-2数据集上对 3 种常见的语言模型嵌入水印信息.实验结果表明,水印验证的准确率接近 100%,对模型微调、剪枝和复写等攻击情景下的水印表现出较强的鲁棒性.
In order to ensure that model developers and data providers can effectively protect their intellectual assets,this paper proposes a watermarking framework for Natural Language Pro-cessing NLP)models based on owner identity OIRW)to address the security and robustness chal-lenges of model copyright protection.Specifically,during the model training stage,a digital signa-ture is generated using the user's copyright information and a secret key to link the trigger,which is then inserted into the dataset to train the watermarked model.In the model verification stage,the owner's identity is first verified via the digital signature,copyright information,etc.;subsequently the triggered test data is fed into the remote model to obtain the watermark verification result.To e-valuate the watermarking performance,watermark information was embedded into three common lan-guage models on the AgNews and SST-2 datasets.The experimental results show that the watermark verification accuracy is close to 100%,demonstrating strong robustness under attack scenarios such as model fine-tuning,pruning,and overwriting.
方静;宋考;蔡娟娟;金彪;熊金波
福建师范大学计算机与网络空间安全学院,福建 福州 350117福建师范大学计算机与网络空间安全学院,福建 福州 350117福建师范大学计算机与网络空间安全学院,福建 福州 350117福建师范大学计算机与网络空间安全学院,福建 福州 350117福建师范大学计算机与网络空间安全学院,福建 福州 350117||福建省网络安全与密码技术重点实验室,福建 福州 350117
信息技术与安全科学
自然语言处理模型版权保护模型水印鲁棒性
natural language processing modelcopyright protectionmodel watermarkingrobustness
《福建师范大学学报(自然科学版)》 2026 (2)
1-10,10
国家自然科学基金项目(62272102、62272103、62202102)福建省自然科学基金重点项目(2023J02014)福建省自然科学基金项目(2023J01531)福建省中青年教师教育科研项目(JAT220045)
评论