不法分子盗用人工智能技术,“章鱼博士”给“编


  人工智能的指纹

人工智能模型被盗?资料来源:世界上没有两个完全相同的指纹,因此指纹可以成为刑事侦查的重要依据。然而,你有没有想过,人工智能也可以有“指纹”?近日,电子科技大学网络空间安全研究所2017级博士生徐国文将这一想法变为现实。他在深度学习模型中嵌入了“密码指纹”,这使得追踪出售盗版人工智能模型的行为成为可能。徐国文的论文《支持模型所有权保护和叛徒追踪的深度学习框架》也在第26届IEEE国际并行与分布式系统会议(ICPADS)上发表,这是我校首次获得“最佳论文奖”在这个会议上。

  

不法分子盗用人工智能技术,“章鱼博士”给“编


  
友眼中的徐国文

今天,小编将和大家一起了解在人工智能上安装“指纹”的科研专家徐国文。他是同学眼中的“科研老板”和“获奖者”。在5年的研究生生涯中,徐国文先后发表学术论文近30篇,并连续3年获得国家奖学金,各类奖学金共计20万元。”我想我远没有成功。唯一突出的是我的兴趣和执着”,回首往事,徐国文透露了自己在科研道路上乘风破浪的“秘籍”。如今,人工智能已经渗透到我们生活的方方面面,可以帮助我们做很多事情,比如图像识别、语音转录、安全监控等等。为了使人工智能像人类一样聪明,我们需要不断地“学习和训练”,而这样的学习“材料”就是数据集。研究人员通过收集和标注大量数据,编写人工智能的“学习材料”,训练人工智能模型。最后,模型的所有者提供了一个查询接口,使人们可以以较小的代价享受人工智能提供的具体服务,方便了我们的生活。

  

不法分子盗用人工智能技术,“章鱼博士”给“编


  
法分子的行径

然而,这样的公开查询也给了一些不法分子可乘之机。他们虽然不能直接接触模型,但绞尽脑汁设计样本查询原始模型,以最少的查询次数获取大量模型信息,并编造“假”模型从中牟利。这种行为不尊重模范业主的劳动成果,严重损害了发起人的利益。如何追查这些叛逃者?徐国文提出了一种新的方法:在模型训练过程中,通过密码学中的“编码”技术,将想要购买模型服务的购买者的信息嵌入到模型中。与人类特有的“指纹”一样,徐国文提出的方法可以为每个买家定制一个“密码指纹”,并将“二进制”指纹嵌入到模型的某些参数中。当模型被盗版时,我们可以通过提取模型的“密码指纹”来找出叛逃者是谁。

  

不法分子盗用人工智能技术,“章鱼博士”给“编


  大家的一些疑惑

有人可能会认为,既然“指纹”只存在于模型的少数参数中,那么我们能否通过与其他买家串通,将这些参数与“指纹”一起去掉,并将模型拼接在一起,从而得到一个没有“指纹”的模型呢?”“这是不可能的,”徐笑着说如果它们相互勾结,我们将从模型的数学分布中观察到一些独特的特征,并找到所有参与的购买者。这就是为什么我的方法也适用于分布式环境。”密码指纹能消除吗?”没有徐国文说,这是深度学习模式与其他模式的区别。通过不断重复的学习和训练过程,整个模型对指纹进行了深度记忆。除非模型的内部参数发生很大变化,否则密码“指纹”无法擦除。即使有人真的把“指纹”擦掉了,在这种情况下,模型基本上已经损坏,不再具有使用价值。徐国文说,他的著作权保护方法有很多应用。除了追踪业务中的盗版,它还可以加密和保护云硬盘中的数据。

  

不法分子盗用人工智能技术,“章鱼博士”给“编

  • 随机推荐