查看原文
其他

反击AI滥用!用AI防止AI绘画侵权的方法来了!

wuhu小精灵 wuhu动画人空间 2023-08-26


wuhu专题

文 | Subwater  啊呜


AI技术的发展一直伴随着争议,有看好AI发展的,就有反对AI滥用的,核心就是需要健全AI使用规则和有效防止AI滥用的举措。


就拿近段时间来说,当Midjourney、Stable Diffusion这些AI绘图工具可以很快地根据用户的需求算出结果,当大家还在试图如何鉴别AI,找出AI的弱点——画不好手,风格局限,甚至用AI生成动画还是会抖动等等。


结果,这些看似很难攻克的问题,都被AI迅速解决了


首先它已经通过ControlNet深度学习会了画手改变姿势


 

还可以通过识别视频的动态解决了可以一键生成CG角色,还可以解决绑定、动画、灯光渲染等问题


这就夸张了!AI已经可以一键帮你生成高精度CG动画了...还会打破传统动画制作流程


在AI动画风格化效果和防抖动上,来自捷克专注于概念艺术设计的超自然工作室(Paranormal studio)做了非常突破性的尝试,不但在风格滤镜上已经实现非常稳定的输出,AI动画已经不抖动了,他们甚至还可以让动物的材质置换,实现了神奇的效果。



虽然AI技术不断的发展,但是与AI相关的版权争议一直还是需要解决的核心问题!


美国版权局近日在一封信件中表示,人工智能(AI)绘画工具Midjourney制作的一部漫画中的插图不受版权保护,因为作者只是为AI绘画工具提供文本提示,并不是最后生成图像的“主脑”,不能算创作者


这是美国法院或官方机构首次就AI创作作品的版权保护范围作出裁定。美国裁定AI绘画不算创作者!


路透社官方报道截图

全球首例法院裁定:AI绘画不算创作者!作品不受版权保护!


伴随而来的核心问题是著作权争议,如果有艺术家主张自己的作品被AI侵权了,那它该如何维权,AI作品要满足哪些要件,才能拥有著作权?同时,不想被“AI垃圾”影响的艺术创作者,开始采取行动,形成反弹之势。


既然AI技术发展这么快?何不用AI来防止AI侵权?这有什么方法吗?


创作者的此番需求被一组研究团队看到了。芝加哥大学计算机科学学院的SAND Lab开发出一款名为Glaze的工具!



这款工具可以非常有效的防止AI侵权艺术家的作品,目前已经开放下载




创作者们都非常兴奋!




有艺术家已经率先使用



国内艺术家第一时间也展开了尝试

以下是微博用户@morty燕返没对齐的展示


原图

glaze后


原图

glaze后

来自微博:@morty燕返没对齐


尝试的结果良好,从画面效果上还多了一些纹理的效果,对于艺术家来说没有对本身作品有大的损失的前提下,如果可以有效的防止作品被AI侵权,大多数艺术家应该都是会支持的。




也有用户客观反映了Glaze的使用结果




Glaze的幕后团队是谁?

它的原理是什么?


Glaze的核心功能是让创作者的作品免受AI的模仿Glaze通过“误导”AI的方式,使AI难以真正成功地学习创作者作品中的风格,而风格是艺术工作者的名片,此举旨在挫伤利用AI进行艺术抄袭之行为。




SAND Lab由计算机科学教授Ben Zhao和Heather Zheng领导,团队其他成员还包括芝加哥大学计算机科学助理教授Rana Hanocka以及博士生Jenna Cryan、Shawn Shan、Emily Wenger等。


这家实验室的研究涵盖多个领域,最主要的三个核心领域分别是:无线和移动系统、人机交互和社会行为、安全和隐私


Ben Zhao获得过不少的科技奖项,如《MIT Technology Review》TR-35奖(35岁以下的年轻创新者)、《ComputerWorld Magazine》前40名科技创新者奖等,其研究成果被《Scientific American》、 《New York Times》、《Boston Globe》、《Wall Street Journal》和《MIT Tech Review》等知名媒体报道。


Heather Zheng也是计算机科技领域十分有经验的学者,在加入芝加哥大学之前,曾于新泽西州贝尔实验室和微软亚洲研究院工作了6年。


进入SAND Lab的团队介绍页面,可以看到不少的,从样貌及名字都很像华人的成员:



2020年,SAND Lab为了研究如何保护人们免受面部识别工具的侵害,开发出一种算法——Fawkes,它主要的原理在于AI的视觉判断方式和人类不完全一样,目前人脸识别的方法,很多是撷取脸部的视觉特征后,再加以比对。


Fawkes之所以能起到效用,是因为它在照片中,增加一些肉眼看不到的小扰动,让AI撷取的照片特征近似于另外一个人,用以混淆人脸识别系统。


经过多家媒体的报道后,Fawkes获得相当程度的知名度,下载量近百万次。2022年,当创作者们面临着AI生成图像技术的冲击时,TA们想到了Fawkes,并希望它能够提供到帮助。


Fawkes


不过,在识别一幅画作的艺术风格方面,Fawkes还是有局限性的,这是由于构成画面风格需要更多的特征,比如笔触、色调、阴影和纹理等。真正做到保护创作者的作品,需要将最为重要的风格特征识别出来。


“我们不需要改变画作中的所有内容来保护创作者,我们只需要改变风格特征,”团队成员Shawn Shan说。“所以,我们必须想出一种方法,将风格特征从画作中提炼出来,并仅尝试扰乱AI对原本的风格特征的判断。”


原创作品(左)与AI生成的模仿作(右)


在做正式开发之前,研究团队调查了1100多名艺术工作者,了解其在面对AI时忧虑什么、有多大的意愿还会上传作品到网上(要知道,网络是众多艺术创作者宣传自己以及作品的重要途径)。


“我们与艺术家们交流时,发现他们已经采取了行动来对抗AI模型,”Shan说,“他们开始撤下自己的作品,或者只上传低分辨率的图像,但这样做对他们的事业非常不利,因为这是他们获得工作的途径。


Ben Zhao教授表示,艺术创作者基本上都已经接受了如此事实——他们将失去工作,整个行业以后会消失......这真的很令人震惊,教授认为我们都没有理解AI模型对人们影响的程度,尤其是它们对创作者产生的冲击。


他也指出,职业艺术家非常担心AI模型会无节制地盗用其作品,而有艺术专业的学生则因为看不到未来而不得不退出课程。


那Glaze的运作机制是怎样的呢?


假设我们想保护一位艺术家在线作品集中的艺术作品不被人工智能公司拿走,用来训练可以模仿该艺术家风格的AI模型。


Glaze的运作机制


首先,艺术家将原本的作品发布到网上之前,Glaze对其进行了非常小的改动,人眼难以觉察到变化,这意味着画作看起来仍然与真正的版本几乎相同。


这一操作被称为“风格掩藏”(style cloak),而被改变的画作则称之为“掩藏的艺术品”(cloaked artwork)。


假如Stable Diffusion要模仿上面提到的艺术家的画作。因为Glaze的掩藏,Stable Diffusion会将作品“解读”为其它风格(例如梵高的风格)。


当有人要求Stable Diffusion 生成那位艺术家风格的图像,那么TA将得到梵高(或某些混合)风格的结果。使用Glaze,图像扰动越大,保护效果越好。


Glaze的运作机制


或许有人会说,“OK啊,那我拿着这些模仿失败的生成品到处唬人好了”,但以开发Glaze的初衷来说,若真的可以有效防止创作者的心血被他人随意抄袭,这确实是好事一桩


在测试Glaze的过程中,SAND Lab找来了4位正活跃的艺术家和195位历史上的艺术家的作品来训练它,并专门成立了一个艺术家小组来评价效果。有超过九成的艺术家表示自己会在发布作品之前使用Glaze。


Ben Zhao教授认为,由于图像生成AI需要不断地到网上抓取新的数据,所以“被掩藏的艺术品”的增加会越来越干扰它们模仿艺术家风格的能力。


他还说,“我们能够做的是理解AI模型以哪些维度查看图像,并且我们要扭曲它们里面的东西,而这些扭曲不影响人们观看作品的维度。”


原创作品(左)、AI生成的模仿作(中)

使用了Glaze后AI被“误导”的结果(右)


目前该工具已经完全开放下载,可针对不同配置使用。


下载地址:

https://glaze.cs.uchicago.edu/download.html


由于这个项目并未打算商业化,所以下载是免费的。因为是外文工具,在艺术家使用的过程中记得文件名的使用是需要英文哟。


虽然Glaze很有可能在将来迎来新的挑战(或者说是挑衅),不过那是下一轮的人类与AI你来我回的较量了。


而从长远来看,教授认为这需要政策、监管以及法律手段来解决。目前Glaze团队还在不断优化工具。



关于对AI绘画发展未来的担心,有网友晒出了和chatGPT的聊天记录:



AI的技术还在不断的发展,所有的技术和艺术的氛围一定都是需要在法律和道德的约束下,新技术的出现并不可怕,可怕的是不法分子趁机使用新工具谋取他人利益,艺术家们也需要提高防范意识,我们也期待着相关法律法规的举措实施,一起共建良好的艺术创作生态。

Glaze项目主页

http://glaze.cs.uchicago.edu/


Ben Y. Zhao教授的主页

https://people.cs.uchicago.edu/~ravenben/


SAND Lab主页

https://sandlab.cs.uchicago.edu/


本期话题


你认为还有哪些防止AI滥用的手段呢?




参考资料:

 

1、Glaze Project

2、Shawn Shan, Ben Y. Zhao 等,GLAZE:Protecting Artists from Style Mimicry by Text-to-Image Models

3、UCHICAGO CS NEWS,UChicago Scientists Develop New Tool to Protect Artists from AI Mimicry

4、wttw news,University of Chicago Develops Tool to Protect Artists from AI Threat

5、映CG,AI反被AI误?!芝加哥大学研究团队SAND Lab推出免费工具Glaze,保护艺术家作品免受AI模仿

6、TNL,职业绘师谈AI绘图:艺术家不是因为创作能力低而被AI淘汰,而是因为价格和人心

7、TNL,AI软件Fawkes如何透过生成对抗网络,反制Deepfake换脸歪风?

8、Steam: AInder


—END—



—END—



想了解更多动画资讯与有趣内容?点个“星标吧~


另外添加wuhu小精灵5号企业微信(17778021721) 发送“动画新势力”即可在不久后被邀请进群。


你一定还感兴趣:

知名配音演员姜广涛被曝涉嫌刑事犯罪!

迪士尼动画大师是怎么看待AI的?


第二季火热筹备中!国产篮球动画《左手上篮》独家专访上线!


想了解更多后续的介绍要锁定wuhu哦,微博的小伙伴可以关注我们的新浪微博:wuhu动画人空间,对了!如果你想看更多动画作品,去b站搜索wuhu动画人空间看看?

点个赞,再在看吧~

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存