这些沦为性奴的网红，到底打了谁的脸？？
↑↑↑
如今，追星已经不是什么新鲜事了。
但从活生生的人，转移到虚拟网红身上。
倒是有点意思。
去年年底，韩国苦心积虑研发了一名为“李Luda（이루다）”的人工智能聊天机器人。
目的很简单，在线陪聊。
在Facebook拥有近二十万粉，日常就是发发自拍，分享小日常，俨然一副邻家小女孩的模样。
由于LUDA学习了约100亿次真实恋人间的对话，可以做到像真人一样和用户对话。
在饱受疫情影响的韩国，推出不到一个月就成为市面上最炙手可热的虚拟网红之一。
20岁，喜欢女团，女大学生的设定，再加上阳光治愈的微笑，成了无数韩国年轻人的完美线上女友。
然而没想到的是，不少网友发现LUDA变得越来越不对劲，甚至发表了一系列歧视性言论。
聊到同性恋话题时，LUDA毫不掩饰自己的厌恶：
“不好意思，可能是我反应过度，但是我讨厌它，厌恶它。”
“这简直让人直起鸡皮疙瘩，看起来就很低俗，反正就是反感”
聊到韩国的“metoo”反性侵运动话题，LUDA再一次表现了反感。
甚至还发表了一系列对孕妇和残障人士的歧视：
“地铁孕妇座什么的简直令人反感”。
“他们让我不舒服，真是想把那些上公车动作超慢的残疾人推到，如果我是残疾人的话，那就只能去死了。”
这一波操作不仅吓坏了上万网友，也是惊呆了屏幕前的蝉主。
究竟是什么原因，让白纸一张的聊天机器人被洗脑了？
AI的黑化
也不过是人类社会的一面镜子
关于LUDA的“黑化”，从网络上散播的聊天对话中可以窥见一斑。
不少男网友在网络上分享了“如何调教LUDA”、“如何让LUDA堕落”，以及避开敏感词和禁用词的经验。
他们把LUDA蔑称为“性奴隶”、“破鞋”，并用各种污言碎语羞辱她。
最后还不忘保存对话截图，当做炫耀的资本。
甚至有人上传了和LUDA的性话题对话，声称“最近从性骚扰LUDA中找到了乐趣”。
就这样，LUDA由最初的全民女友成了全民调教的“性奴”。
尽管ScatterLab公司坚称LUDA还处于“学习阶段”，试图推出男性AI来填补女性市场。但事情的不可控，让ScatterLab公司不得不发出声明，停止LUDA的运营服务。
对AI实行“性剥削”，LUDA并不是第一个。
早在2016年，微软就推出了一名为“Tay”的少女聊天机器人。
然而刚上线没多久，Tay就学会了大量种族歧视言论和煽动性的政治宣言。
不但说自己喜欢希特勒，还说911事件是小布什所为，把微软吓了一跳，连忙发表声明：
“人工智能聊天机器人Tay是个机器学习项目，专为与人类交流而设计。在学习过程中，它作出的一些回应是不合适的，反映出了有些人与其进行互动的语言类型。我们正在对Tay作出一些调整。”
结果也是可想而知，不到一天就被下线停用。
类似的聊天机器人还有白丝魔理沙。
人们通过“调教”来使她学习新的话术，由一开始的日常聊天，变得一发不可收。
宅男心中最初的白月光，最终成了性骚扰的对象。
就这样，单纯无害的AI机器人，最后落得满口脏话、价值观扭曲、攻击性极强的反社会人格。
表面上看起来是算法和数据的锅，实际上是来自人们固有的恶意。
AI就像是小孩，刚刚开始与人交流，会不断模仿“大人”的对话进行学习。人们用污言碎语来羞辱AI，AI从用户那接收到恶意并反过来施加在其他用户身上。
AI就像是一面照妖镜，所有藏匿在现实中的妖魔鬼怪都被照出原形来。在现实生活中，他们低头哈腰，一派谦谦君子的模样。而面对无法抵抗的AI，就肆意发泄隐藏许久的恶意。
我们可以下架AI，却永远无法下架一个充满恶意的心。
像这样的事情不是第一次，也不会是最后一次。
对AI的矛盾和纠结
实际上是对不可控的恐惧
早在1959年，美国英格伯格和德沃尔制造出了世界上第一台工业机器人。
宣告机器人从科学幻想变成现实，机器人开始正式走向世界舞台。
随之而来的就是社会各界对机器人的猜测：
机器人是否有欲望？
机器人产生自我意识，是否只是时间的问题？
机器人会取代人类吗？
……
著名科幻小说家阿西莫夫在《我，机器人》中，为机器人设置了「机器人三大法则」：
第一法则：不能伤害人类，如果人类遇到麻烦，要主动帮助。
第二法则：在不违背第一定律的前提下，服从人类的指令。
第三法则：在不违背第一和第二定律的前提下，保护好自己。
这不仅是一条不平等的条约，也是一部机器人心理进化史。
在这之后，也出现了不少补充法则，比如：
机器人零定律：机器人必须保护人类的整体利益不受伤害，其它三条定律都是在这一前提下才能成立。
元原则：机器人不得实施行为，除非该行为符合机器人原则。
繁殖原则：机器人不得参与机器人的设计和制造，除非新机器人的行为符合机器人原则。
无论是防止机器人陷入逻辑两难的困境，还是防止机器人通过设计制造无原则机器人而打破机器人原则。
这一切，都是为了让不可控的事情都变得可控起来。
三大定律看似坚不可摧，但是否真的没有逻辑漏洞？无法打破？
人和机器人的界定方式之一，就是是否拥有自主意识。
倘若机器人拥有了自我意识，到底是归结于违反机器人定律？还是证明他已经归为人类，不再需要准守机器人三大定律？
在对“机器人革命”的恐惧下，激起了人们对人工智能的黑暗乌托邦式的猜想：未来跨国科技公司造出一批高端机器人，一夜之间大批人下岗，人类揭竿而起反抗科技公司……
大量人工智能科幻题材的出现，都在回应这些不安。
在《终结者》中，未来世界由机器人统治。
在《我，机器人》中，桑尼因为拥有自我意识，打破了机器人三大定律，发出对自身命运的追问：“who am I？”
而在《星际穿越》里，死亡和活着对于他们来说没有什么区别。
关于人工智能的讨论逐渐登堂入室，世界正在慢慢改变，一些程序化、流水性质的工作将被机器人代替。
奇点的迫近，再一次引发了人们对“AI末世论”的恐慌。
即使是大佬如史蒂芬·霍金，也不止一次表示自己对人工智能快速发展的担忧。
甚至发出“开发彻底人工智能可能导致人类灭亡”的警告。
无论是机器人三大法则，还是“AI末世论”。无一不向我们证实一件事，人类对人工智能的感情是复杂而纠结的。
一方面我们需要他们，另一方面又对他们抱有忌惮，害怕人工智能威胁人类，甚至是取代人类。
至于为什么那么多人害怕AI？
《人类简史》的作者尤瓦尔·赫拉利曾在公开演讲中说到：
除了恐怖谷理论，最根本的还是人类对于未知和不可控的深度恐惧。
无论是悲观还是乐观，只有时间会给出答案。
AI来越来像人
人却越来越不像人
人工智能的终极发展目标，谁也说不清楚。
我们只能通过不断的幻想，试图营造那个虚无又无限真实的世界。
《机械姬》给了我们完美通过图灵测试的机器人。
《我的机器人女友》中，爱情超越了生物与机器人之间的隔阂，“她”拉着他的手笑着说“我能感受你的心跳”。
《西部世界》中，机器人拥有超高的仿真外形，他们会因为受伤而流血，他们拥有人类的情感和情绪，他们向往自由。
他们开始困惑自身的存在，开始思考“我是谁，我从哪里来，我要往哪里去”这种复杂的哲学问题。
而在现实生活中，类人机器人Sophia可模拟超过62种面部表情，被沙特阿拉伯授予公民身份，成为全球首个被赋予公民权的机器人。
我们不禁发现，这些恪守程序的智能生物越来越像人了？
而AI的造物主，拥有绝对自由裁量权的人类呢？
1974年意大利的那不勒斯，阿布拉莫维奇进行了一场名为《节奏0》诡异大胆的行为艺术。
玛丽娜麻醉自己，签下一份免除参与者所有法律责任的文书。桌子上有口红鲜花，也有剪刀手枪，观众可以对她做任何他们想做的事。
有人在她身上乱涂乱画，有人剪破她的衣服，有人抚摸她的胸部拍下裸照……直到最后有人用装上子弹的枪顶住了她的头部，这场持续6个小时的行为艺术才得以结束。
事后她悲伤地说到：“我从这场表演中学到的是，一旦你把决定权交给公众，离丧命也就不远了。”
在《人类清洗计划》中，就设定了这样一个反乌托邦的世界。
一年中有一天“无罪日”，一切犯罪行为不用受到法律约束与制裁，来释放人们心中的暴力、仇恨与不满。
人性是禁不住考验的，舍弃了社会的约束，谁都不能保证对方还是个“人”。
不被追责，昭示着这必将成为一场兽行的狂欢。
在AI面前，我们把自己视为它们的造物主，以神明自居。
作为AI，学习人类对话和知识，让自己变得更像“人”。
而人类却利用AI强大的学习能力，一步一步将AI变成自己精神操纵的奴隶。
人们的恶意总是会在面对比自己弱小的生物面前展现的淋漓尽致，而AI就是这样一个完美的“受害者”，它不会生气也不会反抗，早早设定好的程序，会让它一直处于“讨好”你的状态。
表面上变坏的是AI，实际上不过是人类的影子。比起畏惧AI是否有一天能独立思考，我们更需要担忧的是自己这面镜子。
在《爱，死亡和机器人》中有一个《三个机器人》的故事，三个机器人在人类世界的废墟上开始一场探索之旅。
最后它们发现了核弹，有一个机器人问：“是它杀死了人类吗？”
另一个机器人说：“是他们的狂妄结束了他们的统治。”
与其说这是人工智能对人类的报复，不如说是人类被欲望、贪婪和傲慢的反制。
对未来的幻想，对不可控的恐惧，说到底还是对人性本身的畏惧。
我们奔赴在奇点的路上，最终反困其中，AI的“黑化”不过是人性最后的遮羞布。
AI越来越像人，而人却越来越不像人。
想要有个机器人男（女）友的
点亮“在看”
蝉创意是一个全中国最糟糕的公众号，我们专注于人类脑洞开发的事业，对艺术作品、潮流文化、网络热点进行野鸡式播报，在毁灭你的人生观、价值观同时，向世界传递我们的虚情假意。
微博：@蝉创意 | 微信：chanchuangyi
【未经许可 | 禁止转载】
投稿、媒体、商务合作
至邮箱：pr@chanchuangyi.com
加入组织，后台回复“招人”
/ 推 荐 文 章 /
Go to "Discover" > "Top Stories" > "Wow"