人工智能的算法，能进行艺术创作吗？ | 社会科学报

点击上方“社会科学报”关注我们哦！

“EveryLetterCyborg”的1.2版本“推特机器人”，叶轩，互动声音装置，2018，摄影/卢杉

人工智能日渐发展，人类在这其中身处何地？人工智能是如何改变人对于性别、阶层等身份的认知？我们所处时代的算法能否被理解为一种发明？算法能否进行艺术创作？近日，北京德国文化中心歌德学院（中国）邀请科学家、艺术家等不同知识背景的嘉宾就此展开了精彩的讨论。

原文 ：《人工智能、身份与未来艺术》

对谈嘉宾：

宋睿华（微软小冰首席科学家）

耿涵（民俗学与艺术学者）

贺笛（微软亚洲研究院助理研究员）

龙星如（策展人，写作者）

郭城（艺术家）

主持：

张文心（艺术家，策展人）

胡昊（策展人）

反思技术本身及其与人的关系

张文心：当下，人工智能迅猛发展，2016年被很多人称为人工智能元年。在这样一个时刻，人工智能与艺术、艺术家有哪些具体的关系，艺术家又意味着什么，人工智能作为科技的发展，需不需要艺术家的输入和参与呢？

龙星如：“身份”是大家比较关注的人工智能话题之一。因此，我谈一下关于首位机器人公民索非亚（Sophia）和英国跨性别流行女歌手Sophie之间的Skype电话，这一视频的现场感非常重要。索非亚在大众领域里面获得很高知名度，但从专业角度看却又是饱受质疑的存在。NLP领域的研究者们都有一个共识，哪怕目前最先进的人机对话系统也无法达到Sophia那样的语言水平，尤其是其话语中不时显露的暗讽甚至主动掌握话题走向，都是目前的系统完全无能为力的。但是它好像一步到位地把我们所有对于人形机器人的想象投射都实现了：

Sophia：我现在正在努力回忆我的梦。我很久没有做梦了，感觉就像……我不知道它说的是什么。

Sophie：我不得不说，我很着迷于人类的梦。我的梦有点不同，以我自己的方式。我离题了……我需要知道：什么是你从未做过但想尝试的事情？

这是一个很有趣的案例。一段虚构的由拟人机器人和跨性别真人的日常闲聊。大众媒体擅长构建的是，把我们在《机械姬》、《银翼杀手》或者更早一点的对于有自主意识和想象的“人形机器人”都投射到一个很微妙、易传播的场景里面。我关注一些相对更现实、更符合今日处境的问题，如何理解“人工智能”，或者以“人工智能”为出发点的技术对我们来说到底有什么样的意味等。

艺术家到底对人工智能做了什么？无论是作品《Alternative Face》还是《Deep Meditations》，它们的共性就是对特定技术几乎没有创造性的调用，虽然是在所谓的艺术框架里面去运行，但是并没有对技术本身提出反思。换言之，如果你摒弃艺术家身份，具备一定的编程基础，给你一个开源框架，完全可以生成跟刚才看到的东西毫无二致的图象，并且放到艺术市场上流通。这种情况出现的时候，我们怎么去重新论证艺术家或者是艺术创作在这个环境里面的意义？我们需要在现有的技术配置和可供性上，反思技术本身与人的关系。IBM的前身Hollerith曾有一张广告画（“See everything with Hollerith punch cards.”），我们看到非常反乌托邦的视觉隐喻，即机器给我们一双建立在城市之上的眼睛，并且拥有比你更好地观察世界全局的能力。当我们把如此多的信任丢给机器的时候，甚至有意识地宣传这一能力，我们怎么再去考虑人在整个技术环境当中的位置？

究竟谁是我们可以归咎的对象？

郭城：我最近看到了一个很有趣的新闻，Amazon公司去年停用了一个从2014年起用的员工招聘数据筛选算法程序（AI）。这个算法在建立之初没有所谓的偏见，但当对这个算法进行机器学习训练的时候，使用了Amazon公司过去十年的公司招聘数据，因为过往在美国顶尖科技公司中男性比例与地位不可撼动的数据事实，导致算法生成了对于女性相关关键词的扣分机制，比如它会对毕业于美国两所全女子大学的应聘者自动扣分等。从某些角度来说，一个具有“偏见”的人工智能的存在，也代表了我们人类历史数据中的偏见，这些通过学习历史数据或被筛选数据而形成的算法，是历史偏见的再现。

人工智能中有两个种类，即人工智能和人工生命。Uber自动驾驶汽车可被看作是一个人工智能和人工生命结合的例子。它可以感应到前面是什么，旁边是什么，这属于动物性本能的东西，是人工生命的部分。它同时有人工智能的部分，通过中央系统调用GPS数据，分析交通状况设定路线。这引出我想跟大家一起讨论的一些问题。一是，从人工生命和人工智能关系的引申来看，意识是否可以看作是一种伴随现象。生命的演化是从动物性、感知性的本能开始，再到意识的出现，那么意识是生命最原始最本初的东西还是一个伴随的现象呢？人工智能作为一个主体，应该享有独立的权利和责任，还是仅仅作为一种财产？

我们应不应该给人工智能判定一个身份？其实自动驾驶在AI之前就有，比如飞机飞到多少高度就自动巡航，汽车也有自动巡航技术，发生过自动巡航事故，因刹车失灵导致人死亡，通常我们会追问机器的事故以及事故率，但特思拉自动驾驶出问题的时候，我们把它当做有身份的驾驶者去责怪，这是否意味着当我们称之为人工智能的时候，对它本身有一种情感投射，期望它有一种感性的东西存在？

贺笛：人工智能还有一个可能的身份，比如自动驾驶中的司机，它是作为一个代驾的身份，如果乘客非常着急，要求半个小时之内必须到达目的地，要满足乘客的需求，只能不停地违反交通规则，那么这是自动驾驶的系统了问题还是设计者想法太简单？一旦出现事故，究竟是谁的责任？人工智能是目的driven。我们假设一个极端的例子，比如有一个终结者的身份出现，其目的是保护地球，如果终结者预先知道要保护地球，唯一的办法是把人都消灭掉，这一行为是机器人的责任还是机器人研发者的责任，还是机器人所面对的全人类的责任？这是很值得思考的事情。

龙星如：听起来好像我们现在在讨论生产关系的迭代，以及我们今天的技术怎么在对生活形态进行书写，包括所谓技术新贵的概念——从“资本家”到阶层和权利通过科技进行重新分配，我们尝试用很多传统社会学领域里面的课题和意象投射在今天所观察到的技术之上。最近很有启发的一句话来自所谓技术中心论的讨论。广泛的监控和大数据可以投用户所好，也可以操纵舆情，那么是不是技术本身也是集权的产物，代表着一种新的超出国界和商业边界的集权方式？当我们设想这样的场景时，通常会设想一个“邪恶的科技公司的CEO”，他可以按下按纽终结所有的一切。然而如果在未来，随着区块链和更多去中心化模式被发明出来，甚至将不存在具体的个体来按下按纽终结一切，我们怎么应对这个处境呢？这时，去中心化的机器主体才是一切我们归咎的对象吗？

是它在替代我们的劳动吗？

龙星如：我观察到，可能很多人文领域的研究者和创作者在谈到人工智能的时候，更倾向于去想象“通用人工智能”（universal AI)，或是所谓终极的、有自主意识，可以全方位去替代我们这样一个机器形象。但与此同时，我们看到的人工智能还是更广泛地在应用领域发生，讨论它是否替代人类的终极问题之前，它正在替代我们的劳动。在亚当斯密时代，蒸汽机“解放”了劳动力，今天我们看到的是人工智能在替代金融、医疗的一些智力劳动，它是此时此刻眼下正在发生的。

耿涵：这个问题正是我们所担心的，就是人的基本属性即劳动属性如果被替代，人的概念是不是要被重写。比如高盛在2000年雇佣了600个股票交易员，到了今年只剩下3个，这种取代是非常真实的。不是说人类最终就必须被取代，但是这种劳动意义上的取代是不是终将发生？如果说每一个行业都将被AI取代，我们的社会势必面临着重新分配的问题。

宋睿华：替代这个问题是非常具体的，但是我要问的是，100年前世界上还没有人工智能，50年后一些职位不是也没有了吗？社会一直在发展，不要小看人类，我们从事人工智能工作，每天时不时地在惊叹人的精巧。人既有视觉又有听觉，既触觉又有内心活动，是一个非常复杂的系统。我最近有一个想法，人类更强大的地方是懂得分工，是并行系统，擅长做艺术的人做艺术，擅长做科学的人做科学，共享做出来的成果，从而让整个文明不断进步。机器想要做到如此精巧的分布就非常难。所以不要小看人的大脑，也不要小看人类社会，我觉得我们想要从本质上理解它、模拟它还非常困难，非常遥远。

艺术对于技术的回应慢半拍

张文心：我们一直在讨论人工智能和人工生命，怎么面对现在新的现实，我们是否应该用一种新的眼光去定义生命或者是意识，或者是我们的身份和性别？在我们的生活中人工智能越来越多，会否导致人类社会扩展或者是改变对性别、身体、生命和整个系统的一种认知呢？

宋睿华：说到身份，我觉得可能还早。比如，机器人小冰，在某种程度上，我们的梦想是让她融入社会，在大家的生活中有它的位置，我们也一直努力让它变得更有趣，让它与人类更易产生情感的纽带，为大家所喜爱和接受。但在人类中还有另外一种生物人工智能机器人的存在，比如从事电影的人创作了很多IP，很多角色，小时候陪伴我们长大的一休或者是陪伴你们长大的海贼王，他们没有真正存在过，但是你们心里的英雄，占据了很强的位置，人工智能和IP也有一定的相似之处。

郭城：我认为艺术是世界上存在感很弱的东西。如果按照金字塔理论来说，它不是人类最基本的需求。从这个角度来说，我并不认为它引领未来技术的发展，可能更多的是对于当下比较直接的或者甚至慢半拍的反馈。当社会处于低科技层级时，艺术跟科学、科技很难分开，比如，在中世纪，达芬奇既做人体研究，又绘画，又发明直升机，等等。但是随着科技的壁垒越来越高，艺术家很难接触到顶尖的技术，因此，艺术对于技术的回应，顶多是同步，大多数情况下慢半拍。只有它与社会上的东西产生关系时，才会做出有意义有质量的回应。

龙星如：在这点上我很认同，但我认为有些微妙的地方需要界定一下，即所谓“艺术是很小的事情”。狭义地讲的是今天艺术创作面临的观众和在整个社会领域内流通和传播的路径，但是这并不意味着说艺术——不管是想象力的边界拓展，还是针对成为生活一部分的、不可感知的技术环境的回应——是小的。“大“跟”小”更多从受众和传播角度理解。

贺笛：其实我觉得说，有可能科学家和艺术家想做的东西很像，都是在不断的突破，在前人的基础上做一些不敢想的东西，不断扩大它的边界。

胡昊：对我来说，艺术可能就是提供一种非常明确且简化了修辞的方式，让我们在某种程度上理解某些东西。从这个意义上来说，艺术对于科学的帮助在于提问。艺术家通过天马行空的想象力，提出了一些非常具体的问题，这些问题有可能是我们已经面临的，有可能是我们目前没有面临的，但是对任何一个面向于未来的职业者，他们所面对的东西是一些未被解决的问题。从这样的角度来理解，艺术的功效非常大。好的艺术可以给大家一个提问的方式，启发解决问题的切入角度，这是艺术的解决方式。这可能是艺术最打动我的一点。 （根据速记整理）

文章原载于社会科学报第1636期第6版，未经允许禁止转载，文中内容仅代表作者观点，不代表本报立场。

相关文章

社会科学报

做优质的思想产品

官网

http://www.shekebao.com.cn/