人学是文学:人工智能写作与算法治理
人学是文学
人工智能写作与算法治理
▣ 黄 平
(华东师范大学中文系教授)
有机械者必有机事,有机事者必有机心。——庄子:《庄子·外篇·天地》
最发达的机器体系现在迫使工人比野蛮人劳动的时间还要长,或者比他自己过去用最简单、最粗笨的工具时劳动的时间还要长。——马克思:《1857-1858年经济学手稿》
一位摆弄一台巨型计算机的技术人员对这台装置日渐增长的威力感到十分震惊,所以就问这台机器:“既然你知道了那么多,请你告诉我,这个世界有上帝吗?”他得到的回答是:“现在有了”。——托马斯·瑞德:《机器崛起:遗失的控制论历史》
一 机器的诗心
是“自由”还是“控制”,在人与机器之间划下了界限。然而,人工智能的思维要不断突破自由主体的界线,在其视域中,“人”与其说是有“心智”(Mind)的自由主体,不如说是刺激-反应模式下的信息主体。而要打碎这一自由主体,或者更准确地说,要打碎我们对于自由主体的想象,落在人机对弈这一表征上。人机对弈本身并无太大的实际价值,但对于促进人工智能的发展却有重要意义,比如推进机器的逻辑推理能力。而且,对于大众而言这颇具代表性:在博弈中战胜人类的机器,将证明机器会思考。
香农
二战结束以后,包括图灵、冯·诺依曼、香农等人在内,几乎所有的人工智能先驱都卷入到对于人机对弈程序的开发,代表性的是香农在1950年发表的《计算机下棋程序》一文。在该文开篇,香农直接谈到,“能下棋的机器是一个理想的起点……下棋一般被认为需要‘思考’才能下得好,这一问题的答案,将使得我们或者承认机器也可能‘思考’,或者进一步限定我们的‘思考’概念”。5香农的意思是说,如果机器战胜人类,我们将承认机器也具备理性能力;如果机器无法战胜人类,“思考”这一能力则被限定为人类所独有。从香农这篇文章开始,半个世纪以来人工智能不断改进,最终1997年“深蓝”战胜了国际象棋世界冠军,2006年“浪潮天梭”战胜了中国象棋特级大师,2016年AlphaGo战胜了围棋世界冠军,到此人类主要的棋类游戏完全被机器攻克。6也正是以AlphaGo先后战胜李世石、柯洁为标志,人工智能震动了中国知识界,并真正为中国社会大众所知。
和对于艺术水准的讨论相比,对于小冰的诗,笔者觉得以下两点更有意味:其一,小冰的诗歌创作,是看图作诗,依赖于图像;其二,小冰的诗歌,几乎每一首都有“我”。而这两点,近乎完美地证明了海德格尔近百年前的论断。在著名的《世界图像的时代》9一文中,海德格尔批判作为现代根本现象的科学,“但数学的自然研究之所以精确,并不是因为它准确地计算,而是因为它必须这样计算,原因在于,它对它的对象区域的维系具有精确性的特性。与之相反,一切精神科学,甚至一切关于生命的科学,恰恰为了保持严格性才必然成为非精确的科学。”10海德格尔认为,在技术时代,作为研究的科学支配着存在者,“这种对存在者的对象化实现于一种表象,这种表象的目标是把每个存在者带到自身面前来,从而使得计算的人能够对存在者感到确实,也即确定。当且仅当真理已然转变为表象的确定性之际,我们才达到了作为研究的科学”。11由此,世界被把握为图像,世界之成为图像,与人成为主体,乃是同一个过程,世界成为图像和人成为主体这两大互相交叉的进程决定了现代之本质。12
海德格尔
小冰成为海德格尔所批判的技术现代性的激进化体现,在小冰眼中,世界转化为图像,并被“我”所把握。同时考虑到,小冰眼中的图像是图片,是表象的表象,就像小冰的诗是对于诗的“模拟”,世界不仅被转化为图像更进一步被转化为“仿像”;小冰的“我”是高度理性化的程序,是笛卡尔意义上的理性主体的最终形态,“人”最终失去肉身性而成为机器。因此,接续海德格尔的脉络来讲,世界成为仿像和机器作为主体这两大进程决定了人工智能时代的现代之本质。
二 “抽象统治 ”的 “算法治理 ”
当计算成为存在的根基后,我们就来到了一个“算法(Algorithm)”的世界,现代性最新的迭代版本就是“算法治理”(Governing Algorithm)。塔勒顿·吉莱斯皮(Tarleton Gillespie)在《算法》一文中指出,对于算法而言,“所有的一切都取决于模型对数据和数据所代表的内容的理解,取决于模型的目标以及这一目标是如何被形式化的……复杂的社会活动及其秉持的价值被转化为变量、步骤及指标。”19塔勒顿·吉莱斯皮在文章最后一部分总结说,“我们对算法政治的关注,延伸着对于泰勒主义和工业劳动自动化的担忧;对于精算会计、人口普查、人民和人口的定量知识的担忧;对于管理学和科层制支配的担忧。”20保罗·托塔罗(Paolo Totaro)和多米尼克·尼诺(Domenico Ninno)两位作者则在《算法是理解现代理性的关键》(The Concept of Algorithm as an Interpretative Key of Modern Rationality)一文中指出,“一旦算法被应用于那些显然不是数字的对象,它们就具有了强烈的实际意义,从‘知识’的范畴入侵到‘行动’的范畴。因此,对当下的社会而言,数字化的函数的逻辑,不仅作为一种认知语言(例如数学)存在,而且发挥着实际的作用。大多数的制造业流程,对于‘市民’和‘消费者’的服务组织,以及控制我们日常生活的无数“点击”,都受到算法模型的影响。数字化的函数的逻辑常常不可见地进入了现实世界,并且牢牢地植入日常生活和我们的意识之中。”21
经由“算法”作为中介,“抽象统治”的诸种权力关系达致一种有机性地结合,而我们对于这一“系统”至今还缺乏有效的理论阐释。“算法治理”的起源,直接来自二战,麻省理工学院教授维纳等人所提出的“控制论”成为这一治理模式的理论范式。“从1939年9月第二次世界大战开始,美国科学家开始组织起来,维纳也不例外。1940年,他被国防研究委员会任命为机械和电气计算工具领域研究的总顾问以及国防研究委员会的科学研究与发展局的统计研究小组运筹实验室的顾问”25。1940年开始,针对德国飞机对伦敦的空袭,维纳的研究主要集中在防空火炮的自动控制上,“有两个重要问题摆在维纳面前:一是寻找某种方法能够比较准确地预测飞机未来的位置;二是要设计一个火炮自动控制装置,使得发现敌机、预测、瞄准和发射能连成一气,并协调地完成”。26防空火炮之所以要自动化,而不能再依赖训练有素的炮兵,在于二战时的战斗机的高度和速度已经超过人类的反应能力——只有机器能对抗机器。
维纳
和运筹学、博弈论等同一时期出现的理论一致,控制论也是源自战争,其直接目的是计算敌人的活动。27故而托马斯·瑞德在《机器崛起:遗失的控制论历史》一书中认为,“在某种程度上,军队已经帮他(指维纳,笔者注)打磨了一件利器——控制论。”28维纳的《控制论》于1948年同时在英国与法国出版,“《控制论》的内容集中在防控问题以及人机交互、控制与反馈的讨论”29。维纳和冯·诺依曼、图灵、香农等人一起,在思想上奠定了今天的信息时代。我们熟知的“人工智能”这一概念即源自控制论,“‘人工智能’原本是作为‘机械大脑’和机械认知的‘控制论’而涌现的,是1955年,年轻的约翰·麦卡锡为了避免与维纳的纠缠、避免使用‘控制论’而想出的新词,进而有了1956年里程碑式的达特茅斯人工智能研讨会”30。
彼得·加里森(Peter Galison)在《敌人本体论:诺伯特·维纳与控制论视野》(The Ontology of the Enemy: Norbert Wiener and the Cybernetic Vision)一文中指出,“但是维纳的电子操控并没有止于阻止纳粹的空袭。在标记敌军飞行员的行动并设计一台机器以预测其未来行动的过程中,维纳的雄心超越了飞行员,甚至超越了世界大战。逐步地,维纳把预测器看作是一个模型,不仅对于无法接近的轴心国飞行员,而且对于盟军的防空炮手都同样适用,并更广泛地涵盖人类自身的感觉和电-生理反馈系统。这个模型在二战后扩展成为一门新的科学“控制论”,这门科学包括意向性、学习和人类心灵中的许多其他方面。”31控制论在表层上,是以机器的逻辑对抗机器;在深层上,是以理解机器的方式理解人。控制论是一门维持稳定的理论,其理论重心是维护“系统”的稳定性。借用维纳自己的说法:“有机体乃是混乱、瓦解和死亡的对立面,就像消息是噪声的对立面一样”。32维纳区分了“熵”(标识系统的混乱程度,熵值越大系统越混乱)与“进步”,这里的“进步”意味着“稳定”:“某些有机体,例如人体,具有在一定时期内保持其组织水平的趋势,甚至常常有增加其组织水平的趋势,这在熵增加、混乱增加和分化减少的总流中只是一个局部的区域。在趋于毁灭的世界中,生命就是此时此刻的一个孤岛。我们生命体抗拒毁灭和衰退这一总流的过程就叫做稳态(homeostasis)”。33在维纳的视野中,“熵”是“信息”的对立面,降低熵值,也就意味着尽可能保证信息不在噪声中丢失。在输入-输出过程中,控制论看重的是对于信息的反馈,而反馈来自人还是来自机器并无不同,维纳就是以这种“通信”的视角来理解人类社会:
本书的主题在于阐明我们只能通过消息的研究和社会通信设备的研究来理解社会,阐明在这些消息和通信设备的未来发展中,人与机器之间、机器与人之间以及机器与机器之间的消息,势必要在社会中占据日益重要的地位。
当我给机器发出一道命令时,这情况和我给人发出一道命令的情况并无本质的不同。换言之,就我的意识范围而言,我所知道的只是发出的命令和送回的应答信号。对我个人说来,信号在其中介阶段是通过一部机器抑或是通过一个人,这桩事情是无关紧要的。34
肇始自二战军工学术复合体的控制论,以超意识形态的技术化理论面目出现,最终成为人类历史上最具意识形态色彩的理论:改变的不是对于某类人的理解,而是对于人类整体的理解。 控制论背后的治理结构,是“科层制-资本-技术”三位一体的抽象统治,控制论的人性论,既契合资本的人性论,也契合科层制的人性论——无论是“生产-消费”系统中的人,还是技术官僚体系中的人,都是系统的组成部分。在这种抽象统治中,作为结构性的中介与表象,以客观、中立、先进的面目出现的技术,实际上发挥着重要的政治功能。
诚如丹·席勒在《信息资本主义的兴起与扩张》一书中谈到的,“问题不在技术本身,而应该把技术放置于它所在的社会关系中去看待”40。有意味的是,倚重技术进行社会变革的国家,往往会拥抱控制论,与之相关联的是技术官僚、专家权力的强化。王洪喆在《中苏控制论革命与社会主义信息传播技术政治的转型》一文中梳理过,在苏联1954年出版的《简明哲学词典》中的控制论词条,称“控制论为现代机械论的一种形式……鲜明地表现出资产阶级世界观的几个基本特征——毫无人性,力图把劳动人民变成机械的附属品,变成生产工具和战争工具”。在赫鲁晓夫上台后,“通过将控制论打造为替代党的权力的合法哲学,赫鲁晓夫治下的苏联科学界挣脱了斯大林时期的意识形态约束,导向了技术专家治国论的兴起”41。在这个意义上,对于当时的美苏两大阵营而言,“机器在社会中的角色问题是美国保守党和苏联共产党能够找到共同立场的为数不多的几个问题之一”42。
三 人学是文学
我还得在“神”之解体的时代,重新给神作一种光明赞颂。在充满古典庄严的诗歌失去光辉和意义时,来谨谨慎慎写最后一首抒情诗。58
自我调节机器与自由人文主义之间的相似性可以追溯到18世纪。正如奥托·迈尔(Otto Mayr)在《早期现代欧洲的权威、自由与自动化机器》一书中指出的,自我调节的思想有助于影响这一转变:从16、17世纪欧洲政治哲学标志性的中央集权控制(尤其在英国、法国和德国)转向启蒙哲学的民主、分权控制和自由自律。无论是基于亚当·斯密“看不见的手”的自我调节市场,还是启蒙政治哲学强调的利己主义,系统都被预设为是自我调节的,可以自行运作的。这一对于自我调节的经济和政治制度的想象,催生出自由主义自我这一概念,这是一个自我治理的、自我调节的主体。到了二十世纪中叶,自由人文主义、自我调节机器和占有式个人主义走到一起,形成了一个令人担忧的联盟,随即创造出赛博格,破坏了自由主体性之根基。63
加入资本的生产过程以后,劳动资料经历了各种不同的形态变化,它的最后的形态是机器,或者更确切些说,是自动的机器体系(即机器体系;自动的机器体系不过是最完善、最适当的机器体系形式,只有它才使机器成为体系),它是由自动机,由一种自行运转的动力推动的。这种自动机是由许多许多机械器官和智能器官组成的,因此,工人自己只是被当作自动的机器体系的有意识的肢体。67
随着信息时代的劳动越来越成为劳动的普遍形式,《机器论片断》越来越受到重视。正如罗岗在《“机器论”、资本的限制与“列宁主义”的复归》一文中所描述的,“随着科学技术的发展,尤其是到了20世纪下半叶晚期资本主义时代,电脑、信息技术和人工智能……等高新科技纷纷被引入到生产线和办公室中,马克思在《机器论片断》中所描述的资本发展趋势已经变成了现实。”68哈特、奈格里将这种信息时代的劳动,命名为“生命政治的劳动”,罗岗就此分析到:
将“非物质生产”和“生命政治”联系起来,这意味着“非物质劳动的霸权”不仅仅是一种资本“吸纳”以及扩张至全球市场的经济方式,更是一种资本支配和治理社会以及控制人的“内面”的权力方式。强调“非物质劳动霸权”的重要性,并不意味着可以无视传统的权力运作,更不是仅仅将这种统治方式归属于“意识形态”的领域,而是高度重视这样一种状况:今天人们正面临着“资本”(以及与资本结合在一起的其他权力形式)对“文化”、“传统”、“情感”、“欲望”和“潜意识”的奴役、压迫与剥削,这种支配性的权力形式已经深入到传统压迫方式的内部,构成了对“传统权力”的创造性“转化”。69
注 释
1. Lydia H. Liu,The Freudian Robot:Digital Media and the Future of the Unconscious(Chicago :The University of Chicago Press,2010)p.13.
2. 小冰团队的宏大梦想可见于《阳光失了玻璃窗》序言里的这段话:“人工智能已经战胜了当代人类围棋顶尖高手,在计算机视觉和声音领域,微软也已率先实现了超越人类的识别准确率。与此同时,我们开始设想另一种可能,那就是在智商(IQ)之外,我们是否能在情商(EQ)上,也迈出关键性的一步,进而使人工智能学会人类的情感和创造力?”参见沈向洋:《人工智能创造的时代,从今天开始》,小冰诗集《阳光失了玻璃窗》序言,北京联合出版公司,2017年。
3. 参见杨伯峻:《列子集释》,中华书局,1979年,第179-181页。有趣的是我国著名科幻作家童恩正曾在短篇小说《世界上第一个机器人之死》(《科学文艺》1982年第3期)中改写了这个故事,童恩正增加了一个结尾:被带回镐京的机器人因穆王的爱姬不再理他,心碎而死。
4. Lydia H. Liu,The Freudian Robot:Digital Media and the Future of the Unconscious.p.245. 在对于《列子》中的这个人类最古老的机器人的讨论外,刘禾在该书第13页也介绍了“机器人”这个词的来源。捷克作家卡·恰佩克(Karel Capek)在1920年创作了剧本《万能机器人》(中译本见于《世界文学》1980年第1期,笔者注),讲述机器人如何反抗并最终消灭了人类,这个剧本第一次出现了“机器人”这个词。“robot”这个词源自捷克语“ro-bota”(意为“强制劳动”),意思是“奴隶”。
5. Claude E. Shannon,“Programming a Computer for Playing Chess”, Philosophical Magazine,(1950),pp.256-275.
6. 更详细的介绍,可参见尼克在《人工智能简史》(人民邮电出版社,2017年)第六章《计算机下棋简史》中的梳理。
7. N.Katherine Hayles,How We Became Posthuman: Virtual Bodies in Cybernetics, Literature, and Informatics(Chicago :The University of Chicago Press,1999) p.67.
8. 沈向洋:《人工智能创造的时代,从今天开始》,选自小冰:《阳光失了玻璃窗》序言。
9. 海德格尔1938年在弗莱堡大学演讲,题为《形而上学对现代世界图像的奠基》,演讲稿收录于《林中路》并于1950年出版时更名为《世界图像的时代》。
10. 海德格尔:《林中路》,孙周兴译,上海译文出版社,2004年,第81页。
11. 同上,第88页。
12. 同上,第91-94页。
13. 赵毅衡:《符号学与主体问题》,《学习与探索》,2012年第3期。
14. 转引自彼得·毕尔格:《主体的退隐:从蒙田到巴特间的主体性历史》,陈良梅、夏清译, 南京大学出版社,2004年,第187-188页。
15. 同上,第188页。
16. N.Katherine Hayles,How We Became Posthuman: Virtual Bodies in Cybernetics, Literature, and Informatics,p.44.
17. Ibid,pp.109.
18. Ibid,pp33-34.
19. Tarleton Gillespie, “Algorithm”. Edited by Benjamin Peters, Digital Keywords: A Vocabulary of Information Society and Culture(Princeton: Princeton University Press, 2016)pp.19-20.
20. Ibid,p27.
21. Paolo Totaro、Domenico Ninno,“The Concept of Algorithm as an Interpretative Key of Modern Rationality”. Theory, Culture & Society (2014),Vol.31,No.4, p.29-49.
22. 马克思:《马克思恩格斯全集》(第46卷·上),人民出版社,1979年,第111页。
23. 贺来:《反思现实生活中的抽象力量———马克思主义哲学中国化的重要生长点》,《教学与研究》,2012年第10期。
24. Paolo Totaro、 Domenico Ninno,“The Concept of Algorithm as an Interpretative Key of Modern Rationality”.
25. 胡作玄:《〈人有人的用处〉导读》,选自维纳:《人有人的用处——控制论和社会》,陈步译,北京大学出版社,2010年,第13页。
26. 同上,第15页。
27. Peter Galison, “The Ontology of the Enemy: Norbert Wiener and the Cybernetic Vision”,Critical Inquiry (1994), Vol.21, No.1,p.231.
28. 托马斯·瑞德:《机器崛起:遗失的控制论历史》,王晓、郑心湖、王飞跃译,机械工业出版社,2017年,第36页。
29. 同上,第27页。
30. 译者序:《重现的自动化愿景》,参见《机器崛起:遗失的控制论历史》,第24页。
31. Peter Galison, “The Ontology of the Enemy: Norbert Wiener and the Cybernetic Vision”, p.231.
32. 维纳:《人有人的用处——控制论和社会》,第83页。
33. 同上。
34. 同上,第12页。
35. 同上,第20页。
36. 托马斯·瑞德:《机器崛起:遗失的控制论历史》,第55页。
37. 维纳:《人有人的用处——控制论和社会》,第41页。
38. 同上,第26页。
39. 托马斯·瑞德:《机器崛起:遗失的控制论历史》,第137页。
40. 丹·席勒:《信息资本主义的兴起与扩张:网络与尼克松时代》,瞿秀凤译,王维佳校译,北京大学出版社,2018年,第260页。
41. 王洪喆:《中苏控制论革命与社会主义信息传播技术政治的转型》,参见《区域》, 2016年第1辑(总第5辑),汪晖、王中忱主编,社会科学文献出版社,2016年,第284页。
42. 托马斯·瑞德:《机器崛起:遗失的控制论历史》,第95页。
43. Peter Galison, “The Ontology of the Enemy: Norbert Wiener and the Cybernetic Vision”,p.252.
44. 诺姆·乔姆斯基:《语言与心智(第三版)》,熊仲儒、张孝荣译,中国人民大学出版社,2015年,207页。
45. 同上,第222页。
46. 同上,第3页。
47. Dana H. Ballard:Brain Computation as Hierarchical Abstraction(Cambriage : The MIT Press, 2015)p.349.
48. Ibid,p.349.
49. Stefan Helmreich, “Recombination. Rationality. Reductionism and Romantic Reactions: Culture, Computers and the Genetic Algorithm”,Social Studies of Science(1998), Vol. 28, No. 1 , p. 41.
50. Peter Galison, “The Ontology of the Enemy: Norbert Wiener and the Cybernetic Vision”,pp.245-246.
51. 明斯基:《情感机器:人类思维与人工智能的未来》,王文革、程玉婷、李小刚译,浙江人民出版社,2016年,第26页。
52. 同上。
53. 转引自尼克:《人工智能简史》,第195页。
54. Hubert L. Dreyfus、Stuart E. Dreyfus,Mind Over Machine:The Power of Human Intuition and Expertise in the Era of the Computer(New York :The Free Press,1986) p.205.
55. 沈从文:《抽象的抒情》,引自陈国球、王德威编:《抒情之现代性:“抒情传统”论述与中国文学研究》,三联书店,2014年,第244页。
56. 沈从文:《水云——我怎么创造故事,故事怎么创造我》,引自《沈从文文集》(第十卷),湖南人民出版社,2013年,第281页。
57. 沈从文:《抽象的抒情》,引自陈国球、王德威编:《抒情之现代性:“抒情传统”论述与中国文学研究》,第240页。
58. 同上,第226页。
59. 沈从文:《水云——我怎么创造故事,故事怎么创造我》,第237页。
60. 参见俞兆平:《卢梭美学视点中的沈从文》(上、下),《学术月刊》,2011年第1期、第2期。
61. 相关分析参见路杨:《作为一种批评界面的“抒情”》,《文艺争鸣》,2018年第10期。
62. N.Katherine Hayles,How We Became Posthuman: Virtual Bodies in Cybernetics, Literature, and Informatics,p.67.
63. Ibid,p.86.
64. 杨庆祥:《与AI的角力——一份诗学和思想实验的提纲》,《南方文坛》,2019年第3期。
65. 同上。
66. 该文参见罗岗主编:《帝国、都市与现代性》(知识分子论丛第4辑),江苏人民出版社,2006年。
67. 马克思:《马克思恩格斯选集》(第2卷),人民出版社,2012年,第773页。
68. 罗岗:《“机器论”、资本的限制与“列宁主义”的复归》,《帝国、都市与现代性》(知识分子论丛第4辑),第11页。
69. 同上,第14-15页。
70. 海德格尔:《林中路》,第97页。
71. 张振华:《诗歌与民族共同体的生成与维系——海德格尔第一次荷尔德林讲课的核心问题与思路》,《文艺理论研究》,2019年第3期。
72. 同上。
73. 同上。
74. 海德格尔:《荷尔德林诗的阐释》,孙周兴译,商务印书馆,2009年,第51页。
本文原刊于原刊于《小说评论》2020年第5期,感谢黄平老师授权转载。未经许可,请勿转载。如无特别标注,图片均源自网络。
往期 · 推荐
政治经济学·信息不对称·开放源代码——人工智能与后人类时代(下)
访谈 | 戴锦华、王炎:大众的解体与分众的浮现——网络时代的人文学(上)