查看原文
其他

有意识的人工智能意味着什么?

倪梁康 密涅瓦Minerva 2022-10-27

点击上方蓝字“密涅瓦Minerva”轻松关注。“密涅瓦”品牌书系着重于对人的本质及人生存世界的反思,提倡一种激情与理性交融,哲学与人文并重的阅读旨趣。联系邮箱:minerva2019@sina.com


近年来,随着人工智能的兴起,“意识”一词重新进入大众的视野,然而人工智能超强的学习能力是否代表着TA具有“自我意识”?“心灵”和“意识”在哲学上是否可以画等号?笛卡尔说的“我思故我在”随着人机互换与相融的进一步发展,是否可以转换成“我在故我思”?倪梁康教授的《意识作为哲学的问题和科学的课题》对此作了细致的探讨。感谢倪梁康教授对本文的授权,原文刊载于《自然辩证法通讯》2019年第10期。



“意识”是哲学自古以来就在不断思考与讨论的问题,尽管是以不尽相同的名义,例如以西方哲学中的“努斯”“灵魂”“精神”“心灵”“心理”的名义,或者以东方哲学中的“心”“意”“识”“思”“想”“念”的名义,以及诸如此类。今天的哲学界也仍然在意识哲学、心灵哲学、心理哲学、精神哲学等名义下和领域中继续探问这个问题。正如泰格马克所说:“虽然思想家们已经在神秘的意识问题上思考了数千年,但人工智能的兴起却突然增加了这个问题的紧迫性,特别是因为人们想要预测哪些智能体可能拥有主观体验。”在泰格马克提出的这个宣言或设想中隐含着对意识的一种未加审思和阐明的理解:人工智能目前属于有智慧的机器,但更有智慧的机器不仅仅是有智能的,而且还是有意识的;因而“意识”在这里是一种比“智能”更高的智慧形式。

一、有意识的人工智能意味着什么?


2019年2月4日,人工智能网有新闻报道说:“机器人真的有意识了:突破狭义AI的自我学习机器人问世。”在具体报道中可以读到如下内容:“哥伦比亚大学打造一个‘从零开始’认识自己的机器人,这个机器人在物理学、几何学或运动动力学方面没有先验知识,但经过35小时训练,能够100%完成设定任务,具备自我意识。


但进一步的观察表明,这里自始至终没有明确定义什么叫做“有意识(self-aware)”或“具备自我意识”。而如果我们按报道作者的意思将“有意识”或“具备自我意识”理解为有“突破狭义AI的自我学习”的能力,那么这里的“有意识”或“具备自我意识”的说法就会面临两方面问题:其一,这种有“突破狭义AI的自我学习”能力的人工智能此前就已经有过,例如在DeepMind设计的AlphaZero那里;其二,自我认知、自我学习的能力并不能等同于“意识”或“自我意识”。黑猩猩用半小时甚至更短的时间就可以知道镜子里的那个影像是自己,猴子则可能用一天或几天的时间。但它们与这里所说的机器的“有意识”和“具备自我意识”显然大相径庭的。


无论是“意识”,还是“自我意识”,或是“自我认识”,这些概念是互不相同的。甚至“自身意识”(self-aware)、“自我认知”(self-knowledge)“自我模式”(self-model)也都是词义接近但所指不同的概念。


哥伦比亚大学主持这个项目的利普森(Hod Lipson)教授说:“机器人会逐步认识自我,这可能和新生儿在婴儿床上所做的事情差不多。这种优势也可能是人类自我意识的进化起源。虽然我们的机器人这种能力与人类相比仍然很粗糙,但我们相信,这种能力正在走向一种具备自我意识的机器的途中。”千年以来,哲学家、心理学家和认知科学家一直在思考自然意识的问题,但一直进展不大。我们现在仍然在使用‘现实画布’之类的主观词汇,来掩盖我们对这个问题理解不足的现实,但现在机器人技术的发展,迫使我们将这些模糊的概念转化为具体的算法和机制。


利普森在这里表达的实际上并不是一个在自身意识问题上的研究结论,而更多是一个有待回答的基本问题:如果自身意识的概念仍然是含糊不清的,那么是否有可能以及如何有可能将它转化为具体的算法和机制,建立起它们的系统模型?


二、“心灵”“意识”“无意识”各自所指的是什么?


意识当然也是哲学家和思想家始终在思考的艰难问题,而且这些思考在所有古代文化中都可以发现,而且是以不同的名义进行。在所有关于意识的思考中,“意识”在概念上得到最明确界定并因此而得到最通透讨论的思想传统还是应当属于佛教唯识学。


历史上佛教的意识理论大多将如今人们常常使用的“心灵(mind)”概念一分为三,即“心”(citta)“意”(manas)“识”(vijñāna)。它们或是被视作同一个东西的三种功能,或是被视作对同一个东西的三种诠释,又或者被理解为“心灵”的三种类型或三个发展阶段。大乘唯识学因此也将它们命名为“第八阿赖耶识”(含藏之识)、“第七末那识”(思量之识)和“前六识”(分别或分辨之识:眼识、耳识、鼻识、舌识、身识、意识)。与它相对应的概念实际上并不是C打头的“意识(consciousness)”,而更应当是M打头的“心灵(mind)”。“心灵”的外延比“意识”更大。后者通常被包含在前者之中,即意味着“心灵”的“被意识到的”部分。


现代语言中的“意识”概念常常会被当作“心灵”的同义词来使用,无论是汉语的“意识”,还是德语的“Bewußtsein”或英语的“consciousness”或法语的“conscience”。而这往往会造成混乱。实际上也将“心灵”区分为“现象学的(显现的)”和“心而上学的(不显现的)”,前者是在胡塞尔意义上的意识现象学分析,而后者则是弗洛伊德用来标示自己的无意识研究的概念。无论如何,这个意义上的“意识”所对应的都是佛教中的全部八识或六识的“心意识”,而不是其中的某个“意识”,无论是第七识,还是第六识。


广义的意识泛指一切精神活动,或者说,泛指心理主体的所有心理体验,如感知、回忆、想象,图像行为、符号行为、情感、意欲,如此等等,皆属于意识的范畴。它基本上等同于“心灵(mind)”的被意识到的部分。


这里要特别说明:广义上的“意识”不仅仅是指与表象、判断、认识有关的心理活动,看到的鲜花,听到的音乐等;而且还包含另外两个种类,情感(感受)和意欲(意志)等。例如,我对噪音的厌恶感受,我对鲜花的舒适感受;我对某物的欲念或对某人的同情。它们都指向某物,都具有指向对象或客体的意向结构。易言之,“有意识的心灵”在总体上可以一分为三:表象意识、情感意识、意欲意识。因此,意识活动的范围要远远大于智识活动的范围;后者只是“知”,是前者“知情意”的三分之一。


纯粹的智识活动在今天的人工智能研究那里可以发现。由于人工智能的研究和开发的现状目前还仅仅在于模拟、延伸、扩展和超越人类智能,因而从人工智能向人工意识的发展必须考虑将人工情感和人工意欲的因素纳入人工意识和人工心灵系统的可能性。更进一步说,要谈论人工意识的可能性,至少还需要在人工智能中加入人工情感和人工意欲方面的因素;而要设想人工心灵的可能性,则更需要加入无意识、潜意识、下意识的因素。这里我们也会遭遇有心灵的机器人是否会做梦,是否需要做梦的问题。


这里我们已经预设了对一个问题的肯定回答:人工意识或人工心灵是否需要以及是否可能完全模拟人类意识或人类心灵的思考。


三、“意识”与“自身觉知”和“自我意识”的区别是什么


德文用“自身意识”(Selbstbewußtsein)与“自我意识”(Ich-Bewußtsein)来表达的本质差异在英文中并未得到应有的关注,因而“自身”与“自我”混淆在“self”概念的多重含义中。也正因为此,当利普森宣称要将“这些模糊的概念转化为具体的算法和机制”时,他很可能并不知道这里的模糊概念“self”应当意指什么,而且很有可能也不知道“awareness”应当意指什么。

这种概念模糊的状况不仅在这里所引的“距离有自身意识的机器人又近了一步”(A Step Closer to Self-Aware Machines)的人工智能新进展报道中可以找到,而且也可以在注重概念和语言的心灵哲学家的研究中发现,例如在塞尔的《心灵的再发现》中。他虽然以在餐厅吃饭时的种种意识为例区分了对象意识(牛排、酒、土豆的味道)以及同时可能产生的两种情形的自身意识(self-consciousness),但他显然将忽略了确切意义上的“自身意识”或“自身觉知”。带着这种将自身意识等同于自我意识的理解,他将“所有意识都是自身意识”的命题视作三个传统的错误之一。



许多欧陆哲学家都区分自身意识和自我意识。前者是非对象性的,后者是对象性的。法国哲学家笛卡尔的提出的“我思故我在”。这是对最终确然性的把握。一切都可以怀疑,唯有怀疑本身无法怀疑。怀疑是思,我怀疑,所以我在。我思故我在。但笛卡尔完成他的《第一哲学沉思录》之后将他的文稿发给同时代的思想家听取意见,其中有人(伽桑迪)读后便提出诘难:你怎么知道你思呢?如果你说通过思考事先就知道的,那么我思就不是最终确然性,因为你已经预设了关于思的知识。这个知识才是最终的确然性。但这个问题还可以一直问下去:你是怎么知道这个知识的,你是怎么知道你知道这个知道的?这在逻辑学上叫做无穷倒退。

这也是我们这里要涉及的第二个例子:玄奘曾面对过同样的问题,他当时就在试图借助前人的思考来克服所谓逻辑上的“无穷之过”,或者说,获得所谓“无无穷过”的逻辑结果。笛卡尔对此问题的回答与玄奘一致。他在对第六诘难的反驳中说:我之所以知道我在思考,是因为我在思考的时候直接意识到我在思考。这种直接的知识(意识)是所有知识中最确然无疑的。它是人类认识最根本的基础,远比关于外物的知识或关于上帝的知识来得可靠。因此,黑格尔会说,笛卡尔为哲学找到了一块陆地,从而使它不必继续在大海上做无家可归的漂泊流浪。


将这个意义上的“自身觉知”放在人工智能的自身意识的讨论中来考察:一台自动驾驶的人工智能汽车,它在行使时能够有自身意识吗?那么我的第一反应是会反问:这个问题中的“自身觉知”指的什么?——是指它在行驶时会意识到路况,而且同时也意识到自己对路况的意识?还是一边行驶,一边反思自己以及自己的行驶?在前一种情况中,意识到自己对路况的意识是“自身觉知”,即意识中包含的一个要素(自证分),它本身不是独立的行为;而在后一种情况中,对路况的意识和对自己的反思是两个行为,朝向不同的对象:路况和自我,类似前引塞尔所举餐馆例子中作为对象的牛排与自我。但我们要关注的是“自身觉知”的情况而非“反思”的情况。


狭义上的“意识”往往也被当作“自身意识”(或“自身觉知”)使用。无论如何,它是使得我们的意识成为“清醒意识”的东西。清醒的意识是相对于梦意识、无意识、下意识、潜意识而言。只要我们是清醒的,是有意识的,我们就会自身意识到我们的意识状况。


与此相反,梦游者或醉酒者常常处在一种有意识与无意识的中间状态,或者说,非清醒的意识的状态,或者说,有意识而无自身觉知的状态。只要一个人没有完全醉倒,他就仍然能够是有意识的,但他的自身觉知会很弱,甚至完全没有自身觉知。因而宿醉者不会记得他的醉酒状态,即使他那时是有意识的,只是没有或少有自身觉知而已。这一点也可以在玄奘的意识分析中找到支持。他并不否认一个人可以处在有意识却无自身觉知状态的可能性,而只是说:“自证分:此若无者,应不自忆。”也就是说,如果自己只有意识而无自身意识,那么事后自己就不能回忆当时的发生。


四、物本论与心本论的对峙还能维续多久?


加州大学旧金山分校的科学家设计了一种神经解码器,利用人类皮层活动中编码的运动学和声音表征,将脑信号转换为可理解的合成语音,并以流利说话者的速度输出,准确率达到90%左右。这个研究的进展实际上意味着物理学或生物学的还原论的进一步逼近:意识有可能被完全还原为生物学家的脑电波和神经信号,即所谓“意识的神经相关项(NCC)”,或单纯的信息与数码,即所谓“意识的物理相关项(PCC)”。哲学的意识研究最终也可能被科学的大数据分析、归纳、整理、编制、组合所取代。这是泰格马克所说的“意识是信息”之定义的一个逻辑结果。在这里物本论排挤了心本论和二元论。


哲学的思考今天已经不是在认知理论方方面对科学研究进行指导,也不是在责任伦理方面提出对科学研究之无度的批评,而是在试图界定科学研究的有限性,或者说,试图回答问题而非提出问题。但这样的做法会随着科学研究的持续进展而不断陷入被动的局面。


物本论的不断逼近最终会导致“我在故我思”的还原论。甚至二元论的立场最终也会被放弃,因为无论是在心灵哲学家所坚持第一人称的视角不可替代性方面,还是在意识现象学家所坚持的自身觉知的独一性和本底性方面,都有可能会因为新的生物-物理的相关项的产生而发生改变。人机意识的互换与相融的可能性也会随科学研究的进展而逐渐成为可能的现实。


一旦到了这一步,关于“我思故我在”还是“我在故我思”的争论已经类似于“鸡生蛋”还是“蛋生鸡”的讨论。


五、意识哲学研究与意识科学研究可以在哪些方面进行合作?

我们当然也可以通过医学生理学的研究来了解它们的起因,例如,是颅内外动脉的扩张、收缩或牵拉,还是颅内静脉及硬膜的移位或牵拉;是神经系统的受压、损伤或化学刺激,还是头颈部肌肉的痉挛、收缩或外伤;是脑膜受到刺激或颅内压的增高,还是脑干结构的激活,以及如此等等的其他机制。我们可以根据不同的情况来消除这些可能的起因,从而中止头痛。——但生理学研究所涉及的是头痛的根源和起因,而非头痛本身。


我们还可以通过心理学的观察和实验来研究:例如通过行为心理学的观察发现患者有通常会有呻吟、抱头、皱眉等等行为,以及其他明显和不明显、有意识或无意识的动作,由此而了解这种头痛是否实际存在,它的强度以及它的位置等。——但客观心理学(行为心理学以及实验心理学均属于此)研究所涉及的是头痛的外部表达和显现,而非头痛本身。


如果生理学的研究和心理学的研究都表明,你的头痛不存在,而你自己却明白无疑地感受到自己的头痛,客观研究与主观体验便会发生冲突。事实上,许多意识体验的情况都是如此,例如回忆、感激、怨恨等等。


要把握这个意义上的主观意识,必须运用意识哲学或精神科学的特殊方法。对人类的感知、想象、回忆、图像意识、符号意识、情感意识、意欲意识、审美意识、道德意识、价值意识等等发生奠基规律和结构奠基的规律的探讨和把握,可以在总体上为人工意识的结构和发生提供有意义的借鉴。因为“智能”实际上只是人类意识“知、情、意”(智识、情感、意欲)的三分之一。因此,哲学的意识研究团队将来可以与生理学与计算机的团队在此方向上展开合作研究。


此外,意识现象学对“意识”与“自身觉知”关系的研究也可以为人工智能的研究提供一个新的思考方向,为构想和建造“有意识的人工智能”即我们意义上的“自身觉知的人工智能”提供理论准备。目前将脑信号转换为可理解的合成语音的工作从总体上还只是将意念转换成它的语言表达式。这里所说的“意念”相当于意识哲学家所说的“意向性”。从脑信号到合成语音的转换或可理解为佛教所说从“现量”到“比量”的转换,也可以理解为从塞尔的“内秉的(intrinsic)意向性”到“派生的(derived)意向性”的转换。但“意识”与“自身觉知”的复杂关系则类似于佛教所说的“一念三千”,它们是否可能转换成语言表达式,这是在意识哲学与语言哲学中已经引发了长期争论的问题,现在更需要结合人工智能的研究进展而得到进一步的思考和讨论。


另一方面,意识研究与医学生理学的合作研究在一定程度上和一定条件下也是可能的。仅以关于同情问题和镜像神经元问题的合作研究为例:在神经科学研究发现镜像神经元之前,现象学家就已经对情绪感染(Gefühlsansteckung)、同一感(Einsfühlung)等等做出了意识哲学的分类研究。在发现镜像神经元之后,关于神经科学的发现与意识现象学的比较研究已经在开展之中,这些比较研究为理解各种类型的他人经验提供了新的视角和理解的可能性。


特别推荐

书名:心灵导论

作者:[美]约翰·R.塞尔

出版社:上海人民出版社

出版年月:2019.7

定价:78.00元

何谓心灵哲学?塞尔认为心灵是每个人都拥有的,且不能被还原为物质的普遍实在现象,同时也是人类大脑的神经生物学机能。正如同光合作用、胆汁分泌那样,意识也是一种自然的生物学现象。由此,塞尔也批评了由笛卡尔肇始的二元论,以及各式各样的唯物主义关于心灵的错误观点。
在此基础上,塞尔针对心灵哲学的诸多论题,比如,意识与身心-问题、意识的结构与神经生物学、意向性、心灵因果关系、自由意志、无意识问题以及对于行为的解释、知觉、自我等,进行了重点论述,勾画出了塞尔的心灵哲学地图。



书名:意向性——论心灵哲学

作者:[美]约翰·R.塞尔

出版社:上海人民出版社

出版年月:2019.7

定价:78.00元

本书是塞尔早期著作《言语行动》《表达和意义》的哲学基础,从某种意义上说,也是他哲学体系的基础。意向性是非常重要的心智现象,对它的分析涉及感知、行动、因果、意义、指称以及背景和网络等论题。在本书中,塞尔提出并完整论证了他的意向性理论,对前述提及的各论题分章进行了详尽的论述。塞尔认为,整个现代哲学运动都是围绕有关意向性的各种理论建立起来的,语言哲学是心灵哲学的一个分支,当代哲学研究的主要方向应该归结为心灵哲学研究。


书名:意识研究

作者:王晓阳

出版社:上海人民出版社

出版年月:2019.4

定价:52.00元

意识问题在当代哲学中占据了重要的基础性地位,也属于这个世纪人类想要攻克的科学难关之一。目前主流意识研究领域存在着两条相互独立的道路:心灵哲学研究道路和认知神经科学研究道路。但是,一般认为,当代绝大多数关注意识的哲学家和科学家均持有如下基本信念:意识与脑神经活动密切相关。因此,当代关于意识的争论可以聚焦到如下两个关键问题上来:意识与脑神经活动的关系如何?意识产生时,与之相应的特定脑神经活动的具体机制如何?宽泛地说,哲学家更关心前一个问题,而科学家更关心后一个问题。
《意识研究》一书对当前关于意识的心灵哲学研究道路和认知科学神经科学这两条道路分别进行了考察,论析了各自研究工作中遇到的种种具体问题,在此基础之上,归结出了困扰当前意识研究的三大困难(非分析性困难、非还原性困难、主体性/私密性困难)。然后,尝试将特定的哲学分析方法和认知神经科学新近成果相结合,设计一种复合方案来处理这三个困难。如果该复合方案确实有效的话,那么就表明,一条结合哲学分析方法和经验科学研究手段二者优势的新型意识研究道路是完全可行的。






您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存