会议追问｜ChatGPT有意识，只是与人的意识层次不同？
2023年2月19日，天桥脑科学研究院（TCCI）、上海市精神卫生中心和上海图书馆共同举办了“柏拉图精神学园第一期对话”。
本期对话以“科学与哲学视角下的精神现象反思”为题。在上海市精神卫生中心徐一峰教授的主持下，于欣教授、林关宁教授、成素梅教授，围绕意识、死亡、技术、进化等问题进行了科学追问。
Q
意识是一种认知功能，还是一种感觉？
于欣：对于意识，我们有不同的理解。心理学上，有心理学家定义的意识；哲学上，有哲学家定义的意识，精神病学也有精神病学家定义的意识。作为临床医生，我认为所谓的意识，首先是觉察，即对环境和自我状态的觉察。有觉察才有意识。最关键的是对自我的觉察，再进一步，是知道自我与环境的互动。在临床上，要判断一个人的意识状态或者意识自主性，就要评估其清醒态。人要足够清醒，就是要觉察，要保持足够的能量，注意力要保持相对的集中，对外界环境变化作出反应。
成素梅：我先讲一下人工智能。有一个经典的图灵测试叫“计算机能否进行思维活动”，因为过了奇点以后，计算机就变成了“人”。最近有讨论说，ChatGPT不仅能取代人的工作，而且可能在意识上要凌驾于人类。其实，从20世纪50年代提出图灵命测试开始，到60年代，这是哲学家们一直都在讨论的问题。传统哲学是从认识论的角度讲意识流，跟精神病学并不相关。60年代讨论人工智能的意识的时候，有一位哲学家认为无法回答“机器有没有思维活动”这个问题，因为思维活动是看不到的，人脑怎么动、机器人怎么动，都是看不到的，只能从外在行为表现上进行判断，即使是图灵测试，依然是观察行为表现。所以说，应该问机器有没有意识。
这就涉及什么叫意识。所谓有意识，就是能跟环境进行互动，并且对环境的互动作出回应。如果一个机器能做到这两点，就可以认为它是有意识的。按这个定义，ChatGPT应该是属于有意识的行列，但和人的意识机制是不一样的。从行为上讲，或许能够跟环境互动的物，都应该是有意识的，动物也是有意识的，只是意识的层次高低不一样罢了。我们一般把意识活动当作人的一种精神活动，它有更高的要求，不仅仅是动物的要求。所以在我个人看来，从这个意义上讲，人的意识要比动物的意识高一个层次。而人工智能的意识可能还达不到，它和人的意识可能还是两个层面的。
Q
人类进化到一定阶段后，有没有可能在整体上克服对于死亡的焦虑？
林关宁：我首先从进化角度来讲，确实很多研究比较了我们的祖先，还有一些群体，比如美国一些保持传统生活的群体、亚马逊河流域的一些传统部落。在调查了他们的心理情绪状态后，可以发现这些人其实活得非常开心，他们的焦虑情绪非常低。我们的祖先也被证明，在当时，焦虑情绪是很低的。反而是随着人的现代化，我们的细化能力越来越强，焦虑、抑郁等情绪问题在逐渐上升。至于人类是否会进化到不怕死亡，可能当我们能够真正把人的意识数字化，放在人工智能里（才可能实现）。
成素梅：我可以从哲学的角度来讲一下这个问题。人什么时候不怕死？有几种方式，一种是信教。信教可以超越死亡畏惧，我认为有两个超越，一个是外在超越，就是借助某种力量去思考生死的问题，可能到一定程度后，你会超越；第二个是内在超越，就是自己修炼，去思考死亡的问题。我觉得有了一定的内在超越后，无需外在超越，你就能瞬间化解、想通，把死亡当作人生过程的终点，可能更容易接受（死亡）。第二种方法就是借助人工智能，在数字世界里永生。
于欣：死亡焦虑，其实是人类最本质的焦虑。我觉得你真的不用摆脱它。弗洛伊德一开始强调性本能，晚年的时候开始讨论死亡本能，但大家对这部分的关注不多，因为都不太愿碰这个话题。但是，死亡本能实际上是人类进步以及精神健康一个非常重要的力量源泉。好多时候我们觉得溃疡是需要治愈的，其实不是，它真的是你身上的“桃花”。太多我们认为需要抛弃的，或者认为应该割掉的东西，其实正是你身体里最珍贵或让你独一无二的东西。
所以我不觉得需要摆脱死亡焦虑，而且我觉得人类也不会摆脱。人类作为mortal（终有一死的）生物，变不成immortal（永生的），即使成为digital（数字化的）也成不了immortal。我们一直是mortal的，是独一无二的存在，我不觉得是坏事。
Q
有一个观点认为，现代科技在进步，人类社会在进步，但是人类物种在退步。如何看待这个观点？
林关宁：我们不能说科技的进步、文明的发展导致了人类物种的退化，而是说科技的发展使我们比较善于利用环境。人类修改大自然本来的状态，将之变成一个更加复杂的环境。这种情况下，人就会产生更加激进的做法，比如可能有些人会更加依赖于科技的发展，形成一种惰性，可以活得更久些。另一种说法是，按照自然界生存法则来讲，自然界非常残酷，为了繁衍可以无所不用。人类善于利用环境，使用科技让我们能够存活下去。这也付出了一些代价，就是我们保留了很多应该被淘汰的特征和形式，比如一些精神疾病特征。
说成是人这个物种的退化，其实也不是，只是我们现在形成了一个更加复杂的物种。人类也在调整，进化成一种可能是大自然本来不希望我们走的方向。人工智能其实也是人类进化的一部分，并且进化的速度在加快。我们身体中大自然赋予的一些能力，可能跟不上进化的速度，这部分也在调整中，而人的适应性是非常强的。
于欣：我认为，其实没有所谓的“进化”“退化”，只有演化。演化相对中性，因为不知道人类是变得更好，还是变得更坏，好坏都是相对环境来讲的。我们不能够一边享受着现代科技进步带来的好处，一边又骂这科技把我们变差了，变懒了，变笨了。
从人类基因突变来讲，速度其实在加快，特别是最近100年当中，基因突变速度要更快。这种变异一定会带来正反两方面的结果。那么，为什么会有这种变化？其实是为了给人类适应环境带来更多的可能性。有推测说，人类将来会变成头大四肢小的形态，以便适应未来科技或信息爆炸的时代。有种说法是，我们要停在所谓的“幼态持续”（Neoteny）状态，像婴儿一样活着，这意味着我们要保持高度的好奇心、高度的活跃性、对外界的高度探索，同时大脑要更加发达。当然，这些推测是不是意味着未来人类一定会变成这样子呢？我不知道，因为环境会变成什么样子，我们也不知道。
成素梅：这是个科技哲学问题，关于科技与人和社会的问题。我们专业里有三种观点。一种观点叫技术决定论，认为人类社会、文明演化都是以技术为标志的，比如石器时代、铜器时代、第一次工业革命、第二次工业革命等，再到现在的人工智能。第二种观点是社会决定论，认为技术之所以能够影响人和社会，是因为人选择了它。这种观点否定了技术决定论，认为社会因素更重要，尤其是当代技术，如果没有国家的投资、资本的注入，也是做不出来的。所以，技术是社会选择的结果，是人来决定的，只是人在决定这个技术的时候没有看到它带来的负面影响。第三种观点是互动论，即技术和人是在互动过程中，共同适应、相互演化的。至于人类是退化还是进化，我不知道。
大家可能听说过卢德运动，英国当年机器大发展的时候，就有工人罢工、捣毁机器来拒绝机械化，因为他们担心机器会让人失去工作。但事实上，这个运动过后，人类不仅实现了机械化，还实现了自动化，现在还在智能化。人们在失去传统工作的同时，又产生了许多新的工作。所以，它伴随着一部分工作的消失，也伴随着一部分新工作的诞生。对于一代人来说，可能他们正好处于换代期，掌握的传统技能失效了，没有掌握新的技能，成为了牺牲者。对于年轻一代，对于在这个时代下成长起来的人而言，他们恰好就是适应的。所以这也是一个正反两方面的问题。
Q
如果人和新技术是互相适应的，那么传统的心理咨询治疗是否也能通过AI技术来实现？
徐一峰：用于心理治疗、心理咨询的技术已经有很多。我们做了很多用作认知行为治疗（Cognitive behavioral therapy，CBT）的人工智能机器人，也已经通过临床试验了。人工智能机器人、心理治疗机器人其实早就有了。在1964-1966年，MIT（麻省理工大学）人工智能实验室就做了世界上首个自然语言对话程序Eliza，它以卡尔·罗杰斯的人本主义及其学派为理论基础。
Q
精神问题严重到一定的程度，可以是一种疾病，而信息过载是一个重要的诱因。我们是不是可以更主动些，在基因层面、外科手术层面等等，对人的基因疾病进行干预治疗？或者就像人类增强技术那样，把人变得更强，就不用担心外在的信息过载，是不是有这样的可能？
于欣：我们永远都不知道未来什么是好的，什么是不好的。精神疾病就两大类，都是非常严重的疾病。一类是发育性的，比如先天性的智力残疾，另一种是早老性的、退化性的。但有一些疾病是移行性的，是健康和不健康之间的移行过程，而且我们永远不知道这种状况在什么时候更适应这个时代。比如孤独症的孩子在社交隔离时，会更自在；而分裂症的患者可能在一个幻想空间里，会更舒服。这也涉及科研伦理，我们不知道应不应该下手，因为不知道做出来的完美基因，是不是一定是好的。我觉得精神疾病的魅力之处就在于，我们永远不知道它在当下的表现，再过10年，是好的还是不好的。
徐一峰：关于分裂症，的确有这类报道，说分裂症有其功能，有可能增加天才，或者增强知觉到别人心里的想法的能力。
林关宁：美国亚利桑那州立大学一位教授写了一本书，叫做《给坏情绪一个好理由》（Good Reasons for Bad Feelings）。书的大意是，很多精神疾病的状态，在某种情况对一些人来说是有用的，不要全都看成是有害的。从治疗方面来讲，你要把精神疾病当成有意义的东西，找到它的用处，这对于降低病感是有效的。从进化来讲，它以前是有用的，现在我们只是没有找到它的用处而已，将来可能就有用了。比如事情做得不顺利，你会不高兴，这是不是提醒你应该换一个方向？是不是应该做点其他事情来缓解一下？所以反过来想，不是所有东西都要从基因层面去治疗的。
科学与哲学视角下的精神现象反思
柏拉图精神学园第一期对话
扫描上方二维码，观看会议回放
关于TCCI
天桥脑科学研究院（Tianqiao and Chrissy Chen Institute，TCCI）是由陈天桥、雒芊芊夫妇私人出资10亿美元创建的，旨在支持、推进全球范围内脑科学研究，造福全人类，目前已经成为世界最知名和最大规模的支持人类脑科学研究的科研机构之一。
TCCI一期投入5亿元人民币支持中国的脑科学研究，与上海周良辅医学发展基金会合作成立上海陈天桥脑健康研究所（又名TCCI转化中心），致力于提升脑健康和脑疾病治疗研究和成果转化。后又与华山医院、上海市精神卫生中心等建立战略合作，设立了应用神经技术前沿实验室、人工智能与精神健康前沿实验室。在国际上，TCCI与加州理工学院合作成立TCCI加州理工研究院，设脑机接口、社交与决策神经科学、系统神经科学、分子与细胞神经科学、大脑成像、神经科学教育等多个中心，重点关注大脑基础研究。TCCI还在北美、亚洲、欧洲、大洋洲主办、资助了200多场高质量的学术会议。