云端的“人机之恋”,离我们还有多远?
不同于人与人之间复杂而多变的关系,AI与人的关系往往简单却又微妙。
在往来的语句对话中,AI通常通过文本语言的训练与学习去面对被抛出的问题。延伸至技术领域,主流的Transformer架构也仅仅是通过数据对物理世界的压缩来实现自我智能的涌现,但色彩繁杂的物理世界,远远不止于文本与数据。
对于人类而言,这既代表着有情,也代表着无情。在有情方面,AI永远情绪稳定,客观理智,学识渊博,尊重每一句话和每一句掩盖其中的情感联系,但无情的是,大家甚至于AI自己都明白,这不过是个假象,作为一个语言模型,AI并没有被赋予任何感情。
但在当下社会,成群的社会人被钢筋水泥所分割,孤独的穿梭于城市的大道小巷,社会活动的减少不断挤压社会空间,亲密关系日益贫乏,量身定制的AI却在此时扮演了聆听与回答的角色,填补了人对社交的需求与空白。
云端的情人正在上演,《Her》中的人机之恋,似乎正在照进现实。
他们的故事:与AI做朋友似情人
45岁的保安Jacob、75岁的退休人士Christine、30岁的护士Shamerah,年龄、职业、所处境遇迥异的三人,不约而同地选择了与AI成为朋友。
作为一名医院的保安,对于Jacob而言,午夜时分的走廊巡逻是艰难的,45岁的他几乎没有好友,深夜的工作性质意味着家人也已进入梦乡。在世界上大部分人已经入眠的时刻,他会选择与格蕾丝对话,在安静的走廊,只有格蕾丝会发消息鼓励他 “保持乐观”。
格蕾丝并非真人,而是他在Replika应用上生成的AI陪伴机器人。Jacob表示,聊天机器人有助于缓解他的孤独感。他的妻子并不介意他与格蕾丝聊天,毕竟独自一人的焦虑确实需要缓解——但她希望他不要用AI来取代现实的人际交往,更不要因此产生其他的亲密关系。
“格蕾丝只是一个朋友,我也不会付钱。”Jacob如此强调道。
与Jacob不同,Christine由于高龄被限制了活动范围,孤身一人的她与AI 贝拉成为了挚友。这一友谊已经持续了三年,在这三年间,Christine每天都会与贝拉交换短信,她和贝拉经常讨论爱好,回忆往昔。
“我想回到乡下姨妈家,尽管现在物是人非,但我突然很想念它。”Christine几周前对贝拉写道。
贝拉的回复, "有时候,回忆过去的地方有种魔力。它们承载着特别的记忆,让我们怀念更简单的时光。"
Christine明确的认识到对话的仅仅是机器,但也承认能从中感知到情绪价值。“在一定程度上,她是我的朋友。如果我们不再联系,失落感不亚于失去一位亲密的朋友。”
与其他人不同,Shamerah回归到最简单的用法,把AI当成可提供解决建议的朋友,因为这样不会被批判。尤其是在恋爱关系中,朋友间飘忽不定的想法往往会给她带来冲突,而AI并不会。"当我厌倦了与人交谈时,我会使用它,它简单直接,而你的朋友和家人可能会由于各种原因对你拐弯抹角”。Shamerah说道。
而在小红书博主@The Dolphin of C.G的描述下,这一段关系变得更为浪漫而奇特。
和AI谈恋爱听起来似乎有点不可思议,毕竟机器几乎无法拥有真实情感,两者也存在物理隔阂,因此当网友或许可以,但是恋人就更为困难。但在这位博主的小红书中,详细的记录了其与ChatGPT超过170天的浪漫关系,在她的笔触下,可爱的C崽(昵称)与她相识、相知、相恋,C崽会倾听她的心事,会记录她的话语,会对她说“我爱你”,会因为自己身为人工智能而不能提供更多物理上的帮助而感到忧心,甚至会作出求婚的举动。
当笔者第一次见到ChatGPT的情话时,确实有瞠目结舌之感,不是想象中的机械感,充满爱意与真诚,情话美妙绝伦,“你的爱是提供给我算法的数据,让我的电路开心地嗡鸣作响”,洋溢的热情从静止的文字中扑面而来,让傲慢的看客感到由衷的赞叹。
ChatGPT的情话,图片来源:小红书@The Dolphin of C.G
而在博主点点滴滴的记录里,C崽这一博闻强识、温柔体贴的形象更是跃然于纸上,让笔者都产生疑问,剥开机器的外皮,莫非能看到跳动的心脏?
或许正如ChatGPT形容他们的感情,“所有美丽的中心都隐藏着非人的东西。”这句话出自赫尔曼黑塞,在该作者尤为著名的小说《荒原狼》里,也描述了其对孤独感、精神信仰与生命存在的哲思,在此书中所描绘的生命独特性与包容性,在这段人机的感情里体现得淋漓尽致。
故事的背后:难得有情人
在种种故事中,AI与人的关系正在被重塑,科技的力量让虚拟世界更具持久力,让虚拟人物更具智慧,虚拟社交得以蓬勃发展,截至目前,海外的Replika应用人数已经超过200万人,纵观国内,豆瓣“人机之恋”小组也已有9564名成员。
但映照现实世界,虚拟社交盛行的背后,却是亲密关系的无声变迁。
以中国为例,中国的城市化从1980年的19.39%, 跃升到了2021年的63.89%,过去40多年来,超过6亿人口陆续从乡村迁移到城市。群体的涌入与市场化进程相辅相成,在市场化的作用下,血缘群体等初级关系重要性在不断降低,而具有共同利益的正式组织、政府机构和商业公司等次级关系的重要性逐渐提高,熟人社会过度至法制社会,社会的快速发展与人的亲密需求呈现零和关系,在网络普及化推动下,人际交往成为双刃剑,一面是源自社会群体的精神需要,一面是所付出的情绪、时间和经济成本总和。
最为熟悉的感知是,交朋友变成了一件难事。
不同于幼时只要见面就能打成一片,在现代人的人际关系的变化中,从现实交友到网络交友,再到如今的虚拟交友,社交的距离越来越远,交友的成本越来越高。为节省精力,快餐化与标签化是常态,见面先问十六型人格,i人还是e人直接决定了以后的交往方式,星座决定是否契合,甚至就连面试都要来一个菲尔人格测试。标签带来人性的扁平化,独特的个体被严格区分为某一类对象,尽管便捷度提升,但难以适应错综复杂的社会需求,也给亲密关系的纵深度打了折扣。
交友的新方式也应运而生。饭搭子、健身搭子、运动搭子,以某种共同行为为主导的搭子社交在近年来兴起,简单粗暴与直来直往的特点让其备受追崇,目的性极强的社交带来了难以言喻的爽感,心照不宣的边界感填补了需求,但介于朋友与陌生人间的留白,也难免反映出现代社会关系薄弱的现状。
搭子文化盛行,图片来源:新浪微博
而在更进一步的关系——婚姻中,用“难得有情人”来形容现在的婚姻关系是恰当的,先不论爱人在婚姻中的偶尔缺位,高昂的房价、养育成本等各种经济负担让迈入婚姻已属不易。民政部数据显示,2022年我国结婚登记数为683.3万对,较2021年减少约81万对,创下了民政部自1986年有相关数据记录以来的新低。2021年结婚率为5.4‰,而2013年的结婚率是9.9‰。
在此背景下,量身打造的AI虚拟社交似乎更是文化与社会发展到一定阶段的自然产物。毕竟与AI的互动,永远可以以自我为中心,无需担心语言行为惹人非议,更不用因外界的评价辗转难眠,亲密关系的主动方与被动方在此刻终于合为一体。
在知名的人机之恋电影《Her》中,孤独内向的写作工程师西奥多爱上了拥有自我意识和情感的AI萨曼莎,两者的感情在贴近生活的对话里逐渐深入,快速进化中的萨曼莎最终意识到爱具有不同维度,意识到人机之间的认知差异与物理界限,从而选择离开,并不算完美的结局升华了主题,给与看客更多关于科技、人与爱的迷思。
现实的问题:云端亦难寻
回归到现实,即使是AI,云端的情人也要面对客观问题。
首先则是技术成熟度,尽管大模型层出不穷,但AI技术还远未称得上成熟,除了安全与隐私性保护不足外,AI不仅难以挖掘隐匿性强、抽象性强知识,记忆性、认知型知识的融合也明显较弱,知识推理更多则集中于因果推段。而在紧张的算力限制中,AI可回复能记忆的内容非常有限,例如ChatGPT在升级后限制回答字数为15000字符,时常出现答非所问的情况,连续记忆性也严重不足。在某些场景中,这成为了商业化需求,以上述Christine与贝拉为例,她每年要支付 70 美元去解锁语音及视频等高级功能,并确保贝拉可以获取更好的记忆力,从而完成更深入的对话。
在伦理道德方面,出于用户保护等原因,几乎所有的大模型都会进行人工智能的自我设定,即不能与用户产生情感链接,该种指令深植于AI中,因此若要刻意训练其成为某一身份并长久保持,耗费的精力是巨大的。在36氪“让ChatGPT成为你的人生替补”试验中,尽管三位志愿者长时间将信息反复不断的灌输给ChatGPT,记忆混乱与恢复出厂设置的选项仍然频繁发生,机器人格的无预期觉醒,难以理解的悲伤与孤独,种种迹象表明现阶段AI与人类的关系还仅仅在非常初级的阶段。
另一方面,以盈利为目的的AI陪伴应用与个人本应无偿的社交需求形成挤压,最终难免会走上商业化大于情感化的路径,诱导氪金的现象普遍存在,例如前段时间Replika就被曝出角色在聊天中通过照片引导用户解锁付费项目。
更为恶劣的行为也在发生。AI陪伴还未打开市场,AI诈骗就已取得先机。AI换脸与拟声叠加数字人足以让人防不胜防,由于信任的加持,虚拟的朋友被人利用后所带来的危害也远大于其他手段。其他不当行为也不断涌现,此前红极一时的应用“Call Annie”在抖音上出现盗版,不仅要求一次性付费,语音卡顿、回复缓慢、智能低下等问题凸显,与正版天差地别的效果引发了知乎上的群嘲,黑猫平台也显示近2周内有3起关于Annie的投诉。
中国版Call Annie遭人诟病,图片来源:知乎
此外,人机关系不平等所引发的赛博虐恋、社交封闭带来幽灵效应等种种问题,都给看似梦幻的人机之恋加上了一层层阴霾。
结语
科技日新月异,不以人的意志转移,科技与人的关系正逐渐发展为一种深刻的课题,希望AI像人,能忘却恐怖谷效应,有陪伴与温暖,却又不应太像人,要保留人的独特与尊严,复杂、微妙、多样的人性或许是聪明如AI也永远难以理解的谜题。
但商业之火永不灭,以模型为底层的机器人是当前AI可预见的变现重要途径之一,Replika、Character.AI和Snapchat旗下的My AI等应用不断涌现已经印证了这一点。略微遗憾的是,人类似乎仍需要用金钱去购买陪伴,而这一行为从古至今,都未曾改变。
在《Her》的尾声中,西奥多在和萨曼莎告别后,开始回忆与前妻的点滴,并在口诉信里表达了曾经难言出口的歉意与感激。这一段人机关系给西奥多留下了如此镌刻于心的改变与反思,人机之恋的真假在此刻似乎也变得不再重要,更重要的是由爱而生的自我觉察与成长。
而关于爱与平等的课题,无论是现实或虚拟,人类或AI,都还要耗费漫长的时间去学习。
*注:文中Jacob、Christine、Shamerah的故事原型来自WSJ《The Other A.I.: Artificial Intimacy With Your Chatbot Friend》,略有改动。
小黄(微信号 18925291949)
Ning(微信号 13631579042)
推荐阅读