渡十娘｜马斯克竟然带头喊停？！——到底谁在害怕人工智能AI？
做公众号里的《纽约客》
戳蓝字一键关注 渡十娘
转发也是一种肯定
文字｜戴耘
编辑｜渡十娘
再好的东西, 也会吃到想吐。再着迷的问题，也会烧脑到脑残。
OpenAI研发的“聊天”AI，权称小茶，从ChatGPT到GPT-4，开始感觉是翩翩而至，窈窕多姿，随即感觉根本不是来聊天的，而是来踢馆的。动物凶猛，每天的视频都是“狼来了”，都听腻了，恨不得立马逃走，去布拉格或琉森躲上两个月。
“奇点”来临？
小茶的“智商”了得，否则法律考试生物学考试它如何应付得了，它通过了编程考试，可以在谷歌拿到一个年薪18万美元的编程工程师的职位（虽然它无法感受获得这份工作的喜悦）。按照它的各种职业考试看，小茶在法律、金融、编程、医学、管理各方面都基本能达到专业门槛；在生活常识方面，它也能事无巨细，给你不错的建议。
小茶的“情商”也不错，能够将心比心，有时同理心爆棚。分析人类道德场景，也常能丝丝入扣。它从不会冒犯你，说话像个绅士。研究表明它的共情推论可以达到九岁孩子的水平，我自己的感觉是，他的谈吐像一个通情达理的中年人，有求必应。
以自然语言为基础的AI之所以神奇，是因为人类表征世界的主要方式是自然语言。而机器“读懂”了人类语言，也就是打开了知识之门！从一个字和字的连接游戏开始（根据给定的字猜测下一个字的出现概率；比如看到“消灭”，下面出现哪几种可能，概率大小），一直到建构极其复杂的表征世界万物的模型，参数从GPT-3的近两千亿到GPT-4的一万亿（参数越多，计算模型越精密），对各种知识门类俨然驾轻就熟，对内在的逻辑已然融会贯通；它生成文本、解答问题、构思计划、编撰程序几乎都能在几秒中完成。它的进化之神速，如一日千里。让人类惊掉下巴。
“奇点”(singularity)原来指宇宙起源学说中的一种由万有引力引起的突变现象。美国的技术专家、未来学者库兹韦尔（Ray Kurzweil）在他2005年的《奇点临近》一书里用这个概念来形容AI技术带来的突变。库兹韦尔预测2029年是一个拐点，机器有了灵魂，2045年“奇点”来临，即机器智能与人类智能充分融合并超越人类控制而使文明进入一种全新的样态。
近日，一千多个专家学者（很可能是马斯克牵的头）呼吁OpenAI团队停止训练新版AI（GPT-5）六个月，评估其风险：主张对AI的发展和使用进行必要监管。他们的理由是小茶很可能被人利用，造成信息误导，干扰对现实的感知和判断，进而造成各种损失。AI可能会大规模取代人类工作，也是一个关注点。更长远的忧虑，还有库兹韦尔预言的技术“奇点”的出现而导致的“文明失控”局面。当然，坊间还有更科幻的想象，比如AI实现自我意识突破，灵魂附体，不甘愿受人类控制，寻求自己的自由，乃至干翻人类云云。
生存，还是毁灭，这是个问题
可以想象，小茶这样的大型自然语言模型AI在未来十年中大量涌现，一方面会大大提高各行各业的效率，为公司企业节省大量人力成本，另一方面，又会影响人类就业。OpenAI估计小茶最终会在全球取代三亿人的工作岗位，纽约投行高盛估计全球五分之一的工作会被取代。面对通用AI的能耐，大部分公司白领都会有危机感。
我认为，小茶取代不了三种人：苏格拉底，鲁迅、马斯克；苏格拉底说“我知道我不知道”。相比，小茶就是一个高级搬运工；它从人类那里学到很多模型，但并不清楚哪些模型更接近事物本质，哪些只是表象。鲁迅的眼光（即批判力）小茶也学不了，因为批判力背后是更高的评价体系和本质追问。马斯克的天马行空小茶也学不了，小茶掌握的都是人类的已知世界，而不是未知世界。
小茶也取代不了手艺人，它感受不到各种树木的质地，闻不到木花的香味，成不了好木匠。它也成不了好厨师，好园艺师，好建筑师，好心理学家，成不了所有依赖直接感受和经验的专家，因为小茶无法获得依赖直接经验和体验的心得，洞见，智慧。水哥王昱珩能看懂水看懂火，小茶见了一定懵圈。进一步推论，小茶也很难成为好律师，好科学家，好作家，好艺术家，因为这些领域不仅需要智商，而且需要独特的个性和特殊敏感性。
当然，小茶在重复性的脑力工作上比大部分人聪明和快捷，给领导写发言稿它一定是把刷子，给它一个题目，列一些要点即可。小茶会按照我们的要求和条件为我们编制出行计划，可以根据我们的需要帮我们编程（码农抑郁了!），可以提供晚上四菜一汤怎么整的建议。作为生活助手，小茶无可挑剔。
这么说，自然语言模型的AI有它的软肋，小茶虽然跟你聊天时有模有样，头头是道，感觉上能与你共情，其实它是通过大量训练掌握了语言背后的人类情感和思维逻辑，但是，它不会有真正属于人类的感知、情感，意识，意志，和基于意识的主观感受性和反思能力，这是它的短板。
小茶这样的自然语言模型和围棋AlphaGo, AlphaZero，或者寻找蛋白质结构的AlphaFold还不同。Alpha们不依赖自然语言；小茶则高度依赖人类文本大数据，而人类文本背后的经验基础有内隐性（implicit），其中必然有无法编码形成参数的意涵（not codifiable）。小茶虽然相当程度破解了人类语言背后的逻辑（指代、表征关系），但它没法像AlphaZero从零开始通过左右互搏不断学习提高棋艺，直到打败所有人类。当然，大型语言模型也有自己的优势，比这些专业领域的AI更具有人类通用智能和强人工智能的特点。
福兮，祸兮？
说回来，小茶毕竟是人类的高级助手，谁能充分发掘它的潜力，谁将如虎添翼；当它的能量被系统释放（如微软的Copilot)时，它真的会改变世界。你如果智商不够，现在有了小茶助力，妥妥的能将你智商提升20个点，它能给你赋能（比如编程，做财报，做计划书），就看你有没有好的创意、胆识。今后在职场站住脚，你作为主驾驶如何用好Co-Pilot这个“副驾驶”是关键。
语言模型对教育的冲击巨大，以后专门聊。教师如何用小茶当助手，让教学效率最大化，将是门重要学问，让学生借助和AI对话来训练自己提问的水平，可能是提升学生思维能力的捷径。位于加州的可汗学院（网络大学）已经尝试将GPT-4用于教学。AI是否能够成为循循善诱的智能教师或，还要拭目以待，如果成功，将对个性化教育有极大的促进。
但是，学生在学习中过多应用小茶之类AI会产生AI依赖症，思想懒惰症，似乎有了AI就可以不读书了，就可以不要人类老师了，这会产生一个巨大的误区。我曾说围棋AI杀死了对围棋的想象力和创意兴味，因为每走一步棋都有AI在给“标准答案”，其结果就是行棋的套路化。AI作为学习工具，假如不是教学专版，很可能会杀死你的好奇心和对未知世界的追究兴趣，因为你要什么它就给你什么，全是结果导向，到头来你还是知其然不知其所以然。
从乐观的角度看，通用人工智能在短期内可能造成社会震荡，尤其是打击年轻人就业和导致贫富差异的进一步扩大，但长远看，效率的提高可以把人类从重复性脑力劳动中解放出来，就如同大机器时代将人类从体力劳动中解放出来一样，比如，想象有一天全国实行“普遍基本收入”制度（universal basic income）,每人都能保证基本生活水平，企业公司每周工作时从现在的五天减少到4天甚至3天。其他时间用在发展丰富自我和完善家庭生活上。记得马云想象过这样的未来。这就有点像北欧人目前的生活。AI和人类职业会形成一次新的分工。大部分白领可能被AI取代。人类可以腾出手来做自己擅长的事，建构更好的亲子关系，提供社区服务，探索更能自我实现的个性化生活。人类和AI的交集是如何用好这个工具，将它变成我们生产、生活的最好助手。
从悲观角度看，长此以往，AI的大规模使用会不会导致人的怠惰和退化，生于忧患，死于安乐，这是人性问题，同时也和人口的受教育程度有关。当然，假如“马太效应”继续放大，财富聚集到掌握AI相关技术的万分之一的人手里，那也是大麻烦。像赫拉利在《未来简史》里预测的那样,90%以上的人口可能成为“无用一族”（the useless class），只能讨口饭吃，情何以堪。大学教授们是否也会跟不上AI的进化速度而一个个活成了孔乙己，亦未可知。毫无个人成就感的生活，还是生活吗？
再往大的方面说，马斯克警告，人工智能比核武器更危险。马斯克的恐惧来自哪里？除了被某些谋取政治利益或经济利益的个人操纵和利用，主要是因为AI产生的知识或“行为”是王维嘉博士所谓的“暗知识”，即人类不可解释也无法控制的AI行为，我们说AI可能是被我们打开的“潘多拉的盒子”，并非说我们知道是哪个妖孽藏身在里面，而是说我们不知道里面是否藏着什么幺蛾子。我也相信AI确实有危险性，必要的监管是合理的，因为你不知道它会不会一根筋，会不会走火入魔。
但是马斯克说有一刻他恍惚觉得碳基生命只是硅基生命的启动程序（boot rotor），是为后者做准备云云，就离谱了。人类碳基生命和智能大脑是通过百亿年实实在在演化而来，可是“硅基生命”是什么鬼？让它演化个百亿年再来讨论硅基生命硅基智能好不好？我所敬仰的大神马斯克也有不知道自己在说什么的时候。还有许多技术大咖大谈AI的“意识突破”，最后会与人类智能一争高低，说得有鼻子有眼儿。你先说说硅基生命在哪儿，它吃喝拉撒吗？没个新陈代谢，它哪来的欲望要逃出电脑牢笼，要改写人类代码？
再说了，现在的GPT之类的大型语言模型只是数据处理器（an input-output device）,在机器智能中还算不上具有主体性的模型（an agent-based model）,谈不上它会有自己的动机和目标，包括寻求自由，突破人类牢笼（规矩）的欲望。再说了，意识状态能否由数码计算生成（computability）本身就是大问题，彭罗斯（Roger Penrose）关于意识的量子态假说似乎理论上更靠谱。
所以，所谓“硅基生命”云云，纯属扯淡（充其量，AI形同一种把电脑当宿主的病毒，能复制，能变种；但不是有机生命，更谈不上进化出类人的意识、意志），这类思维，属于“拟人化思维”（anthropomorphism），把人类特质代入了机器运作。即使机器看似在“使坏”，它里面也没深藏一个幽灵。在宇宙中，保存智能，还是保存生命，孰轻孰重，我想这可能马斯克谈碳基生命和硅基生命的本意。假如是这样，便是价值取向问题，而非科学问题。
太阳照常升起
说到底，人类的祸福，全在其折腾的本性，AI可能如马斯克所说，比核武器还危险。但比AI更可怕的是人类本身。“智人”（homo sapiens）互相防范直到互相残杀的生存本能几十万年中没有改变，至于人类智能或人工智能，都是人类的技术工具，能造福，也能造孽。此刻，某人一根手指放在核按钮上，引爆世界的毁灭，也就在一念之间。不作不死，文明如斯。
我等市井小民，没有马斯克上火星为人类留种的远大志向，更不会巴望某种永恒的硅基智慧生命能超越有机智慧生命的大限和地球的短暂寿命，在无限宇宙里自由游荡而无惧宇宙射线。我宁可拼命保存地球上一条小狗一只小猫短暂而欢腾的生命，让它们在一场地球灾变（包括人为的核灾变）后仍能留种繁衍。但这种讨论应该出现在刘慈欣的小说里，而不是在科学论坛上，或金融大佬技术大咖的密室会议上。
2045年，太阳照常升起。人类是否已经经历了一场核辐射的灭顶之灾，不得而知。我只希望人类躲过战争浩劫，孩子们岁月静好。
2045年，小茶是否成为人类文明中造福人类的重要组成部分，我乐观其成。离2045，还有二十二年。通用人工智能（AGI）还刚刚起步，谨慎从事要得，遏制发展不智。
不妨，让子弹再飞一会儿。
戴耘写于2023年3月31日
做更好的公号 做最好的自己
昨日更新：
热文链接：2022 热文排行榜：
其他：
读完请点"在看"让更多人看到
图片 I 网络
整理 I 编辑 I 渡十娘
清单内容来自 I 戴耘
版权归原作者 I 如有侵权 I 请联系删除
生活中
总有些东西值得分享
渡·十·娘
DES
IGN
发现 I 家庭 I 乐趣
想每天与渡十娘亲密接触吗？
喜欢？ 粉她！
有话想说：
海外：dushiniang999@gmail.com
国内：dushiniang999@126.com