刺猬：AI是上帝降临还是召唤恶魔？ | 二湘空间
思想的碰撞 民声的回鸣
《AI未来进行式》：AI是上帝降临还是召唤恶魔？
文/刺猬
首先，感谢二湘空间的赠书《李开复&陈楸帆：AI未来进行式》，让我可以第一时间读到这么一本有趣且烧脑的好书。
《AI未来进行式》今年出版，是一本关于未来的书，由李开复和陈楸帆合作而成。陈楸帆写10个发生在2042年的科幻故事，李开复负责分析故事涉及到的AI技术。这种合作方式非常新颖，既有魔幻的故事，又有非常酷炫的技术分析。对于我这个AI小白来说，这本书实在是颠覆了我的认知，它如此有趣又如此庄重，拿到手里就不舍得放下，以至于我三天就读完了厚达440页的书。
书的印刷质量也很好，大开页，字体比较大，对我这种眼睛有点老花的读者实在是友好，读起来一点都不费眼睛。
1956年，计算机科学家约翰·麦卡锡在达特茅斯会议上首次提出“人工智能”这个词。AI在过去的几十年里，只是被运用于学术领域，商业应用很少。直到这几年，随着计算机科学的发展，AI的热潮才席卷全球。人们对“元宇宙”，对“深度学习”算法，对“数字人”，对AI技术在经济、法律、医疗、交通、物流、农业、军事等领域的广泛运用充满期待。
那么，随着AI技术的不断迭代发展，人类的未来会有什么不同的前景？
就像阿玛拉定律所说的：“人们总是高估一项科技所带来的短期效益，却又低估它的长期影响。”AI技术的出现，会改变人类感知世界、交流情感、管理社会、探索生命的方式，它的影响绝对会越来越清晰地呈现。
李开复说：“物无对错，人分善恶。技术也是如此，它本身是中立的，关键在于人类用技术为善，还是作恶。对于人类来说，每一项全新的突破性技术，都宛如”薛定谔的猫“，既可以是普罗米修斯的火种，也可能沦为潘多拉的魔盒。是善是恶，不在于技术本身，而在于操纵技术的人。”
我认为这段话也是本书的主旨，就是人类要拥抱新技术的出现，也要对它保有一定的警惕。
陈楸帆写的10个故事都设定在2042年，充满了奇思妙想和对技术的审视与反思，语言优美，故事充满悬念，十分吸引人。每一个故事开头有“开复导读”，后面有“开复解读”，内容详实。即使对AI技术一无所知的人，也可以通过李开复的解读，对故事里涉及到的专业知识有所了解。
《一叶知命》讨论深度学习的利弊优劣，以及为何AI在优化某些目标时，却可能会导致后果惨重的多米诺骨牌效应。由于用户不断接收到自己偏好的信息，就会被困在“信息茧房”里，拒绝接收不符合自己固有认知的异质信息，而AI也会有技术背后的偏见等问题。
《假面神祗》讲述了利用AI技术制作深度伪造视频来欺骗人类视觉的故事，分析计算机视觉、生物识别、AI安全等技术。Deepfake换脸术对生物特征识别带来了新的考验，对数据“下毒”的攻击手段很难被人类所察觉，会对网络信息安全造成极大的破坏，所以我们要依赖新技术来防御或彻底解决这种漏洞。
《双雀》探讨了AI在教育领域对人类语言学习的运用潜力，基础教育的成本将降低，真正实现教育资源均等化。但这个故事也提醒我们：在科技被盲目崇拜的时代，教育更应该关注孩子心智的成长，用美学、创造力、和爱等人类固有的价值与尊严，恢复人与自然万物的连接。打破AI强化的以竞争为导向的反馈循环，转向为对内在自我的探索。
《无接触之恋》设想20年后，新冠病毒继续肆虐，人类配备了机器人管家，减少人与人接触的风险。医疗技术进步迅速，新药研发、精准医疗、机器人手术等都在生命科学领域广泛运用。故事很温情，讲述女主角因为爱情，克服了对病毒的恐惧，去近距离拥抱爱人。
《偶像之死》描述的是未来娱乐业的发展，虚拟与现实之间的界限将变得虚实难辨。VR、MR、XR这三种不同技术的沉浸式体验，带给人的超感官体验将颠覆娱乐、培训、零售、医疗、体育、旅游等行业。这种“数字转世”会引发隐私数据的安全以及伦理道德的问题，甚至会利用虚拟形象犯罪，这些问题都是要引起我们关注的。
《神圣车手》是关于全自动驾驶技术是否可以代替人类驾驶员的讨论。它提出一个问题：如果车祸中有人死亡，应该由谁来负责？是汽车制造商？AI算法软件的供应商？编写算法的工程师？还是在必要时接管车辆的人类驾驶员？因此，只有明确责任归属，才能围绕责任归属建立新的行业规则。
在 《人类刹车计划》中，策划这个计划的恶魔是一名欧洲计算机科学家，他由于家庭悲剧而精神失常，利用量子计算、自动武器等突破性技术对人类进行报复。尤其是AI自主武器，比如无人机，让整个杀戮过程——搜寻目标、进入战斗、抹杀生命——完全无需人类参与。这些机器人“杀手”智能精准、敏捷廉价，还可以团队协作，前赴后继，在执行任务时势不可挡。如果它们被利用来对任何群体进行灭绝种族式屠杀，后果是极其恐怖的，人类的战争将更加难以避免。自主武器没有核武器所具备的天然威慑性，它将在各国的军备竞赛中快速发展，最终将造成人类的灭亡。这种担忧绝对不是杞人忧天。
《职业救星》的故事讨论的是一个令人悲观的难题：人类将逐渐被AI技术取代。由于AI可以创造巨大的经济效益，将在很多领域逐步取代人类员工，这已经是一个共识。那么，哪些职业被AI代替的风险最大？人类如何在后自动化时代重新定位自己？职业再造，这个全新行业的出现，也只是暂时缓解了失业的压力，AI的发展会使大量的人失业，加剧贫富差距，引起抑郁症患者人数及自杀事件的剧增，甚至引起社会动荡。因此，我们需要重新定义教育，培养有有创造力、有社交能力、掌握多学科知识的复合型人才。只有这样的人才，才具有AI难以取代的独特性。
《幸福岛》解读幸福感的获得和人类欲望的满足问题。通过海量数据的支持，AI可以知道我们每个人最深的隐私，满足我们的各种欲望，但它最终能给人类带来幸福吗？从马斯洛的需求层次理论到塞利格曼的积极心理学，历史上关于幸福的理论不计其数。这个故事的结局是开放性的，幸福不是一件非黑即白的事情，而是一种持续的追求。到了2042年，人类对幸福的定义也会发生很大的改变，将自我实现作为自己的人生意义。但个人数据存储的安全问题也会迫切地需要建立相应的数据保护体系。
《丰饶之梦》引导我们思考，当AI和其他技术降低商品成本，人们将彻底摆脱贫穷和饥饿，人类社会将如何维持运转？这也是一个终极问题：在丰饶时代之后，人类是否会迎来某些专家预测的奇点。如今的经济模式是为稀缺时代而设计的，并不适应于丰饶时代，如果一切物质都变成免费的了，那么金钱还有什么意义？如果赚钱不再是目的，那么人类该建立什么样的经济模式呢？故事畅想了一种全新的可能性：有能力的人能够赢得其他人的尊重，有梦想的人能够改变世界。
未来用户会完全沉浸在一个由计算机仿真系统创建的虚拟世界中（书中插图，来源：: dreamstime/TPG）
在本书的10个故事里，人类凭借自己的创造力、智慧、勇气、坚韧、同理心和爱心，解决了AI技术带来的算法偏见、安全隐患、深度伪造、对隐私数据的侵犯、对自主武器的使用，以及取代人类员工等问题，让所有主人公都化险为夷。彰显了人性的光辉，对未来的前景充满信心。AI可以帮助人类拥有舒适的生活，让人类最大限度发挥潜能，实现自我，追求爱和梦想。这是两位作者的乐观和自信，是他们对AI发展技术与人类和谐共处的希望，也是我们每位读者的愿望。
在乐观主义者的设想中，AI可以让人类过上无忧无虑的生活，拓展人类的智识，解决目前人类文明无法解决的难题，比如全球变暖和生态恶化，以及不治之症等，是全知全能的“上帝”。但在悲观主义者眼中，比如埃隆.马斯克，他们称超级智能是“人类文明面临的最大危险”，把开发AI比喻为“召唤恶魔”。
这两天看《爱，死亡，机器人》，就有一句话涌上心头：如果没有孤独和死亡，人类何必相爱呢？如今，感觉置身在一个到处都是机器人的时代，死亡的阴影笼罩在头顶，孤独更是一件紧紧裹着我们的外衣，也许唯有爱，人与人之间这仅剩的善意和信仰，才能救赎吧？那些陌生人之间的信任，责任，关怀，怜悯，以及付出，就是最后的诺亚方舟了。
你怎么看待AI的发展呢？你认为它是“上帝”还是“恶魔”？
赠书活动原文链接：
平台原创文章均为作者授权微信首发，文章仅代表作者观点，与本平台无关。
更多往期精粹
余耕：每一次做局，做到让男人流泪，基本就算成功了 | 做局人3、4
一代中专生的遗憾，我的青春不是沈庆的青春，也不是罗大佑的闪亮的日子
李开复&陈楸帆：AI社会，如何面对人性拉锯战
大家：黄永玉 巴金 王小波 齐邦媛 白先勇 钱锺书 史铁生 王安忆 余华天空之友：严锋 刘擎 余耕 菊子 小草 刺猬 风吹沙 杨逍 大嫚 愚石 绿风 青禾 小仙 三少爷 硅谷医生 河岸 二湘 更多
投稿点击此链接，记得公号加星标
唯有爱才能救赎