查看原文
其他

卢俊: 为什么说科技向善是人类和科技自身的一次觉醒?|腾云大家

卢俊 腾云 2020-08-23

本文是 腾云大家 系列的第 003 篇文章

作者是资深出版人、未来之音创始人 卢俊


谈论科技向善,不得不先面对科技和人类社会关系的问题。


“人类将走向被算法统治的未来”,从技术悲观主义者的角度来看,这近乎是人类的宿命。从凯文·凯利到赫拉利,“先知”们曾反复警醒世人:失控的科技将把人类带入毁灭的境地。


既然如此,科技向善的必要性和可能性在哪里?


未来将如何,我们不得而知。但可以确定的是,目前科技仍然是人类最好的生存和发展工具之一。因此,对科技发展所产生的负面效应保持高度警觉,并为此寻找解决方法,这一定是当下最重要也最实际的任务。


卢俊同时指出,无论技术和人类社会的关系如何演变,人类对科技向善的追求正是人类向人性中恶的一面做出的勇敢回击,这种自省本身即值得庆幸和自豪。

文/卢俊

资深出版人,未来之音创始人



在第二届数字中国建设峰会上,腾讯董事会主席兼首席执行官马化腾首次在公开场合谈到公司的新愿景和使命:科技向善。作为中国最强大的移动互联网和人工智能公司之一,三番五次强调科技向善的主题,颇有多年前谷歌提出“不作恶”信条的意味。


多年前,天使投资人徐小平先生曾经问过我一个问题:什么是价值观?我说价值观第一个就是什么不能做,这是底线;第二就是什么更重要,也就是把什么排在第一位。


本质上,“向善”和“不作恶”是一个价值观目标,也就是尽可能地让科技为人类社会创造更美好的服务和体验。只不过“向善”更具有主观积极性,是什么更重要的问题,而“不作恶”则是底线问题,就是什么不能做。


本文的主题是,科技究竟想要什么?而我们把科技向善作为新愿景的实现可能和路径又是什么?在讨论这个问题之前,我们要设定科技和人类社会的关系。



从KK到赫拉利:

人类只是技术的佐证和附庸?


从科技和人类关系的宏观视角下观察,两者的关系是扑朔迷离的。


在凯文·凯利看来,科学技术和生命的本质是数据和信息。而科技有其自身的发展规律,它有自我,有自主性,能独立进化,甚至能产生意识,并且最终和宇宙合为一体,科技的出现早于人类,科技更应该看作第七种生命形态而非人类发明的工具。



凯文·凯利开创性地将科技作为一种生命态去解读,他认为科技是单细胞有机体、菌类、动植物等之外的第七种生命形态。他也因此创作了一个新的词语——“技术元素”,用来代表科技、文化等所有的物质与非物质创作。


他认为存在一种外熵 (用来对应熵所代表的混沌和无序)的力量,利用技术元素,在初始的混沌宇宙中孕育了有序的天体,也最终孕育了像人类的生命体。技术元素按照自己的节奏、规则和方向发展,它的创造者人类则不再拥有完全的掌控力,呈现出一种走向失控的趋势。


像所有父母一样看待一个成长的孩子一样,他们的成长成熟,使我们感到失控的忧虑,在技术元素的影响力和独立性增强的背景下,整个人类都是身处在技术带来的负效应之中,这使得人类的存在更像是为了呈现出技术而存在的,技术更像是人类的主宰。


所以,在这个视角下去看待人类提出的科技向善、AI向善,就显得非常的僭妄。


如果能尽可能不作恶就算是谢天谢地了,更何况向善?如果科技有自己的意识和发展轨迹,人类只是科技的附庸和佐证,那么我们奢谈科技向善就可能是一个伪命题。


如果再往科技本恶角度去思考,很多人会对科技有更加悲观的认识。比如卡辛斯基,作为科技极端悲观主义者,他认为在完全的自由市场中,超越人类智力的机器人对人类的影响,一定相当于北美洲有胎盘类对南美洲有袋类的影响(以及人类对无数其他物种的影响)。


人工智能产业将为材料、资源和空间展开激烈竞争,把它们的价格推高到人类无法企及的程度。由于无法负担生活必需品,生物学意义上的人类将不复存在。


所以他的核心观点是“自由与科技进程互不相容,因此必须终止科技进程。否则人类将最终成为科技的奴隶并被摧毁”。


相比之下,凯文·凯利算是非常的乐观主义者了,所以他希望 “科技能帮助其他人找到自己的方式,使科技产生的福利最大、代价最小。”而人类眼中的技术和人类的关系似乎正沿着凯文·凯利预测的方向发展:科技与人类正在逐渐融合,或者说人类已经成为呈现科技最适合的载体。


《未来简史》的作者尤瓦尔·赫拉利在这本书中也提及了与凯文凯利相似的但更具体的观点:从现在看来,世界有三个趋势,对应着人的三种不同的命运:


  • 科技和人工智能如此强大,人作为一个工作者的经济价值和军事价值都没有了,那么政治经济系统就会认为人没有价值;


  • 也许人类整体还是有价值的,但是每个人作为个体,是没有价值的;


  • 也许有些个体还是有价值的,但他们是经过了生物学升级改造的“超人”。



在他看来,科技的本质是算法,人和科技之间关系将分三步走:


  • 第一步算法相当于是我们的顾问,你问他什么问题他可能会给你答案,但是决策权在你手里;


  • 第二步就是,算法相当于我们的代理人,我们给他一些大的方向和原则,它去帮我们执行,执行过程中的我们授权给它的,它就完全自己可以做主了;


  • 最后一步,算法成为我们主宰者,我们把一切交给了算法。


由以上这几位人类的“先知”看来,人类似乎正在失去对技术的控制,甚至朝着被技术控制的不归路上狂奔而去。


农业文明的技术和宗教有着密不可分的联系,工业文明催生了人文主义,而新的智能、数据和算法时代,新的科技伦理和社会秩序也将因为技术和人类的关系不断偶合而成。




向善的本质:

向神秘科技力量提出协商意见


无论是智能主义、算法主义或者是数据主义,人类在其中发挥作用的比例,可能会越来越低。所以,从宏观视角来看,我们似乎还很难找到一个科技想要什么的准确答案,一切答案都在人类和科技的关系演化的结果之中。


如果从科技和人类的中观和微观视角下看,人类对科学技术的发现、发明的实际情况是,人类还掌控着科技,或者说科技仍然是人类最好的生存和发展工具之一。


实际上,腾讯公司提出的科技向善和AI向善,更多地还是基于当下和未来的微观和中观环境下的科技定义,所以从这个角度来看,人类对科技的控制权较强的前提下如何实现向善的目标,将是当下和不远的未来最现实的问题。这种主张也是代表了人类,向科技这个神秘的力量提出的某种“方向指令”或者是“协商意见”。


在这个背景下,腾讯提出在人工智能时代,技术背后的“人”更为重要。在人性之善的引导下,“AI向善”将帮助人类提升生活品质,为社会发展创造新的可能。


随着科技创新进入深水区,人工智能在为人类带来便利的同时,也引发了哲学、伦理、实践等层面的风险和挑战。在科技突飞猛进的过程中,我们需要建立正确的科技价值观。


马化腾之所以提出“科技向善”的新愿景,是因为以他为代表的腾讯公司,是科技乐观主义的代表,他说:“我们相信,科技能够造福人类;人类应该善用科技,避免滥用,杜绝恶用;科技应该努力去解决自身发展带来的社会问题。”这样从侧面证明了,腾讯在不断自我超越,用更加宏大的视野和格局在看待自身,看待科技和人类的关系。


让我们回到最切实的科技产品上来看:一个好的产品、好的科学技术,一定会受到法律、人类伦理等社会规则的约束。当科技突破这一切的时候,即便在技术标准上表现的越好、影响力越高,可能越不是一个好的产品或者科技,因为科技和产品最终是为人类服务的。


他们不断强调在技术、产品和服务中注入更多的社会视角,思考科技和文化如何为更多人的福祉提供帮助,并对技术发展带来的负面效应保持足够的警觉,积极寻找解决方案。



一次人类和科技自身的觉醒


科幻作家郝景芳说:“科技的发展史本身也是一部人类心理的探索史。”


机器的深度学习模拟的就是人脑神经网络的运作原理。人脑的前额叶里集中了孵化人类非理性冲动的化学物质,它导致人会联想,会犯很多错,会害怕,会喜新厌旧,会大哭大笑,经常没有什么理由就要义无反顾。


人类的感知、情绪、情感、动机、社交究竟缘何而生?人工智能就像一面镜子,照出了人类心理世界的丰富和饱满,它们是无法用数据简单地赋予分值的。


人类想摆脱的那些矛盾、迟疑、激动、欢呼等情绪,恰恰是人工智能最渴望的东西,是的,人工智能的强大却反衬出人性的可贵。人性可以揣摩,但是不可以设定;人性有规律,但是规律总会被打乱。人类世界里有很多看似糟糕的意外,但这些意外却驱动了人类创造力的源源不断……


从哲学角度来看,善恶本来也是互为一体,相生相克的。


如果,正如前面所谓的先知所言,人类只是技术的佐证,那么人类作为自认为具有自由意志的物种,在浩瀚且宏大的技术面前,似乎并没有放弃作为人的尊严,“科技向善”正可能以“人性向善”殊途同归的力量和科技和人性中本来具备的“暗黑和恶”的一面作出正面的回击,这可能也是人类和科技本身的一种自我觉醒吧。


无论结果如何,我们都应该为这种勇气和背后伟大的自省精神感到庆幸和自豪。



丨 往期回顾



    您可能也对以下帖子感兴趣

    文章有问题?点此查看未经处理的缓存