马斯克的警告是对的，未经准备的AI技术爆炸恐让人类文明失去控制

最近一段时间以来，从ChatGPT到GPT4，世界范围内的舆论都在惊叹人工智能（AI）技术的突飞猛进。

比尔·盖茨撰文表示，人工智能时代已经开启，GPT是他一生中见到的两项最具革命性技术之一，另一项是1980年图形用户界面技术（包括Windows在内的现代操作系统的前身）。

正在世人惊叹之时，马斯克和上千位AI专家、企业家联合呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练，暂停时间至少为6个月。

他们在公开信中说：“我们是否应该开发非人类的大脑，使其最终超过人类数量，胜过人类的智慧，淘汰并取代人类？我们是否应该冒着失去对我们文明控制的风险？这样的决定绝不能委托给未经选举的技术领袖。只有当我们确信强大的人工智能系统的效果是积极的，其风险是可控的，才应该开发……人工智能实验室和独立专家应在暂停期间，共同制定和实施一套先进的人工智能设计和开发的共享安全协议，由独立的外部专家进行严格的审查和监督……让我们享受一个漫长的人工智能夏天，而不是匆忙进入秋天。”

应该说，马斯克等人的警告是有道理的。尽管目前AI的智能水平有限，知识量丰富但思想性不足，但从长远来看，AI技术有很大可能会替代人类社会的多数工作岗位，一旦出现智能爆炸，产生自主意识，不排除统治人类的可能性。

一个多月前，本文作者在《ChatGPT横空出世之思：AI会带来人的普遍自由还是普遍弃民？》一文中便写过，世间许多事情“预则立，不预则废”，充满不确定性的人工智能技术尤其如此。如果人类不想浑浑噩噩、漫无目的地活着，如果不希望驶入一个不幸的未来，那么，未雨绸缪、以道驭术便势在必行。

ChatGPT横空出世之思：AI会带来人的普遍自由还是普遍弃民？

文/邓峰

最近，美国公司OpenAI开发的人工智能聊天机器人ChatGPT爆火，引发了世界范围内许多人对于人工智能（AI）的讨论。许多美国学生在写作业时用过ChatGPT。许多长期关注人工智能和科学技术的人认为ChatGPT会带来颠覆性影响。

综合多方信息来看，目前比较公认的说法是ChatGPT具有比较强大的信息整合能力和语言处理能力，知识量丰富，对于许多以信息整合或语言学习、语言翻译为主要内容的工作，将带来相当大的挑战。除此之外，因为语言环境和基础训练等因素，ChatGPT的中文表现相对不如英文表现。但ChatGPT亦有短板，主要表现为原创性、思想性、创造性存在明显缺陷，这意味着短期内人工智能无法替代人类。

应该看到的是，技术发展一旦突破某些瓶颈，升级迭代的速度将超乎想象。尽管目前人工智能技术在短期内造成的冲击是有限的，比如ChatGPT主要影响那些相对初级的职业，但人工智能自我学习和进步速度快，长远来看，必将带来颠覆性影响。

关于这点，未来生命研究所（Future of Life Institute）创始人之一、麻省理工学院物理系终身教授迈克斯·泰格马克（Max Erik Tegmark）在他的著作《生命3.0：人工智能时代人类的进化与重生》进行了分析。他认为：“人工智能在改进制造业上具有巨大的潜力，它控制的机器人在效率和精度上都有很大的提升。”这点从已经发生的工业机器人替代人工的趋势便可得到验证。他还认为，人工智能将在交通运输业、医疗服务业、通信业、法律行业发挥重要作用，并能提升能源优化的效率，帮助人类探索太阳系之外的恒星系，推动自动化武器系统发展。

这都是可以预期的技术突破，一旦发生并规模化，将带来前所未有的影响，即目前大部分工作将会被人工智能替代。这样下去，人类命运将面临两种可能：普遍的自由和解放，抑或普遍的失业和弃民？

迈克斯·泰格马克在书中探讨人类会否全体失业时写道：“如果人工智能始终保持进步的势头，将越来越多的工作自动化……许多人对就业形势十分乐观。他们认为，在一些职业被自动化的同时，另一些更好的新工作会被创造出来。毕竟，过去也发生过类似的事情……还有一些人对就业形势十分悲观。他们认为，这一次和以前不一样，空前庞大的人群不仅会失去工作，甚至会失去再就业的机会……一些职业乐观主义者认为，在体力职业和脑力职业之后，会出现一波新的职业，这就是创造力职业。但职业悲观主义者却反驳说，创造力只是另一种脑力劳动而已，因此最终也会被人工智能所掌握。”

以上两种可能，孰对孰错，目前难以判断。但可以确定的是，人工智能毕竟不是人，除非人工智能有了自主意识，否则终究会有一些与人打交道、涉及人类自由意志的工作将不可能被替代，比如哲学、艺术、社会学等人文社会领域。更重要的是，人工智能尚处于发展之中，人类依然有条件和时间去掌控未来的技术演变方向。

这意味着如果人类社会未雨绸缪，及早规避人工智能技术大突破所可能带来的普遍失业和弃民问题，把人类从繁重的工作中解放出来，那么，一个所有人有钱有闲的理想社会将不再遥远。正如迈克斯·泰格马克在书中所说的：“如果我们在用自动化促进经济繁荣发展的同时，能搞清楚如何做才不会剥夺人们的收入和生活目标，那么，我们就能创造出一个人人都可享有闲暇和空前富足的美好未来。”

他在书中提及人工智能技术大发展后让人们的收入与工作脱节，最简单的方法是每个月向每个人发放一笔基本收入，这笔收入是无条件的，对收款人没有任何要求。这个建议是有道理，因为如果在未来某一天，人工智能可以用最低成本生产出满足所有人日常需要的商品和服务，那么今天那些为生存苦苦奔波、陷入无休止内卷之中的普通人便可以获得解放，他们通过人类社会每月固定发放的基本收入就能衣食无忧，进而可以把自己的主要时间用在创造性、人文性的工作或感兴趣的事情上。但这一切有一个大前提，那就是人工智能不会沦为少数人谋取私利或统治全人类的工具，一个对全人类负责、受全人类监督的世界民主政府得以建立。

进一步追问，人工智能技术大发展会否出现智能爆炸，造成人工智能统治世界？在许多人看来，这似乎是不太可能会发生的一幕。毕竟，纵使未来人工智能技术高度发达，但只要没有自主意识，只要是在人类设定的程序、目标和框架下运行，那应该不至于脱离人类的掌控。但这只是一种假设，很难断言一定便是如此。

迈克斯·泰格马克便认为：“我们现在之所以能统治地球，是因为我们比其他生命更聪明。那么，如果出现一个比我们更聪明的超级智能，那它同样也可能会推翻我们的统治……生命的历史说明，它总会自我组织成更复杂的层级结构，这种层级结构是由合作、竞争和控制共同塑造的。超级智能或许会促成更大宇宙尺度上的合作，但是，它最终会导致极权主义和由上而下的控制，还是会赋予个体更多权力，目前尚不清楚……我们需要努力思考，我们希望看到什么样的结果，以及如何才能达成这个目标，因为如果我们不去思考自己想要什么，很可能无法得偿所愿。”

一言以蔽之，短期来看，ChatGPT及其代表的人工智能技术将会在劳动力市场发挥越来越大的作用，带来更多便捷的技术和服务，但会有一个技术成熟和推广的过程，不会突然带来颠覆性影响，更不可能替代人类。但长期来看，随着人工智能技术大飞跃在未来发生，会带来人的普遍自由和解放，还是普遍失业和弃民，抑或出现最坏的一幕——人工智能统治世界，在很大程度上取决于人类能否探索出一套让人工智能有益发展、造福于民的办法。

世间许多事情“预则立，不预则废”，充满不确定性的人工智能技术尤其如此。如果人类不想浑浑噩噩、漫无目的地活着，如果不希望驶入一个不幸的未来，那么，未雨绸缪、以道驭术便势在必行。

       

END

推荐阅读

十点公社

一个时代的记录

自由评论

只为苍生说人话