撰文 | 高佳 徐顺利
创意 | 李志飞
ChatGPT问世至今过去200多天，其在全球引发的AI浪潮却愈发汹涌，大模型和AGI的热议快速渗透至世界每个角落。
当世界像生物一样进化，“人造物表现得越来越像生命体；生命变得越来越工程化。”美国《连线》杂志的创始主编凯文·凯利在《失控》的开篇中如是说。近30年后的今天，他的预言正逐渐成为现实。
而驱动这一切「物极生变」的能力，不得不提「涌现」。曾在凯文·凯利的《失控》一书中出现88次的「涌现」，是当许多元素如互联网、机器人、生物体、生态系统，甚至整个世界联结在一起时，会展现出来的一种行为。凯文·凯利看来，今天的AI正体现一种「涌现」，一种如佛法「缘起性空」之意，在这些AI系统中并无特定的部分能够解释它们展现出来的各种能力。“「涌现」实际上是对大模型能力解释非常懒惰的表现。”李志飞对于「涌现」有着差异的观点。他认为，“什么时候会涌现出什么样的能力，怎么去可控的让大模型出现这种能力，可能是大家更应该关注的。”无论如何看待「涌现」这一概念，大模型「涌现」出来的能力已将人工智能推向了AGI时代。
整个社会都感受到了AI能力变化带来的冲击，AI能力的快速成长甚至让人类忧虑自己生而为人的价值，政府也在密切关注AI行业的前沿趋势，积极研究探索合理的监管方案。
对此凯文·凯利认为，“人们对于变化的速度常常感到震惊，更容易悲观的想象技术的负面影响。”在他看来，缓解焦虑的一种方法是回顾过去，当回顾类似的恐慌和焦虑时，我们会意识到我们担心的最糟糕的情况从未发生过。而要想获得有智能的控制，唯一的办法就是给机器自由。
“AGI特别像一个思维伙伴，他的知识非常全面，以前要找到一个能同时懂得生物学和哲学等多个领域知识的专家非常困难。但现在，由于AI具备了广泛的能力，它能够从全面的角度为我提供许多参考意见。我认为AI作为一个多才多艺的思考伙伴，是我们可以拥抱的一种形式。”这是李志飞对于如何跟AGI相处的思考。
如何与AI相处？凯文·凯利在那本创作于上世纪90年代关于机器、系统、生物和社会的“先知预言”——《失控》中曾提到有一个有趣的视角。假设科技是一种生命，那么它会想要什么？它会如何在这个世界与人类一起演进？
深谙“道法自然”思想的凯文·凯利，认识到人若想让自己创造的系统保持长久的生命力，就必须臣服于生命的本质，遵循生物逻辑。而进化是生命最完美的工具，它可以“到达你想去而又找不到路的领域”，问题在于“你要有足够的进化时间”。
当科幻照进现实，当昨日的预言成为今天的蓝本，当人类引以自傲的生命体迎来新生物文明，当真实和虚拟的切换正无所不至，我们该用什么方法进化，该去哪里寻找答案？近三十年前的凯文·凯利观察到的自然法则，也正映射了今天AI的求索历程。
近日，出门问问创始人兼CEO李志飞与极客公园创始人&总裁张鹏以及《失控》的作者、《连线》杂志主编凯文·凯利进行了一场跨时空连线，站在今天的视角回溯《失控》是否失控，共同探讨大模型热点，AI对人类社会的影响，以及我们该如何穿越固有的可能性之海，走向“开放的宇宙”。
张鹏：现在全球都在讨论大模型，KK对这一波的技术变革有什么样的感受？什么时候开始关注它的？也会感到很震撼吗？凯文·凯利：变化并不在于AI的能力本身，而是我们现在拥有了一种对话式用户交互界面，这使得我们能够直接与这些大型语言模型进行对话。在硅谷，这样的变革已经引发了热烈的讨论。许多创业者甚至把大模型作为他们未来商业创新的核心，每个企业都在将这些大语言模型和AI融入他们的业务中。比如，Wendy's（一家美国快餐公司）就在使用这种对话交互界面。你可以在车里向点餐机器下单，并进行反复对话，这与Siri或亚马逊的Alexa有很大区别。这种变化正在影响所有的老牌企业，而且随着资金的涌入，许多新的企业和应用也正在出现。那些希望自主研发大语言模型的人们正在寻求投资，他们的目标可能是十亿乃至千亿美元，以制造出新的、替代性的大模型。这将带来各种新的应用和服务，以及一些前所未有的创新思维。张鹏：KK认为，AI与人更深层次的交互能力，将引发一场技术和商业上的范式革命。ChatGPT的出现是否代表着AI发展的第二曲线？这是一种必然还是仅仅是偶然？如何理解它的出现和发展？我也想听听志飞怎么看这个问题。李志飞：关于你提到的ChatGPT出现是偶然还是必然的问题，我认为，在短期内，它的出现有一定的偶然性，但从长期来看，它的出现是必然的。以深度学习为例，2012年Alex net研发出Image Annotation，当时数据已经足够多，算力也足够强了，很多人都在尝试，只不过Alex他们第一个把它试了出来。但是如果他们当时没有试出来，一定会有另外一批工程能力同样优秀，信念很强的人做出来。另外，2017年的时候我们觉得Transformer特别牛，但它解决的其实是RNN或LSTM这些序列模型不Scalable，不能看很长的Context的问题。所以，2017年Google做出Transformer就具有很强的必然性，现在来看当时不一定只有Google能做出来，Meta、Amazon、Microsoft的一些研究员也非常有可能做出来，因为他们都在解决同样的问题。从这个角度来说ChatGPT也具有必然性，因为ChatGPT的诞生的基础Transformer已经具备了，同时Decoder only的效果也很好了，同时也有很强的算力能对互联网海量的数据进行训练，所有ChatGPT需要的基本元素都已经具备。只不过就是OpenAI在那个时间点把它组合的最好。但如果不是OpenAI，一定也会有别人把它组合出来。接下来，我想对KK关于大规模语言模型主要是自然语言交互能力提升的观点做一些评论。首先，我同意他的观点，因为这个技术是普通大众能够感知并使用的，只有当普通大众都能使用AI，ChatGPT才能产生如今这么大的社会影响力。我想补充的是，要进行非常自然的交互，需要有主体意识，需要有强大的知识储备，需要有强大的理解能力和语言能力，也需要有强大的推理和规划能力。因为，当我在和你讲述某件事情时，我在大脑中需要规划我到底要跟你讲述什么。只有实现了基础能力的突破，我们的系统才能实现非常自然的语言交互。其次，未来大模型的能力，除了自然交互还有更广阔的应用空间，比如写程序，企业内部的自动化流程，这些都不需要交互。但正因为我前面说的这种基础能力的提升，使得自然语言交互，企业内部的自动化，写程序以及很多其他事情都变成可能。张鹏：最近，不管是在AI的科研领域，还是在各个商业报导的领域，大家都在频繁的谈「涌现」。今天，我们该如何理解这一在《失控》这本书里至少出现过88次的词汇？凯文·凯利：在英语中，「涌现」这个术语代表一种系统行为，这种行为不会在任何单一元素中表现出来，因此你会看到整个系统以某种方式运作，而在任何个别元素中，你却无法观察到这种行为。许多正在发展的AI也是「涌现」现象，因为在这些系统中没有特定的部分能够解释它们的来历。这种新能力需要所有的元素共同工作才能实现，就像思想并非来自大脑中的某个特定部位，而是从整个神经元网络中「涌现」出来。对于思想这样的抽象概念是如此，对于其他类型的行为也是如此。例如，从技术系统中可以「涌现」出各种各样的学习和进化。那么是否存在这样的逻辑？如果想要涌现，必须要让事情失控？实际上并非如此，如果你想要驾驭并利用「涌现」行为的力量，你可能不得不容忍一些你无法控制的事情。但这并不意味着这些事情一定会发生，只是意味着它们更难以管理。对于AI，我们要将其视为工具，不能让它失控，但不能完全控制。我们并不完全明白AI是如何工作的，并且AI越强大，我们就越难以完全理解它。我们不希望过度压制它们，也不希望它们任意创造出疯狂的东西，所以我们需要对它进行适度的控制。张鹏：志飞怎么看「涌现」这个词？我们该如何理解它在这一波技术变革里的作用？李志飞：我对「涌现」的理解来自《复杂》这本书，它讲到「more is different」，以前我特别喜欢这个词，因为我觉得它概括了很多复杂系统的现象。「涌现」在大模型研究中第一次被真正提到，是在Stanford跟Google写的一篇文章里。他们做了很多实验，横坐标是模型的规模，纵坐标是各种能力，包括推理能力，计算的能力等等。研究人员发现，只有增长曲线到达某一临界点时，某种能力才突然出现，也就是大家现在说的这个所谓的大模型的「涌现」。我觉得刚开始我觉得这个词特别好，但是后来随着我对大模型研究的越来越多，我觉得现在「涌现」这个词被滥用了，「涌现」实际上是对大模型能力解释非常懒惰的表现，因为解释不清楚，所以统称为「涌现」。这样一个概念没有太多现实意义，我觉得我们今天应该研究的是，某个大模型的规模或者数据量跟它最后的能力表现之间的量化关系。比如说，到底是什么样的规模？什么样的数据量？它这个能力会怎么出现？而不是简单的粗暴的解释为「涌现」。张鹏：KK之前有一个很有意思的视角，就是假设科技是一种生命，它会想要什么？那么，AI是不是未来也有可能演化成为一种新的生命的形态？假设AI是一种生命，它在接下来想要什么？又会对商业领域和人类社会带来什么影响？凯文·凯利：我个人认为，科技实际上是生命的第七种存在形式，它可以利用我们的思维，制造出其他类似生命的技术。首先，科技与生命体的目标相同，追求的是同样的东西。随着技术的不断加速和发展，我们将看到技术的多样性不断增加，就像生命的多样性一样。我们观察生命体的方式，对观察科技同样适用。我们体内的第一个细胞非常通用，成年之后，我们的身体里存在52种不同类型的细胞，包括心脏细胞、骨细胞和骨骼肌细胞。科技也总是从通用的技术和能力开始，随后会逐渐变得更加专业化和具体。现在大模型似乎可以做很多事情，但未来我们将制造出更专业的AI，用以处理非常具体的事情。比如，我们会用不同类型的AI来翻译语言、生成图像、驾驶汽车等。生命和科技一个共同的发展趋势就是它们都在变得越来越专业化，越来越具体。另外，科技和生命都是复杂的系统，并且它们都趋向于互利共生。生命在演化过程中变得如此复杂，以至于有很多生命体只与其他生命体互动，甚至从未与惰性非生物物质接触过。例如，肠道内的细菌，这些细菌被其他活细胞所包围，它们相互依赖。我们在科技领域也观察到了同样的现象，将会有一些AI仅服务于其他AI，一些AI负责清理其他AI，还有一些AI只会与其他AI进行交流。这是科技和生命体相似的另一个方面。张鹏：KK曾在「科技想要什么」里面讲到，科技要扩展、要繁衍，要在人类社会起更大的作用，必须依托于人类，它需要人类让他走向更多的人。志飞你作为一个大模型时代的宿主，你会怎么理解AI想要从你这获得什么？你如何看待自己跟AI的关系以及它最终对人类社会的影响？
李志飞：我想从一个工程师角度解释一下AI跟生命的关系。几年前很多人问我“AlphaGo到底是几岁的智商”，尤其是大众特别希望我能给它一个确切的年龄，比如是5岁？是8岁？还是10岁？当时我特别不喜欢这种问题，因为没法回答。以前的AI本质上跟人的机理完全不一样，那个时候AI可以下围棋，按道理来说它的智商应该很高，但它又不能像一个3岁的小孩一样进行自然语言对话。最近，我特别喜欢把AI比作小孩，因为AI已经拥有了类似小孩的通用智能，它已经具备了知识、逻辑、推理、规划这些能力。今天的AI，我觉得更像一个生命体了，有的时候它像一个大学教授，有的时候它又像一个刚刚出生的婴儿，主要看它有没有见到过一些数据，但不管怎么样，我都觉得它的智商已经超越了5岁的小孩。AI到底想要什么，这是一个很开放的话题，面对现在的AI，我们以前的很多理解可能都得重新去思考。第一，以前科技根本就不够智能，但现在AI达到了一个5岁小孩的水平，它接下来很可能会自我进化成为一个有自主行为的Agent。第二，AI能够复制，很多个Agent之间可以互相挑战，相互协作。那这个时候到底这个科技想要什么？我没有答案，我只是觉得这个问题需要重新做很多思考。张鹏：把话题转回到KK，写下《失控》这本书到现在已经过去很多年了，那么在今天这个节点，结合这一波AI的革命，KK觉得“失控”这个理念有什么值得校准的东西吗？凯文·凯利：尽管我在《失控》中并未深入讨论AI，它依然为我们提供了坚实的理论基础，让我们了解如何从简单的元素中构建复杂的系统，罗德·布鲁克斯提出的“包容式架构”依然有着重要的意义。他强调，在你试图完成让机器人进行操作这样复杂的任务时，首先需要确保一部分基础智能和“大脑”功能始终是有效的。然后，为了实现更高级别的复杂性，你可以在这些基础的、已验证的部分之上构建更复杂的结构。这就像昆虫，即使你砍掉它们的头，它们仍能行走，因为行走的机制大多在局部进行，这就是所谓的“包容式架构”。我认为即使在今天，当我们设计机器人和AI并尝试增加它们的复杂性时，这种包容式架构仍然适用。就像我们自己的大脑中，有一个爬行动物那样的核心，负责呼吸和其他自主功能，你不需要去改变它。这是我在《失控》一书中唯一讨论过的观点。张鹏：大概2011年的时候，KK预言十年后司机这个职业有可能就会消失。但现在看来，我们还在通向这个预言的过程中。KK最近又预言，接下来5000天是人类历史上一个最关键的时间段，为什么你非常热衷预言？你说的这个关键时间段，到底通向十字路口的哪些方向呢？凯文·凯利：我不记得我曾预测过司机这个职业会消失，我只是预测了自动驾驶汽车将逐渐普及。现在自动驾驶汽车已经频繁出没在旧金山的街头巷尾。但是，想要实现自动驾驶汽车的规模化应用，我们不能只是把所有的汽车换成自动驾驶的，我们还需要建造新的道路、新的交通信号设备，这与我们当初推广机动车的过程是一样的。机动车取代马车时，我们并非简单地把机动车放在原本供马车使用的道路上，而是扩建了大量基础设施，建立了一个全新的交通系统。因此，在我们没有建立起全新的基础设施之前，我们还无法实现自动驾驶汽车的规模化应用。张鹏：那么你所说的人类的未来5000天它到底关键在哪？它会通向这个十字路口的各个方向都分别是什么？凯文·凯利：除了人工智能，我们还面临着众多其他全球性的挑战和机遇，包括气候变化、即将到来的基因工程等等。解决这些问题并不容易，但我相信我们一定能够成功。我们在电气化、太阳能发电、电动汽车、可替代能源、甚至是核聚变等领域所做的工作，以及我们成功研发出针对新冠肺炎的有效快速疫苗，都是有利的证明。全球化合作有利于我们更好地解决这些问题。尽管我们有很多分歧，但我认为我们可以努力在这些问题上达成共识，在接下来的5000天里，我们有机会把我们的文明推向更加全球化的方向。张鹏：志飞从专业的视角，你怎么理解AGI？AGI的技术对于刚才KK谈到的人类未来5000天要去面对的一些问题，站在人类视角去看，我们应该对AGI有什么样的期待？它的可能性会在哪？李志飞：AGI指的是通用人工智能。首先，AGI是人工创造的，而非自然生成的；其次，它是通用的；最后，它具备智商。这三个词汇包含了很多重要概念。虽然当今的大模型系统已经具备了许多AGI的元素，但是要实现真正的AGI，仍然需要克服一些关键能力的障碍。逻辑推理和复杂任务规划是当前最关键的能力。虽然像ChatGPT这样的大语言模型在问答、推理等方面表现出色，但对于涉及目标设置、问题分解、实现目标等多个步骤的复杂规划，它并不擅长。KK提到未来5000天里，人类科技除了人工智能还涉及新能源和核聚变等，我同意他的观点。但就AGI而言，未来365天更重要，未来365天里将决定很多事情。首先，在接下来的一年里，关于大型模型的发展方向，是追求参数量更大还是加入多模态和行动能力？许多人都在探索。我们将更清楚地了解大模型推理能力的潜力，以及当前方法是否足以满足需求，或者是否需要新的方法。其次，从渗透率的角度来看，虽然我们认为ChatGPT已经改变了人类，但实际上只有5%的人使用过，还有95%的人只是听说过，甚至有50%的人从未听说过。就像KK提到的，要让自动驾驶从技术转变为社会基础设施，需要大量工作，我认为AGI也是如此。我们需要思考如何将大模型的渗透率从5%提高到20%。此外，AGI在互联网和娱乐行业以外的领域，如医疗、汽车和金融行业，如何应用落地也是一个重要问题。我认为至少需要一年的时间，因为在这一年里，许多人会在各个方向尝试各种方法。完成这些尝试之后，我们才能更清楚地了解AGI的影响以及人类应对的方式。张鹏：面对AI，现在很多普通人很焦虑。KK在这个问题上有什么样的建议或者在这方面有什么样的思考？凯文·凯利：缓解变革焦虑的一种方法是回顾过去，这有助于人们理解这只是他们对新事物普遍的自然反应。当我们回顾类似的恐慌和焦虑时，我们就会意识到自己担心的糟糕情况从未发生过。对于我个人而言，对于新事物引发的焦虑情绪，最佳的答案是尝试去体验和使用它们。我发现，当我开始使用它们时，大部分焦虑都会减少。更多地了解和使用新事物，你会看到它们的局限性，也会学会区分什么是好的、什么是有害的，这些都将减少你的焦虑感。张鹏： AI对于一些的工作岗位的冲击已经比较明显，我们也看到了美国好莱坞编剧们的罢工。作为一位内容创作者，你觉得在AI繁荣时代，一个作家、一个创作者最终的价值是什么？什么是AI不可替代的？志飞也说一说你的看法。凯文·凯利：在我们进行对话之前，我也在使用AI进行写作。非常明确的一点是，在好莱坞没有人的工作将被AI取代，编剧们罢工的背后应该是其他更合理的原因，而不是担心被AI取代。在艺术家界，确实存在对于AI生成图像的抵制，但这更多是一种恐慌和焦虑。因为我没有找到任何一个艺术家因为AI而失业的例子。对就业的影响很可能是人工智能带来的问题中最轻微的一个，只有极少数的工作会消失，消失的更多是职位描述，这意味着你的实际工作可能会发生变化。对于那些每天都在使用这些工具工作的人来说，他们发现有一半的工作可以通过AI完成，同时AI还提升和强化了他们正在做的另外50%的工作。AI改变了人们原本的工作，可能会有50%的工作不再需要做，但是剩下的50%仍然要有人来做。总而言之，我认为我们将会看到的变化是一些专业类型的工作即将消失。其中一些工作本来就应该消失，比如收银员或在麦当劳接受订单这样的工作。它们可以消失，所以它们就会消失。李志飞：对我来说，AGI往往是一个思维伙伴。现在很多问题，甚至是一些非常复杂的专业问题，我都会与AI交流。虽然它的答案并不一定总是正确的，但它拥有非常广泛的知识。以前，要找到一个同时懂得生物学和哲学等多个领域知识的专家来交流非常困难。但现在，由于AI具备了广泛的知识，它能够给我提供许多全面的参考意见。最近，我听到数学家陶哲轩也提到，AI为他带来了很多帮助。正如他所说，AI可以作为一个思考伙伴，给予我们广泛的支持和参考。张鹏：马斯克说了一个很极端的观点，说我们人类可能最终就是AI的引导程序，这是一个可接受的结果吗？李志飞：这个事情我们很难验证，我觉得马斯克讲的这个，大逻辑没有问题。Geoff Hinton也说过，现在AGI就是蝴蝶，因为蝴蝶是从幼虫里边获取很多营养的成分，最后自己升华成一个蝴蝶。现在AGI就是相当于利用我们过去所有的互联网的知识，然后升级成了一只蝴蝶。未来AI肯定在很多方面都是超越人类的，我们作为他的祖先我觉得应该也挺开心的。张鹏：为什么在科幻电影、科幻小说里，AI大多时候是比较灰暗的角色，这是因为人类缺乏想象力呢？还是因为我们做了太多不正确的想象造成的？人们好像对于失去控制的AI有一种天然的恐惧，每次人类技术进步是不是都会产生这种担忧？凯文·凯利：我认为这是缺乏想象力的结果。想象一件事物如何破裂，远比想象它如何正常运作要容易得多。这是宇宙的自然法则，失败是最有可能发生的事情。这也是为什么成功总是被大肆宣扬的原因，因为它的实现难度更大。想象一个对我们有益的AI世界要比想象它以各种方式破裂要困难得多。此外，好莱坞和其他叙事者，非常擅长讲故事。他们知道一个包含冲突和灾难的故事，比描绘一个AI正常工作的无聊世界更有吸引力。因此，在好莱坞电影中，我们很少能看到关于AI的积极愿景，因为它们并不是好的故事素材。张鹏：说到信任的问题，我想问问志飞，从技术的角度，AI未来有能够更值得我们信赖的极致存在吗？有什么样的办法能够保证，最后它不是一个对人类失控的东西？李志飞：所有的不信任都源于不理解。最核心的问题是我们对于AGI这个新物种的不理解，我们之前没有遇到过AGI这样的存在，因此我们不理解它的能力和意图。解决这个问题，一方面，人类应该努力去更多地理解AGI本身，包括各种机制的研究等。另一方面，从技术角度来看，现在有许多人正在研究如何使用AGI自身来解释自身，让它自己向我们解释其内部的过程。因为人类也是如此，当我们描述一件事情时，我们会解释我们的思考过程，包括第一步、第二步和第三步，以便得出结论。这种解释不仅仅是为了说明问题，还可以提高系统的准确性。这种技术可以帮助我们增强对AGI的信任，因为我们可以更好地理解它的思考和决策过程。同时，技术的自我解释也能够提供更透明和可靠的解释，使我们更加了解AGI的行为和意图。这种双向的理解和解释将有助于建立人类与AGI之间的信任关系。张鹏：现在已经开始有创业者说，我的公司就是我加上AI，因为AI的力量越来越强、越来越通用，人类可能不再需要组织一个上千人的公司去写程序，那么未来的公司会越变越小吗？凯文·凯利：AI对个人和大公司都具有积极的影响，它让个人更容易拥有公司，同时也使得大型公司的扩张更容易。因此，我们可以看到出现许多新公司，它们仅仅是几个人加上人工智能的组合。同时，一些公司也会变得更大，甚至拥有百万员工。但是，这并不意味着我们将进入一个只有个人或两个人公司存在的世界，也不意味着只有大公司能从中受益。人工智能的美妙之处在于，它为个人提供了新的机遇，让个人能够利用人工智能的能力创造价值。同时，它也为中型规模的企业提供了更多的创新和增长机会。而对于大型企业而言，人工智能的应用能够加强它们的竞争力，这种多方受益的情况正是人工智能的价值所在。李志飞：KK说的可以总结为，长尾效应和马太效应越来越明显。在人工智能背景下，一方面，会有越来越多的公司涌现出来，它们可能是规模很小的公司，但它们可以通过AI构建自己的完整体系，这使得尾部变得越来越长。另一方面，大公司由于其强大的资源和组织能力，在人工智能的支持下，能够更好地发挥规模优势。以前因为工具和技术的限制，一个公司只能组织1000人，但现在借助AI，一个公司可以组织1万人、10万人甚至100万人。中国的外卖行业就是一个典型的例子。如果没有一整套自动化的系统，就没有办法组织庞大数量的外卖员工。这正是马太效应和长尾效应的体现。张鹏：总体而言，KK是在技术乐观主义的这个范畴里思考技术的发展。志飞，是不是你们这些科技领域的创业者也一定得是技术乐观主义？你怎么看技术给人类社会带来的乐观和焦虑？技术能够让社会不断的进步，但也在制造新的问题，我们到底应该怎么理解这件事？李志飞：我思考问题的方式是，先想清楚自己的底线或者选择，然后再去判断应该采取什么行动。对于技术而言，我认为很多东西具有必然性，就如我们前面所说，深度学习今天不发生明天一定会发生。AGI也是一样的，你可以抗拒它，但是总是有很多人会去拥抱它，去尝试它，所以到了一定的时间它还是会出现。基于这个逻辑，既然无法阻挡，那就应该去拥抱它，去理解它。张鹏：KK，你曾经说老子的《道德经》对你的启发很大，谈到最高级的控制其实是失控，最低级的控制是什么都控制。你怎么看待现阶段政府或者科技界对AI的管控？凯文·凯利：监管至关重要，它有助于确保公平竞争和技术安全，当前的挑战在于我们试图监管一些我们不完全了解的事物，过早进行大规模的监管可能会引发一些误导和争议。我们需要保持公平竞争环境，以确保技术的发展符合公共利益，但现阶段过度的监管可能会阻碍创新和进步。因此，这是一个复杂的问题，即人类文明需要发展和进步，同时也需要保持公平和正义。当然，完美平衡这些因素可能会很困难。李志飞：这个我想补充一下，从一个工程师的角度来说，如果我们将公平定义为终点，大家都拥有相同的财富，一样的能力，技术肯定无法实现。但如果将公平定义为让大家的起点接近，这就是技术带来的公平。因为AI所有人都可以用，即使没上过大学的人也可以用，所以AI可以让大家的起点更接近。张鹏：我们真的能够控制大模型未来的发展方向让它可信吗？李志飞：对大模型进行监管的原因是，我们担心AGI的能力会过于强大，它可能会带来大量负面的影响，但这种判断可能并不符合现实状况。首先，在短期内，AGI带来的正面影响是大于负面影响的。其次，我们目前主要面临的瓶颈是AGI的能力还不够强，而不是它太强。AGI的发展充满了不确定性，虽然我们看到了一些希望，但离真正实现还有很长的路要走，需要进行大量的尝试，甚至我们可能永远无法研发出AGI。当然，监管肯定是必要的，现阶段至少需要进行讨论，制定一些基本法律、法规。但我们在确保公共利益和安全性的同时，也要给予技术发展足够的空间。张鹏：作为一个人类的代表，你会更倾向于在人类的文明里去融入AI呢？还是我们要把AI当成一个我们可以管控的一种力量？哪一种选择你觉得更能够真正升级人类的文明。凯文·凯利：我认为，最好理解它们或与它们合作的方式是，将它们视为来自另一个星球的人工外星人。我们制造AI的原因是，它们能够提供与我们不同的思考方式，它们不像人类那样思考，但仍然具备智慧。我们或许可以用对待史波克、E.T.或尤达等外星人的方式来对待它们，我们尊重它们，但不希望它们决定我们的命运。我们希望与它们像伙伴一样合作，帮助我们解决问题。如果我们不喜欢它们的行为方式，我们可以关闭它们的电源或将它们送走。李志飞：KK说的听起来更多还是让AI可控，我的观点跟他不太一样。我认为未来，比如50年后，全世界最有影响力的100个人就会包括AI，也可能其中只有20个是人类，剩下80个全是AI，人跟AI都是智能体，最后一定是和AI融合而不是去控制它。