大型AI研究，应不应该摁下暂停键? 周评

ChatGPT的发布，无疑是掀起了巨大的风暴，不仅是技术圈子在讨论这个问题，金融、会计、翻译、设计…...无数圈子都在讨论ChatGPT的应用。

ChatGPT的正向价值是明显的。它通过对话式的交互，表现出卓越的对人类语言表达的理解程度，且能做出助理级别的工作支持。这是超出以往人们对AI应用的预期的，至少对我来说是这样的。我们也鼓励同事们研究如何在工作中有效应用ChatGPT的技术，提升工作效率。

ChatGPT所引发的担忧也是同样明显的。我在此前的评论（无所不知的ChatGPT，如何看ESG发展趋势）中，已经谈及这些问题：ChatGPT可能会提供错误信息，如果这些错误信息造成损失应该由谁来承担？ChatGPT也可能会提供有违公序良俗甚至违法的信息，这些信息可能会被坏人所利用，责任又应该由谁来承担……这几天看到一则国内新闻，就很典型是AI技术的违法滥用。有人运用AI技术修改了一名女生坐地铁时拍的照片，AI把女生的衣物“脱掉”了，然后广泛传播。这张虚构照片显然已经对当事人构成侵害。

（图片来自网络）

但是，ChatGPT所展现的诱人前景，还是让国内外的技术团队为之疯狂。过去数月，已经有很多公司宣布推出或计划推出与ChatGPT媲美的产品。ChatGPT自身也发布了更加强大的ChatGPT-4，如果说ChatGPT-3是大学生水平，ChatGPT-4差不多可以是研究生水平了。不难想象，更加强大的大型AI（Giant AI）正在研发的路上。

就在这个节骨眼上，马斯克等很多业界大佬，突然发布了一个联名信，公开呼吁全球技术团队立即停下所有大型AI研究。（详见：“立即暂停大型AI研究”！马斯克等千名大佬集体呼吁）

（图片来自网络）

原因很简单，就是怕大型AI发展太快，会摆脱人类指令的控制，反过来控制或消灭人类。

这看上去很天方夜谭，但似乎也不是杞人忧天。有大佬说：当AI足够智能后，它不会只待在计算机中。它可以把DNA序列通过邮件发给实验室，实验室将按需生产蛋白质，然后AI就拥有了生命形式。随后，地球上的所有生物都会死亡。

（图片来自网络）

公开信抛出之后，引起轩然大波。有赞同、有反对、有沉默。赞同者的理由不难理解，前面已经解释过了。反对者的理由，虽然有的理由是出于资本逐利的考虑，但也有的理由很充分。譬如：有反对者认为这样做只是为了遏制对ChatGPT的竞争；也有反对者认为这样的呼吁毫无意义，因为自愿停下来都是“好人”，“坏人”仍会继续研发；还有反对者认为，公开信所说的“政府应该介入并制定暂停令”是个糟糕的主意……

360的周鸿祎把不同观点概括为三派：降临派、幸存派和拯救派。他自认为拯救派，认为AI是用来升级人类的，“不发展才是最大的不安全”。 

（图片来自网络）

对这个问题，我也没有答案。但我觉得这绝对是重要个问题的。所以，本周评论以问题调查方式结束，看看大家的意见。