马斯克带头呼吁：暂停！周鸿祎隔空回应
01
马斯克等千名大佬
联名呼吁：暂停开发高级AI
近日，未来生命研究所（Future of Life Institute）公布一封公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。公开信中提出，广泛的研究表明，具有与人类竞争智能的人工智能系统可能对社会和人类构成深远的风险。
公开信表示，高级AI可能代表地球生命史上的深刻变化，应以相应的关怀和资源进行规划和管理。不幸的是，这种级别的规划和管理并没有发生，只有当确信它们的影响是积极的并且风险是可控的时候，才应该开发强大的人工智能系统。这种信心必须有充分的理由，并随着系统潜在影响的规模而增加。
公开信最后说，“让我们享受一个漫长的人工智能夏天，而不是毫无准备地匆忙进入秋天。”
但也有人对这封公开信提出质疑。康奈尔大学数字和信息法教授詹姆斯·格里梅尔曼 (James Grimmelmann) 表示：“考虑到特斯拉一直在努力为其自动驾驶汽车中，有缺陷的人工智能追究责任，埃隆·马斯克 (Elon Musk) 签署协议是非常虚伪的。”他表示：“暂停是个好主意，但这封信含糊不清，没有认真对待监管问题。”
02
周鸿祎：不发展才是最大的不安全
对于请愿书一事，周鸿祎表示，不管你愿不愿意，GPT都将引领一场新的工业革命，意义超越互联网和iPhone的发明。它将带来生产力的大幅提升，进而提升国家竞争力，中国一定要迎头赶上。
周鸿祎表示，关于马斯克的请愿信，他不了解内幕，但他猜测是GPT的进化路上出现了超乎人类想象的现象。真是这样他倒不奇怪，他认为GPT—4已经是超级人工智能的雏形，早就出现了一些连它的创造者都无法解释的现象，比如涌现、幻觉、能力的迁移和逻辑增强。就像猿猴进化成人，不知道在哪个节点会发生智力的突变。
周鸿祎称，对于人类如何与AI共处，目前的观点大致分为三派：
—“降临派”认为人类应该把知识献给AI，甘心做硅基文明的引导程序。
—“幸存派”有点躺平，认为只要我能生存，未来跟AI以什么样的方式共处都行。
—“拯救派”认为AI不是来取代人类的，而是来升级人类的，人类将迎来工业革命之后最大的生产力解放。
周鸿祎表示，他比较认同“拯救派”的观点。人类身小力薄，从来都不是靠体能和智能的进化站在食物链顶端的，我们靠的是不断发明和使用工具。GPT就是这个时代最伟大的工具。人类可以借助它的能力大幅提升生产效率，提高个体自身的能力，普通人也能解锁专业技能，发挥聪明才智。通过人机协作的方式，人类将变成史上最强人类，智人2.0。
周鸿祎坦承，最近人工智能的指数级跃变确实让人有点措手不及。他一直预测，GPT—6到GPT—8的版本就会产生真正的意识，甚至进化成一个新物种。人类如何应对AI带来的未来安全挑战，谁也没法给出确定答案。他自己就是做安全的，但他坚定地认为，不发展才是最大的不安全。
等你来pick→
读创/深圳商报综合自直新闻、周鸿祎新浪微博等
编辑 黎莉
责编 马强
监制 于雪
校审 孙世建