其他
危险!立即暂停!超千人紧急呼吁……
马斯克、图灵奖得主等千名专家
呼吁暂停超强AI研发,至少6个月
今日,未来生命研究所(Future of Life Institute)公布一封公开信,呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。
这封信已有1126名科技领袖和研究人员签名,除了马斯克、辛顿和马库斯之外,还包括图灵奖得主约书亚·本希奥、《人工智能:现代方法》作者斯图尔特·罗素、 苹果公司联合创始人史蒂夫·沃兹尼亚克、Stability AI首席执行官埃马德·莫斯塔克等科技界领袖人物。
这封公开信指出,最近几个月,人工智能实验室陷入了一场失控的竞赛,他们致力于开发和部署更强大的数字思维,但即使是研发者也不能理解、预测或可靠地控制这些数字思维。诸多研究表明,具有与人类匹敌智能的人工智能系统可能对社会和人类构成深远的风险。
公开信呼吁所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统,期限至少6个月。在这段时间内,人工智能实验室和专家应该开发和实施一套技术安全协议,由独立外部专家进行严格的审计和监督。与此同时,人工智能研发者必须和政策制定者合作,加快开发人工智能治理系统。
部分签名者
GPT-4老板:
AI可能会杀死人类,
已经出现我们无法解释的推理能力
从ChatGPT开始,AI出现了推理能力。但没人能解读这种能力出现的原因。
▼往期推荐▼
来源:中国基金报 都市快报 互联网白话 网友评论本期编辑:张江璐 陈志荣值班主任:徐镜正