查看原文
其他

危险!立即暂停!超千人紧急呼吁……

闽南日报 2023-08-31


近日,包括马斯克、苹果联合创始人斯蒂夫·沃兹尼亚克在内的1000多名人工智能专家和行业高管签署了一份公开信,他们呼吁将AI系统的训练暂停六个月,理由是对社会和人性存在潜在风险。

马斯克、图灵奖得主等千名专家
呼吁暂停超强AI研发,至少6个月

今日,未来生命研究所(Future of Life Institute)公布一封公开信,呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。

这封信已有1126名科技领袖和研究人员签名,除了马斯克、辛顿和马库斯之外,还包括图灵奖得主约书亚·本希奥、《人工智能:现代方法》作者斯图尔特·罗素、 苹果公司联合创始人史蒂夫·沃兹尼亚克、Stability AI首席执行官埃马德·莫斯塔克等科技界领袖人物

这封公开信指出,最近几个月,人工智能实验室陷入了一场失控的竞赛,他们致力于开发和部署更强大的数字思维,但即使是研发者也不能理解、预测或可靠地控制这些数字思维。诸多研究表明,具有与人类匹敌智能的人工智能系统可能对社会和人类构成深远的风险。

公开信呼吁所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统,期限至少6个月。在这段时间内,人工智能实验室和专家应该开发和实施一套技术安全协议,由独立外部专家进行严格的审计和监督。与此同时,人工智能研发者必须和政策制定者合作,加快开发人工智能治理系统。

部分签名者



GPT-4老板:
AI可能会杀死人类,
已经出现我们无法解释的推理能力
值得关注的是,发布公开信的“未来生活研究所”是由MIT物理学终身教授泰格马克创立的一家非盈利研究机构,创立于2014年,一直关注“开发与人类相当的人工智能技术过程中出现的风险”,霍金、马斯克都是这家机构的科学顾问。
也是在这一年,霍金开始通过公开媒体发表对于人工智能技术最终将取代人类的一系列“预言”。
他在BBC采访中表示:“人工智能技术的研发将敲响人类灭绝的警钟。这项技术能够按照自己的意愿行事并且以越来越快的速度自行进行重新设计。人类受限于缓慢的生物学进化速度,无法与之竞争和对抗,最终将被人工智能取代。
值得一提的是,在昨日公开的访谈中,“ChatGPT之父”Altman在与MIT研究科学家Lex Fridman的最新对话中指出,AI已经出现其无法解释的推理能力,同时承认“AI杀死人类”有一定可能性。
Altman谈及了近期围绕ChatGPT产生的诸多问题,坦承就连OpenAI团队,也根本没搞懂它是如何“进化”的:
从ChatGPT开始,AI出现了推理能力。但没人能解读这种能力出现的原因。

唯一的途径是向ChatGPT提问,从它的回答中摸索它的思路。


网友评论

你怎么看?

往期推荐

漳州这所小学的“文艺复兴”

突发!这位漳州人出手了……

遴选52人!漳州一地最新发布!

来源:中国基金报 都市快报 互联网白话 网友评论本期编辑:张江璐 陈志荣值班主任:徐镜正

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存