Musk及众多科学家呼吁暂停“AI竞赛”
今日份知识你摄入了么？
“被科技公司所推出的强大AI技术，其发展速度太快，或有朝一日‘智胜’人类”。
这是一群计算机科学家和其他科技行业知名人士得出的结论。包括Elon Musk和苹果联合创始人Steve Wozniak在内的许多人，呼吁科技公司先“暂停半年”，考虑考虑可能会出现的风险。
他们周三发布的请愿书是对位于旧金山的初创公司OpenAI最近发布的GPT-4的回应。GPT-4是被广泛使用的AI聊天机器人ChatGPT的更先进版本，正是它直接引发了科技巨头微软和谷歌之间的竞争——两个公司正在相继推出类似的应用程序。
图片来自于pexels，作者：Andrew Neel
请愿书怎么说？
其警告，“具有与人类竞争的能力”的智能AI系统可能会给社会和人类带来深远的风险——充斥互联网的虚假信息和自动化工作，甚至出现比科幻小说更魔幻的未来“灾难性大片”。
报告称，“最近几个月，AI实验室在进行一场失控的竞赛，以开发和推出越来越强大的数字思维，而没有人——甚至是他们的创造者——能够理解、预测或可靠地控制这些数字思维。”
请愿书写道：“我们呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统——至少半年”，“暂停研究这件事儿应该是公开的、可核实的，所有关键实施者都应该这么做。如果不能迅速实施，政府应该介入并强制让他们暂停”。
许多政府已经开始着手监管高风险的AI工具。英国政府周三发布了一份文件，概述了其做法，并表示“将避免可能扼杀创新行为的严厉立法”。欧盟27个成员国的议员们一直在进行谈判，希望通过一个能对AI全面管理的法律。
请愿人都有谁？
请愿书由非营利机构生命未来研究所（Future of Life Institute）组织，该研究所表示，可以确认的签名者包括获图灵奖的AI先驱Yoshua Bengio和其他行业领先的AI研究人员，如Stuart Russell和Gary Marcus。除此之外，还有Wozniak、美国前总统候选人Andrew Yang和《原子科学家公报》（一个以科学为导向的倡议组织，以警告人类文明会因核战争结束而闻名）主席Rachel Bronson。
Musk经营着特斯拉、推特和太空探索技术公司，是OpenAI的联合创始人和早期投资者，长期以来一直对AI存在的风险表示担忧。更令人惊讶的是，签名者还包括Stability AI的首席执行官Emad Mostaque。
（Stability AI是AI图像生成器Stable Diffusion的制造商，该生成器与亚马逊合作，并与OpenAI的类似生成器DALL-E竞争）
有什么回应？
OpenAI、微软和谷歌在当天没有回应其请求，而对这份请愿书，已经有很多人持有了怀疑态度。
康奈尔大学数字与信息法教授James Grimmelmann表示：“暂停研究不失为一个好主意，但这份请愿书的措辞很模糊，很明显并没有认真对待其监管问题”，“考虑到特斯拉一直极力反对为其自动驾驶汽车中存在缺陷的AI负责，Elon Musk签署这份请愿书也是一个非常虚伪的行为”。
是AI的失控吗？
虽然这封请愿书提出了比实际存在的AI更聪明的“邪恶”AI，但一些请愿人担心的并不是AI过分聪明。虽然已经很厉害了，但像ChatGPT这样的工具本质上也只是一个文本生成器。它根据大量书面作品中学到的内容，预测哪些单词可以回答提问者的问题。
作为请愿人之一的纽约大学荣誉退休教授Gary Marcus在一篇博客文章中表示，他不同意其他人关于“AI可能会在人类无法控制的范围内自我改进，进而失去控制”的观点，他更担心的是“性能很一般的AI”被广泛部署，犯罪分子或恐怖分子会用其欺骗人们或传播危险的错误信息。
Marcus写道：“目前的技术发展已经带来了巨大风险，而我们对此准备不足”，“随着未来科技的发展，情况很可能会变得更糟”。
原文作者：MATT O'BRIEN, Associated Press
翻译作者：高佑兮
美工编辑：过儿
校对审稿：Chuang
原文链接：https://www.boston.com/news/technology/2023/03/29/musk-scientists-call-for-halt-to-artificial-intelligence-race-sparked-by-chatgpt/
本周公开课预告
往期精彩回顾
点击“阅读原文”查看数据应用学院核心课程