查看原文
其他

马斯克:AI的危险没人能懂

马斯克 王育琨频道 2023-04-28




埃隆·马斯克(Elon Musk),1971年6月28日出生于南非的行政首都比勒陀利亚(现名:茨瓦内),企业家、工程师、慈善家。埃隆·马斯克本科毕业于宾夕法尼亚大学,获经济学和物理学双学位,他同时具有南非、加拿大和美国三重国籍。现任太空探索技术公司(SpaceX)CEO兼CTO、特斯拉公司CEO、太阳城公司(SolarCity)董事会主席。

埃隆·马斯克:我和总统、国会都谈过AI的危险,没人能懂


源 | 美中科教


【正文】


埃隆·马斯克在过去十年对AI的态度一直非常鲜明而且一以贯之,应该很早就对这个问题有深入的思考:
2014
我们对AI要非常小心,这可能是我们最大的存在威胁应该有国家层面的AI监管才对,以免我们做出愚蠢的事情。我觉得发展AI像是在召唤恶魔,你没法控制恶魔。”
2016
AI的未来发展方向可能并不乐观,起码不会所有结果都是好的。如果会有在所有方面远超我们的数字智能生命,确保它是善意的就非常重要。如果有非常强大的数字智能,我们应该确保它不在少数人的手里,造成专制和垄断。未来的专制者可能是AI或者控制AI的人,如果AI可以广泛分布/平权化,这样可以遏制坏玩家,因此AI不应该特权/专有化。”
2017
AGI会比地球上最聪明人聪明得多,这是个危险的情况,有好坏两面性。我首先建议密切关注AI发展,AI研究者不要被带偏,因为很多时候科学家在自己的工作上全神贯注,不一定知道自己所做工作的后果。所以出于公共利益政府应当密切关注AI发展。AI的发展会导致大量的失业,这会是一个巨大的社会挑战,我觉得最终我们会有无条件基本收入,我也不觉得有其他选择,这应该是必要的。
机器人不能做的工作只会越来越少。这是我认为大概率会发生的,由于自动化的普及,生产力将极大提升,几乎所有东西都将变得非常便宜。更难的挑战是,人类在没有工作之后如何寻找意义?我觉得途径之一是和AI融合,并努力扩展人机接口的带宽问题。
2018
“我之前说过,人类其实就是AI的引导加载程序(bootloader,初始化计算机需要的最小基本程序),我们正在逐步构建一个更大的智能,(未来)整体智能当中人类智能的百分比会逐渐减小,我们最后只会占很小的一部分智能。我一直试着说服人们给AI减速,尝试监管AI,但没什么用,我坚持了数年,没人听。监管是个非常缓慢的进程,比如给汽车加上安全带无可辩驳地减少了伤亡率,但依然花了若干年才通过了法案。但AI不是常例,你不可能花10年建立监管,为时已晚。
我不是说这是末日倒计时,但是越过奇点之后会发生什么并不清楚,可能好可能坏,但可以肯定的是我们没办法控制。到时候也许打不过就加入,Neuralink的长期愿景是解决人和AI共生时的接口带宽问题。人很难理解这种共生,其实现在我们已经是cyborg,只不过和手机电脑交互的data rate太低了,就像用一根细细的吸管在生理上的人和数字化的人之间交互,我们要把吸管变大河,解决带宽问题。我和奥巴马、国会和50位州长都谈过AI的危险,没人能懂。”
“我不是政府监管的拥护者,但AI很特殊,可能对公共利益有巨大危险,所以需要有洞见的公共机构进行AI安全监管,这非常重要。AI要比核武器危险得多得多,记住我的话,危险得多得多。为什么我们没有AI监管,简直离谱。我不是太担心Narrow AI,因为只是导致一些混乱和失业,但是不是物种级别的安全风险,但是AGI是。如果人类共同同意AGI的诞生,我们应该非常非常小心地进行,这可能是我们可以做的最重要的事情。现在让我感到压力巨大的一是AI的问题,二是特斯拉Model3的生产问题,这是我目前我人生中最有压力的事情。我猜可能未来有一种积极的和AI共生的结局,我觉得最大化人类的自由可能是AI的效用函数或者优化目标。”

2019
“现在在AI发展上的投入太多,在AI安全性的监管上投入太小,在我看来需要有政府机构进行监管,就像监管所有可能对公共利益产生损害的事物一样。监管的动作非常慢,只有坏事发生之后才会出现,比如对烟草的监管和限制过程很漫长。”
通常人们都低估了AI的能力,可能认为它是聪明的人类,但实际上AI远不止于此。大猩猩没法真正理解人类,但人和AI的差距远不止于此。我看到一些AI研究者犯的最大错误就是觉得自己很聪明,但他们比AI差远了,他们没法想象比他们聪明得多的AI。怎么处理这种情况我也不确定,希望AI是善意的。或者打不过就加入,这就是Neuralink在做的事情,打造一个高带宽接口,让AI搭人类一程。人类和电脑交互的输出带宽实际在下降(十个指头到两个指头),人类比电脑慢太多了,1毫秒对电脑来说像是永恒,对人来说什么都不是。 我们可能需要加快nueralink的开发,也许时间不多了,人类比AI做得更好角落正在变得越来越小,最后一定会全面超越人类。
2020
人类很长时间都是地球上最聪明的物种,但很快会被AGI取代,它在每个方面都比人类聪明。我觉得真是我们需要担心的,政府也应该介入监管。奇点之后会发生什么很难预测,结局不一定是坏的,但肯定是可能性之一。特斯拉FSD只是Narrow AI,不会有一天醒来突然接管了世界,但是AGI不一样。”
2022
我不太确定现在奇点的定义,也不确定会有一个特别分明的边界,但是现在我们已经外包了大量的计算比如我们很多记忆都在手机和电脑里的图片和视频里。手机和电脑放大了我们的能力,放在之前是前所未见的。一个有趣的指标基于硅基计算量和碳基计算量的比值,以及随时间如何变化,这个比值其实在迅速提升。”
2023
“我在 OpenAI的创建中发挥了重要作用。当时我担心谷歌没有对人工智能安全给予足够的重视。因此,我和其他一些人一起创建了 OpenAI。虽然最初它是作为开源非营利组织创建的,但现在是封闭源且以营利为目的。
我不再拥有 OpenAI 的任何股份,我也无法以任何方式控制它。ChatGPT 已经向人们展示了 AI 已经变得多么先进。 由于 AI很先进已经有一段时间了,它只是没有大多数人都可以访问的用户界面。
因此真正chatGPT 所做的只是在已经存在几年的 AI 技术上放置一个可访问的用户界面,而且还有更高级的版本即将问世。所以我认为我们真的需要规范人工智能安全。 因为任何可能对人们构成风险的技术,比如飞机、汽车或药物。我们有监管机构监督汽车、飞机和医药的公共安全。 我认为我们应该对人工智能进行类似的监管,它对社会的风险实际上比汽车、飞机或医药更大。这可能会稍微减慢 AI 的速度,但可能是一件好事。”
精选阅读:
ChatGPT哲学与审美

各怀心思·诸神混战GPT-5

ChatGPT必将改变世界!

OpenAI是如何胜过谷歌的?ChatGPT发展简史

ChatGPT:我如何成为功夫到家的颠覆者?

黄仁勋“AI iPhone时代”王者

负重前行的华为与赚翻了的英伟达

任正非的“美国梦”醒了?
地头力19| 祥儿撞醒了我“一刻者”的意识
地头力18| 沈南鹏:做强做多中国
地头力17:我是问题的终结者
地头力16:任正非一棒敲出一个绝对信仰
地头力15:ChatGPT:答案永远在现场!
地头力14:稻盛和夫如何读懂“敬天爱人”
地头力13:经营巨子们的恻隐之心
地头力12:李强——答案永远在现场
地头力11:一刻者稻盛和夫:“一技通,万技通”
地头力10:稻盛和夫——跳出成功者炼狱
地头力9:稻盛和夫如何“击穿一个点”,塑造公司的集体潜意识?
地头力8:头拱地击穿一个点接通万有
地头力7:直觉力:当下原力觉醒
地头力6:罗红|此心如野马 奔向少年时
地头力5:孙宏斌:从来就没有死局!
地头力4:如何拨拉“变化之轮”
地头力3:如何配得上自己所受的苦难?
地头力2:庖丁解牛说尽了庄子哲学
地头力1:充盈组织末梢的创造力
任正非是稻盛和夫的知音
稻盛和夫:把坚实的哲学血肉化
北大报告|中美科技脱钩展望
为何美国的科研既能得诺贝尔奖,又能产生高科技产品?
凯文·凯利:科技想要什么?
李政道与杨振宁决裂事件
张益唐:我若在中国,无法取得这样的学术突破
中国芯片往事
吴敬琏:育人育才的逻辑
乔布斯:创造伟大的产品
吴明山:“无依”,打开一个无穷性世界!
吴明山:人的100多种死法
钟承湛:灾难打开了新边界
2022 打磨深度思考力
2022:向正在发生的未来学习
稻盛和夫:答案永远在现场
传达心灵|声音比文字更好
王育琨:大美绝活是一种信仰
林可济:人的伟大与尊严在于思想!

—— End ——

大美绝活是一种信仰
如何让我还没有存在的天赋潜能,真正存在的时候,真正的富足和丰盛才会出现。深入把握这片土地上中国人的痛点开始。拿出解决这些痛点的大美绝活,给消费者创造真正的价值,才能发现真实的自己。“接近美,接近神”。“大美绝活是一种信仰”!与众不同的绝活或好产品,造福消费者的宽度、广度、深度和敏感度,决定了“与众不同的绝活”之“大美”的程度,也决定了个人和企业的未来。因为,在市场经济中,每一个消费者的每一笔购买,是对企业的投票,决定了企业的前程。

让我们跟着任正非一起走一个过程
打开思维,打开心灵,打开意志

王育琨频道 商务合作
微信 | gao940716

QQ:2116117593

投稿:2116117593@qq.com

2020全新奉献,线上线下全上市

2019全新奉献,线上线下全上市

地头力=喜爱{目标}×专注{死磕}×做好{绝活}

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存