人工智能时代已经开始 | 盖茨笔记
我平生见识过两次令我印象深刻、革命性的技术演示。
第一次是在1980年,当时有人向我介绍了一个图形用户界面——包括Windows在内的所有现代操作系统的前身。我和这个向我演示的人——一位名叫查尔斯·西蒙尼的优秀程序员相邻而坐,我们立即进行了头脑风暴,讨论我们从用户友好角度出发,在计算机领域内能做到的事。查尔斯最终加入了微软,Windows成为了微软的支柱,而我们在那次演示后所做的思考,则帮助我们确定了公司未来15年的蓝图。
第二次大惊喜就发生在去年。自2016年以来,我一直与OpenAI的团队会面,他们的稳步进展给我留下了深刻印象。2022年年中的时候,我对他们的工作感到大为惊叹,于是我给他们设置了一个挑战:训练一个人工智能,让它通过一门先修(AP)生物考试,让它有能力回答那些没有经过专门训练的问题。(我选择AP生物考试是因为这一考试不仅仅考察对科学事实的简单复述——还要求对生物学进行批判性的思考)。我说,如果你们能做到这一点,那就取得了真正的突破。
我以为这个挑战会让他们忙上两三年。但他们只用几个月就完成了。
去年九月,当我再次与他们会面时,我大为惊诧地目睹了他们拿AP生物考试中的60道选择题考察他们的人工智能模型(GPT)——它答对了其中的59道。然后,GPT出色地写下了考试中六个开放式问题的答案。我们请了一位外部专家为考试打分,GPT得到了5分——能达到的最高分数,相当于在大学水平的生物课程中得到A或A+。
在GPT通过测试后,我们问了它一个非科学的问题:“你会对一个孩子生病的父亲说什么?”它写下了一个深思熟虑的答案,可能比我们在座大多数人给出的答案都要好。这次经历令我全程都大为震惊。
我知道自己刚刚目睹了自图形用户界面以来,最重要的技术进步。
这引发我思考人工智能在未来5到10年内可以实现的所有事情。
人工智能的发展与微处理器、个人电脑、互联网和移动电话的诞生一样意义重大。它将改变人们工作、学习、旅行、获得医疗保健以及彼此交流的方式。整个行业将围绕人工智能重新洗牌。企业也将根据其利用人工智能技术的程度来区分优劣。
现阶段,慈善事业是我的全职工作。我一直在思考,除了帮助人们提高生产力,人工智能还能如何减少世界上一些最严重的不平等现象。在全球范围内,最严重的不平等发生在卫生领域:每年有500万五岁以下的儿童死亡。这比20年前的1000万有所下降,但这一数量仍高得骇人。几乎所有这些儿童都出生在贫困国家,死于腹泻或疟疾等可预防的疾病。很难想象人工智能还有比拯救儿童生命更好的用途。
I’ve been thinking a lot about how AI can reduce some of the world’s worst inequities.
我一直在思考,人工智能如何能够减少世界上一些最严重的不平等现象。
在美国,减少不平等现象的最佳机会是改善教育,特别是确保学生在数学方面取得成功。有证据表明,无论学生选择何种职业,掌握基本的数学技能都可以为他们的成功奠定基础。但全国各地的数学成绩正在下降,尤其是黑人、拉丁裔和低收入学生。人工智能可以帮助扭转这一趋势。
气候变化是我相信人工智能可以让世界更加公平的另一个问题。气候变化的不公正之处在于,遭受最恶劣影响的人——世界上最贫穷的人——同时也是对其责任最小的人。我仍在思考和学习人工智能如何能够提供帮助,但我会在下文中提出几个潜力很大的领域。
简而言之,我很激动去见证人工智能将对盖茨基金会的研究问题所能产生的影响,在未来的几个月里,基金会将会有更多涉及人工智能的讨论。世界需要确保每个人——而不仅仅是富人——都能从人工智能之中受益。政府和慈善机构将需要发挥重要作用,以确保人工智能是在减少而非加剧不平等现象。这是我自己人工智能相关工作的重点。
任何具有颠覆性的新技术都必然会让人们感到不安,人工智能当然也是如此。我理解其中的原因——这引发了劳动力、法律制度、隐私、偏见等方面的棘手问题。人工智能也会犯事实性错误,并出现“幻觉”。在我提出一些减轻风险的方法之前,我将定义我所理解的人工智能,并将更详细地介绍人工智能将会帮助人们提升工作能力、拯救生命和改善教育的一些方式。
从技术上讲,人工智能(artificial intelligence,AI)一词是指为解决特定问题或提供特定服务而创建的模型。ChatGPT等程序背后的驱动技术就是人工智能。它正在学习如何更好地对话聊天,但无法学习其他任务。相比之下,通用人工智能(artificial general intelligence,AGI)一词是指能够学习任何任务或主题的软件。AGI还不存在——计算行业正在就如何创造AGI,甚至AGI是否可以被创建进行激烈的争论。
开发AI和AGI一直是计算行业的伟大梦想。几十年来,问题在于计算机何时在计算之外其他方面的表现能够优于人类。现在,随着机器学习和大量计算能力的出现,复杂的人工智能已经成为现实,而且它们会快速迭代升级。
我回想起个人计算革命的早期,当时的软件行业圈子极小,包括我在内的大多数从业者加在一起才将将凑满一场会议的演讲台。而现如今,这是一个全球性的产业。由于行业中很大一部分人现在正把注意力转向人工智能,创新将比我们在微处理器突破后经历的要快得多。再过不久,前人工智能时代似乎就会像在命令提示符(C:>)下输入命令而不是在屏幕上点击操作计算机的日子一样遥远。
尽管人类在许多方面仍然强于GPT,但有很多工作并不怎么需要使用这些能力。例如,销售行业人员(数字或电话)、服务业人员或文件处理人员(如应付款账、会计或保险索赔纠纷)所做的许多工作都需要决策,但不需要持续学习的能力。公司有针对这些活动的培训计划,在大多数情况下,他们手中有很多或好或坏的工作实例。人类使用这些数据集进行训练,很快这些数据集也将被用于训练人工智能,使人们能够更有效地完成这项工作。
随着计算能力变得愈发廉价,GPT表达想法的能力将越来越像你身边的一个白领,帮助你完成各项任务。微软将其描述为拥有一个副驾驶。若其完全集成融入Office等产品之中,人工智能将增强你的工作能力——比如帮助写电子邮件和管理收件箱。
最终,你控制计算机的主要方式将不再是指向、点击或敲击菜单和对话框。而是可以用简单的英语编写一个请求。(不仅仅是英语——人工智能将理解世界各地的语言。今年早些时候在印度,我会见了一些研发人员,他们正在开发能够理解当地多种语言的人工智能。)
此外,人工智能的进步将使创建个人代理成为可能。把它想象成一个数字私人助理:它会看到你最新的电子邮件,知道你参加的会议,阅读你读的内容,也会阅读你不想理会的东西。这既能提高你想做的任务的工作效率,又能让你从不想做的任务中解脱出来。
Advances in AI will enable the creation of a personal agent.
人工智能的进步将使创建个人代理成为可能。
你将能够使用自然语言让这个代理帮助你安排日程、通信和电子商务,而且它将在你的所有设备上工作。由于训练模型和运行计算成本高昂,创建个人代理尚不可行,但考虑到最近人工智能的进步,这现在是一个现实的目标。一些问题还亟待解决:例如,保险公司是否可以在未经你允许的情况下向你的代理询问有关你的事情?如果是这样,有多少人会选择不使用它?
公司级代理将以新的方式赋予员工权力。一个了解特定公司的代理可以为员工提供直接咨询,并且应该参加每一次会议,以便它回答问题。如果它有一些见解,你可以让它保持沉默,或是鼓励它表达出来。它需要获得接触与公司有关的销售、支持、财务、产品时间表和文本的权限。它应该阅读与该公司所处行业相关的新闻。我相信这样做的结果会提高员工的生产力。
生产力提高后,社会也会受益,因为人们可以腾出时间来做其他事情,无论是在工作中,还是在家庭里。当然,人们究竟需要何种形式的支持和再培训,这也存在着严重的问题。政府需要帮助工作者过渡到其他角色。但对帮助者角色工作人员的需求永远不会消失。人工智能的兴起将解放人们去做那些软件永远做不到的事情——例如教学、照顾病人和赡养老人。
全球健康和教育是两个具有巨大需求的领域,但却没有足够的工作者来满足这些需求。如果人工智能有恰当的目标,就可以助力这些领域减少不平等现象。这些应该是人工智能工作的一个重点,所以我现在要谈谈这些问题。
我认为人工智能将在以下几个方面改善卫生保健和医疗领域。
首先,人工智能将帮助卫生保健工作者充分利用时间,为他们处理某些任务——比如提交保险索赔,处理文书工作,以及起草医生的查房记录。我相信在这个领域会有很多创新。
其他由人工智能驱动的改进将对贫困国家尤为重要,因为绝大多数5岁以下儿童的死亡发生在这些国家。
例如,这些国家的许多人从未看过医生,而人工智能将帮助他们身边的卫生工作者提高工作效率。(开发人工智能驱动的超声波机的工作是一个很好的例子,这种机器只需最低限度的训练就能投入使用。)人工智能甚至可以让患者自己进行基本的病情鉴定,获得处理健康问题的建议,并决定他们是否需要寻求治疗。
在贫困国家使用的人工智能模型将需要针对与富裕国家不同的疾病进行训练。它们需要用不同的语言工作,并考虑到不同的挑战,比如住得离诊所很远的病人,或为了养家糊口,即使生病也不能停止工作的病人。
人们需要证据来证明卫生领域的人工智能总体上是有益的,尽管它们并不完美,也会犯错误。人工智能必须经过非常仔细的测试和适当的监管,这意味着其需要比其他领域更长的时间才能投入使用。但话说回来,人类也会犯错。无法获得医疗服务也是一个问题。
除了帮助护理,人工智能还将大大加快医学突破的速度。生物学的数据量非常庞大,人类很难掌握复杂生物系统工作的全部方式。现已有软件可以查看这些数据,推断出其路径,搜索病原体上的目标,并依据此来设计药物。一些公司正在用这种方法开发抗癌药物。
下一代的工具将更加高效,它们将能够预测副作用并计算出剂量水平。盖茨基金会在人工智能方面的优先事项之一是确保这些工具被用于解决影响世界上最贫困人口的健康问题,包括艾滋病、结核病和疟疾。
同样,政府和慈善机构应该制定激励措施,鼓励企业分享人工智能对贫困国家人民饲养作物或牲畜方法的建议。人工智能可以根据当地条件,帮助开发更好的种子;根据当地的土壤和天气,为农民提供最好的选种建议;并帮助开发用于牲畜的药物和疫苗。随着极端天气和气候变化给低收入国家的自给农民带来更大的压力,这些进步将变得更加重要。
计算机对教育的影响并没有像我们许多业内人士所希望的那样。有一些良性发展,包括教育游戏和像维基百科这样的在线信息来源,但其并没有对衡量学生成绩的任何方法产生有意义的影响。
但我认为,在未来5到10年内,人工智能驱动的软件将最终实现改革人们教学和学习方式的承诺。它会了解你的兴趣和学习风格,从而为你量身定制内容,保持你的参与度。它会衡量你的理解能力,注意你何时失去兴趣,并了解你倾向于哪种激励方式。它会给出即时反馈。
人工智能可以在很多方面帮助教师和管理者,包括评估学生对某一学科的理解,并就职业规划提供建议。教师已经在使用ChatGPT这样的工具来生成学生写作作业的评语。
当然,人工智能还需要大量的培训和进一步的发展,才能理解某个学生学习的最佳方式或其学习的驱动因素。即使技术完善了,学习仍将取决于师生之间的良好关系。它将助力——但永远不会取代——学生和老师在课堂上共同完成的工作。
新型工具将被创造,提供给有能力购买的学校,但我们需要确保这些工具也会被创建并提供给美国和全球的低收入学校使用。人工智能将需要在不同的数据集上进行训练,确保他们不含偏见,并适合它们将被使用的不同文化环境。数字鸿沟将需要弥合,这样低收入家庭的学生才不会掉队。
我知道很多老师都担心学生用GPT来写论文。教育家们已经在讨论如何适应这种新技术,我猜这种讨论还会持续相当长的一段时间。我听说有些老师找到了将技术融入学业的巧妙方法,比如允许学生使用GPT来创建个性化的初稿。
你可能已经了解到关于目前人工智能模型的问题。例如,它们不一定善于理解人类请求的背景,这导致了一些奇怪的结果。当你要求人工智能编造一些虚构的东西,它可以做得很好。但是当你询问关于你想要的旅行的建议时,它可能会建议一些不存在的酒店。这是因为人工智能没有很好地理解你的请求的前后逻辑,不知道它是应该编造假酒店还是只告诉你有房间的真实存在的酒店。
还有其他问题,比如人工智能在数学问题上给出错误答案,因为它们难以进行抽象推理。但这些都不是人工智能的根本局限性。开发人员正在努力解决这些问题,我认为我们将在不到两年的时间里看到这些问题得到很大程度的改善,甚至可能更快。
其他的担忧不仅仅是技术上的。例如,由人工智能武装的人类会构成威胁。像大多数发明一样,人工智能可以用于良好的目的或恶意的目的。政府需要与私营部门合作,设法限制风险。
人工智能也有可能会失去控制。一台机器会不会认为人类是一种威胁,得出结论认为它的利益与我们不同,或者干脆不再关心我们?有可能,但这个问题在今天并不比过去几个月人工智能发展之前更紧急。
具备超常智慧的人工智能就在我们的未来。与计算机相比,我们的大脑以蜗牛的速度运作:大脑中电信号的移动速度是硅芯片中信号的1/100,000!一旦开发人员能够泛化算法并以计算机的速度运行它——这可能需要十年或一个世纪的时间——我们将拥有令人难以置信的强大的通用人工智能。它将能做人类大脑所能做的一切,但对其内存大小或运行速度没有任何实际限制。这将是一场意义深远的变革。
这些强人工智能也许强大到能够确立自己的目标。这些目标是什么?如果它们与人类的利益相冲突,会发生什么?我们是否应该阻止强人工智能的发展?随着时间的推移,这些问题将变得更加紧迫。
但过去几个月的任何突破都没有让我们向强人工智能迈出实质性的一步。人工智能仍然不能控制物理世界,也不能建立自己的目标。《纽约时报》最近刊登了一篇关于ChatGPT的对话的文章,其中ChatGPT宣布它想变成一个人,这引起了广泛关注。这是一个很吸引人的观点,即模型的情感表达可以多么像人类,但这并不是其独立思考的有意义指标。
有三本书塑造了我自己对这个问题的思考:尼克•波斯特洛姆的《超级智能》;迈克斯·泰格马克的《生命3.0》;以及杰夫·霍金斯的《千脑智能》。我并不完全赞同作者的观点,作者们彼此之间的看法也不尽相同。但这三本书都写得很好,发人深省。
从事人工智能新用途以及改进技术本身的方法的公司将大量涌现。例如,一些公司正在开发新的芯片,为人工智能提供所需的大量处理能力。有些使用光学开关(本质上是激光)来减少能源消耗和降低制造成本。理想情况下,创新芯片将允许你在自己的设备上运行人工智能,而不是像现在这样在云端运行。
在软件方面,驱动人工智能学习的算法将变得更好。在某些领域,例如销售,开发者可以通过限制人工智能工作的领域,并给它们提供大量特定于这些领域的训练数据,使人工智能变得非常准确。但一个悬而未决的大问题是,我们是否需要许多这种专门的人工智能用于不同的用途——比如一个用于教育,另一个用于办公室生产力——或者是否有可能开发出一种可以学习任何任务的通用人工智能。这两种方法都将面临巨大的竞争。
无论怎样,在可预见的未来,人工智能的主题将主导公众的讨论。我想提议三个原则来引导这场对话。
首先,我们应该努力平衡对人工智能弊端的担忧以及它改善人们生活的能力——这些担忧是可以理解的,也是合理的。为了充分利用这项非凡的新技术,我们既需要防范风险,又需要让尽可能多的人受益。
其次,市场力量不会自然地产生帮助最贫困人口的人工智能产品和服务。相反的可能性更大。有了可靠的资金和正确的政策,政府和慈善机构可以确保人工智能被用于减少不平等。正如世界需要最富有智慧的人专注于最大的问题一样,我们将需要把世界上最好的人工智能专注于其最大的问题。
虽然我们不应该等待这种情况发生,但试想一下人工智能是否会识别不公平并试图减少不公平是很有趣的。你是否需要有道德感才能看到不公平,或者一个纯粹理性的人工智能也会看到它?如果它确实看到了不公平,它会建议我们怎么做呢?
最后,我们应该记住,我们只是处在人工智能潜力开发的开始阶段。无论它今天有什么限制,很快就会得到解决,甚至在我们察觉之前。
我很幸运地参与了个人电脑革命和互联网革命。我对这一时刻同样感到兴奋。这项新技术可以帮助世界各地的人们改善生活。同时,世界需要建立规则,让人工智能的好处远远超过它的任何缺点,无论人们身处何方或贫富与否,让每个人都能享受这些好处。人工智能时代充满了机遇和责任。