查看原文
其他

GPT-3 已到来,程序员会被 AI 取代吗?

Frederik Bussler 中生代架构 2021-09-05

点击▲关注 “中生代架构”   给公众号标星置顶

更多精彩技术内容 第一时间直达


最近,量子位一篇文章《烧了微软10000张GPU,这伙人铁了心要砸大家的饭碗》刷屏了,讲述了一个魔鬼终结者里的“天网”雏形已经问世,

OpenAI的GPT-3,原来只能用来生成文字,一周之内被脑洞大开的程序员们开发出了30多种功能:数据库工程师、会计、运维、智能客服……不仅仅是程序员,现在,它已经成为一名“真·全栈工程师”,已经俨然一副取代人类的架势。


深度学习之父、图灵奖得主Hinton看得更远,他认为GPT-3的未来不仅仅是取代人类,而是更遥远的星辰大海,也许用它就能破解宇宙终极秘密。


从GPT-3惊人的性能可以推测:生命、宇宙和万物的答案,只是4.398万亿个参数而已。

作者 | Frederik Bussler
译者 | 弯月,责编 | 屠敏
头图 | CSDN 下载自东方 IC
出品 | CSDN(ID:CSDNnews)

以下为译文:

2017年的时候,曾有研究人员问:到2040年人工智能是否承担起大多数的编程工作?如今OpenAI的GPT-3已进入Beta测试阶段,它能够使用任何语言进行编程。机器主导编程领域已近在咫尺。

GPT-3经过了整个互联网数千亿个单词的训练,它能够使用CSS、JSX、Python等任何一种语言编程。

此外,GPT-3无需针对各种语言任务进行“训练”,因为它的训练数据包罗万象。只需要给出一些非常简单的指示,该网络就能专注于当前的语言任务。


01

GPT-n的发展史

 

GPT结合了监督学习与无监督的预训练(即将无监督训练的参数作为监督训练的起点),在语言任务方面达到了最先进的水平。与后续产品相比,GPT很小。它仅在几千本书和一台8 GPU机器上进行了训练。

GPT-2的规模扩大了许多,包含的参数是GPT的10倍,使用的训练数据也超过了10倍。尽管如此,这个数据集还是相对有限,并且它的训练专门针对的任务是:“来自Reddit且威望值至少为3的链接”。GPT-2被称为“变色龙一样”的合成文本生成器,但对于问答、总结或翻译之类的下游任务,它并不是最先进的技术。

GPT-3是AI世界最新、最强大的工具,它在一系列任务中都达到了最先进的水平。它的主要突破是不再需要针对特定任务进行微调。在规模方面,这个模型再次大幅扩展,达到了1,750亿个参数,是其前身的116倍。

虽然GPT-3完全不需要训练(这是一个零样本学习的例子),但经过一次或几次学习后,原本就已出类拔萃的性能会更加登峰造极。


02

不进则退

 

目前的形式是:具备了基本知识的Beta测试人员正在使用GPT-3来生成有效的代码。从按钮到数据表,甚至可以重新创造Google主页。这些示例都是通过零样本学习完成的。

除了AI的飞速发展外,还有另外两个主要的技术趋势会让程序员倍感不安:无代码编程和AutoML。

无代码编程指的是一种可视化工具,任何人都可以通过这种可视化工具轻松地构建新产品,无论是网站、设计、数据分析还是模型都没问题。WordPress、Wix和Shopify都是无代码工具的典范,数以百万计的人利用这些工具完成了自己的开发,而不必雇用开发人员或设计师。

第二个趋势是AutoML,即自动机器学习,它大大缩短了AI投入生产的时间。 

Apteo等工具结合了这些趋势,即便是没有任何编程技术的人都可以通过这些工具部署AI模型。

GPT-3将再一次掀起无代码编程和AutoML工具的热潮。许多雇主可能会用这些工具来取代昂贵的程序员。

当然,技术水平最差的程序员将首当其冲,而专家的工作则会持续得更长一些,任何领域都一样。


03

不仅仅是代码,GPT-3可应用到任何语言任务

 

如果想将GPT-3应用到特定的语言任务,你只需提供一个希望实现的示例。因此,你不仅可以指导GPT-3编写代码,而且还可以指导它编写诗歌、音乐、社交媒体评论或任何其他文本。

例如,如果你想编写一篇新闻文章,则只需输入标题或副标题即可。

就像人类一样,只需一个例子就可以教会GPT-3一个新单词。例如,提供以下示例:

“Burringo”是一款加速非常快的汽车。下面请用Burringo造句:____________

GPT-3的输出为:

我们家的车库里有一辆Burringo,父亲每天开着它去上班。

这个结果令人震惊。人工智能的发展势不可挡,任何针对当前性能的批评都将烟消云散。


04

除了语言任务以外,GPT还可应用于图像

 

GPT可以编写代码,可以编写任何东西,而且它还可以生成图像。

这怎么可能?

同一个模型体系结构不仅可以用于处理文本,还可在像素序上进行训练,从而生成新的图像。实际上,GPT的表现出人意料,甚至可与顶级的CNN媲美。

我之所以提及这一点,是因为这表明了GPT(及其后续产品)不仅具有取代程序员的潜力,而且鉴于其通用性,还可以取代所有行业。


05

总结

 

GPT-3令人惊叹的性能已让许多人相信,超级人工智能近在咫尺,人工智能编写程序的日子比我们想像得还要近。这款模型具有丰富的创造力,能够创建有见地、深刻乃至美丽的内容。

对此,你怎么看?

原文:https://towardsdatascience.com/will-gpt-3-kill-coding-630e4518c04d

本文为 CSDN 翻译,转载请注明来源出处。


参考链接:
https://blogs.microsoft.com/ai/openai-azure-supercomputer/
https://jalammar.github.io/how-gpt3-works-visualizations-animations/
https://www.reddit.com/r/MachineLearning/comments/hymqof/d_gpt3_and_a_typology_of_hype_by_delip_rao/
https://www.datanami.com/2020/07/21/openais-gpt-3-language-generator-is-impressive-but-dont-hold-your-breath-for-skynet/

GPT-3应用案例:
https://gpt3examples.com/

GPT-3沙箱:
https://github.com/shreyashankar/gpt3-sandbox

OpenAI API开发者工具包:
https://www.notion.so/API-Developer-Toolkit-49595ed6ffcd413e93ebff10d7e70fe7



更多精彩推荐





 
据说宝马 X5 软件代码 3 亿行,特斯拉仅 1 千万,那奔驰多少行代码?



 
聊一聊我身边的一个程序员,是如何草根逆袭,实现财富自由的?



 
聊聊程序员的鄙视链



 
马斯克:AI会超越人类,不相信的人都是傻缺!马云:有被冒犯到


点分享点点赞点在看
: . Video Mini Program Like ,轻点两下取消赞 Wow ,轻点两下取消在看

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存