查看原文
其他

再观察|GPT-4“叠葫芦娃”的“小把戏”背后的AI业界大佬"笼中斗"现象;Sam该不该删除那条“夏天来了”的推

ai汤源 AI范儿 2023-09-14


图|汤源/BingImage

文|汤源/BingChat

A profile picture of George Holz created by BingImage

题记

慢思考|GPT4紧捂着的战壕雨衣,掀开后原来是“葫芦娃一家子”;AI²Paradigm四范式之“炼丹”首谈|文末极度烧脑,慎入!
👆昨天这篇关于GPT-4的万亿参数扩展“小把戏”的「慢思考」,堆了不少料,又垒到了万字以上,虽然prompt点非常多,真读下去绝对有所得,但确实有认真读完的群友prompt我说:认真读了,大部份之前也看过,能总结到一起很厉害,昨天这事很轰动;转而指出:不过这个阅读门槛太高了,不是知道发生了啥的人看5分钟都不知道讲的什么。
这,这个真是“一针见血”,笔者作为AI范儿CPO(Chief Prompt Officer),负责引导社区交互prompt风格,引导和推动社群的活跃度,让群友之间的prompt更有趣、更有深度;同时必须是个深度思考者,AI的范式变革与未来有独到的有价值的见解。
但落笔到公众号文章实在是无奈之举,主要期望借这种传播形式链接更多关注AI这波狂潮的大佬群友;一路写来,基本就是一个与群友prompt共创的过程记录,所以文章本身并没有刻意照顾到玩流量常见的内容写作技巧,attention不在于此的群友,确实会get不到prompt点
不过AI范儿公众号上有很多我之前研究GPT现象的文章可以慢慢读起来,一步步建立自己的理解如同训练自己的大脑神经网络(BNN),另外我感觉prompt这种交互方式可能在研究智能现象方面可以事半功倍。(内容导读详见公众号文章后半部分:啥?“炼丹”、“挖矿”、“蒸馏”,还有”智能体“?-「AI范儿」一文厘清大模型范式创业投资与应用万象:AI²Paradigm
好,借机啰嗦了几句;闲话少说,言归正传。

GPT-4的小把戏背后-AI大佬间的笼中斗

话说George Holz的访谈中的爆料,把可能在硅谷“炼丹”小圈子里的小秘密,大声地向整个北美甚至中国大陆的“炼丹界”传播发酵...

“George:GPT4的战壕雨衣下遮掩的不过是8个GPT-3.5”
经过前两日的快思考慢思考文章,笔者今日在群友的prompt之下,又想起了6/22看到的一则推文:
Elon Musk翻出了Sam Altman 5/13差不多一个多月前的推文-summer is coming,跟了一句:Keep Summer safe。
加上之前在AI以及OpenAI这件事上,Elon和Sam之间的扯不清理还乱的恩恩怨怨,又狠狠地挑拨了一下我脑中有关这一系列记忆的神经元突触-Struggling...

个中意味,也许只有当事人才能咂得出来吧......不过,剖析硅谷AI大佬们的恩恩怨怨,循迹而行,也是AI范儿社区快速在这波AI狂潮现象中找到方向的重要一环。

▩“笼中斗”之 - 开源社区(含Musk) vs 闭源Altman

“David@linkventures主持的Forbes&MIT专访 2023/04/13”
今天早上,另有推友翻出Sam在今年4/13 Forbes&MIT的远程访谈片段。在主持人David说到搞“炼丹”(大语言模型预训练)需要可能50M甚至100M投资的时候,Sam打断了他说:more than that(笔者注:当然在面对印度AI投资人士就直抒心意说劝你们别玩大模型,没戏!'hopless';详见当前AI²投资创业范式思考-Altman劝印度别玩大模型:没戏!Zuckerberg玩元宇宙搞LLaMA无处不在:继续!),并拒绝说出具体投资量级,过了一会再次抢断话题:可能会出现新范式淘汰现有的既艰难又昂贵的笨办法,而使得OpenAI处于一个不太妙的位置。

Sambeing incredibly dumb, and we're missing one big idea, and all of this is not as hard or expensive as we think; and there will be a totally new paradigm that obsoletes us, which would be great;  and not great for us but like great for the world!

Sam也许或者说,我们都显得非常笨,错过了某个大好想法,所有这些并不像我们想象的那么难、那么昂贵,而是有一个全新的范式会将我们淘汰,这将是伟大的;对我们来说不是伟大的,而对这个世界来说是伟大的!


△附:SAM在远程访谈中说可能会有新范式淘汰OpenAI处于一个不太妙的位置

笔者揣度 :可以说Sam Altman是Elon Musk退出后,商业化闭源OpenAI LP的主要推手以及OpenAI最终的实际控制人。从当初AI科学家和工程师们工资都发不齐,到拿到微软投资,搞出GPT-3,急需商业化变现模式的探索-匆匆推出ChatGPT;Sam是直面商业化变现模式压力最大的那个CEO,同时不持有LP的一毛股份,但是却紧握LP 100倍Cap收益之后的OpenAI主要控制权。如果现有的自回归LLM不能最终走向AGI甚至ASI,对于Sam来说,基本是白忙活一场(当然不是钱的问题)?GPT-4最终选择了“叠葫芦娃”的小把戏(little trick),看起来是多方因素权衡后的选择。

当然社区的看法就是另外一回事了,GPT-4的万亿参数扩展(trillion parameters scaling)秘密揭开后,所谓“炼丹”界苦奥特曼(Altman)久矣”,一时间大家长舒一口气,一方面不忙着攒GPU垒参数了;另一方面极尽嘲讽。

George Holz 在访谈爆料中就说OpenAI使用这种伎俩是为了夸大GPT-4的规模,制造更多的炒作,而这并不是人工智能研究的真正突破。

推友JJ 翻出2个月前的Sam访谈视频说事:这(新AI范式)应该是我们人工智能加速的主要焦点——而不是盲目崇拜Transformer(笔者注:一语双关,即指GPT用的transformer架构技术,也可指人们之前把Sam比作电影中变形金刚)。


包括前面提到的Elon第一时间翻出Sam 一个多月前的推文,说的Keep Summer Safe,意味深长啊。
当然AI开源与闭源之间的“笼中斗”,并不仅限于上面提到的这几方,其中资本的搅局加持,更是使得这波AI狂潮令人眼花缭乱:
比如AI范儿曾经解读过的硅谷AI创投第三极的DG&Nat组合(新范式创投秘笈解读-引领硅谷开源大模型创投范式“第3极” -「AI²Paradigm」:暨DG&Nat专访-有关AI民主化);
以及曾经Slogan为Software is eating the World的硅谷创投巨鳄a16z,面对models anywhere狂潮,在Models are eating Software的趋势当下,最近也迫不得已从web3的泥潭里拔身,频频与DG&Nat合作投资新项目。(a16z创投模式有待进一步解读:可先参考AI范儿转译文章-为什么人工智能将拯救世界,作者为a16z联合创始人Marc Lowell Andreessen)
▩“笼中斗”之 - Elon Musk(Twitter) vs Mark Zuckerberg(Threads)
再来看看这几天在推上吵的热火朝天的Elon Musk和Mark Zuckerberg的“笼中斗”(Cage fight)。
▩@MarioNawfal

▩挑起笼中斗的事主更新马斯克对扎克伯格的笼中斗:我是如何意外造成的


两天前,我在推特上发布了META准备中的的推特竞对App,名为“Threads”。

推文中先借机讽刺了Meta几句,然后提到了他们的首席产品官(CPO),说他们“听到了对拥有一个理智(sane)运行的平台感兴趣的创作者和公众人物的意见”。(笔者注:某种意义上meta的CPO认为twitter在Elon接手后的一系列不够sane的操作引起了推友的意见)

Elon看到了这条推文,并立即有点嬉皮笑脸地回应说:“我相信地球迫不及待地想完全在Zuck的拇指下(笔者注:指facebook的有名蓝色),没有其他选择。至少它会是“理智的(sane)”。在那里担心了一会儿😅。” 

一位推特用户回应了Elon的评论,说:“最好小心点,@elonmusk。我听说他[扎克伯格]现在在练柔术 (jujitsu),”埃隆回答说,“如果真是这样的话,我会去约他来一场笼中赛(cage match),哈哈。”

仿佛Elon的这个挑衅还不够,Zuckerberg通过他的Instagram回应了Elon的挑战,他说“给我发送位置”,引用了MMA拳击手Khabib在呼唤Conor McGregor时的名言。

我们现在有关于可能的比赛的更多信息:

- 地点:拉斯维加斯

-它将以八角形角斗台(UFC风格)进行战斗

- 潜在裁判:Joe Rogan(笔者注:就是那个在访谈中和Elon抽大麻的播客主)

- 安德鲁·泰特主动提出训练埃隆为战斗做准备。

- UFC主席达娜·怀特声称他与埃隆和扎克伯格都谈过,两人都“非常严肃”

虽然Zuckerberg有柔术和MMA的经验,但不可否认,Elon比Zuck有身体上的优势。

你怎么看:埃隆·马斯克对马克·扎克伯格,谁能赢这场笼中斗?[呲牙]


△附:专门在推上挑事的@MarioNawfal对于“引起”MuskvsZack“笼中斗的经过描述

当然专门在推上挑事为职业的@MarioNawfal,最近很忙:真是什么热闹跟进什么!他的时间线上热点交织,包括泰坦尼克号潜水器的失事,以及这两天快速发展的俄乌战争中的瓦格纳雇佣军的军变等等。

包括油管大V,也多次采访过当事人Musk和Zack的@lexfridman,也来凑热闹说:扎克和埃隆之间的柔术比赛绝对会是这次模拟(笔者注:Lex对于这波AGI狂潮深深着迷,多次在访谈节目中表示他怀疑人类是生活在一个3D模拟世界中)中一个有趣的情节转折。我完全支持。

这场“笼中斗”的缘起是否真是碰巧引起Elon注意,以及今天又听说Elon的妈妈-Maye Musk发推要劝他们取消笼中斗。
但是这一切的背后“究竟是人性的扭曲?还是道德的沦丧?今晚八点让我们一起走近科学!“,喔,不,走进推特大世界,看看就在前几日,在巴黎晴空下的铁塔为背景,Elon和他妈妈与奢饰品巨鳄LVMH一家子的合影:

笔者猜想 :也许,过几天,Maye Musk来推特搞个LV直播带货,我也不会奇怪......
但这一切又和硅谷AI大佬之前的争斗何关?在撰写本文的这一瞬间,笔者经过这一段时间AI范儿社区prompt交互强化训练过的神经元突触,试图在接下来几个现象记忆片段中建立某种联系,作为对本文读者的prompt:
Elon在6/10曾经发推说,向推特的内容创作者发放第一笔广告分成:5百万刀。笔者当时也曾发了一个朋友圈,感叹说:
Elon私有化后的Twitter价值导向有了很大改观,由一个略显无聊的广告媒体平台,逐渐变成了一个知识流平台,令人不得不刮目相看,现在注意力变现模式也升级了,逐渐变成了一个知识流的价值交换平台。

有关Elon成立的x.ai,购买1万片H100做顶级炼丹炉,推特和Tesla之间的关系,AI范儿曾编译一篇知名推友的解读文章,请参考:
埃隆·马斯克分享X.ai 、推特、特斯拉之间的关系及解读
笔者揣度 :Elon的第一性原则思考力一直令人印象深刻。卖Tesla股票、花近500亿美金收购twitter并私有化,一定有着其内在深层逻辑。在上面推友的文章里也有推测。整体来讲,Elon当年退出开源的OpenAI,并没有参与OpenAI LP的融资,自然有着当年Tesla火烧眉毛的困境所迫的因素;但ChatGPT与GPT-4今天的成功,Elon虽然一直酸中带刺看着Sam和微软,但显然并没有放弃在AGI上的努力:
除了自家Optimus具身机器人已经上街学习(注:请参见公众号文章:隔夜AGI现象-Tesla机器人上街与凹凸曼直面参议院),同时正在努力改造twitter成为一个知识流价值交换平台,作为未来自家AR-LLM路径的通用人工智能平台的一部分。
而另一边,Meta据说在Elon收购Twitter3个月后即启动了内部代号为Project-92的项目,准备将Instagram的用户导入自己家的知识流平台,作为Twitter未来发展的强有力对手。小扎大概看到twitter在Elon收购并私有化后的变化,加速了动作,据说新App已经在紧锣密鼓的开发,连App名称也已经确定:Threads。
Elon自然不敢小觑,加上Meta有着强大的AI研发能力加持;但既然Zuck竟然要在自家重金布局的AI原力场上动手,无异于“太岁头上动土”啊!
所以,有意无意借推上职业搞事的@MarioNawfal,从暗地里的线上平台争斗(Twitter vs Threads),到大庭广众之下来一场线下的“笼中斗”,也符合Elon的个人一贯风格。
让我们拭目以待!

AI大佬间的笼中斗的BingChat解读
Sam该不该删除推文:summer is coming

话说本文开头的Elon怼Sam那句推文:Keep Summer Safe,本文写到这里还在我脑海里纠结不已。因为缺乏相关上下文,还没有理出个头绪,按AR-LLM的说法(注:来自Andrej的State of GPT演讲):
Those GPTs need more tokens to think!
对呀,tokens,我何不问问GPT?
正好也有群友prompt说,George爆料后,Sam应该删掉那条“Summer is Coming”的推文了吧?But Why?
就着这个问题,我先问了问GPT-4(没用插件),告诉我说还不能查21年后的线上信息,无法回答;接着Claude+,同样无法回答,但Claude+很坏,prompt了一个问题:Do you know why Sam Altman tweeted "Summer is Coming" in the first place?。
啊哈,还有BingChat啊,据说也是类似“叠葫芦娃”的GPT-4模式,万亿参数“小把戏”驱动的。于是有了以下对话截图:(注:为了照顾群友一直抱怨的我的文章长度,所以对话不再翻译,附于后供群友参考)
先问当时为啥Sam Altman要发那条“summer is coming“的推:

接着我假设Sam删推是因为叠“葫芦娃”的小把戏被揭穿,做了追问:

然后,BingChat也不是省油的灯,又prompt我追问:

看来BingChat觉得Sam应该删掉那条推!

BingChat也很实诚,对齐得不错,觉得George应该注意自己的语调不要那么刻薄。


BingChat感觉又是对齐后的套话。

BingChat在这个问题上挺了一把meta的Yann LeCun的world model。

BingChat看来不太喜欢不循规蹈矩的有黑客反派精神的Holz。😄

BingChat顺便解释了一下还有哪些通往AGI的路径。还附了一张图如下:

全文完。


参考


-相关推文

-BingChat


END


扫码加群,

立变AI🍚!


AI范儿读者群


👇关注、标星哦~


那些prompt了我的,

是否也prompt了你...


您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存