查看原文
其他

一个挥之不去的有趣想法:也许神经网络里的参数和Prompt 本质是一个东西

文兄赞一个 MindCode 2024-04-14

最近,无论怎么想,始终有一个想法,挥之不去:Prompt 和 神经网络里的参数,也许本质是一个东西,唯一的问题,则是内存。

是的,我知道这个想法,在描述上就有它的问题。也许它只是我某种“大统一偏好”影响下的臆测。

但直觉上,我总觉得这个想法很有意思。因为顺着这个思路去想,有的现象会得到解释,而有些东西能得到统一和化约。

更进一步的:甚至 训练数据、神经网络参数、Prompt,这三者本质都是一个东西,而联系这三者的桥梁,是能量——能量是我在很多篇文章里反复强调需要关注的点。

是否相关的Paper已经研究过这个想法?我还没抽空去找(应该有吧)。如果你知道,欢迎告诉我。同时,我也认为这是一个非常值得研究的课题,有条件的读者可以去研究下。

目前我自己的知识储备,还不够研究它,希望今年接下来有机会补齐一些关键知识,做更进一步的思考。

关于这个想法,没有更进一步的内容了,抱歉有些虎头蛇尾,很欢迎你在评论区交流。


文君是谁?
科技领域连续创业者,中美两家AI公司的GPT战略顾问,原阿里巴巴早期移动端核心产品负责人,CEO心智与战略教练。未来一段时间,也许你关注的某个重要AI产品,或某些个备受关注的项目融资,背后就有他身影。

MindCode是什么?
一个很小众的公众号。日常发短篇,偶尔有深度长文。关注五个主题:AI、脑科学、心理学、创业、个人成长。由于在几个关联领域有深入思考,吸引的关注者中不乏顶级牛人,比如xxx和xx。

AI时代,读他人之未读对你很重要。关注并发送“1”可加讨论小群。



继续滑动看下一个
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存