张无常

其他

如何成为初代 AGI 产品经理?

2023上对开发者表达的意思。当然,产品经理学习技术原理,不是为了真的和大模型博士们去搞大模型研发,而是为了更好理解LLM,知己知彼,不求百战不败,只求一胜,为了最终开发出一个好用的大模型应用。曾在
2023年10月6日
其他

【全文翻译】微软166页论文解读 GPT-4V:多模态大模型的黎明

prompting”的新型模型交互方法。核心思想是直接编辑图像像素空间以绘制视觉指针或场景文本作为人类的指示指令,如图50中所示。我们将在第5.2节中详细介绍其用途和优势。最后,第5.3节探讨了让
2023年10月4日
其他

AI 龙虎榜:国内Top 100和出海Top 20应用(2023年08月)

阅读原文”。本公众号对转载、分享的内容、陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完善性提供任何明示或暗示的保证,仅供读者参考,本公众平台将不承担任何责任。鸣谢
2023年9月26日
其他

无常的大模型世界观_2023年9月

Al训练集群,微软英伟达领投https://web.okjike.com/originalPost/649e2e5630ec9c2fa6b379a3六、学习材料1、大语言模型产品&系统应该怎么做
2023年9月24日
其他

为什么欧盟是AI监管最严的地区?

不知道有没有人和我有一样的疑问,从移动互联网时代到生成式AI,欧盟一直是监管最严的地区,向来杀伐果断、雷厉风行,宁可杀错不可放过——为什么?比如,过去欧盟基于GDPR(《通用数据保护条例》)等监管政策,在数据隐私和反垄断监管上动作频频,对亚马逊、Meta和谷歌有过天价罚款,单次最高罚款达12亿欧元。这波生成式AI监管,欧盟也是走在全球前列:欧盟议会6月18日宣布,《人工智能法案》进入最终讨论阶段,预计23年年底达成协议,这将是世界上首个综合性AI法律——此时距离OpenAl推出ChatGPT仅仅半年。作为革命性的新技术,AI要监管,基本上是全球共识,而且全球对Al监管的底层逻辑也基本一致:一方面要治理Al的危害,另一方面又要支持本国AI发展。但偏偏只有欧盟,似乎总是更倾向天平上治理危害的一边,甚至不惜限制自身AI的发展——背后的原因是什么?有一个重要原因是,欧洲发生过先进技术被国家机器滥用于监控民众的历史。「欧洲民众有过『警察国家』的经历,例如纳粹和东德的史塔西,这令他们强烈反对这些些技术。」这是欧洲智库布勒哲尔研究所(Bruegel)高级研究员马科斯(J.ScottMarcus)的解读。布勒哲尔研究所成立于2005年,是一个非营利性学术机构,也是欧盟唯一接受成员国资助的智库,致力于全球经济研究,旨在为欧盟经济政策制定提供一个基于事实研究、分析和讨论的开放平台。理解这段历史,对于理解欧洲民众为何总是下意识抵触新技术非常关键。马科斯说,「在欧洲,当新事物出现时,人们的第一反应往往是『我们需要监管』,几乎都是事后才会说『我们需要什么么样的监管』」。欧盟委员会的监管逻辑是:先识别出一个危害,然后寻找可能的方法来解决这个危害,然后将最有效的干预与不作任何改变对比,看哪边的成本收益更高。上面是群众基础,还有一个原因来自实际经济考量:大AI公司大多不是欧盟公司,因此监管者对保护创新创业的顾虑也较少。理解了上述原因,大概也能理解为什么奥特曼的世界巡游之旅会花最多时间在欧洲——和德国总理朔尔茨、法国总统马克龙、英国首相苏纳克等政要,以及包括伦敦大学、慕尼黑工业大学在内的高校多次沟通了。欧盟的监管有多严呢?有个例子可以侧面反映:一向以温文儒雅的形象示众的奥特曼,在欧洲甚至被逼急了,扬言如果过度监管,就会撤出欧洲市场。欧盟哪吃这套,奥特曼也许发现没用,第二天冷静下来,改口「不会离开欧洲」。大棒没有用,还得递萝卜。其实,监管从严的问题,也不止是欧盟,美国也有,根据报道和我实际调研的情况看,虽然技术发展领先于中国,但美国从群众到监管机构,都对生成式AI更谨慎。我理解,在更大的意义上说,这也许就是发达国家的「路径依赖」吧:我们已经过得挺好了,为什么还要搞革命性技术颠覆现在的生活呢?什么?!还要让我失业?下地狱吧!当然,这也是其他国家有机会弯道超车的原因之一吧,所谓后发优势。那么,欧洲都是这样吗?也有例外:成功脱欧的英国,今年已经俨然成为最激进支持AI发展的欧洲国家:3月,英国发表人工智能白皮书,加大包括1亿英镑预算在内的投资,后来加码到10亿,支持半导体投资。——看得出来很努力了,但说实话,这点钱对大模型来收,杯水车薪:美国和欧盟的资金规模分别达到了500亿美元和430亿欧元。5月底,英国首相苏纳克会晤DeepMind、OpenAI等AI企业负责人,商讨监管框架。6月,苏纳克宣布,科技投资人和AI专家伊恩·霍加斯将领导英国人工智能基础模型任务组,以研究人工智能带来的安全风险。短短11周内,任务组就建立了一个由人工智能先驱(以Bengio为首)和国家安全领导者组成的专家咨询委员会,招募了顶级的人工智能研究人员,并开始与领先的技术组织进行合作。英国还计划在11月1日和2日举办有史以来的首个人工智能安全峰会,并邀请中国参加。有一个重要背景是,英国是多家全球重要研发机构的所在地,包括开发了AlphaGo和AlphaFold的DeepMind,其最近与Google
2023年9月23日
其他

一个产品经理的大模型观察、反思与预测

最近在字节内部做了一次大模型分享,主要从产品经理和战略的视角聊大模型。应粉丝要求,分享下文档(PPT),内容有点长,欢迎收藏阅读。另外,因为主要内容是现场讲,所以很多地方只放图、没有过多文字解释,如果你读完想找我深入聊聊,欢迎文末扫码入群或找我讨论,enjoy:一个产品经理的大模型观察、反思与预测1、LLM
2023年9月17日
其他

吴恩达2023年最新演讲:人工智能领域的新机遇

Engineering系列教程是入门prompt工程的必看视频。在这个讲座里,吴恩达一如他的教程视频那样,精炼高密度的做了一次关于AI的综述分享,推荐。完整视频之前已经分享在B站:【AI里的机遇
2023年9月16日
其他

我的剑,只传给能够挥舞它的人

分享三段话,有感于最近的遭遇。第一段来自投资人纳瓦尔:新人企业家的常见错误,就是认为结果是可预测的。如果我长期努力工作,就应该会得到某种成果。实际上,你的成果是不可预测的。你工作多么努力并不重要,重要的是你在做什么、与谁一起工作、以及在哪里工作。重要的不在于你的努力程度,而在于仔细选择工作、人员和项目。真正有效的工作方式,不是铁人三项或马拉松,比拼谁坚持的时间长,而是短跑,当机会来临的时候冲刺,平时注意健康和休息。你要像狮子一样,看到猎物一跃而起,而不要牛一样,从早到晚劳作。第二段是我今天的牢骚:被误解是表达者的宿命。面对傻逼——甚至包括好心办坏事的笨蛋——最好的方式是无视。收拾你的圣母心,千万不要企图纠正他们。因为一旦开口,无论对错,你便是和他们层次一样的傻逼。道一声你说的对,骂一句滚你丫的。第三段来自17世纪的英格兰作家约翰·班扬:My
2023年9月15日
其他

如何理解 c.ai 和 Pi 的用户需求(下)| 无常大模型产品笔记03

you.值得一提的是,在这个框架下,c.ai无疑更偏右上,它的特色就是单视角+强观点。所以实际上,c.ai更偏陪伴,而Pi更偏疗愈。右上角的困境:市场细分,众口难调无疑右上角是更有生命力的市场
2023年9月14日
其他

我的苹果发布会观察

我的苹果发布会观察(发布会+新闻稿),想到哪儿写到哪儿:1、发布会的细节相比看一图流,发布会比较有意思的是一些细节,比如苹果至少在2个段落里花了比较大的篇幅渲染Apple
2023年9月13日
其他

AI龙虎榜:全球5000+AI产品盘点(2023年8月)

阅读原文”。本公众号对转载、分享的内容、陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完善性提供任何明示或暗示的保证,仅供读者参考,本公众平台将不承担任何责任。鸣谢
2023年9月12日
其他

ChatGPT 8月最新数据:流量持续下降,产品经理应该怎么看?

SimilarWeb公布了一份ChatGPT的流量报告,披露了生成式AI头部应用的流量数据及分析,值得一看:1、ChatGPT仍然是全球访问量最大的网站之一,8月份吸引了14亿次全球访问量,作为对比,微软的Bing搜索引擎则为12亿次。根据Similarweb,openai.com流量全球排名第28位。chat.openai.com在11月底推出之前从零访问量开始,12月份达到了2.66亿访问量,接下来的一个月增长了131%,并在5月份达到了18亿次访问量。2、不过,5月份达到巅峰后,ChatGPT流量开始持续下降,直到8月份降速放缓,全球流量微降3%,美国流量上涨0.4%。SimilarWeb认为主要是因为美国学生放暑假(ChatGPT的绝大部分流量来自美国),损失了大量的学生用户。这也解释了为什么
2023年9月10日
其他

如何理解 c.ai 和 Pi 的用户需求(中)| 无常大模型产品笔记02

走的是「人以群分」的路线。这个模式在找人之余顺便把冷启话题也解决了,同时降低了「找人」+「表达」的成本,属于舍量取质。但是反过来看,后续的交流成本不高的场景,就成为了陌陌们的主阵地:如荷尔蒙交友
2023年9月7日
其他

如何理解 c.ai 和 Pi 的用户需求(上)| 无常大模型产品笔记01

即刻上有个段子:“p站人均访问时长也就10分钟,c.ai却有2个小时,你永远不知道二次元宅男在干什么”。段子归段子,有趣之外也折射出了一个普遍现象:有了replika和glow在前,大多数人似乎只要看到「虚拟人聊天」,就觉得只有「荷尔蒙/文爱」。恰逢最近Character.ai越来越火,一起看AI的人,十有八九也都在问我这个问题:c.ai这么火,满足的是什么需求啊?我聊两句就不想聊了,真的有人这么喜欢和虚拟人聊天吗?作为老二次元
2023年9月5日
其他

张无常2023年8月文章一览

2023年8月,《张无常》更新了27条推送,包含22篇文章(包含3篇转载/内容推荐)、5条短图文,具体篇目如下,标⭐️是我推荐的文章。这个月推送数历史新高了,大概率维持不住,随缘更吧。AGI/LLM⭐️字节首个大模型App体验:豆包什么馅,只有自己吃了才知道历史首次,OpenAI
2023年9月3日
其他

AGI 难在哪里?

有点标题党了,更合适的标题是:多模态大模型难在哪里?1、多模态大语言模型的能力看到一篇论文,《LVLM-eHub:大型视觉-语言模型的全面评估基准》,讨论多模态大模型主要能力:为了对多模态大模型的能力进行全面、系统的测评,来自上海
2023年9月1日
其他

6000字解读:当前大语言模型LLM研究的10大挑战

chats.”中很好地涵盖了这一点。例如,如果您想问关于您正在处理的图表中的某一列的问题,您应该能够只需指向那一列并提问。④消息编辑和删除用户输入的编辑或删除会如何改变与聊天机器人的对话流程?10.
2023年8月30日
其他

宁愿精彩而短暂地活,不要无聊地度过一生

reason.”「理解是爱的同义词。」Understanding
2023年8月29日
其他

LLM时代的知识:民主化 vs 精英主义

看到一段很漂亮的话,无论是内容、还是修辞:我们正在目睹「有用互联网」的终结。未来互联网上有用的内容,将深锁在付费墙后,在各种不开放的Discord和私人论坛里。而公开访问的互联网,将越来越多地充斥着由LLM生成的碎片,它们看起来很像有用的内容。寻找无偏见且独立的产品评价,专业的技术支持,以及各种有用的建议的过程,现在将类似于人们现在搜索非法体育直播或盗版期刊文章的方式。像Reddit这样的地方承载了几十年的真实人类对话,这些将证明是对无意识的机器人和取代它的欺诈营销者的有用训练材料。——《互联网的最后一页》免费、共享、有用的原教旨主义互联网将不复存在。借题发挥,说下感想:互联网的历史,有一条广为传颂的明线,就是知识民主化持续发展的历史,感谢维基百科们,知识借助互联网免费、自由共享。当然,互联网历史也有一条暗线,那就是知识精英主义被持续抑制的历史。一方面,信息差、知识差不再,另一方面,严肃的、理论的、深刻的思考被冷落——他们在声量上从来都是少数,但互联网来了,他们甚至被大众反噬,在道义上变得不重要、甚至被动了。从这个意义上说,互联网的历史,是知识民主化和知识精英主义相互冲突、相互促进的历史。当然,这也不是互联网的问题,也不是上文提到的LLM的问题,应该就是媒介的问题,可以追溯到印刷术甚至造纸术。本质上是因为互联网大了,不再只有象牙塔的人了。把上述感想发给@Corn++,意外收到一长段精彩的回复:「我觉得挺好的。完全的知识垄断是没有生命力的,必须要有一定的民主性,让普罗大众能接收到基础的人文科学素养训练,这样才能撞出新的智慧(我觉得人类社会本质都是在碰运气,必须要足够多的尝试,才能撞出成功可行的路。上到宇宙航行文明跃迁,下到职业规划美食探店都是这样);然而,知识垄断本身其实古往今来一直都存在。有部分“帝王之术”也是只有皇帝贵族才能接触到,一方面是贵族体现身份的象征,另外一方面这些知识其实对普罗大众的意义也不大,一般人缺少动力去学。所以知识垄断造成的鸿沟一直都有。回到现在互联网造成的“鸿沟”。其实,与其说互联网带来鸿沟,我倒想说我们都多多少少是互联网时代知识连接的受益者:早些年的MOOC,现在的B站Youtube,优秀的教育资源数不胜数。我们普通人获得了前所未有聆听大师教诲的机会,这个在我看来是非常好的一件事。我觉得他们都是有用的,且目前都是免费的,且未来我认为也不会付费。更多的人学到了关键的基础知识,在互联网上展开了广泛的交流讨论,产生了有益的“知识民主”。再具体到LLM的发展导致的"public-facing
2023年8月28日
其他

信息的角度,比信息更重要

3、进一步:内容比形式重要,信息比情绪重要。虽然形式很重要,虽然情绪很重要。4、因此,在信息爆炸的时代,如何全面、高效获取信息——新闻学所谓「媒介素养」——就是核心竞争力
2023年8月27日
其他

不要做二手玫瑰,做一手的自己

《乐夏》第三期,终于等到二手玫瑰登场,带着《伎俩》。作为二手老粉,听了,完全坐不住。听完,更坐不住。随手聊一些八卦,可能记不清楚,没时间考证细节,就当故事听吧。1、初舞台选了《伎俩》,第一张专辑的第一首歌,演出御用开场曲。说出来你可能不信,这首一开嗓就初赛第二的歌,只能勉强算二手热度
2023年8月26日
其他

1983年的香港过客

看《今夜不设防》,黄霑、倪匡、蔡澜追着张国荣问,演技可以做「阿姐」的女演员:叶童天才,如果自己导演,第一个找回她拍。阿梅,没得讲。王祖贤,第一部还不行,第二部进步很大。张曼玉一开始不行,后来甚至有典雅美、「皮大衣牛仔裤——香港谁能穿得过她?」还有钟楚红,红姑,她有多好呢,好到你都不在意那些瑕疵了。年少只知《纵横四海》,去年还有幸在影展看了影院版,砵仔糕同阿占都钟意红姑,谷歌一搜,才发现原来83年已有佳作《男与女》,披着肉欲外衣,其实讲香港过客故事,光看剧本简介都知道好。以下为豆瓣《男与女》影片简介:孟思晨(钟楚红饰)自广东农村偷渡至香港,匿居于山间木屋区,与同为偷渡客的一群打工仔同居一室,迫于生计,沦为众男泄欲工具。泰国华侨江远生(万梓良饰)客居香港,流落街头靠打黑拳谋生。一次江远生与黑道人士发生冲突,躲避之际偶遇孟思晨。孟思晨助江远生藏匿,二人结下露水之缘。后思晨经人介绍认识独守空房的老木匠(关海山饰),答应为求子心切的他生子,条件则是与其同住并获取港人身份证。生活安定后,思晨又遇远生,二人互生爱意,偷偷幽会。远生的一身武艺被黑道老板(曹查理饰)看中,力捧其成为职业拳手,并许诺总决赛胜利后送其去美国栽培。不料总决赛之际,老板命其打假拳,并强迫其服用兴奋剂。而与此同时思晨看到「怀孕妇女不能赦免遣返离港」的新闻,万念俱灰。到底这对苦命鸳鸯能否看到人生曙光?香港新浪潮导演蔡继光1983年的著名剧情片。以深度写实的手法表现回归前香港的焦虑不安,人性化的叙述手法感人至深,获得1983年金马奖最佳原著剧本奖。是港片迷不可错过的经典。相关阅读:在电影院看了一次《纵横四海》
2023年8月24日
其他

神经网络历史回顾:深度学习架构的演变

Goodfellow等人发明了生成对抗网络(GANs)。GANs非常擅长生成逼真的图像。第一个深度伪造就此诞生
2023年8月22日
其他

要珍惜你的好奇心

看到姚期智先生的一段话,有感而发。姚期智先生是2000年图灵奖得主,也是目前唯一一位获得此奖项的华人,当下「中国最牛学院」清华大学交叉信息研究院院长。「每当解决一个问题时,你会知道,你是世界上唯一知道这个答案的人。这种感觉就像登临山巅,那是非常快乐的时刻。你应该专注于那些最能让你迸发激情的研究,无论它能否产生实际的效用。从这个角度看,科学家有点类似于『瘾君子』,如果研究工作没有将你消耗殆尽,你就不可能取得伟大的成果。」庄子《庖丁解牛》所谓,提刀而立,为之四顾,为之踌躇满志。智识的快乐,无论实际效用。而且往往实际情况是,研究本身越纯粹、越不在乎短期实际效用,最终的实际效用越大。懂的都懂,不懂的似乎也解释不通。进一步,这种智识的快乐来自于哪里呢?好奇心。牛顿自比捡贝壳的孩子:「我不知道在别人看来,我是什么样的人,但在我自己看来,我不过就像是一个在沙滩上玩耍的小孩,为不时发现比寻常更为光滑的一块卵石或比寻常更为美丽的一片贝壳而沾沾自喜,而对于展现在我面前的浩瀚的真理的海洋,却全然没有发现。」这段话,中学时代读不懂,觉得不过辞藻,现在幡然。小时候有应试压力,长大了有现实引力。刘慈欣说,在中国,任何超脱飞扬的思想都会砰然坠地的,现实的引力太沉重了。要珍惜你的好奇心,自己去探索。不要急着查答案,更不要怕浪费时间。探索的过程比答案更重要。相关阅读:文学的意义就是告诉你,不正常也可以长时间枯燥的积累和等待,才是生活的真谛独善其身、兼济天下,与知其不可为而为之宁愿坦率真诚有所偏颇,不愿四平八稳了无生趣见山还是山,见水还是水能下马步,才能谈招数
2023年8月21日
其他

科层制是一个陷阱,要小心、勇敢、理智地跳出来

在接受彭博社采访时说:遗憾的是,我确实感到自己在谷歌之外(的事情中)干活效率更高。聪明的脑袋们,从英伟达高级AI科学家
2023年8月20日
其他

字节首个大模型App体验:豆包什么馅,只有自己吃了才知道

是怎么说的:-----问:你提到语言模型以前已经存在,但ChatGPT以某种方式超越了人们突然之间对它的兴趣,而之前的模型并没有引起这种程度的兴趣。在开发ChatGPT及其前身Instruct
2023年8月19日
其他

历史首次,OpenAI 收购了一家做「Minecraft」的AI公司

SLAM的测试平台。利用AI进行3D场景渲染似乎是另一个巨大的潜在市场,位于电影和游戏的交叉点。两者兼而有之。我认为让他们去研究ChatGPT将是一个错误。Deploying
2023年8月17日
其他

文学的意义就是告诉你,不正常也可以

今天看到小宇宙推了随机波动里的一句话:文学的意义就是告诉你,不正常也可以。很喜欢,想起之前的一段话,写于2022年7月22日,抄录之。越来越深的一个感受:读书
2023年8月16日
其他

AGI大航海时代前瞻:新世界不能看旧船票

新世界不能看旧船票,这是最近和AI圈朋友交流最深的体会之一。起因是偶然看到一个AI创业公司的招聘JD,要求多年移动互联网工作经验、带过成熟业务攻城略地……和朋友开玩笑:这样的人才,都在大厂高薪养着,凭什么跟你出来创业呢?玩笑归玩笑,认真的问题是:为什么新世界不能看旧船票?为什么创业公司找成熟业务负责人的做法,大概率不会奏效?为什么在新世界寄希望于老将军们的做法,很可能碰壁?旧世界的业务负责人/产品经理们忙于应付旧世界的问题——那是眼下杠杆率最高的事情,无可厚非——自然而然地:他们大概率没时间研究AI,基础的认知不一定能跟上,比如最基本的几篇论文没读过、GPT的基本技术原理不了解、模型能力没概念、模型层中间层应用层的关系不清晰、甚至最基本的LLM产品体验不多,不一而足。更关键的:旧世界的经验往往是新世界的桎梏,旧世界的
2023年8月15日
其他

独善其身、兼济天下,与知其不可为而为之

自洽、看破、遁入空门、独善其身,自然难得。所谓通透。但更难的是,在那之后,不在意弄湿裤脚、走回红尘、兼济天下。释迦牟尼菩提树下悟道,大可一人升天,为何苦行天下?耶稣同理。年少读书,百思不得其解:孔子为何周游列国,知其不可为而为之?其实谜题就在谜面中:当年如丧家之犬,此后三千年,言必称孔子。​只是人很难超脱自己、此世的限制,去思考。放开此生此身,知其不可为而为之,有何不可?人各有限制和追求,当然不是要求你也这么做,只是可以尝试理解贤人。现世知其不可为而为之者:比尔盖茨做慈善。马斯克殖民火箭。陆奇做奇绩。细节自可吵闹,大抵如此。在非共识的年代,见贤思齐。相关阅读:能下马步,才能谈招数见山还是山,见水还是水品无字书,听无声语
2023年8月12日
其他

张无常2023年7月文章一览

很久没写月度文章汇总了,看到王建硕也重新开始写了,决定致敬下,也是对自己的阶段回顾。写作当然我所爱,不然不会在一份出了名高压大厂的全职工作之余,不管不顾吭哧吭哧写,但只有热爱是不够的——我也经常断更——还需要方法,这个在文末谈,更需要正反馈。都说I人在独处中获取能量,我的感受是:动荡时刻,写作是唯一能安静下来、获取能量的事情,甚至阅读都不能。(MBTI人格测试中的一种,据说I型人格则更倾向于思考和独立工作,与此相对的E型人格喜欢社交和积极表现自己)积极心理学、认知行为疗法……很多理论都鼓励通过写作来疗愈自己,如果你此刻倍感艰难,希望对你也有用。2023年7月份,《张无常》更新了24条推送,包含21篇文章(包含3篇转载/内容推荐)、3条短图文,具体篇目如下,标⭐️是自己推荐的文章AGI/LLM⭐️除了ChatGPT,大模型杀手级应用还没有跑出来的原因是什么?⭐️LLM时代的产品设计革命:大模型带来的人机交互范式的转换是如何影响产品设计的?⭐️别说自己不懂技术,记住你是用户
2023年8月11日
其他

创新者窘境为何必然发生?

据说,按科斯的交易成本理论,公司应该是为了降低外部市场摩擦/成本而出现的。有趣的是,公司内部也有交易摩擦/成本。换句话说,公司最终是反公司的,公司越大,其内部摩擦/成本就越大,最终内部成本大于外部成本,公司成为负效益,吞噬自身。论据很多,大公司病、资源诅咒、路径依赖、山头主义、创新者窘境……不赘述。问题是:应该如何理解、利用、拆散、重塑组织?这里面,组织改革、王朝中兴最难,甚至比创业更难。萨提亚·纳德拉
2023年8月10日
其他

宁愿坦率真诚有所偏颇,不愿四平八稳了无生趣

宁愿坦率真诚有所偏颇,不愿四平八稳了无生趣。这其实是年少轻狂时的强赋新词,甚至为对仗上了沾沾自喜。其实在那之前,读书、思考,追求理性、客观、中立——当年公知还是个褒义词。又到这两年,每每遇到破事,难解郁结。找前辈诉苦。前辈直接:破事人生常见,少年真气永存。再遇到各式人等,渐渐意识到前辈赠言的可贵:纸上谈兵、只知事理不明肌理的初级战略家,会一直强调理性、客观、中立、全面、持平、中庸……这当然没错,但足够吗?这两天,一年前在即刻写的动态被@Louiscard
2023年8月8日
其他

ChatGPT 信息爆炸导致FOMO、焦虑怎么办?

FOMO,核心是假借信息完成认知迭代(俗词),修自己内核的真。相关阅读:无常的大模型世界观_2023年7月别说自己不懂技术,记住你是用户除了ChatGPT,大模型杀手级应用还没有跑出来的原因是什么?
2023年8月7日
其他

能下马步,才能谈招数

很多路径看似迥异,实则殊途同归。比如产品经理总说用户体验、产品设计,投资人擅长宏观分析、看周期、分析逻辑。实际上都回归用户,包含时间、空间、宏观、微观视角的用户。工业社会过于复杂,又天生逐利,所以有了流水线。但精细分工、流水线作业是为了效率,准确的说,是确定性事件的最高效解。并不代表,甚至往往就是不代表,效益最优解——尤其面对不确定事件、指数增长的时代浪潮时。当然,前提是你得有基本功,能下马步,才能谈招数。运用之妙,存乎一心。能下马步,才能谈招数。反过来,扎好马步,就要敢于出招数。不管怎样,可以谨慎、可以演练、可以思前想后,但最终要勇于出招:要敢于出招:《禅与摩托车维修艺术》这本书最重要的一个结论是Qulity良质。要敢于出招:查理·芒格最值得品味的一点是,将投资与人生融为一体,证明投资可以就是人生本身,什么也不加——而最重要的人生法则、也即是投资法则是:反过来想,总是反过来想;列一张stoping
2023年8月5日
其他

见山还是山,见水还是水

何谓抽象?抽象自觉、抽象维度、抽象层次直到common
2023年8月4日
其他

大语言模型产品&系统应该怎么做?

“使用分层可导航小世界图的高效稳健近似最近邻搜索。”《IEEE模式分析与机器智能交易》,第42卷,第4期,IEEE,2018年,页码824-36。郭瑞琪等人。“利用各向异性矢量量化加速大规模推断。”
2023年8月3日
其他

不能选择生活在哪个年代,但可以选择听哪个年代的歌

朋友说,林夕最好的一句歌词是「黄金广场内分手,在时代门外再聚」。深以为然。十年了。最近高中同学在张罗毕业十周年聚会,想起一些高考往事——本来已经多年不关注高考,甚至忘了具体分数了——比如在我前一年的高考作文:你想生活在哪个时代?记得当年也是引发热议,先抄下作文题目:「醉心于古文化研究的英国历史学家汤因比曾经说过,如果可以选择出生的时代与地点,他愿意出生在公元一世纪的中国新疆、因为当时那里处于佛教文化、印度文化、希腊文化、波斯文化和中国文化等多种文化的交汇地带。居里夫人在写给外甥女涵娜的信上:“你写信对我说,你愿意生在一世纪以前....。。伊雷娜则对我肯定地说过,她宁可生得晚些,生在未来的世纪里。我以为,人们在每一个时期都可以过有趣而有用的生活。”上面的材料引发了你怎样的思考?请结合自己的体验与感悟,写一篇文章。」广东写议论文,记得当时大家都讨论现在这个时代有多少问题、xx时代就多好多好。现在回想,少年真好,为赋新词强说愁。时代,其实是一个好话题,不过不适合少年书生,适合中老年们。昨天跟早已退休知天命的忘年交长辈聊天,提到最近去香港的感受。翻出那晚在香港回深圳的复兴号上的笔记,是这么写的:「生活在二十一世纪第三个十年的深圳年轻人,在香港听
2023年8月1日
其他

听到别人分享好消息,请直接真诚赞美

听到别人分享好消息时,及时、直接、真诚、充分地表达赞美和喜悦——太多中国人需要补这一课了。我们都太习惯听到好消息就下意识警惕:别高兴的太早、事情不可能这么顺利——是不是还有什么雷区?福兮祸之所倚……blablabla想说累不累啊!人家跟你分享喜悦,即使你本意是好的,小心驶得万年船……但客观上还是在做抑制喜悦的扫兴事儿。其实这种提醒,除了好意,大概连提醒者都难以觉察到,其实往往夹带着自作聪明、居高临下,「我走过的桥比你走过的路多」、「你应该听我的」……但朋友,他只是来像你分享快乐的啊!相比英文世界里
2023年7月31日
其他

品无字书,听无声语

菩萨不语,高手惜字。山顶处,往往无招胜有招。因此读书、谈话,要学会品文字以外、没说出来的意思。本来应该就此打住,但毕竟不是高手,就随便举两个例子说明,一个来自工业界,一个来自文学界。张小龙:做产品需要感受生活潮流张小龙公开场合向来沉默。在几乎唯一官方发言《微信背后的产品观》中,他否决了业内所有产品经理铁律:需求不来自数据分析、需求不来自用户反馈、需求不来自用户调研、需求不来自竞品……初阶产品经理破口大骂,写得什么破书,说的什么歪理……什么都不来自,那来自于哪里?对,那需求来自于什么呢?龙哥也说了,来自于对信息的理解,来自于对群体效应的好奇(附近的人、摇一摇),来自于自身需要和周边朋友反馈,来自于你对用户的了解……当然,我认为最重要的:来自对当下生活潮流的理解。如何理解?龙哥在内部分享的时候说:能够到腾讯来的人,我相信大家的逻辑、推理能力都很强。但很多时候逻辑、推理不能够解决问题。所以这个时候我们应该多调查一些用户或者感知一些趋势。这个趋势怎么感知?
2023年7月30日
其他

黄霑《笑看风云》为什么写「活得开心心不记恨」?

文字的新意之一,在于反用。包括情感反用(正话反说)、场景反用(书面场合用口头语)、所谓反差萌,都因为意外感或张力,耳目一新。比如一个可能是误读,但个人很喜欢的例子:黄霑为郑少秋写《笑看风云》,有一句副歌「活得开心心不记恨,为今天欢笑唱首歌」。初听就觉得好听,没看歌词觉得叠字用的妙,在音韵上也巧,朗朗上口。再听,发现断句也有讲究,通常的断法自然是「活得开心/心不记恨」——其实也未尝不能是「活得开心心/不记恨」?其实唱的时候就是两个心连在一起的。当然,大概率是误读,因为明显有点嗲。但如果你了解黄霑——尤其是看过《今夜不设防》里童真无邪的霑叔——就不难猜到,霑叔也许不介意(甚至故意)在一首明显阔达的劝慰之歌里,加入一点口语叠词的反用,加多点新意。同理,另一句词「从没有解释,为了什么」也是明显有点突兀的升key,其实给这类容易显得平淡的劝慰之歌添了几分野趣。当然运用之妙,存乎一心——如果反话正说、口头语用书面语,萌妹子装老学究——用不好分分钟就是弄巧成拙,贻笑大方了。
2023年7月29日
其他

无常的大模型世界观_2023年7月

带来的科技发展范式革命6、LLM时代的数据蛋糕分配问题突发!ChatGPT暂时禁用Bing插件,聊聊这背后的大语言模型数据问题7、LLM时代的数据安全问题ChatGPT
2023年7月25日
其他

ChatGPT 侵犯用户隐私了吗?

文章:别说自己不懂技术,记住你是用户LLM时代的产品设计革命:大模型带来的人机交互范式的转换是如何影响产品设计的?除了ChatGPT,大模型杀手级应用还没有跑出来的原因是什么?OpenAI
2023年7月24日
其他

当我在现场听王小川大模型创业100天感想时,我在想些什么?

昨天现场听了王小川的分享,当场跟朋友说是「今日最佳」,视野最广、信息增量最足的一场——但今天读文字稿,还是发现了非常多现场遗漏的信息,顺手整理下,整理完发现太长了,但值得。也许对这场分享的逐字解读,本身就是另一场非常精彩的分享,下面破折号后的部分是我的碎片解读,附上此前相关思考的链接,欢迎大家评论留言讨论:1、在中国做OpenAI跟美国的生态环境会非常的不一样。国内我们认为未来开源和闭源会有一个并行的状态。并行就有点像现在既有苹果的系统,也有安卓的系统。——宏观上的信心来源。2、今天不能简单的说我们未来大模型就是走向OpenAI——闭源的中心化的模型。开源实际上是具备着很大的可能性。所以也就意味着一方面在于实践技术,展示技术能力,但它也确实有可能蕴含着商业模式和价值。同时,开源的基础之上,中国做一个全球最好的中文模型还是一个让人可以期待的事。3、百川从第一天开始就是自研的,而且冷启动非常非常快。这背后的原因是什么呢?今天我们知道高质量数据是大模型的基础,那什么公司对语言数据有广泛的理解呢?那其实搜索公司干20年,每天都在思考怎么找到这种高质量数据。第二点,从人才储备来说,既要有算法能力,又要有以搜索能力为主的工程能力,这种人基本也在搜索公司。做大模型还有一件事情就是评测。评测大模型好不好其实是一个痛苦的问题,包括推理的问题、精准问答的问题、创作的问题……有的变好,有的变差,怎么评价?所以这种评价体系也是搜索公司长期积累的一个能力,用评价来带动后续算法的迭代。另外创业公司又比大厂的组织效率要高很多,有非常且灵活的决策体系,所有效率就会得到最大化的体现。——数据、算法、工程、评测、组织效率,决定创业公司有一定的竞争优势(当然王小川没有提到大厂的优势:算力),我之前也分享过类似观点:OpenAI
2023年7月23日
其他

我的文学书单

别说最近看AI了,工作以后这些年,虽然心里一直警醒自己「不要变成铁石心肠的成年人,要保持内心柔软」……但越来越频繁,走进书店时都是下意识奔着经管类去,豆瓣标记也越来越多经管、社科了。上周和微信群友见面,道别时被问了一句「你有没有书单推荐啊」,下意识说没有没有——作为一个曾经遍求书单多年的小书虫,自然知道这句话的分量。说来也巧,昨天偶然在电脑上翻到一个书单,连我都几乎不记得了,今天索性分享下。和AI无关、和工作无关,只关乎人、关于爱。我爱这个书单。当年高中老友赴美留学前、担心美帝太无聊,让我推荐小说和回忆录——她现在边读经济学博士边拿了第三个硕士学位了,当然书应该是没读的。分享出来,是为了纪念最近感受最深的一个想法:去他妈的专业主义、要爱惜自己的敏感和创造力。以下为原文。给CR:你问我推荐小说,那我当然就借题发挥啦:至少到目前为止,我也是喜欢王小波的散文多过小说的,尤其是《家园》《沉默》这两本,反复看,一只特立独行的猪和花剌子模信使问题甚至都直接成了中国语言和文化的一部分。《思维的乐趣》王小波《我的精神家园》王小波《沉默的大多数》王小波不过,当年在kindle上啃《王小波全集》的时候,也囫囵吞枣读过其他的小说,就当时我的理解能力而言,除了中篇的《黄金时代》之外,其他几篇隐喻更深远、结构更宏大、世界更丰富、「在文学意义更值得研究」的中长篇小说,我确实是看不下去。但最近几年随着越来越老,我时不时会回想起这些小说里的一些片段,生活的幽微之处、人生的终极关怀——这些我花了好多年才慢慢体会到的东西,他们在好多年前就写在书里了。这些书有:《万寿寺》王小波《红拂夜奔》王小波以及如果顺着王小波的阅读脉络,就必然会读到的他的师承:《情人》杜拉斯著,王道乾译对,就是那段著名的开头,年龄越长,我越喜欢。「我已经老了,有一天,在一处公共场所的大厅里,有一个男人向我走来。他主动介绍自己,他对我说:“我认识你,永远记得你。那时候,你还很年轻,人人都说你美,现在,我是特为来告诉你,对我来说,我觉得现在你比年轻的时候更美,那时你是年轻女人,与你那时的面貌相比,我更爱你现在备受摧残的面容。」对了,梁家辉主演的电影《情人》也很值得看(当然,这是部情色电影)《看不见的城市》卡尔维诺这本书读了应该有小十年了,我是在几个月前写Blog的时候才突然意识到卡尔维诺有多伟大,当年读的时候有多不明所以,现在就有多电闪雷鸣。王小波说「一个人只拥有此生此世是不够的,他还应该拥有诗意的世界」,《看不见的城市》就是卡尔维诺诗意的文学世界。对了,王小波最广为流传的其实应该是情书集哈哈哈。《爱你就像爱生命》王小波李银河说到李银河,就说到性社会学,这应该是大学里我最有收获的课程(可能没有之一)了,当然这是另外的书单了,先不多提,只推荐一本《福柯的生死爱欲》。顺着这个脉络,我也推荐你读一下高中学过的:《小径分叉的花园》博尔赫斯,短篇小说集,故事都很短,但很精彩。《霍乱时期的爱情》马尔克斯,《百年孤独》太恢弘也太复杂,不好消化,那就先看《霍乱》,故事情节相对简单又不失精彩,马尔克斯把人类爱情写到尽头了。对了,如果你「吃到鸡蛋香就想看看鸡长啥样」的话,推荐看看作家访谈录。《巴黎评论·作家访谈录》,中文已经翻了4本,可以挑自己喜欢的作家读,非常有意思。你提到张爱玲,我倒读得不多(主要是以前一直觉得民国那一套太做作,不太喜欢),虽然这几年也是有点重新发现民国的价值了。但说到民国,就不得不提《银元时代生活史》了,这是一本医生写的回忆录,跨度之大,从民国到抗战到新中国成立以后,从家到国,从中原到上海滩到香港,从中医到物价、经济、金融,从待人接物到立身之本,从小人物到鼎鼎大名的杜月笙……我迄今为止看过的最推荐的散文。《银元时代生活史》陈存仁《抗战时代生活史》陈存仁散文的话,民国大家王鼎钧有一套书非常有名,我才看了一本,家里那位已经看完4本了,非常推荐。王鼎钧回忆录四部曲:《昨天的云》《怒目少年》《关山夺路》《文学江湖》当然如果你还有空,中文世界里的散文可能不得不读的还有阿城和张北海,毕竟基本上90年代以后去美国混的一代中国人都是通过他俩认识美国的。阿城就是高中那篇《棋王》的作者,八十年代他的小说横空出世、中文一绝,但人家仙风道骨,放下小说去美国修车、环游去了,我基本读过阿城所有的作品,在世的中国人里活得最通透的人之一了吧,神往。梁文道说阿城是「最会讲故事的人」,阿城的文字是「中州正韵」。推荐:《棋王·树王·孩子王》三个中篇小说集,我起码读过5遍了,有时候在书店一两个小时站着读完了,常读常新。《威尼斯日记》阿城应邀去威尼斯旅游,写的游记,很适合在旅途看,所谓「读万卷书,行万里路」的典范。强烈推荐。《常识与通识》散文集,很多今天还在争论不休的东西,几十年前阿城就说透了。《遍地风流》短篇小说集,「汉语写作塔尖」,短小精悍。张北海阿城说他跟着张北海看美国,写得不多,但非常精彩。《侠隐》姜文《邪不压正》的原著小说,去年才重读了,「老北京的哀悼之作」,写老北京实在太有内味了。《一瓢纽约》写纽约的散文。还有一个台湾作家的散文也非常好,吃喝玩乐写出了境界。舒国治,能写能赚,但一生自甘清贫,家里没空调、没电视,甚至连书都没几本。他的每本书我都读了,都喜欢:《台北小吃札记》专写台北的小吃,看得流口水。《穷中谈吃》懂吃,不太需要钱。《门外汉的京都》我在京都生活了半年,更觉得他写得好。关于京都还推荐一本朱天心写的《三十三年梦》,大作家,早年写的《击壤歌》,可能是古往今来写的最好的少女心。朱天心老公是唐诺,我非常非常喜欢的作家,写了《尽头》、《重读:在咖啡馆遇见14个作家》、《阅读的故事》等,中文世界里绝无仅有的「大散文」,两三万字一篇的大散文,讨论宏大的文学命题,很烧脑,但非常精彩。朱天心姐姐朱天文也是文学家、编剧,给侯孝贤导演写《悲情城市》、《童年往事》。朱天心他爸是朱西甯,大作家,最近大陆开始出版了他的书,《铁浆》《旱魃》。莫言说,朱西甯是他文学上「真正的先驱」。朱天心他妹妹朱天衣也是作家,女儿谢海盟(唐诺原姓谢)也是编剧,跟阿城、朱天文一起为《刺客聂隐娘》改了剧本。台湾朱家,文学史的传奇。说回来舒国治。《流浪集》《理想的下午》这两本是写怎么玩,怎么享受人生的滋味的,尤其是工作以后过分追求效率、物质,有时候停下来读,受益匪浅。白先勇我读得不多。《台北人》自然不用多讲,短篇很精彩。写纽约的《纽约客》像是中美对照,也非常推荐。话说马家辉的小说或许你也会感兴趣,应该说马家辉这个人就很有意思,他在写香港三部曲,已经出了2本,很精彩:《龙头凤尾》马家辉《鸳鸯六七四》马家辉回忆录看过的不多其实,还记得且推荐的:《邓小平传》傅高义《胡适口述自传》唐德刚(他的作品很多八卦,说话也直,很精彩)《少年凯歌》陈凯歌年轻时候写的,真有才气,他拍出《霸王别姬》是有原因的。绝版了,电子书应该可以找到。对了,有一本书对理解中国官方和民间心理很有启发:《叫魂》孔飞力。好了,挑几本感兴趣的看看,估计够撑过美帝一两年漫漫长夜了。(可以立个flag,对比下到时候你回国的时候会看几本哈哈哈哈~遥祝一切顺利)是为饯行书单。海庚2021年8月22日相关阅读:做产品、投资,与借假修真杨照治好了我读小说的青春幼稚病——读
2023年7月22日
其他

做产品、投资,与借假修真

最近和朋友聊天,从最近对AI上头,说到两年前对移动互联网心灰意冷、以至一意孤行、从产品经理转战略,几度起落,不足为外人道,一直到最近被AI大浪拍醒……于是想起彼时转行前写的这篇,信誓旦旦。篇末曰「半生记」,自然大言不惭,但难得气盛、今天倒也敢不改一字重发,是为鞭策。缘起于和编剧朋友微信聊「关于通识阅读,关于思维和工具的超链接」我也是最近兜兜转转阴差阳错转到现在的方向后,才突然非常非常深刻地意识到乔布斯演讲说的那个「往前看只有零散的点,往回看才发现所有的点连成了地图」。Again,
2023年7月19日
其他

OpenAI 和 ChatGPT 带来的科技发展范式革命

看到一张图,忍不住过度发挥,于是有了本文。和前面的用户交互界面范式变革一样,都是此刻AI「上头」的我的真实想法,也许过于乐观,不妨记录分享。具体是下面这个图,包含关键词「语言模型」(自2018年6月以来)和「大语言模型」(自2019年10月以来)的
2023年7月17日
其他

除了ChatGPT,大模型杀手级应用还没有跑出来的原因是什么?

最近和大模型研发同学聊,提到一个很有价值的问题:你觉得现在应用还没有人探索出来的原因是什么?是因为还没有一个DAU达到ChatGPT规模的产品?还是什么其他原因?试着写了下我目前的理解,应该还会迭代:一、从技术周期角度看,模型层中间层尚未成熟,应用层尚需时日首先从技术周期上看,举个例子,Garner技术成熟度曲线,LLM远没有到比较成熟的生态繁荣期,现在底层模型技术还在疯狂演进,投资都集中在模型层和中间层,应用层普遍被认为还比较早(比如拾象就是这个观点,)——我个人也比较认可:下半年甚至明年才是应用层冲出来
2023年7月15日
其他

【完整全文】揭秘GPT-4:OpenAI在架构设计中所做的工程权衡

GPU在每秒20个标记的情况下的FLOPS利用率仍然不到5%,导致推理成本非常高。因此,目前对于8路张量并行的H100系统,存在着约3000亿前馈参数的推理约束。然而,OpenAI使用A100
2023年7月12日