查看原文
其他

热点|盘古大模型交流纪要

专家 基本面投资 2023-06-29

昨天的半导体内容果然又惨遭删除。所以要看完整纪要,请加入星球。


需要更及时的看到干货信息,以及部分文章因敏感性问题删除,因此只在星球留存,望周知。请加星主微信!

本纪要首发星球。添加星主微信号:chain-capital加入星球及时获得相关纪要信息。绝大数调研信息只发到星球,比如有粉丝在后台问某个具体公司的调研信息,我们已经上传星球。

之前连续发布AIGC相关文章,因篇幅原因放在文末供参考。


盘古大模型的概况介绍:

盘古大模型主要由五个模型组成,最领先的是CV(机器视觉),然后是NLP(自然语言处理),然后还有多模态、科学计算、语音,这5个方向的发展成熟是完全不一样的。当前大家热议的ChatGPT是在NLP领域,百度的文心一言和它比较相似,但和盘古大模型是不太一样的。

盘古大模型的初衷主要是服务B段的客户,聚焦比较成熟的CV领域。在NLP领域还比较薄弱,生成性的最多能做一些个封闭场景下的客服,语义理解相关的可以做一些舆情的管控、法律司法文书的理解、审计文书的理解,但是输出性的、内容生成性的,盘古大模型之前没有将其作为一个发展的重点。

公司能够找到的高价值数字化赋能的场景主要是以视觉为主,所以这就是盘古大模型更多的研发项目主要是围绕着这一块来展开的原因。NLP反正力度不大,最主要的一个逻辑还是商业驱动力不足。公司一开始做AI就没把2C作为一个重点。


大模型的成本:

大模型的训练成本确实很高,GPT-3训练一次的成本可能在1200万人民币,GPT-3出现之后也给了业界一个很大的启示,是否还要继续这样“暴力美学”地走下去。现在学界有一些观点,大模型在现在的参数基础上再指数级增加对模型的性能边际效应已经减弱了,那么这就需要一些降本的方法:

Open AI的团队做的比较好的一件事情就是做精准高质量的标注(RLHF)。

专家所在的公司有一个非常重要的发展方向是做小样本训练,通过自监督的方法通多更少的标注数据来做训练。

盘古大模型的三层架构也能在结构上实现降本。L0层是通识性的大模型,具备鲁棒性和泛化性。

L1是行业大模型(例如煤矿、电网)、L2是针对具体场景的自动化工作流的部署模型。成本方面,大模型训练好了之后不用再重复训练,只需在L1和L2上做适应性训练,成本关系是上一层的5-10%。


大模型适用的领域:

HW认为应用场景比较成熟和丰富的领域是值得为其去开发L1,例如电力行业(无人机输电线巡检)、制造业的质检(机器替代人眼质检)、铁路故障隐患的监测等等。机器视觉是一个相对封闭的场景,也是纯参数驱动的,标注数据的成本也不是很高。目前盘古大模型的工业质检主要应用在消费电子领域,最早应用在了公司的南方工厂。未来如果能有更大幅度的降本,对行业将产生更大的颠覆。


问答环节:

HW AI的研发状态如何,会与哪些厂商合作?

HW目前AI的研发,主要包括全栈全场景两个方面的制作,一个是HIAI,一个是EI,HW公司自己的能力是能够做到端到端的,从硬件到软件,从场景到营销,基本上都可以使用自己的产品,特别大的合作商没有。

HW在半导体供应链上,战投了好几家公司,帮助公司补足半导体先进支撑的一些能力。公司在算力支撑等方面需要一些合作,HW有一些地方政府支持的项目。

HW的软件产品在行业化溢出的时候,有几种类型的公司是比较重要的。一个是软件开发的外包公司,HW开发力度、开发工作量比较大的环节都是用了大量的外包。另外一个是行业数字化的EI,HW之前释放了MetaERP,像外包交付的汉德、赛意等公司的能力是HW不具备的,HW一定会通过这些公司的生态来完成业务。这里边有一个核心的商业逻辑,是HW要尽少减少自己去做交付,主要是因为现在的人效不达标,而且人力成本达到了一年10万人70多万人民币,所以很多毛细血管级别的交付,HW需要依靠生态链来完成,第三在半导体的生态上也是需要与这些生态中的供应商侧的公司供货给HW。


ChatGPT落地后,HW在这个方向是否会马上追赶?

首先HW公司历史上基本上新的趋势很少是很快就追上来,公司发展30多年,基本上没有做到过先发。在任何领域,HW公司基本上都是做到的后发制人。包括手机、云和汽车。所以这个领域HW肯定不会很快。

ChatGPT面向更多的是ToC端的属性。目前HW正在研究这个项目,但是这是一个集团级的项目,通常做出决定会比较缓慢,一两年内不太会出来。HW在AI商业化研究是一直持续存在的,公司以前一直非常不看好。公司尽力地完成AI工程化、AI产品化,公司认为这是商业化不得不走的路线,如果采用高度项目制,一切项目制用AI去做,成本很高,不容易挣钱,因为人力成本非常高,然后项目制不可复制,因此HW才选择了面向行业的CV大模型。

ChatGPT发布后,它对商业化带来了很多的思考,因为它天生的商业化属性非常高。ToB直接卖API,ToC因为生产内容是直接嵌套的,而且是中国人擅长的商业化路径,可以编辑广告、电商。但HW不会立马进入到这个ChatGPT类的AIGC细分赛道,也没有任何的项目,战略研究都才刚刚开始。

HW做了很多技术方向侧的研讨,公司现在也有一些判断,即中国很难在短期内出一个达到ChatGPT同等效果的产品。中国的发展方向,无论是这些大厂还是创业的公司,专家认为他们真正要做到商业化闭环或者商业成功有个核心,需要做支持相对封闭的一个单场景,这样成功率会比较高。以及训练和维护的成本还是需要进一步的压低,不然的话这个业务基本还是聚焦在这些特别大的公司手中。


ChatGPT前期的生态圈如果建立完毕后,后面的新进入难度会不会越来越大?

专家认为现在的难度已经非常大了。ChatGPT发布后立马就是GPT4.0,首先它的数据源头的很广,第二它的数据前期的标注的质量也非常的好,再加上它现在已经是完全多模态多语种了,其实现在的优势还是挺大的。

国内现在赶出来的产品还是不太行的。而OpenAI的产品一直是边用边学,接受越来越多全球使用者的反馈,通过人类反馈帮助他提升和进步。

p但专家认为ChatGPT的局限性是在于完整的做到某些场景的商业化闭环。ChatGPT的信息生产模式是generated content,它的信息不准确,它的事实基础不可信、不可靠,所以ChatGPT很难在一些需要事实基础比较准确的商业产品上完成闭环。第二个ChatGPT有一个很领先的属性,它的前后文是有连续性的,根据前后文来聊天,每一个问题不是独立存在的,而是有关联的。但它有个bug是前后文的逻辑关系并没有能够做到很好的连接。在逻辑问题上可能会出一些错误。

公司现在判断ChatGPT未来立马会改变的场景其实是企服软件,对企服软件的嵌套只是非常初级的方式,未来ChatGPT也许会重新定义生产力以及办公工作相关的企服场景,公司现在在分析未来是不是所有的企服软件都会基于ChatGPT来开发,以及ChatGPT能不能重构企服软件的交付模式。


国内AI企业如何赶上?

公司认为中国要追存在几个必要条件,首先场景必须是多模态,第二是数据量不能再爆发式增长,GPT已经达到1700多亿了,如果再存在量级上的增长,也许不能带来这个性能本质上的提升。

成本的控制需要通过一些技术手段来限制语言的样本量。这个完整的商业模式可能需要ChatGPT。

在全球范围内的带领来探索。专家有一个预判,中国的这些创业公司做出来的产品都可能是局限于某个或者某一些场景的,这些产品反而能够获得商业上的成功。HW为什么要做产业级、行业级的CV应用,这个也是HW根据公司的能力限制和公司的商业模式做出来的一个选择。

请点击此链接,获得更多调研纪要内容请添加星主微信号:chain-capital

免责声明:本文所载内容并非给他人所做的操作建议。本文所载内容仅供参考之用,读者不应单纯依靠本文的信息而取代自身的独立判断,应自主做出决策并自行承担风险。本文不作为任何法律文件,观点仅供参考,文中的所有信息或所表达意见不构成投资、法律、会计或税务的最终建议,作者不就文中的内容对最终操作建议做出任何担保。在任何情况下,作者不对任何人因使用本资料中的任何内容所致的任何损失负任何责任。市场有风险,入市需谨慎。


之前连续发布AIGC相关文

深度|ChatGPT展望和AI解读

深度|国内AI大模型深度解读及发展机遇展望会议纪要

AI技术专家电话会议纪要

重磅|英伟达GTC会议分析师专场交流纪要

重磅|英伟达&OpenAI炉边谈话:人工智能的今天和未来的愿景

热点|人工智能芯片专家纪要

计算机头部公司AI领域目前进展

全|英伟达在2023年GTC上的演讲全文纪要

热点|GPT-4生态影响及产业机会专题解读

热点|360周鸿祎谈人工智能

专家访谈|GPT4的主要能力与边际变化

热点解读|Microsoft365 Copilot彰显AI应用潜力

热点|火线解读GPT-4的产业影响纪要

热点|ChatGPT系列专家会议:文心一言解读

重磅!GPT-4正式发布, 具备多模态和超越上一代的专业学术能力

深度|人工智能交流大会纪要

热点|百度AI专家访谈

热点|ChatGPT对AI服务器的拉动

热点|GPU及算力研究

热点|AI产业趋势正超预期突破

【ChatGPT•大模型】百度•文心一言:技术与能力拆解

AIGC系列讨论:打响第一枪的微软

热点|ChatGPT专家交流纪要

资深投资人:从ChatGPT获得的两点启发

热点|ChatGPT生态影响解读

热点|【ChatGPT•算力】算力需求测算

热点|ChatGPT专家深度解读纪要

国产ChatGPT何时问世?

OpenAI高管解密ChatGPT

热点|微软新版ChatGPT Bing发布会纪要

从美国科技巨头财报看AI的发展和应用

从微软和OpenAI的合作来梳理AI投资逻辑

深度|全球科技创新核心AI发展展望会议纪要

热点|全面解读ChatGPT产业链机会

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存