查看原文
其他

微软这次牛在哪?怎样和微软学大模型落地?

Founder Park Founder Park 2023-04-01

昨晚微软发布了基于 OpenAI GPT-4 的全新办公系统 Microsoft 365 Copilot,一时间刷屏网络,引得人们感叹技术进步之快。

在众多的讨论中,我们也看到了两个不一样的声音——两位创业者,从产品和技术细节的角度,分析了微软的做法,以及它对行业可能会产生的影响。

在获得两位授权后,我们迅速整理了这两条短评,分享这个消息纷繁日新月异的环境下,一些来自创业者清晰的思考。


李志飞

微软焕发新春

Google 尚能饭否?

出门问问 创始人 & CEO

刚刚看了 Microsoft Dynamics 365 Copilot 的发布会,太震撼了,这是我的几点感受:

1. 牛得不像微软:把 GPT 的能力全面用到了各种 Office 工具里,无论是从 Word 内容自动生成 PPT、还是倒过来,都是一个自然语言命令的事情。Team 开会时,自动给你总结前面的人说啥了、还有啥问题没解决,让你随时展示存在感。商务会议时,自动帮你把以前的交流总结出来,让每个 BD 都有自己的秘书。只能说,太香了!
2. OpenAI 和微软轮番上阵:昨天 GPT-4,今天 Copilot,都是让人听得热血沸腾的创新,这不是预谋是啥?Google 你还能饭否?
3. LLM 的 grounding:把这个体验做出来不是随便接个 GPT 接口,而是一个系统性工程(见下图)。喜欢胡说八道的 LLM 接在 Microsoft Graph(也就是你的数据)上,终于接地(所谓 grounding)了,然后给 apps 提供一本正经的自然语言服务。这给大家提供了 LLM 怎么跟具体数据和应用场景结合的完美示范。
4. 创新的 lead time:无论是 GPT-4、还是 Copilot,它们跟 iPhone 刚出来一样,用户立马都想用,竞争对手立马就想 copy 一个。但是,无论对手多厉害,也得自己熬夜大半年才能搞出来吧,到那时 OpenAI 和微软又不知道搞出啥了,这就是创新的 lead time。

总之,这彻底颠覆了我对微软的印象,一个 48 年的公司再次焕发青春活力,真是史无前例啊!


王晓东

细分行业「小模型」的

范本教材

邻动 创始人 & CEO

微软「落地」的整个流程,可为各细分行业做「小模型」创业作为学习的范本。

这几天,微软/百度/谷歌等轮番有 AIGC 相关的发布(也要为百度加油!)。

今天,微软 365 Copilot 的发布会,显示了 AI 不再限于玩玩(对话/写文章/生成图画),而且跟每人的工作和生活都直接相关,很震撼!微软把 GPT 的能力全面用到各种 Office 工具里,无论是一键将 Word 变成 PPT,还是几小时会议记录生成几句话的会议总结和行动计划,都只是一条自然语言指令的事情。

其中微软落地的过程,有很多工程化的工作,是创业需要借鉴的。

我们来一起学习一下:

1. 预处理(上图):LLM(大语言模型) 在微软产品里的落地 (grounding) 环节, 首先是预处理「用户提示「(user prompt),旨在用联系「上下文」(context) 来提高「提示」的质量,并确保 LLM 的答案是用户可操作的。

2. 改进版「提示」的生成 (上图):以微软为例,叫微软「数图」(Microsoft Graph),即微软办公全家桶的内部数据,加上您公司内部的通讯录,工作对话记录,消息,E-mail,文件等所有数据,这些大致可称为「工作流程」数据,用于提供「上下文」,比如 A 是老板,B 是产品经理,C 是码农,这样谁以什么身份说了什么都清楚了,还有某项目代号 XX,查到是以前的会议中有 XX 项目的介绍。以开会的会议总结为例,开会的原始记录,与上述「工作流程」结合后,生成润色过的「提示」,喂给 LLM。请注意,为保护公司隐私,LLM 只做数据处理,并不存您公司的数据。

3.「后期处理」(上图):LLM 处理这些「提示」并给出答案,并不能直接给用户,而是给回 Copilot 进行「后期处理」。「后期处理」比较复杂,比如上述的会议总结,还需进行综合评估包括安全,隐私,合规等方面。

4. 给回用户的答案(下图):首先是用户在线等的相关应用的命令生成,得达到用户可用的质量水平,比如生成的会议记录需精炼准确可执行,且符合国家/行业/公司的相关规定。

综上,微软展示了在复杂的产品体系和公司工作流程里,如何整合 LLM 服务来建立全自动的 AI 助手,能产生的合规的具体答案,且综合质量不错。

微软发布会的长版视频,大家可去找来看看。另外,按照 Open AI 公布的 GPT-4 的 API 费用表,为每输入 1000 个字符 (约合 750 个单词),价格为 0.03 美元,每生成 1000 个字符,价格为 0.06 美元。



关于微软的 Office 365 Copilot,你怎么看?Google Docs、WPS 和飞书又该如何应对?

欢迎在评论区发表你的看法,也可以加入我们的大模型相关领域交流群,来一起探讨大模型时代创业的共识和认识。

公众号后台有很多人咨询昨晚 Founder Park 直播的回放,大家可以在视频号的「直播回放」里找到,我们之后也会陆续放出一些沉淀的内容。

长按识别二维码填写入群申请表

关于交流群:

在 ChatGPT 发布后,我们迎来了一个全新的创业时代,似乎又回到了移动互联网早期——大量产品的方向和定义还不清楚的时代,我们希望把更多愿意思考和有创业意向的人聚集在一起,连接更多大模型领域的 doer(实干家),让更多有价值的认知在这里流动、碰撞、凝结,孵化出更多优秀的产品和项目。

Founder Park 计划搭建一个大模型相关领域的交流社区,面向有志于在大模型相关领域创业的创业者、产品经理、工程师、学者及投资人,围绕大模型相关创业的新项目、新赛道进行交流探讨。

在这里,你可以获得大模型相关领域的最新动态、高质量的对话交流,结识更多高净值的创业人群,同时,极客公园也会为优秀的项目提供资金、人才及其他资源的支持。



更多阅读

转载原创文章请添加微信:geekparker

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存