大模型怎样重塑企业级IT应用

傅一平评语：

随着AutoGPT的推出，智能代理，即Intelligent Agents成为了热点，如果说ChatGPT只是动口，那AutoGPT就是动手了。智能代理就是利用ChatGPT这种大模型作为通用接口与外部世界各种专有模型进行协同从而把想干的事情干了。

（一）未来企业IT应用长什么样

先让我们看段视频，这是我一位朋友在去年下半年时发布的一个概念性产品。大家可以注意到，在那个时间点，今天被炒得火热的ChatGPT还没横空出世：

这个视频给我们揭示了人工智能赋能的未来企业IT应用的一些主要特性：

1、自然语言的连续对话，用户用自然语言来进行企业数据的查询，和对后台系统进行操作；

2、智能决策：为了便于观众理解，该视频展示的判断条件还是较为简单的规则（如果我的奖金能达到….那么休假…… ），在现实上还可以基于更为模糊的目标设定，（例如：“我怎样能保持工作、生活和金钱的平衡？”），利用人工智能来生成任务，用任务来驱动信息系统的业务服务；

3、多模态信息的认知及生成能力：本视频展示了文本和语音，除此之外，多模态信息还包括视频、图片等；

4、 数据的整合：决策过程整合了多个数据源产生的数据，例如薪酬、考勤、销售等，数据的规范性将对智能的准确性产生制约作用；

5、复杂软件系统的处理：从视频中可以看出，人工智能在处理我朋友请假的过程中，涉及到了一系列传统意义上的企业IT系统，包括CRM/销售绩效系统（SPM，参见《从24亿美元收购，谈销售绩效管理及占据SaaS新品类策略》），考勤系统，核心人力资源系统，办公自动化系统和日历等，而最终执行指令时，匹配、调度了多个后台信息系统产生相应记录。

（二）实现原理

企业信息系统出现，最初解决了记录企业业务信息的问题，例如财务、客户、订单、库存、合同等等信息，然而，企业级信息系统要更好地服务于业务处理，一直需要解决三个问题：

一是业务流程自动化问题，正如我在很多过去文章中写到（《从中台回到流程 ｜业务流程数字化仍是企业数字化转型的核心话题》），在线交易处理的信息系统（OTLP）本身并没有业务流程管理，要有数字化的手段来管理、驾驭业务流程，才能使得业务记录能够被准确记录；

二是业务决策智能化问题，我也写过不少智能化业务决策的话题，（例如《企业数智化软件的市场机会｜ OLAP究竟是业务应用还是技术平台》《商业仿真｜ 最理科生的企业管理软件》），OLTP和OLAP融合，使得业务流程从行动到数量上的决策，能够带来更优化的业务结果；

三是人机交互的人性化问题。

为了解决这些问题，企业应用系统的自动化、智能化和人性化经历了四个发展阶段，最近几年，随着人工智能技术的发展，这样的转型正在加快：

企业级IT应用系统的架构在过去十多年里，经历了从单体架构向服务化解耦，并最终向微服务架构转型，通过容器化部署，这使得利用人工智能来生成流程、调度业务能力（即服务）成为可能。

GPT作为人工智能技术的飞跃，对企业应用来说具有三个特点，一是基于更大量的参数处理，实现更强大的推理和判断能力，

二是，通过利用基于海量数据的大模型，结合企业自有“小数据”的精调（fine tuning）或嵌入，使得对世界知识有广泛认识的“万事通”成为掌握特定企业知识的“企业通”，可以处理企业业务，

三是用人工智能来生成任务（通过任务组合而形成业务流程），同时用任务来触发企业的业务服务。这一轮GPT在今年年初横空出世时，人们最早关注到的应用案例是面向用户级的内容生成，例如文字、程序代码、图像、视频等生成。几个月后，随着AutoGPT项目的出现，给人们展示了用大模型来驱动业务的可能性 ——AutoGPT是一个开源的应用程序，这个程序由Open AI开发的GPT-4大语言模型驱动，可以自主地开发并管理业务——ChatGPT产生文字，AutoGPT产生流程。就是说，你给AutoGPT出一个目标，例如，我怎么让公司利润提升10%，他会自己思考，给出实现的步骤以及实现细节——究竟是提升销售，还是提升运营效率降低制造成本，还是降低原料采购成本，并且调度相关的企业业务系统（例如销售系统或者采购系统）去执行任务指令。

“自治代理”被认为是企业业务自动化和智能化的数字化最高阶段，这个概念并不是新东西， 然而随着大模型出现，以及生成式AI的技术工具链在最近几个月的快速发展，例如将大模型和企业现有信息及业务服务连接起来的开发工具（基于Python, TypeScript代码的框架，也有新兴的无代码开发框架 ）和 大语言模型的数据平台底座等，“自治代理” 得以爆炸式增长。

在下面这个案例中，描述了一个任务驱动的自治代理，它利用OpenAI的GPT-4语言模型，Pinecone向量搜索和LangChain框架来执行任务，根据完成的结果创建新任务，并实时确定任务的优先级。这个概念原型展示了人工智能语言模型在各种约束和环境下自主执行任务的潜力：

来源：https://yoheinakajima.com/task-driven-autonomous-agent-utilizing-gpt-4-pinecone-and-langchain-for-diverse-applications/

如果用一句话的通俗语言来解释“自治代理”，也就是AI改造企业级IT应用的终极目标，那就是“你就对机器喊一嗓子，剩下的都交给AI”。如果是把大象放进冰箱里，过去你还要关心“打开冰箱门 ➡️把大象放进冰箱➡️关上冰箱门”的业务流程以及每一步骤的处理，现在你只需要对机器说一句“把大象放进冰箱里 ”，至于大象怎么进去，那就是AI的事了：

（三）落地实现路径

企业IT应用智能化需要进行ERP等传统企业应用系统的改造，下图这个“实时动态个性化定价并下单”的业务场景，就是前文所说的“认知流程自动化”的应用（其他类似案例参见我过去写的：《下一代ERP ｜ 人工智能将如何重塑企业解决方案软件》、《认知时尚从吹牛到落地｜人工智能改造企业解决方案的产品策略》）

1. 零售企业在全渠道零售业务中台的“价格中心”里维护商品的标准价格

2. 顾客在他的APP上搜索某个商品相关的关键词，例如“羊绒大衣”

3. “搜索中心”根据顾客的偏好，产生一系列羊绒大衣相关商品搜索结果

4. 搜索结果排序根据库存可用性以及营收优化策略显示

5. 可购商品按照需求预测（例如市场动销情况、竞争对手定价情况）以及相关的价格和促销优化策略，实时给出动态价格

6. 顾客在其数字化终端获得个性化的商品推荐和报价

7. 顾客用个性化价格下单

这需要对企业应用的IT架构进行分层规划，我们将这种架构称为“数据和数字化平台”（DDP），详细参见《数字化和数据平台——企业数字化转型的技术架构升级》。最近这段时间大模型的风起云涌，使得企业IT应用的技术栈中，更要凸显AI的地位，这样的架构变化，我总结为“一新三增”：

一增是基础设施层上，无论是云服务还是本地设备 ，增加AI特有的 GPU/TPU计算能力，提升单片算力以及异构算力的协作；

二增是数据平台上，增加面向AI的数据准备能力，以及支持AI特性的数据存储能力；

三增是在数字化产品上，支持认知能力APP的构建（例如chatGPT风格的业务软件），或者采用自然语言处理，尽可能覆盖更多的业务场景，嵌入到用户操作界面（例如浏览器或者SAP用户操作界面）；

一新是加入独立的AI能力层，包括模型训练、模型管理、AI代理，以及AI服务的持续开发和运营等。坦白说，AI能力在过去企业的IT架构中一直存在，例如机器学习一般属于企业数据平台的传统能力，支持数据挖掘应用；不过最近随着AI的新技术、新工具日新月异，使得有必要将AI平台单独拉出来。

当前一个典型的应用生成式AI来开发企业应用系统，除了大语言模型（例如GPT-4，或者中国雨后春笋一样冒出来的几十个大语言模型）和企业级业务服务部署平台（例如Docker或者Kubernetes），可能会涉及到这些技术工具：

- 向量数据库，例如Pinecone

-大语言模型应用的开发框架，连接企业服务及数据，例如LangChain

-无代码的AI代理工具，例如Fine-Tuner

-基于大模型的任务生成开发工具 ，例如BabyAGI 或AutoGPT 

如果读者读到这里觉得说得太抽象、太深奥了，我们来个比方吧。

这是一个指挥业务的人：

这是一个人工智能的“自治代理”：

这是容器化、可以通过API来按需调用的业务服务：

这就是利用人工智能，智能生成的不同业务流程，也就是流程执行的场景：

好了，现在明白人工智能怎么改造企业IT应用了吧？

点击左下角“阅读原文”查看更多精彩文章，公众号推送规则变了，如果您想及时收到推送，麻烦右下角点个在看或者把本号置顶！