企业级AI的机遇和挑战

Source: David Vellante, Searching for gold in enterprise AI, MAY 13 2023

人工智能的淘金热潮已经兴起。赚钱的途径似乎无穷无尽，但最明显的途径是让人类更加高效，或者强化现有的商业模式，如搜索广告或订阅许可。企业IT中的大部分人工智能应用是隐藏式的。我们的研究显示，在企业技术和Salesforce、ServiceNow、Workday、SAP、Oracle等主要厂商的软件中嵌入的人工智能之间存在非常高的重叠（约40-60%）。但是，人工智能领导者提供的工具的快速发展以及新兴的独立公司的出现使客户开始以不同的方式思考。在OpenAI与Microsoft的合作推动下，组织迅速试图找出如何应用这些工具来创造竞争优势。地球上的每个公司都想要乘上人工智能的浪潮。几乎一夜之间，投资资本已经转向资助初创期人工智能企业，相对于以往的繁荣周期，所需的资金要少得多。

在本次分析中，我们将回顾ETR的数据，量化企业中人工智能支出的状况，并审视提供人工智能工具和平台的几个关键厂商的位置。为此，我们邀请了CUBE的贡献者、Constellation Research的副总裁和首席分析师Andy Thurai。Andy将帮助我们解析过去一周Google IO大会的亮点和不足，并给出他对如何抓住人工智能浪潮并避免成为漂流木的看法。

宏观IT支出环境

上图显示了自2021年1月以来的ETR调查数据。每个季度，调查覆盖近1700名IT决策者。图表显示了五个类别的支出情况。亮绿色的柱形图显示新增平台的百分比。深绿色表示相对于往年支出增加了6%或更多的百分比。灰色柱形图表示支出持平。粉红色区域表示支出下降了6%或更糟糕；而鲜红色表示退役平台的客户比例。将红色部分从绿色部分中减去，得到的净分数衡量了整体支出动力，显示在蓝线上。趋势再清晰不过了。您可以看到进入2022年时，存在着乐观情绪，但在去年逐渐恶化。而2023年的进入带来了积极的前景，但利率和收益修正却扼杀了这种热情，趋势线继续下降。

人工智能支出走势不同

接下来，我们用同样的方法来看一下人工智能的数据。

不同之处显而易见，蓝线下降的速度较缓。另一个值得注意的点是，蓝线始终保持在红色虚线所示的40%水平左右。40%水平代表高度提升的支出动力。从整体上看，人工智能的支出动力比企业技术支出整体高出22个百分点。

黄线代表了数据集中人工智能的普及程度。这是人工智能在整体调查中所占的比例。您可以看到在2022年4月的调查中达到了峰值，然后在去年夏天下降，但自ChatGPT的推出以来，它稳步增长并创下新高。

对于这些数据，Andy Thurai的评论总结如下：

近年来，人工智能的应用越来越广泛，Andy Thurai将这归因于两个因素：

1. ChatGPT的成功。ChatGPT是由OpenAI和Microsoft开发的大型语言模型。它已经在各种成功的概念验证中得到应用，并帮助展示了人工智能改善业务流程的潜力。
2. 企业降低成本的愿望。人工智能可以用于自动化任务、提高效率、编写代码和减少错误。这可以为企业带来显著的成本节省。

重要的一点是，尽管整体IT支出正在减少，但企业对人工智能的支出却在增加，因为它们希望通过减少其他领域的支出来抵消人工智能的成本。

人工智能领导地位和Microsoft OpenAI的风潮

上图显示了来自四月调查的近1700名IT决策者的ETR调查数据。纵轴是净分数或支出动力。红色虚线表示高度提升的支出速度为40%。横轴是在数据集中的普及程度。以下几点值得注意：

• 三大云服务提供商与Databricks一起占据主导地位，正如我们之前报道的，Databricks在市场上的动力非常强劲；
• 自从与OpenAI合作以来，Microsoft的地位相对于其他领导者大幅上升。

Anaconda是数据科学家常用的Python、R和其他工具的流行版本。您可以看到包括H2O.ai、DataRobot、Dataiku和其他一些公司在内的一些公司成为一组，我们稍后将讨论这些公司。此外，ETR的数据显示，Oracle和IBM Watson都是在各自公司的安装基础中的AI产品。

Andy Thurai对这些数据的看法可以概括如下：

• 由于ChatGPT的炒作，Microsoft在市场份额方面经历了惊人的增长，远远超过竞争对手。
• Microsoft首席执行官Satya Nadella在第三季度财报电话会议上讨论了新的AI浪潮解决方案，强调公司将AI工作负载引入Microsoft云的目标。
• Nadella还提到Microsoft强大的AI基础设施，并鼓励用户在其上训练自己的大型模型。
• 尽管有炒作，Microsoft的OpenAI目前只有2500个客户，而混合管理、部署安全解决方案Azure Arc拥有15000个客户。这表明Microsoft只是刚刚开始探索人工智能的潜力。
• Microsoft正在利用AI技术（如Cosmos DB）将自己定位为人工智能解决方案的首选。
• 令人惊讶的是，Microsoft的主要目标并不仅仅是获取人工智能工作负载，而是在Google的搜索业务中获得一定影响。通过开发基于人工智能的搜索，该公司希望在高利润的搜索广告市场上占据一部分份额。

与Thurai的讨论突显了ChatGPT如何改变技术领域的格局，Microsoft利用人工智能的潜力挑战Google在搜索市场上的主导地位。这是Microsoft最初战略的一个重要方向。但对于企业IT来说，更相关的是，Microsoft和OpenAI的举措不仅引起了Google的反应，还有AWS和其他众多厂商的反应。

深入研究一些重要的人工智能厂商

为什么IBM Watson失败了？

在2011年，IBM Watson击败了史上最伟大的“危险边缘”（Jeopardy）选手Ken Jennings，这是一个令人震惊的时刻。当时，我们对这一令人惊叹的展示感到印象深刻。许多深度人工智能专家对这一技术里程碑不以为然，甚至有些人认为Watson是欺诈的。然而，事实仍然是，IBM远远领先于这一技术的曲线。它肯定有技术和财务资源将Watson推向新的水平，并以新颖有趣的方式应用人工智能。我们认为，IBM将Watson转变为高价值且复杂的服务项目，没有设想如何将这一技术应用于大规模解决用户日常问题。

我们问Andy Thurai为什么IBM Watson失败了以及它的未来走向。

他在讨论中提出的关键观点包括：

• 尽管IBM是一家强大的研究公司，但在找到将其人工智能创新成果引入市场的最佳方式方面面临着挑战。
• IBM在技术、可用性和缺乏成熟的人工智能相关监管环境方面存在局限性，这导致IBM在人工智能领域进展缓慢。
• IBM现在正在努力迎头赶上，推出了AI Studio、Data Store、Governance等产品。
• IBM人工智能战略的两个亮点包括：
• 拥有一千多名人工智能专家的卓越中心，可以与客户密切合作，提供指导和支持。
• 环境智能套件，提供关于训练人工智能模型的碳足迹信息，迎合环保意识强的公司需求。

尽管采取了这些努力，IBM在人工智能市场上仍有很长的路要走。然而，他们独特的产品和专业知识可能有助于该公司在长期内吸引并赢得客户的支持。

Microsoft改变了游戏，但Bing的发展轨迹也改变了吗？

我们在theCUBE上已经多次提到，相对于Google和Amazon，Microsoft在人工智能技术方面原本位居第三，然后突然通过与OpenAI的交易一跃成为第一。无论是从商业模式还是意识上来看，这都是一夜之间的转变。Satya Nadella在追求Google的搜索业务方面表现得像笑猫一样满意。

但据《The Information》报道，Microsoft希望竞标将Bing嵌入Firefox浏览器。Microsoft将为此支付大量费用，但这清楚地表明BingGPT未能在搜索领域产生重大影响。

Thurai在此问题上的评论是，对Microsoft来说，目前他认为重点是颠覆Google的搜索业务。以下是他的一些观点摘要：

对于Microsoft等公司来说，眼下的重点不仅仅是AI工作负载，而是利润丰厚的搜索广告市场。Thurai提出的关键观点包括：

• 人工智能工作负载被视为长期机会，其全部潜力预计需要几十年才能实现。
• Microsoft旨在通过整合ChatGPT等人工智能解决方案来恢复其搜索业务，包括Bing。
• 然而，Google在搜索中的人工智能整合方面要么赶超了Microsoft，要么超越了Microsoft，使得两大科技巨头之间的竞争变得异常激烈。

这将是Microsoft和Google在人工智能和搜索领域之间的持续战斗，两家公司都在努力创新并超越对方。这也可能为AWS在企业人工智能领域崛起提供了有趣的机会。

Google在IO大会上展示其人工智能实力

Google在Google IO大会上发布了大量的公告。Andy Thurai在一篇文章中专注于Google的亮点和失误。从我们的观点来看，这些公告中最强大的部分是将人工智能整合到Google Workspace和Gmail中，以帮助撰写内容。此外，我们之前已经看到的照片编辑功能得到了改进，Google还在AI方面提升了其Bard能力，给人留下了深刻的人工智能印象。与Bard和ChatGPT相比较是一个有趣的练习，每个平台都展示了各自的优势和劣势。

Thurai的文章还强调了他认为一些失误的地方。他认为Google的代码助手不够强大，并对其在行业广度上的有限关注感到失望，尽管他们提到了面向医疗领域的工具。此外，Thurai对GCP的公告和整合也没有过多的印象。

与Thurai关于Google公告的讨论中的关键观点包括：

• Google推出了具有潜力改变游戏规则并从Microsoft夺回市场份额的人工智能启用认知搜索。
• 与依赖于较旧的预训练模型的ChatGPT不同，Google声称提供实时的认知搜索，以获得更准确和相关的结果。
• Google同时提供合成搜索结果（类似于ChatGPT）和常规搜索结果，以迎合不同用户的偏好。
• 这些进展可能不仅限于搜索，在电子商务领域也有应用，使用户能够搜索图像和其他内容以建立在线商店，这是ChatGPT目前无法实现的。
• 其他创新还包括Google Workspace、照片图像编辑和多语言模型。

与Thurai的讨论突显了Google为保持其在搜索市场的主导地位并扩展其人工智能能力而采取的积极努力。

AWS的模块化方法

让我们谈谈AWS的积木模块方法。AWS的目标是开发人员和企业，Google的GCP和Microsoft的Azure也是如此。但AWS的重点不在于颠覆Google搜索，而是提供构建块元素以实现人工智能。与Microsoft和Google一样，Amazon也有其他消费者和广告方面的愿景，尽管Amazon有Alexa。

上个月AWS发布的大型语言模型公告强调了这种方法，并且客户的兴趣异常旺盛。我们与各种来源的交谈表明，向AWS的传入销售咨询中，超过90%的咨询涉及到Bedrock、Titan、CodeWhisperer以及支持大型语言模型应用的新硅片等讨论。此外，AWS与Hugging Face等公司合作，扩展了生态系统合作伙伴的产品。最近，John Furrier采访了AWS、Hugging Face和AI21 Labs的高管，讨论了行业趋势和整体市场。

Andy Thurai对AWS的产品提出了以下观点：

讨论的重点是Amazon的人工智能方法，正如前面提到的，它涉及为用户提供构建块，并由于日益激烈的竞争不断改进其产品。与讨论中的其他关键观点包括：

• Amazon通过API为文本、图像和其他内容提供基础模型，可选的选项包括Anthropic、AI21 Labs、Stability AI和Amazon自己的Titan。
• AWS声称提供使用组织自己的数据进行私人定制模型的能力，这可能是市场上的一个差异化因素，尽管其他公司很可能效仿。
• CodeWhisperer是一个很好的开始，但还没有达到像CodePilot这样更成熟的工具的水平。
• 与Hugging Face的合作被认为是一个重要举措，为用户提供了访问模型的更多选择。
• Amazon还一直在开发用于人工智能的定制基础设施，例如基于Trainium的训练模型和基于Inferentia的推理模型。

总体而言，Amazon的战略是提供多功能、可定制的人工智能解决方案和合作伙伴关系，以在快速变化的市场中保持竞争力，这是一个强有力的方法，很可能使Amazon在其核心客户中保持其在人工智能方面的领先地位。

Oracle如何呢？

Oracle，就像IBM一样，主要专注于改进自己的技术堆栈，并且只会狭隘地吸引一部分已有用户群体。多年来，Oracle一直将人工智能融入其数据库产品，作为自主数据库计划的一部分，以自动化数据库管理员的例行任务。虽然我们不指望Oracle在相对于超大规模云服务提供商的人工智能创新方面取得领先地位，但它将继续在关键任务和将人工智能应用于其数据库和企业软件产品方面领先，并遵循行业趋势。

企业级人工智能中排名前十的非上市公司

ETR新兴技术调查（ETS, Emerging Technology Survey）是一个每季度进行的调查，涵盖了1200多位专注于非上市公司的IT决策者。调查衡量了净情感（即参与意愿）和知名度（即了解程度）。下图根据ETR的ETS ML/AI分类对排名前十的公司进行了过滤。

请注意，OpenAI在数据中直到去年秋季才出现，并且现在在这两个维度上都排名第一。Databricks在ML/AI工具链方面排名第二，但在第三季度的知名度指数上有所下降。C3.ai排名第三，数据表明其知名度和净情感都有所提高。Google Cloud和Snowflake在前五名之间徘徊，但他们的知名度在第三季度的调查中略有下降。

请注意，OpenAI直到去年秋季才出现在数据中，并且现在在这两个方面都排名第一。Databricks凭借其ML/AI工具链在行业中非常突出，但其其他产品也可能逐渐渗入该领域。但是，它们也出现在数据库/数据仓库部分，因此这里的数据意在纯粹分析人工智能。您可以看到其他新兴公司，如数据科学平台Anaconda、DataRobot、Dataiku和我们之前讨论过的Hugging Face。Hugging Face宣布与AmazonAWS以及最近与IBM和其他公司合作。

我们请Andy Thurai分享他对这些数据以及是否有什么令人惊讶的看法。尽管OpenAI的势头毫不意外，但他认为Hugging Face在调查中的代表性不足，尽管我们观察到它的势头和存在相当稳定。此外，总结Thurai的评论如下：

Thurai认为Hugging Face的评级相对较低，但他强调了其在人工智能领域的重要地位。关键观点包括：

• Hugging Face在与Azure、Amazon、IBM和Google等主要技术公司建立关系方面表现出色。
• 该公司已成为事实上的人工智能模型存储库，为数据科学家提供了共享和训练模型的平台。
• 他还认为Hugging Face在模型管理、训练和存储库领域享有知名度，处于有利位置。
• 总而言之，Hugging Face广泛的合作伙伴关系和在人工智能模型领域作为中心枢纽的关键角色使其处于良好的位置，我们预计在ETR ETS调查中将持续改善。

AI的认知是一回事，而采用则是关键

获得关注是很好的，但要真正获得投资回报，您必须使其得到采用并展示真正的商业价值。下面的数据图表旨在衡量这一点。

上面的数据绘制了我们之前展示的认知数据（蓝线）以及熟悉AI平台的客户中评估该平台并打算使用或扩大使用的百分比。因此，橙色数据衡量了采用情况。Databricks的采用率最高，达到26%，其次是Anaconda，然后是OpenAI的13%——大家都个人使用ChatGPT，但在企业中的采用情况如何？然后是Hugging Face的13%，DataRobot和Dataiku在低两位数，接着是Scale AI、Domino和SparkCognition。

企业人工智能的关注点

企业人工智能是一种不同的东西……IT部门需要严格的监管措施，他们关心知识产权泄漏，他们希望有非常强大的治理、隐私、安全、透明度、可解释性和偏差控制等方面。第二个观点是，大多数企业不会构建人工智能，而是在其企业应用程序和人工智能驱动的基础设施中购买它。话虽如此，他们都在尝试以新的方式使用人工智能，借助ChatGPT来看看他们如何创造独特的竞争优势。

上次Andy在2022年12月参加Breaking Analysis时，我们说人工智能正在成为主流，但投资回报仍然难以捉摸，我们认为这是一个准确的观点。ChatGPT令人着迷。它是具有颠覆性的，已经引发了各种竞争对手的反应。当然，我们到处都看到了人工智能的标榜。我们见过其他类似Google的“Code Red”的回应，IBM对Watson进行重新思考，AWS进入市场，所有人都在宣布人工智能，包括theCUBE在内。我们为theCUBE AI演示快速建立了一个不花太多钱的模型，而且它似乎非常有用。

重点是，每个人都在努力找到投资回报和正确的商业模式。很明显，人们看到了通过人在其中的协同效率改进的途径，但是根本商业模式并不那么清晰。我们会在搜索广告和订阅许可模式方面铺平道路，但是我们应该期望新模式出现。目前还不清楚这些模式的具体形式。

其中一个我们设想的是一种颠覆性的电子商务模式，它利用了Amazon庞大的仓储基础设施，这一直是它的竞争优势所在。如果Google GPT能够实现更好的购物和直接从制造商发货，更像阿里巴巴的方式……还有哪些可能出现的面向特定行业的场景和商业模式？一些新的东西将会出现，让很多人感到惊讶。

以下是Andy Thurai的最后一些想法。

加强将人工智能集成到应用程序中以提高效率和生产力的紧迫性。与此同时，这也带来了一些挑战和责任，包括：

1. 将人工智能整合到应用程序中可以提高效率，但供应商和用户需要对潜在的偏差、隐私和数据质量问题承担责任和责任。
2. 企业在整合人工智能时需要考虑治理、安全、伦理和责任方面的问题，CEO和CIO应该思考潜在的风险。
3. 为了有效实施人工智能，企业应从具体的场景出发，专注于解决他们想解决的问题，并逆向思考，建立严谨的治理和控制措施。
4. 人工智能可以应用于IT运营、AI运维、服务票务公司和基础设施优化等多个领域，以提高效率和减少昂贵的停机时间。

总之，我们认为企业必须专注于特定的场景，建立适当的治理和控制措施，以确保负责任和有效的人工智能采用。

一方面，利用人工智能突然变得容易。然而，要安全地确定如何在您的业务中应用人工智能以及在何处应用，并非如此简单。