Nvidia&Snowflake｜Sarah Guo对话黄仁勋&Frank Slootman，生成式AI与加速计算最新洞察
在 Nvidia&Snowflake Summit 2023 上，Sarah Guo 对话两家的 CEO —— Jensen Huang 和 Frank Slootman，他们一起讨论了生成式 AI 和加速计算的趋势，以及颠覆的本质和对各行业和商业模式的影响。
我将这段对话梳理成了以下话题：
专有数据与自定义AI应用
为什么需要自定义模型和企业数据？
如何看待模型与企业数据交互？
企业对GPU的预期是如何的？
对于AI，我们需要新的堆栈么？
AI给客户最大的价值，最快的不一定是最大的
未来5年对B端影响最大的领域
为什么要选择Snowflake+Nvidia？
enjoy👻～
专有数据与自定义AI应用，
Nvidia与Snowflake的合作
Sarah Guo
过去一年，生成式AI席卷全球，可能成为在座每一位的首要关注点。但是你需要什么来实现生成式AI呢？没错，就是数据。关于生成式AI和数据能为你做什么，没有比 Frank Slootman 以及 Jason Huang 更懂的人了，他们是Snowflake和Nvidia的传奇CEO，我们将了解更多关于他们新的合作伙伴关系，它为企业提供了加速创建使用自己专有数据构建的自定义生成式AI应用程序的途径。去年这里对AI的炒作和兴奋异常激烈，这是真的吗？
Jensen Huang
这是我们所见过的最大的计算革命。没有人见过这样的技术，一种可以自我编写软件的计算机。现在，计算机可以自我为其他计算机编写软件。当你退一步想想这些含义，真的很深刻。我们所有的经验，我们每个人的，我确定，已经证明这是计算史上最易使用的应用，因为它非常聪明。即使你说得不清不楚，它也能理解你的意思。并且，它做你让它做的事情，超出了你的期望。你几乎可以将它连接到任何东西。它是一种通用的翻译器。当你退一步思考它的含义，我认为我们在计算机行业的每个人现在都对我们所做的事情感到相当兴奋。
Sarah Guo
Frank，这对企业来说重要吗，他们应该关注吗？
Frank Slootman
当我在学习Cobalt的时候，Cobalt代表的是通用商业定向语言。但是它既不通用，也不商业定向。在80年代，我们有了结构化的SQL数据，这有很大帮助，因为数据现在有点道理，行和列，但是，与数据建立自然、富有成效、富有洞察力的关系仍然很难，所有这些。然后我们突然从一直以来的地方走出一大步。这就像，真是太惊艳了，这就是为什么我们对我们正在看到的经验如此痴迷。
Sarah Guo
这正好是我们使用的完美转折点。在过去两分钟里，Nvidia和Snowflake刚刚宣布他们的合作伙伴关系大幅扩展，客户可以在Snowflake上利用Nvidia AI合作伙伴平台开发自定义的生成式AI模型，基于他们自己的专有数据。你能告诉我们更多关于这个合作伙伴关系的信息吗。
Frank Slootman
Snowflake，我们所做的事情，有很多人试图杀死我们的合作伙伴，他们与我们有自然的关系，有非凡的能力。不是每天都能遇到这样的。显然，Nvidia在历史的位置和时间上有着特殊的地位。对我们来说，能够带来数据和与大型企业的关系，你在这个房间里看到的每个人，如果我们把这个结合起来，我们需要实现这项技术的计算织物以及使用它的整个服务堆栈，这是，我不想说这是天作之合，但是你会觉得它非常接近。我们有全面的一致，没有冲突，这对我们在这个房间里的所有人来说是一个很大的机会。
Jensen Huang
我们将把世界上最好的计算引擎带到世界上最有价值的数据中。在我们刚开始职业生涯的那些早年，Frank提到他工作了多久。我做这份工作已经很久了。
在早些年，我们曾经把数据带到计算机上。这样做的原因是因为要移动的数据太少了。但是现在，由于我们所熟知的各种原因，数据庞大，数据有价值，必须是安全的，需要监管，治理必须是无懈可击的。所以把数据搬来搬去很困难。数据引力是真实的。所以，对我们来说，把我们的计算引擎带到Snowflake要容易得多。我们的合作伙伴关系是关于加速Snowflake，但也是关于把AI带到Snowflake。
你知道，最大的革命在于数据加AI算法加计算引擎的结合。我们的组合，我们的合作关系，将这三样东西整合在一起。极其有价值的数据，极好的AI，极好的计算引擎。我们可以做的事情是帮助客户使用他们的专有数据，并用它编写AI应用程序。
这里的重大突破，我相信你们在这周内会了解到很多，是你第一次可以开发一个大型的语言模型。你把它放在你的数据前面，你和你的数据说话。你和数据谈话就像和一个人说话一样，数据会增强大型语言模型。你会问它所有关于什么、如何、何时、为什么的问题，你可能会在未来查询数据库的所有问题。你将在未来与数据库对话。
一个大型语言模型加上知识库等于一个AI应用程序。就这么简单。一个大型语言模型把任何数据知识库转化为一个应用程序。你只需想想所有人写的那些惊人的应用程序。在它的核心总是有一些有价值的数据。
现在你有了一个前面的普遍查询引擎，它非常聪明，你可以让它，当然，回应你，但你也可以把它连接到一个代理，正如你所知。这就是Lang chain加上向量数据库，加上大型语言模型的数据的突破。现在到处都在发生突破性的事情。每个人都要做。Frank和我将帮助每个人做到这一点。
Sarah Guo
我们在投资中看到了聊天机器人、搜索、总结等方面的巨大爆炸。Frank，你和我几周前讨论过，商业数据的接口能够有多大的改变，这对客户来说是多大的机会。这是你期待在Snowflake产品中出现，还是人们自己构建的应用中出现的事情？
Frank Slootman
嗯，我们期待在相对较短的时间内去拜访我们的客户，我想说，看，我们要推动一个边界，关于你能向你的数据提问什么样的问题。我的意思是，仅仅连接自然语言，我觉得这太神奇了，我喜欢它，对吧？因为更多的人可以在这种情况下提高生产力。但是向你的业务提出真正困难的问题是完全不同的事情。我希望我们在这里都对此有正确的认识，智能存在于数据和模型中，模型能够从数据中提取出推理和智能，这将导致与数据的极其深刻、预测性的关系。但如果不是这样，我们将解开它并分解理解它，这样我们就可以继续推动这些边界。人们对他们的数据提出非常困难的问题。有时候他们必须派出整个团队花上几周的时间才能回来给出我们甚至很难相信的答案。
Jensen Huang
Frank，这就像，我的意思是，听众中有大量的客户拥有大型的客户支持组织，所有这些数据都流入Snowflake。你能想象如果你有几百个客户支持代表坐在你面前，你向他们提问一堆问题吗？这就是未来。你将在客户服务数据库前放置一个大型语言模型，你将和它交谈，你将问，对我们的客户影响最大的事情是什么，我们可以在哪些方面进行改进？他们在我们的产品中找到什么非常让人愉快的事情？你可以用正常的人类语言提出这些问题，它会回答你。这就是奇迹。你将把客户服务数据转化为客户服务应用。这是一个巨大的机会。
Frank Slootman
许多大型电信公司和银行的问题，他们正在寻找重新定义他们业务经济模式的方法，这真的是他们一直无法做到的事情。他们认为机会即将来临。大型呼叫中心，这就是你刚才提到的例子，对吧，销售组织感到非常笨重，对他们来说代价高昂。重新定义成本结构。我的意思是，人们只是想象这个可能性就觉得头昏脑胀，我们将成为这个旅程的一部分。我觉得这是从事这项业务的好时机。
为什么需要自定义模型和企业数据？
B端的需求有什么不一样？
Sarah Guo
我们作为投资人思考这种转变的一种方式是，从软件1自动化（这是由工程师编写的非常确定性的代码）过渡到软件2自动化，这是通过精心收集的标注训练数据来优化神经网络。
我认为你们真正帮助人们利用的机会，是我认为的软件3自动化，也就是我们正在与一组非常强大的基础模型合作，但他们仍然需要处理企业数据和自定义数据集。
开发这些应用程序的成本会降低得多，对吧？你可以把它们想象成世界上最好的查询引擎，用来处理你最重要的数据。所以我认为这是一个非常有吸引力的机会，客户的成本有多少？
实际上，这提出了一个对深度关注这个领域的人们有趣的问题。一个问题是基础模型非常通用，它们能做所有的事情吗？我们为什么还需要自定义模型和企业数据？
Frank Slootman
有一种观点是说它会非常昂贵，对吧？我们有非常广泛的通用模型，可以做诗，处理《了不起的盖茨比》，总结它，解决所有这些数学问题，我希望我小时候就有这个，对吧？但在商业中，我们不需要那样，对吧？我们正在寻找一个副驾驶，他在非常狭窄的数据集上有超凡的洞察力，但是非常复杂的Sarah数据。我们需要理解商业模型和商业动态。现在，这在计算上并不昂贵，因为你不需要对一百万件事情进行训练，你只需要对非常少的，非常深的主题进行训练。
Sarah Guo
我们把这些模型想象成具有互联网的所有普通知识和一些推理能力，那么一个企业想从这些AI产品中获得什么？而不是在互联网的一般知识中呢？
Frank Slootman
嗯，我举个例子。我在Instacart的董事会上，这是我们的一家重要客户，还有一些问题在像Doordash这样的公司中出现，他们以巨大的营销费用推动销售收入，这是非常难做到的。然后他们吸纳一个客户，然后客户下一个订单，然后客户要么不再回来，要么在90天后回来。这非常混乱。他们称之为流失，这是最难以分析的问题之一，因为你可能因为一个原因而不回来，我可能因为另一个原因而不回来，对吧？所以人们想要找到这些问题的答案。数据中有答案，是的，对吧？但是尝试找出逻辑，对吧？这就是一个值钱的例子，对吧？
Sarah Guo
为什么这个Instacart客户会流失的答案，不在互联网的一般知识中，而在Instacart的数据中？