别找啦！效果好的生成式 AI+ 场景落地案例都在这里了

作者 | 赵钰莹

自去年底“新质生产力”正式写入中央文件以来，这一概念已经成为我国数字经济高频词，同时也是今年两会上的讨论热词。所谓“新质生产力”是相对于传统生产力而言的，由于不同的历史发展阶段，生产力发展所依赖的技术支撑和工具各不相同。在数字经济的大背景下，“新质生产力”的要义就在科技创新，目的是实现高质量发展。值得关注的是，“新质生产力”最终落脚点还在生产力，未来主战场仍然是实体产业。与过去不同的是，未来的实体产业发展不再是“单点开花”，而是全产业链的体系化升级。

3 月 5 日，国务院总理李强在政府工作报告指出，要深入推进数字经济创新发展。制定支持数字经济高质量发展政策，积极推进数字产业化、产业数字化，促进数字技术和实体经济深度融合。深化大数据、人工智能等研发应用，开展“人工智能 +”行动，打造具有国际竞争力的数字产业集群。

政府工作报告强调，要实施制造业数字化转型行动，加快工业互联网规模化应用，推进服务业数字化，建设智慧城市、数字乡村。深入开展中小企业数字化赋能专项行动。支持平台企业在促进创新、增加就业、国际竞争中大显身手。健全数据基础制度，大力推动数据开发开放和流通使用。适度超前建设数字基础设施，加快形成全国一体化算力体系。要以广泛深刻的数字变革，赋能经济发展、丰富人民生活、提升社会治理现代化水平。

在这个过程中，人工智能无疑已经成为产业创新的关键抓手和引擎之一。早在此前各省市召开的地方两会上，人工智能、大模型、数据基础建设、算力基础设施发展等话题就已经被广泛热议。比如上海提出集成电路、生物医药、人工智能三大先导产业规模达要到 1.6 万亿元；广东强调要加强大模型关键技术攻关，加快组建千亿级人工智能基金群；江苏则明确以人工智能全方位赋能新型工业化，深入实施“智改数转网联”。

基于该背景，数字化的下一站必然是智能化。全国政协常委、浙江省政协副主席陈小平建议，要抢抓人工智能战略高地和发展主动权，赋能各领域产业创新，成为发展新质生产力的重要引擎。

那么，“人工智能 +”行动在各行业如何落地开花呢？

目前，千行百业的先行企业们在数据分析利用、智能对话、智能营销、智能办公等众多场景均找到了实践的切入口，InfoQ 特别请到了部分实践者将自己的经验通过 QCon、AICon、ArchSummit 等会议对外输出，以下为部分介绍（因为议题在实时更新中，欢迎大家通过会议官网了解详情）。

• QCon 北京站（4 月份）：https://qcon.infoq.cn/2024/beijing/schedule
• AICon 北京站（5 月份）：https://aicon.infoq.cn/2024/beijing?utm_source=infoq&utm_medium=conference
• ArchSummit 深圳站（6 月份）：https://archsummit.infoq.cn/2024/shenzhen?utm_source=infoq&utm_medium=conference

基础通用场景

1. 经营分析场景

企业内部的经营分析是一个长链路的日常工作，从数据的加工、呈现、洞察到预测需要背后一系列的工具和能力去支撑，AI Agent 在里面可以扮演一个“流程自动化”的智能体，更多地在提效层面发挥作用，使原本能力一般的人得到极大提高，虽然无法替代经验丰富的专业人士，但至少可以提升为中等水平，很大程度来提升工作效率。

QCon 北京站（4 月份）特别邀请了数势科技 AI 负责人李飞博士分享一些经验，包括框架构建、规划器设计、模型 PE 和微调以及交互等，可以更好地帮助企业构建会话式数据分析工具。

• QCon 大会官网：https://qcon.infoq.cn/2024/beijing/schedule

2. 办公智能化场景

办公场景下有很多可以智能化的节点，也是很多企业目前的切入重点。AI Agent 在办公自动化领域，尤其是和机器人流程自动化（RPA）结合时会面临诸如 API 接口不可用、动作空间分布迁移等问题，因此需要在 Agent 的设计和开发过程中更多考虑模型能力的迁移和多模态能力的引入。实在智能在整体架构设计和具体开发的过程中引入了大模型的定制训练和微调、多模态能力的整合等能力，意图解决上述实际应用中会面临的问题，而在此过程中数据收集、模型训练、框架搭建和交互设计等都有非常多而困难的工作，最终其逐一解决了这些问题，将所开发的 AI Agent 整合到 RPA 产品中，在多个用户的实际场景中取得了不错的效果。

QCon 北京站，我们特别邀请到了实在智能核心算法部负责人欧阳小刚分享上述内容。

AICon 北京站（5 月份），我们特别邀请了马上消费金融算法总监陶万杰分享《大模型在金融领域办公智能化场景的应用》话题，他将从业务场景出发，从金融场景领域的办公智能化的常见问题定义、大数据离线合规处理技术、AI 大模型相关的技术方案选型、基于适合本场景的 AI 大模型的改进创新等多个方面进行阐述介绍。

• AICon 北京站（5 月份）：https://aicon.infoq.cn/2024/beijing?utm_source=infoq&utm_medium=conference

3. 知识管理体系构建

对企业而言，构建统一知识管理体系对企业发展至关重要，它在传承内部经验、管理企业知识、减少信息重复生产等方面成效显著。结合大模型 AI 技术的知识库，则赋予了这一管理体系智能化的生命力，使其能实时整合、精准分析各类知识资源，为企业的创新发展提供强有力的支持。

QCon 北京站邀请了金山办公 AI 知识库技术总监陈亮介绍金山办公在 AI 知识库业务上的一些实践经验，包括 AI 在知识库的落地场景、技术架构设计、RAG 技术、大模型踩坑和调优、技术演进等方面内容。

4. 智能化产品设计

大模型对产品设计与体验带来了深刻变革，如何将大模型特有的思维链与推理能力作为突破口，在尼尔森的十大经典产品设计原则上，提升产品的交互体验，或者将 AI 能力更好地融入产品设计中。

QCon 北京站特别邀请了数势科技数据智能大模型产品总经理岑润哲、钉钉 PaaS 与 AI 平台产品负责人麻幸林、商汤科技 Copilot 产品负责人贾安亚分享各自企业内部在智能化产品方面的实践经验。

行业特定场景

1. 客服、对话场景

很多企业内部都存在对话场景，尤以金融领域居多，这也是大模型涌现之后最早一批被改进的场景。应用于呼叫中心的语音机器人利用 AI 能力可以实现和大批量用户的自动化交互，以达成业务的各种任务目标，如信息送达、营销、身份核实贷后管理等。在复杂的业务场景下，语音机器人不是独立工作的，它的上下游有很多环节，如呼叫和策略模块，对话分析和效果评估模块，质检和标注模块等等。大模型的作用是在合适的场景下，从效率、成本、效果和能力方面对原语音机器人的生态进行升级。通过一年多的实践，大模型的作用是被实践验证了的，并且仍然在持续加速迭代，拥有广阔的前景。

QCon 北京站特别邀请了信也科技算法高级研究员倪博溢从大模型给传统建模带来的变革，大模型在对话方面带来的变化，大模型在语音处理上带来的变化以及大模型和 AIGC 技术给原 AI 框架带来革新动力的角度分享实践经验。

ArchSummit 深圳站（6 月份）特别邀请了腾讯云安灯产品 & 研发总监许小川介绍腾讯如何利用 RAG 技术结合私域知识，基于腾讯云行业大模型来构建 AI 智能助手，对内提升服务效率，对外提升客户自助服务降低成本，在此过程中沉淀出企业智能知识库的解决方案；此外，腾讯基于过去多年沉淀服务数据，通过大模型理解力，构建发现问题 - 量化分析 - 改进优化 - 线上验证的闭环，提升云产品竞争力。

华为云计算质量运营与流程 IT 部 / AI 变革首席专家郑岩将结合华为云客服 AI 助手最近一年多的大模型应用实战，分享经历的挑战、经验和教训，包括模型训练与微调、多模型协同路由、知识切片与召回策略、作业即标注的反馈机制、AI 模型性能与成本优化等。

• ArchSummit 深圳站（6 月份）：https://archsummit.infoq.cn/2024/shenzhen?utm_source=infoq&utm_medium=conference

2. 营销场景

这也是生成式 AI 浪潮下最被关注的场景之一。针对传统营销场景存在的问题，如何来构筑营销智能体，既能保证快速落地又能保证有实际效果，其中的决策引擎、解析引擎应该如何设计，多智能体架构又可以带来哪些优势，未来又该如何进化。

QCon 北京站特别邀请了百度商业广告平台部资深研发工程师田朝龙围绕上述话题进行分享。

3. 教育场景

人工智能正在深度重塑教育领域，驱动着教学模式，尤其是个性化学习的革新。

鉴于大模型所展现的卓越性能与革新性成果，自 2023 年起，图灵机器人用大模型逐一替代了 CNN 模型，并新创了 AI 口语老师、阅卷 AI 助理等应用，在步步高、作业帮产品上应用上线并取得不错效果。QCon 北京站邀请了图灵机器人 COO 郭家拆解这段产品重构之路，并以实际案例，分享其中的辛酸苦辣。

AICon 北京站特别设计了【大模型 + 行业创新应用】专场，邀请了网易有道技术总监林辉分享上述话题。2023 年，网易有道自研了子曰大模型，它是国内第一家教育大模型，也是国内首个通过备案的大模型。网易有道开源自研了 Qanything RAG 的引擎，问答准确率极具竞争力。过去一年，网易有道把子曰和 QAnything 落地到一系列的软硬件产品中。演讲中，林辉将分享有道子曰大模型以及自研开源 RAG 引擎 QAnything 在教育领域的应用，包括 大模型翻译，Hi Echo，小 P 老师，文档问答，语法精讲，作文批改，升学咨询等。

4. 金融场景的多智能体实践

金融行业独有的严谨规范性和合规要求，对语言大模型落地真实业务场景构成了较强挑战，且通用模型由于缺乏领域知识和专业工具的支撑，在金融业务中难以开箱即用。业界共识是，只有扎根（Grounding）在实际场景中，具备记忆（Memory），面向自身目标，通过规划（Planning）完成任务的 Agent，才能端到端交付业务需要的智能。

AICon 北京站现场，蚂蚁集团资深算法专家陈鸿将分享一个在实际业务中打磨过的多智能体协同方案，讨论如何以多智能体流程化的协同推理框架，高效率高质量的交付业务实际可用的投研能力，结合真实的金融业务需求（投研行业分析、新闻事件解读 ），展开这个方案在基座训练和 Prompt 工程方面的一些细节，并尝试勾勒多智能体在金融场景落地的未来蓝图。

在 ArchSummit 深圳站，我们还设置了《创新技术在金融业的应用》专题，除了智能技术应用之外，还聚焦区块链、大数据等技术在金融领域的应用，包括金融科技的前沿探索、数字货币发展趋势等方面的讨论，助力工程师了解行业最新动态。

5. 先进智能技术与制造业融合创新

“新质生产力”未来主战场仍然是实体产业，其中工业制造是主力军。为实现高质量发展，全面部署推进新型工业化，人工智能技术在产品研发、生产、供应链、营销到销售等工业制造场景也在加快落地应用。促进先进智能技术与制造业融合创新，加速工业大模型部署，成为我国智能制造发展的关键。

在 ArchSummit 深圳站，我们特别设置了《AI 助力工业 / 制造智能化》专题，讨论人工智能如何促进工业和制造领域的智能化转型，包括生产优化、预测性维护、智能供应链等方面的实际案例和最佳实践。

6. 具身智能通用机器人领域

人形机器人集成人工智能、高端制造、新材料等先进技术，有望成为继计算机、智能手机、新能源汽车后的颠覆性产品，大模型能力的涌现将具身智能推到了一个新的高度，与人形机器人的结合，打造集“大脑”、“小脑”、“本体”于一身的具身智能通用机器人，将深刻变革人类生产生活方式，重塑全球产业发展格局。

AICon 北京站现场邀请了科大讯飞人形机器人总负责人季超深入分析智能机器人行业发展趋势，结合真实的产业发展趋势现状和痛点分析，阐述在大模型底层能力突破的基础上，具身智能通用机器人相关的前沿技术及深入解读，最后在大模型 + 机器人的背景下提出面向 AGI+Robot 行业生态构建的倡议。

研发场景智能化

1. 智能编码

目前最为被广大开发者关注的场景之一。大模型技术在代码领域作为划时代的生产力工具，与常见的自然语言问题不同——它们需要匹配目标语言的精确语法，识别最佳路径和边缘情况，关注问题规范中的众多小细节，并解决其他特定于代码的问题和要求。

QCon 北京站（4 月份），我们特别邀请了百度工程效能部高级研发工程师吴玮琦，阿里云云效、通义灵码产品技术负责人陈鑫（神秀）介绍阿里、百度在智能研发中的技术思考、解决方案和应用实践。

AICon 北京站（5 月份），我们设置了【Copilot 应用构建实践】专场，特别邀请了腾讯资深产品经理汪晟杰从代码大模型的角度进行分享。

ArchSummit 深圳站（6 月份），我们邀请了阿里巴巴研究员 / 阿里云云原生应用平台负责人丁宇（叔同），围绕 AI 颠覆程序员 / 开发者生产力展开，介绍 AI 编程助手的引入为软件开发带来了哪些质的飞跃，包括 AI 编程工具基于大模型的设计要点、难点、改进思路以及 AI 编程如何颠覆程序员的生产力等。

2.Agent 智能体构建平台

当前，LLM Agent 技术还不够普惠化，还存在创建门槛高、工具集成度低、分发难度高等问题。为了让 Agent 解决更多用户的问题，很多企业开始研发 Agent 智能体构建平台，比如百度灵境平台、vivo 蓝心九问等。

QCon 北京站邀请了百度 / 搜索主任架构师黄川分享百度在这个过程中的一些实践经验，包括通用 Agent 框架、增强 LLM、Agent 理解、统一交互等方面的内容。

AICon 北京站邀请了 vivo 互联网产品平台 架构团队负责人张硕分享 vivo 蓝心九问相关内容，这是一个旨在为 vivo 互联网相关业务场景，提供 AI 智能体解决方案的一站式平台，提供高质量、易用、可视化且可运营 AI 智能体的一站式 AI 应用构建平台。

3. 智能运维

如何用好 AI 创造价值，提升企业生产力，防范关键风险，是企业数字化智能化急需克服的挑战。本议题从智能运维面临的挑战和痛点出发，介绍在企业运维领域应用 AIGC 的实践案例，提出以 LLM 为中心，基于多 Agent 协同的运维方案，并提出在大模型时代下，对下一代智能运维的思考。

QCon 北京站，我们特别设置了【智能运维大模型】专场，邀请了字节跳动技术专家王宁、华为 IT 平台服务部算法科学家张曦、阿里云计算平台智能运维算法团队负责人张颖莹分享各自的实践经验。

4. 智能测试

在业务测试提质效的目标背景下，自动化测试是最重要的解决手段。面对海量的移动端产品，千差万别的业务诉求，如何提供符合业务需求的移动端自动化方案，成为一项亟待解决的技术问题。

QCon 北京站特别邀请了字节跳动客户端测试技术专家朱宏宝介绍字节在移动端自动化领域的技术思考、解决方案和应用实践，通过意图识别、步骤自动纠错修复、自动分级 mock、断言规则自动生成、音视频断言、页面元素级智能断言等能力，解决移动端自动化在场景覆盖、稳定性和效果回报等方面的挑战，探索自动化测试的杠杆效应，实现对业务测试团队的规模化提质增效。移动端智能化测试平台已经在字节多个主要产品中应用，包括头条、西瓜视频、番茄小说、豆包、飞书等几十款 App。

5. 智能监控、观测

在现在的业务中对数据的监控是必不可少的。主要体现在这两个方面：一是数据正确性直接影响服务正确性和算法效果，监控是拦截数据问题的“最后防线”；二是数据问题破坏力和感知时长成正相关，及早感知问题可以最大限度减少破坏。

而大数据监控的痛点也很常见，主要体现在“检测难”“分析难”和“收敛难”这三的层面。

• 检测“难”：监控覆盖难，表数量大，指标量更是倍数放大，监控覆盖量是很难完成的工作；监控准确难，上游表异动、复杂的业务逻辑、业务变更、业务非规律波动等都在挑战“人工监控规则”准确性。
• 分析“难”：定位难，业务表本身具有复杂的业务逻辑，告警定位难；追踪难，业务表一般依赖复杂的上游表，这些表大多具有“业务逻辑”背景，“跨业务”追踪问题的壁垒难。
• 收敛“难”：根据监测难和分析难可知，缺少问题“检测感知”+“分析追踪”的闭环治理，大数据监控收敛难。

基于此，ArchSummit 深圳站特别邀请了网易云音乐资深测试开发工程师宋东辉从智能监控的目标、智能监控模型方案、指标归因方案、工程化落地方案、效果说明等多个维度分享网易云音乐的解决方案。

与此同时，ArchSummit 深圳站还特别邀请了字节跳动 Dev Infra-APM 服务端观测平台负责人孔罗星分享《字节跳动观测诊断的智能化演进》。经过多年建设，字节内场的观测平台已经成为内部用户日常使用最频繁的系统之一，数万研发、SRE、QA 用户对我们提出了极高的要求。作为基础平台，既要做好基础的观测能力建设，也要帮助业务最小化问题发现、排查成本，而字节业务多样，微服务规模庞大，如何在如此复杂的场景下帮助用户及时发现问题、快速排查问题，就成为了巨大的挑战。本次演讲会分享字节跳动解决这些问题的思路。

6. 微服务治理

微服务治理平台是提升业务微服务使用、运维、治理效率的重要手段，频繁变更的使用人员、参差的知识背景成为制约平台发展与业务效能提升的重要因素。QCon 北京站特别邀请了百度商业广告平台部资深工程师刘瑞森从传统微服务治理平台的问题出发，借助 LLM 与 AI Agent 的能力，阐述如何将微服务治理平台与 LLM + AI Agent 结合，进一步提升微服务治理平台的价值。

7.RAG 与向量数据库

AIGC 时代，大模型与企业本地数据相结合的典型实现方式是 RAG 方案（本地知识库 + 向量数据库 + 大模型），而 RAG 实际落地中还存在诸多问题，比如不同模态数据的整合、多源、异构的数据解析、非结构化数据解析以及向量化等。

QCon 北京站，我们特别设置了【RAG 与向量数据库】专场，邀请了 Fabarta 解决方案负责人张红兵、英飞流创始人张颖峰、九章云极 DataCanvas 资深架构师孟圣智等专家共同分享上述话题。

AICon 北京站，我们同样设置了【RAG 检索与生成落地实践】专场，邀请了智谱商业技术中心负责人柴思远、阿里巴巴 OpenSearch 研发负责人邢少敏、字节跳动数据平台部前端负责人许文敏等专家进行分享。

ArchSummit 深圳站特别邀请了百度数据库产品总架构师朱洁分享大模型和数据库技术如何相互成就，数据库技术在过去的一年内取得的创新和发展，介绍这部分关键技术的发展。

8. 数据安全场景

之所以将数据安全场景单独抽离出来，也是因为数据的重要性日益凸显，尤其是人工智能时代。两会期间，周鸿祎还强调，数字化的底座是数字安全。为此，他呼吁把安全发展成新型数字基础设施和公共服务平台，让安全成为保障产业数字化高质量发展的现代生产性服务业，以推动新型工业化和数字安全普惠。

常见的大语言生成模型如 ChatGPT 和图像生成模型 Stable Diffusion 等需要大量的数据进行训练，这些数据中很可能存在个人信息、商业机密等隐私敏感信息，暴力、恐怖、涉政等法律违规信息，以及部分训练数据的知识产权信息等。在此背景下，确保大模型生成内容的数据安全变得尤为关键。

QCon 北京站特别设置了【大模型助力数据安全】专场，广泛邀请蚂蚁集团大安全风险图、端智能、全网巡检算法负责人申书恒，字节跳动智能服务算法团队 Tech Leader 万明阳，抖音集团业务安全质量保障的负责人江明等众多专家围绕上述议题进行分享。

最后，如果大家对于上述内容感兴趣，希望了解具体实践过程，欢迎来到大会现场。现在开始至 3 月 31 日，我们特别推出了优惠活动：联购 QCon（北京站）、AICon（北京站）、ArchSummit（深圳站） 三场会议门票，每张门票立减 300 元；如果一次性团购 30 张门票，将会成为我们的金牌企业会员，两年内享受购票立享 8 折优惠；现在报名，还有机会获得智能软件开发生态展直通卡。具体详情可查看海报，并与海报上的小助手取得联系。

目前，QCon 北京站议程已经上线 80%，8 折购票优惠期还剩最后一周，感兴趣的用户欢迎通过大会官网和小助手进行购票。👇 点击【阅读原文】了解全部议题 👇

  福利通道

• 关注「InfoQ数字化经纬」公众号，回复「2023」领取2023年全部盘点资料。

• 关注「InfoQ数字化经纬」公众号，回复「抽奖」可以参与本周活动，有机会获得精美礼品。

• 关注「InfoQ数字化经纬」公众号，回复「进群」加入数字化读者群交流。

今日好文推荐