电商搜索革命：大模型如何重塑京东购物体验？
另外翟周伟老师将在 8 月 18 日至 19 日的 AICon 上海站上，带来题为《电商大模型及搜索应用实践》的精彩演讲。此外，大会还将涉及更多关于大模型在搜索、广告、推荐领域的探索等热门话题。感兴趣的朋友，不妨点击原文链接，查看大会的详细日程安排，期待与您在 AICon 上海站相遇！
翟周伟：我从技术发展的角度讲下，本质上电商搜索技术演进的驱动力是通过不断的技术创新去实现更低的成本，更高的效率，以及更好的用户体验，可以划分为 4 个阶段：
第一是文本检索阶段，主要基于基础文本检索技术和以规则统计为主的人货匹配；
第二是机器学习阶段，以统计 NLP 技术为核心的用户意图理解和商品理解，利用机器学习模型对 UCTR 和 UCVR 进行建模提升转化，并在人货匹配上引入 LTR 等排序模型提升相关性，同时利用用户搜索行为反馈数据来优化效果；
第三是深度学习阶段，核心是 DNN 技术驱动，包括基于深度模型的意图理解和商品理解显著提升了需求分发的准确性，在商品搜索上引入了 ANN 语义向量召回，多模态召回，DNN 匹配技术，交互上除了文本交互还支持以 DNN 技术为核心的语音和图像商品搜索交互，排序上支持个性化搜索可以千人千面的商品展示；
第四是大模型阶段，正是当下正在经历的阶段，首先是交互的改变，从单向的需求引导到双向的对话式自然语言交互，基于大模型的用户理解和商品理解有效解决了长尾泛化问题，在召回和相关性上大模型也正在重构整个技术架构，包括极具有颠覆潜力的大模型生成式检索技术的探索和应用。
翟周伟：在电商领域主要在用户交互，意图理解和商品理解，商品召回和相关性，以及文案创意生成等方向。在用户交互上重点利用大模型的对话能力进行对话式交互导购，例如我们的京言 AI 助手，意图理解和商品理解上核心是利用大模型的超强理解能力进一步提升用户需求识别的准确性以及商品信息的精准建模，商品召回和相关性上的一个典型例子就是用大模型做商品的增强召回，用大模型对用户需求和商品 SKU 做相关性，文案生成应用上利用大模型来生成图文并茂的营销文案，大模型评论总结等。
翟周伟：第一个首要问题就是通用大模型对商品知识的理解能力比较弱，直接应用没有明显效果优势；第二个问题就是个性化 Context 理解问题，大模型在理解用户购物偏好，用户评论，商品细节上存在个性化效果挑战；第三个就是时效性问题，大模型本身数据更新很慢，知识陈旧，而新商品，促销，价格等时效性更新超高频；第四个就是成本和速度问题，大模型训练和推理成本很大，大规模使用会面临 ROI 低的问题，在线推理速度也很难满足系统实时性要求；最后就是安全问题，大模型存在敏感数据泄露风险，以及生成内容的安全合规等问题。
翟周伟：我们的解决思路主要通过两种方法，第一是新数据和新知识的增强持续预训练，第二就是 RAG，包括电商知识图谱 KG-RAG，商品搜索 RAG，Web 搜索 RAG。通过这些技术手段我们的大模型在电商领域任务上显著高于通用大模型，并且通过 RAG 可以做到实时性信息更新。
翟周伟：大模型电商搜索引擎的核心是所使用大模型的能力决定的，这个能力不仅仅是在通用领域的性能，关键在于大模型对于电商用户的理解，对商品的深刻理解，对电商场景的理解，以及在整个电商应用任务上的性能表现，因此核心考虑是如何构建一个高性能的电商大模型能力底座，以及性能评估体系。
这个也是当前我们的工作重点，启发于人类学习总是在前人积累的知识和经验上进一步学习，我们提出了一种继承学习方法来持续学习，在数据上通过提升知识密度和配比调整，通过模型结构优化，退火学习，多阶段指令对齐优化，增强安全治理对齐等方法提升我们电商大模型的性能表现。
翟周伟：大模型表现的涌现能力让人震惊，基于大模型的各种应用层出不穷，但到目前为止还没有出现所谓的大模型超级应用，也没有出现颠覆性的商业模式，由于大模型研发成本非常大，各种基于大模型的原生应用，包括一线大厂和创业公司的各种 AI 助手类应用还都处于亏损阶段，因此 ROI 是很低的，但大模型应用的商业潜力巨大，这种商业探索非常值得。
同时另一个方面是利用大模型去优化成熟商业模式业务中的效果，重点在于解决中长尾问题，在这个方向上 ROI 还是可以的，已经产生了商业价值。
翟周伟：理想的下一代 AI 电商搜索在技术上应该是完全大模型驱动或 AGI 技术驱动，产品形态上应该是一个数字虚拟助理，类似电影《Her》中出现的超级 AI 助手，在交互上可以和人类进行全模态的自然语言交互，可以直接进行无障碍的流畅语音交互，同时具有听觉，视觉，以及空间感知等能力，可以精准基于用户需求直接推荐最匹配的商品，并给出精准的商品总结，以及为什么满足需求，性价比等，在需求不明的时候可以进行拟人的交互式导购，并可以智能的通过 AI Agent 技术在用户授权下自动下单，包括后续的物流，售后服务都可以由 Agent 来完成，用户只需要下达命令即可。
翟周伟：在我看来，对于一般企业做大模型应用的门槛其实是相对比较低，至少是比传统的 AI 应用门槛低，是因为大模型改变了 AI 应用的研发范式，只需要会写 prompt 就可以使用大模型，而且效果不错，虽然应用门槛变低了，但要做好大模型应用的门槛是变高了，是因为一旦涉及到具体的业务场景深度效果优化就需要优化大模型本身，而大模型研发成本和技术门槛还是比较高，首先训练和推理资源投入就很大，数据也需要很大成本，技术上涉及到预训练，SFT，DPO，PPO，MOE 等技术，要做好还是有门槛的。在应用上我有两点建议：
第一：如果偏向创新产品，建议初期直接调用大模型云服务 API，以 prompt 方式先把产品做出来，先跑通商业模式，尽快建立用户反馈，有一定用户规模后再考虑是否研发自己的大模型。
第二：如果需要优化大模型，建议以性能和商用友好的开源大模型作为底座从而降低训练成本，可结合应用在预训练增强，指令对齐上进行优化，也可以开源模型做初始化进行模型扩展或压缩以适应业务需求。
翟周伟，现任职京东零售大模型技术总监，前华为智能协作领域 AI 助手首席专家，前昆仑万维天工大模型高级总监，在 AI 助手，NLP 和搜索领域有十多年研发实践经验，在 AI/NLP 领域申请超过 15 项发明专利并出版两部著作，曾任华为 - 北大联合语音语义实验室研究观察员，在华为，百度期间主导构建了业界一流的 AI 算法系统并落地 AI 助手以及搜索场景，在大模型方向上主导过业界知名大模型的核心技术研发，目前专注于大模型技术以及在 AI 助手搜推等领域的应用探索和实践。
金融行业凭借相对完善的数据和技术基础，以及丰富的业务场景，成为智能技术的实践场。在智能时代背景下，包括银行、保险、证券等在内的金融机构正在借助 AI 大模型、大数据、云计算等数字化技术不断完善和迭代自身的产品和服务，同时通过向外赋能，加速其它行业数字化，完成数实融合。关注「InfoQ 数字化经纬」，回复「实践案例」领取相关资料。
8 月 18-19 日，AICon 全球人工智能开发与应用大会将在上海举办。来自字节跳动、华为、阿里巴巴、微软亚洲研究院、智源研究院、上海人工智能实验室、蔚来汽车、小红书、零一万物等头部企业及研究机构的 60+ 资深专家，将带来 AI 和大模型超全落地场景与最佳实践分享，帮助与会者提升技术视野、获得有价值的实践指导。大会火热报名中，详情可联系票务经理 13269078023 咨询。
极客时间数字化人才培养认证项目共设 15 个岗位，分为初、中、高三个等级，覆盖数字化及人工智能人才所需的主要技能方向，满足人才技能升级和适应产业发展需求，通过测评后可获得工信部颁发的《工业和信息化人才能力提升证书》，扫码添加小助手，回复「认证」可免费咨询并获得产品手册，一个锦囊、一个助力数字化人才培养的妙策！
关注「InfoQ数字化经纬」公众号，回复「案例」领取《行知数字中国数字化转型案例集锦》。 关注「InfoQ数字化经纬」公众号，回复「进群」加入数字化读者群交流。 关注「InfoQ数字化经纬」公众号，回复「抽奖」可以参与本周活动，有机会获得精美礼品。
从排产到库存，智能算法在供应链优化中的应用与实践数字化时代的企业架构师团队：“设计院与监理公司”的双重角色大模型时代的工业质检：技术革新与实践探讨数字化浪潮下，软件行业的“鄙视链”警惕银行数字化营销的4大“陷阱”