现在，我们更多探讨的是要重新定义服务知识管理，只有把知识做好，客服才能迈向更高的智能化程度。今年八月发布了云中问道大模型，我们不停地在做新任务的探索。整个思路分为三部分：一是升级思路，顺应LLM发展趋势，关注场景化升级策略。二是升级内容：选取重点服务场景，提供模块化升级服务。三是携手云问：构建私有化大模型，共建新一代客服中心。
在这个过程中会有很多坑，但还是要去试，因为很多事情只有尝试了才知道结果，ChatGPT刚出现的时候是基于人类反馈做的强化学习，将来是不是基于AI做学习，人就可以不用做那么多数据的标注？我们也不知道未来发展方向会如何。
首先，要关注场景化升级策略。我们会有几点考虑，大模型能够为客户服务带来哪些场景上的能效提升？怎样在可控成本内利用大模型实现客服体验升级？我们一直强调可控成本，很有意思的是比如千亿参数的大模型生成速率反而没有小模型生成速率快，越小模型生成越快，参数量越少，之前我们一直在研究怎么在单台的GPU上跑更多的模型。效果可控是非常重要的，如何在B端服务场景下保证质量？我们会核查准确率，当然准确率会分成非常多的任务，包括直接查询、表格渲染、逻辑推理等，大概有十几项的任务来评测这个模型在不同的知识问答或者知识调用场景中会产生哪些效果。
业务场景分成两块：运营管理、交互服务。运营管理主要是客服知识管理，现在很多客户都有这样的前瞻性判断，如果客服的知识中心建设得非常好，实际上是可以直接沿用到集团。场景诉求一定要根据场景来，因为在做SFT、模型微调甚至将来要做基座模型强化学习时一定要强调数据质量。此外是服务质效管理，我们觉得大模型可以落地的任务就是质检，因为以前质检的内容很单调，包括运营决策的分析，客服主管每天要写报告、写报表，这些是可以通过模型替代的。在人机交互和人工服务方面，比如业务引导、主动营销使用大模型挺好实现，因为这两个场景相对比较闭环，做业务引导时会要求用户在某一个业务流程内进行交互，现在通过大模型可以实现流程之间顺滑地跳转。在营销端也可以做很多场景上的事情，例如工单流转、用户画像、服务接待等。
大模型+知识人机交互。有些企业已经构建了FAQ库，目前这个阶段我们已经把机器人答案生成的错误率控在6%—7%以内，但是这个数值也很高，所有任务数据都是数以万计的，模型到了一定数量的时候确实很难做提升，但是我们还会多些尝试，想一些工程上的办法来解决这件事情。
如果我们已经建了FAQ库，但不能用模型，其实还可以做答案的组装，比如冰箱出现了问题，我应该怎么解决？客户咨询的时候会提出很多疑惑，可能涵盖了好几个知识点，以前机器人回答是“您是不是想问1.XXX 2.XXX 3.XXX 4.XXX”，让客户选，这种体验并不好，但是模型可以把这个任务拆解成几个，把几个答案组装在一起再回复用户，我们把这个任务过程称为答案组装，还有答案的改写。因为知识库已经生成，每一类用户需求还不一样，当你识别这个用户出现非常激烈语气时可以先安抚，知识点不会根据每个场景来编辑，这个时候可以回复“您消消气，这是什么导致的”，其实也是一种优化提升，都是基于低成本时去做的，显得比较有意义、有必要。以前是大场景套小场景，用户问的是很小的场景，但这个场景可能是非常大的流程里出现的，现在摘取其中一段是更有意义的。
对于没有构建或者不想构建FAQ库的企业怎么办？我们的建议是既然现在有客服团队，所以最好是先做知识生成或者段落生成，把知识先做结构化，只有这样，让模型在生成的时候才能更加准确。
大模型的辅助应用
1.大模型+对话流程引擎，构建智能导购服务。怎么规避模型生成内容有太多不准确的问题？在不抛弃传统的导航的前提下，可以先问要干什么，A.咨询产品/B.售后服务，再用一个小场景问需要咨询什么样的产品，最后再调用模型做知识库里的回答。
2.大模型+人工服务辅助，基于客服已有知识库，利用大模型提供真正个性化的知识服务辅助。在实践过程中，我们发现很多企业的系统非常不好用，还不如excel，可以利用模型来进行改善，画像抽取、关键信息抽取、工单抽取、服务小结生成等其实是模型比较擅长的能力，此外还有服务小结、工单提取等。
3.大模型+客服知识管理，如何有效提高客服知识库构建效率？大模型时代比以往更需要做知识管理。从知识服务全生命周期出发看大模型的赋能策略，包括构建、存储、消费等不同环节，不同环节有不同模型，有的模型在任务生成上做得非常好，因为我们做生成任务也很多，所以有大量的数据，可以知道基座模型好，还是加了微调数据之后效果会更好，未来是模型组合的时代。
4.大模型服务辅助知识构建，快速创建客服知识库。类似于知识生成引擎，这个知识生成指的是知识转化，并不是完全生成新的内容，这是两个不同的概念。基于业务文档生成知识，基于内容提问，答案要清晰有依据。基于历史会话生成知识，变化会更灵活，尤其工业用品、消费用品等产品迭代非常快，所以知识更新也很快，我们希望客服第一个知道问题的，一旦有相关的问题出现，模型就可以基于历史会话生成知识。
形成了初步的知识库后流程搭建是非常耗时间的，这是知识工程平台，不光是客服需要，整个集团都需要这样的平台。比如这是一篇标准，会有关联关系、术语定义、段落、表格、图片、公式、主题词、FAQ，为什么要把知识做拆分呢？根据实际应用场景，我们发现客户经常会做两个参数的对比，如果直接从文档对比是很难的，但是如果摘取后再做参数对比就非常简单了。
聚合搜索是我们提出的概念，因为模型其实没有大家想象得那么无所不能，但它确实可以减轻很多工作，比如我输入一个问题，年假或者事假怎么请？我们会用云中问道的模型生成一个回答，这是基于搜索结果来生成回答的，生成结果甚至路径不是唯一的，比如事假怎么请有好几条结果，模型会根据几条结果合并一条给到我们，这也是一种提升。比如客户问最近有哪些活动，会自动列出五条活动，对应五个word，右侧会做一个说明，这叫聚合搜索。我们把所有适合于服务人员做的搜索场景全部归在一个场景里，即使生成错了，也可以看到摘自哪篇原文，定位到哪个段落。
5.安全事件分析，因为我们希望客服人员不仅仅做服务，也可以做很多分析，给企业提供更多价值。我们通过事件分类等，在不同时间和空间以及对应的不同元素上了解这件事情是怎么进展的，比如服务路径、用户对于不同产品之间故障的类型是什么样的评价等，可以通过模型做摘要，按照时间排列。
6.大模型+服务质效的管理。我们做了一个培训视频生成，把PPT变成视频，再加数字人做讲解，可读性会更高。而且培训视频结合了客服培训学院，在不同阶段、不同岗位应该要学什么知识，我们会按照岗位类型、阶段类型做区别。在进行培训时，常常需要考试来进行评定，比如一线化妆品有很多门店，要定期给业务人员做培训，如果用户出现了过敏情况我们应该怎么回复，这个时候可以根据内容自动生成考题。我们的知识已经按照体系化来设计，对应了岗位的标签、分类，选择这个岗位之后就会根据这个岗位应该学的知识自动生成考试，这就是知识体系化的好处，所有东西都是前后有所关联的。
7. 大模型+智能质检。首先它会有语义泛化能力，传统质检大多是用关键词或者关键字组合来做的，同一个商品会有很多的故障类型，用户会反馈这个产品是什么问题导致的，需要很多人去进行回答，当中间缺失某一环节，就需要标记一个责任归属。经过现实我们发现，机器人标记要比人力做得准确性更高。关于话术流程质检也是如此，现在大多数是根据敏感词等进行划分，但对于业务规范性的质检有所疏漏，例如关于用户修改身份信息，应确认两次甚至三次才行，但很多客服只确认一次，而传统质检不一定会检测出，但通过模型就可以很快捷地进行合规质检。
大模型的使用会给予客服中心和企业内部越来越多的便捷，但其未来发展仍需要更多人、更多公司的集体努力与尝试。
