从“智障客服”变智能客服，大模型终于落地了｜甲子光年

2024年春节期间，经过半年多的摸索，瓴羊Quick Service在内部发布了一个新产品版本，定义了在to B场景下智能客服Agent的产品形态。

在当时的时间点，这可能是国内第一个可落地的大模型加持的智能客服Agent。

瓴羊Quick Service部门面临一个选择：要不要面向市场公开发布这个初步成型的产品？要知道，Agent是一个炙手可热的大模型风口，市场上成熟的产品寥寥可数，一旦发布，一定会引发行业不小的关注。

但瓴羊毕竟不是一个学术研究部门，它是阿里巴巴在2021年成立的聚焦于数据服务的全资子公司，Quick Service是其中的智能客服部门。瓴羊最核心的任务，还是要解决客户的实际业务问题。

瓴羊智能客服产品总监张双颖告诉「甲子光年」：“关于先说后做还是先做后说，我们最终决定选择后者。这个产品要想推向市场，应当是等技术水平真正能够达到实际可使用、可商用，能够被客户认可的状态才行。”

此后，瓴羊进入产品的深入打磨期，一晃又是半年多。直到昨天（8月28日），瓴羊Quick Service的大模型产品终于交卷。

瓴羊最新发布的Quick Service 2.0，在上一版本的基础上全面升级了三大核心功能：AI问答、AI辅助和AI知识库，是业内首个将AI Agent完整落地、可覆盖客服“全场景”的智能客服产品。

智能客服是大模型最快落地的场景之一。近期，「甲子光年」采访了张双颖，来回答一个行业本质问题：大模型升级智能客服，这件事到底如何发生，又带来什么价值？

1.智能客服，不够智能

一提到智能客服，大家可能会立马联想到电话推销，电话推销就是通过智能客服呼叫中心的外呼机器人来实现的。很多人常把外呼机器人与智能客服划等号，但实际上外呼机器人只是智能客服的场景之一。

智能客服还有很多场景。张双颖告诉「甲子光年」：“从消费者视角来看，智能客服会贯穿售前、售中、售后三个主要消费环节，为消费者提供一贯式的咨询服务；从客服员工的视角来看，当处理消费者的咨询时，需要用到员工培训、工单、知识库等多款配套工具；从商家的客服部门管理者的视角来看，需要一个工具来了解客服的整体效果，涉及质量检验、消费者综合洞察等。”

因此，智能客服远不止一款产品，而是一个覆盖线上与线下全渠道，涉及售前、售中与售后各个环节与角色的全场景客服系统。

但智能客服行业存在一个长久的痛点，那就是没有体现“智能”。

先简单回溯一下智能客服的发展历史。客服就是“客户服务系统”，最早的形态可以追溯到1956年由泛美航空公司推出的客服中心，通过电话的形式进行客户机票预订，后来逐渐在全球范围内兴起为以电话呼叫中心的客服系统。

20世纪90年代以后，随着互联网的兴起，客服系统跳出单一的电话呼叫中心，出现了网页在线客服、客服软件等多种客服渠道。近十年以来，随着移动互联网、云计算、大数据与AI技术的发展，传统呼叫中心与客服软件进入SaaS与智能化时代。智能客服就是引入了机器学习、深度学习技术的客服系统

客服的20年技术变革历史，图片来自瓴羊

早期的智能客服基于专家系统，依赖于预设的关键词模板，能够提供基本的信息查询服务，但缺乏灵活性与理解复杂语境的能力。后来智能客服引入机器学习、深度学习技术，能够处理更复杂的问题，提供更个性化的服务，但其实仍然没有达到“智能”的水平。

因此，客服系统需要庞大的人工客服来应对各种问题。可以说有多少智能，就有多少人工。

在很多企业，智能客服就是纯粹的成本中心，降本增效就是最核心的诉求。客服人员流动性大、培训成本高、客服效果难以把控、大量重复性问题过度消耗人工客服。同时，如何提升售前转化、如何优化客服流程、如何从客服数据中发现企业业务问题等，一直困扰着各大企业。

直到ChatGPT的出现，让从业者看到了智能客服的理想状态。一个机器人回答所有问题，似乎不再是遥不可及的梦想。

这也是瓴羊Quick Service看到的机会。

2.拿着钉子找锤子

虽然瓴羊Quick Service是智能客服的行业专家，但在大模型的探索上，也是摸着石头过河。

2023年春节——ChatGPT发布一个多月后，瓴羊Quick Service团队就基于海外已有的大模型做出了文本总结、摘要等功能。但团队发现，由于准确度与幻觉等限制，无法在真实的商业环境中落地。

等到2023年年中，OpenAI研究员发布了一篇著名的关于Agent的论文。论文指出，如果说大模型是一个大脑，那么Agent就是一个可执行任务的四肢。这给瓴羊团队如何做大模型的落地打开了新的视角。

Agent架构图，来自OpenAI研究员的论文

在深入研究了Agent的规划、记忆、工具使用等核心组件能力之后，瓴羊的算法、产品团队做了细致的推演，发现Agent这条路是可落地的。2024年春节前后，瓴羊智能客服团队把第一个Agent的产品雏形做了出来。

于是，就有了文章开篇所述团队面临的两种选择。最终，瓴羊决定先把产品打磨好再发布，客户是检验产品的唯一标准。

将大模型与智能客服结合，瓴羊做了大量的工作。

第一步是通用大模型底座的选择。瓴羊Quick Service的默认选择是阿里通义千问，如果企业有其他选择技术上也完全支持。

张双颖解释了选择通义千问的理由：“第一，虽然市场上开源大模型也很多，但很多是不可合规商用的。在可商用的模型里，通义千问是测评效果最优秀的模型之一，这是最重要的一点；第二，通义千问毕竟是阿里自研的模型，从产品协同的角度来说，跟通义家族产品团队的合作会更加顺畅。”

通用大模型虽然具备丰富的世界知识，但这往往不是企业最需要的。企业更需要的是在智能客服这一特定领域的行业知识，比如PDF文档里的规章制度、Word文档里的业务流程，非结构化数据的知识库管理等等。

所以，瓴羊在通用大模型的基础上，通过知识预处理、特征抽取、检索引擎等技术，训练得到客服垂直大模型——瓴羊称之为行业模板。瓴羊面向零售、汽车等多个行业，借助通义千问为底座的RAG方案，针对步骤类、流程类、政策类等文档，生成了与之对应的8种模板。

行业模板针对大模型的内容生成做了约束，有助于解决大模型幻觉问题。此外，在大模型生成知识之后，瓴羊团队还专门做了一个防幻觉的检测模型，确保是安全合规、符合企业要求的信息。

大模型的泛化能力相比传统的小模型节省了重新调整算法的成本，其带来的优势非常明显。比如一个简单的订票场景，以前仅仅是多出一个票种分类，也需要再去专门训练一个小模型来适配，而现在一个大模型就能解决。张双颖表示：“我们发现大模型对新场景的容纳率，的确比小模型要好得多。”

做大模型，也不能盲目迷信大模型。在一年多的摸索里，瓴羊团队得出的结论是，大模型不能解决所有问题，最实用、高效的路线还是大小模型结合的方式。

在智能客服的一些场景中，有一些问题的答案是一丁点都不能出错的，比如食品安全、产品价格，它需要100%的确定性。这类问题，实际上更适合传统的小模型，也就是特定的算法来回答特定的问题，给出预先匹配好的100%确定性的答案。

为了区分复杂问题与专精问题，瓴羊团队研发了一个“路由算法”，就像大模型的路由器一样，智能识别与分发不同的问题。遇到专精问题就匹配给小模型，遇到需要长上下文理解、语义理解、情感识别的问题，就匹配给大模型来处理。

张双颖表示，小模型的核心能力不在于技术水平高低，而在于贴近客户做业务。而现在，智能客服行业涌入了不少大模型公司，试图用新的AI技术改变行业的业务模式。

他认为，许多公司的商业逻辑更像是“拿着锤子找钉子”，而瓴羊恰恰相反，属于“拿着钉子找锤子”。Quick Service沉淀了阿里巴巴二十多年客户服务的经验，这些深厚的行业积累，是短时间内很难被超越的壁垒。

3.大模型智能客服长什么样？

在经过一年多的探索、半年多的沉淀之后，瓴羊Quick Service的大模型产品终于交卷了。

直观理解大模型加持的智能客服，就像是在传统的客服软件系统里植入了聪明的大脑。但这些能力要想发挥出最大的价值，离不开瓴羊过去构建起来的“全场景”能力。

瓴羊最新发布的Quick Service 2.0，在上一版本的基础上全面升级了三大核心功能：AI问答、AI辅助和AI知识库，是业内首个将AI Agent完整落地、可覆盖“全场景”的智能客服产品。

瓴羊Quick Service 2.0产品架构图

第一个产品AI问答，将传统热线和在线对话机器人进行了智能化转型，解决了企业智能机器人在处理客户个性化需求时常答非所问的问题，解答准确率达到93%。

比如，零售行业的星巴克已经与瓴羊合作五年。在此期间，瓴羊与星巴克先后完成了天猫、饿了么、口碑、支付宝、高德、星巴克私域App商城以及会员服务、PC网站、线下门店、微信公众号以及微信小程序等10+个渠道，涵盖会员、外卖等多个星巴克明星业务，帮助星巴克提供多渠道的客户服务支撑。

借助瓴羊的智能化客服系统，星巴克解决了87%的客户咨询问题，客户投诉处理时效提升50%。

Quick Service 2.0第二个产品AI辅助，是为企业客服团队提供效率工具，实现多渠道的高效协同。

某头部零售企业此前一个工单需要经过客服、城市经理、奶站站长等多个环节才能到达最终的处理人员（送奶工）。而接入瓴羊Quick Service后，通过大模型智能填单技术与自动化任务分配系统，工单可以直接精准下发至对应处理人员，线上线下任务协同时长可缩短95%。

某头部运营商存在大量的员工和代理商咨询需要处理，过去主要使用电话沟通、单点私聊或者群内留言等传统方式，客服缺乏统一的标准化服务。在接入瓴羊AI辅助产品后，客服可以借助瓴羊客服的灵活渠道部署，高效整合知识库机器人、人工客服、热线入口、OA流程、公告留言板、消息主动推送等各种支撑能力，客服支撑效能提升50%以上，支撑响应接起率超过99%，一般性诉求解决时间由30分钟压缩到5分钟以内。

Quick Service 2.0第三个产品AI知识库，面向服务运营，减少客服运营繁琐的知识库配置工作，知识库部署从“7天”缩短至“5分钟”。

某头部家电企业，内部协作需要照顾到研发、生产、供链、销售、服务等10万名员工，这些员工每天会产生5000多个问题。但这些数量庞大的提问的重复率高达40%，运维人员的回答也存在不统一、专业性知识跨部门支持等难题。

Quick Service 2.0通过知识批量导入结合Query的相似度模型及知识冲突模型，将问题进行删除合并，同时利用大语言模型的话术润色能力生成出更具专业性、亲和力的答案。而面对格式多、内容广的文档知识，产品团队只需按模板上传，即可为员工生成准确的答案。

此外，高频的产品迭代、数以百计的渠道入口，员工问题繁杂，都给机器人维持准确率带来了不小的困难。对此，Quick Service为企业打造了统一知识生产流程，即使在每季度2-3个功能上线、10%产品更新的节奏之下，也可保证机器人的准确率。当员工在问询不属于某一入口的功能时，智能类目还会帮助机器人自动路由到其他类目，检索原入口没有的知识，解决“大而全”与“小而精”难以兼顾的矛盾。

目前，该企业的机器人问题准确率达80%以上，员工平均咨询量、运维工单咨询发起量分别降低18%与8%。

4.从成本中心到价值升级

客服一直都是企业的成本中心，在做好客户服务的前提下，数字化工具发展的本质一直都是围绕着降本增效展开。而大模型的出现不仅加速了降本增效的进程，还促进了客服的价值典范转移。

张双颖告诉甲子光年：“过去要想提高知识库问答的准确率，从冷启动到调优可能需要一到两个月的爬坡时间，才能逐渐达到一个比较高的准确率。但有了大模型之后，这个爬坡过程可能只需要几周；过去一个服饰商家在换季时节上新，一下子几千个SKU，客服团队需要花两周的时间去学习，现在通过大模型，一两天就能整理出结构化的知识。”

当降本增效从量变来到质变，智能客服会发生什么？

瓴羊看到了一个价值升级的可能性，也就是智能客服从成本中心向业务增长转变，客服与业务甚至是产品的边界会越来越模糊。

瓴羊副总裁林永钦，图片来自瓴羊

这在一些行业已经发生，比如新能源汽车行业。

在汽车新能源浪潮之下，汽车品牌销量与门店数量激增，这对客服中心的智能化能力、响应速度乃至获客能力都提出了更高要求。

上汽在升级为三个子品牌、销量达百万以上后，开始思考客服中心的升级问题：如何改观用户对品牌智能化水平不高的印象、如何提升客服总体满意度、如何使客服从成本中心转为利润中心，主动创造经济价值？

Quick Service的“三全”解决方案，对以上问题一一进行了回应。所谓“三全”，一是打造“全场景”，从售前线索产生、试乘试驾，到售后招揽咨询、赠换购各环节为客户提供完备的咨询服务。二是覆盖“全触点”，通过APP、官网、小程序的统一接入与IM的升级，整合零散获客渠道；三是实现全智能，升级售前/售后机器人、人工客服智能化能力，提升工作效率。

其中，客服系统的智能化升级，为用户提供了“能共情”的体验。Quick Service帮品牌设计了具备丰富情绪表达的形象，使机器人能够与用户同喜同悲，交互界面不再是冷冰冰的机械问答，而是多了几分共情的温度。此外，横滑交互、颜色、高亮等创新交互体系的优化，以及千人千面的“猜你想问”，都使用户感知到更多价值认同与个性化体验。

机器人不仅“能共情”，还“能对话”、“能创新”。通过大模型对活动类、操作步骤类文档知识的抽取，Quick Service有效提升了知识的生产效率，对门店营销、车机使用等高频问题的回答更加游刃有余。

而且在售前环节，机器人还能帮助品牌完成老客的回电保养、潜客的信息搜集等任务，完成向利润中心的价值转移。

张双颖认为，客服产品的特点就是做企业与人的连接，而连接消费者就是最有价值的事情，未来会有越来越多的企业在想办法维系消费者的同时，去思考能不能带来更多的业务增长。而智能客服，很有可能会在这个过程中发挥重要的价值。

今天整体的市场大环境渐渐进入存量时代。对于很多企业来说，挖掘老客户的价值，比获取新客户的性价比更高。

在大模型的加持下，智能客服正是在市场快速变化下，实现业务价值升级的一个切口。