基于大模型驱动的金融智能客服平台由马上消费金融股份有限公司自主研发，平台主要聚焦智能电销服务、智能客服服务、智能数据服务三大应用场景。平台打破传统营销场景的对话流程配置模式，提供端到端对话能力，实现更加有效、精准、智能化的客户洞察方式，提升客户触达的有效性。平台利用历史人工坐席话术、海量用户特征、知识文档等训练数据，生成差异化客服大模型，实现辅助坐席乃至直接对客应答目标，提升了复杂缠绕问题解决率，并精准识别客户需求。在数据分析场景中，大模型自动生成SQL查询语句，全面提升业务SQL分析能力。

随着移动互联网、新一代智能技术与客服系统的深度融合，通过自然语言处理、深度学习、机器人学习等技术，大幅提升了金融服务效率、降低了人力成本，但同时也存在话术配置流程复杂、固化，不自然，服务多样性不足、应答能力不足等问题。随着人工智能技术的不断发展，AI大模型成为客户服务领域的新兴力量，依托大模型搭建更加智能化的客服平台，在大幅降低人力成本的同时，可提升复杂缠绕问题解决率、人机交互体验感，以及意图理解、流程构建、知识生成等运营内容的效率，提供更加有效、精准、智能化的客户洞察方式，识别客户需求，提升客户服务质量和客户满意度，进一步推动行业数字化转型和高质量发展。

马上消费自研的基于大模型驱动的智能客服平台主要聚焦智能电销服务、智能客服服务、智能数据服务三大应用场景。

1、智能电销服务：打破传统的营销场景的对话流程配置模式，提供端到端对话能力，实现基于客户问题生成差异化营销应答方案，实现更加有效、精准、智能化的客户洞察方式，提升客户触达的有效性，推动营销服务向智能化、人性化转变，提高客户活跃度。

2、智能客服服务：基于金融大模型并结合历史人工坐席话术、海量用户特征、知识文档等数据训练，实现基于客户问题生成差异化应答方案，达到坐席辅助乃至直接对客应答目标，实现“千人千面”精准应答，人工坐席服务效率提升30%，应答话术多样性达80%。

3、智能数据服务：在数据分析场景中，业务通过输入一段数据分析需求的文字描述，大模型自动生成对应的SQL查询语句，实现开发效率比传统软件开发模式提升50%以上，全面提升业务SQL分析能力、SQL人工分析效率。

图1  整体架构：天镜大模型支撑客服应用

（二）平台功能模块概述

包含智能电销服务、智能客服服务、智能数据服务三大模块。

2.1 智能电销服务

（1）搭建对话理解能力：辅助业务对对话文本中的关键信息、总结进行实时识别，自动生成摘要，应用到策略决策中。

（2）搭建对话生成能力：传统的外呼机器人通过搭建配置复杂的对话流程和话术来实现特定场景的营销外呼，马上消费电销大模型通过学习优秀坐席的话术经验，提供端到端的对话能力，能实时基于客户问题生成多样性的应答方案。

（3）搭建逻辑推理能力：基于客户沟通文本，抽取客户真实意图，大模型进行推理分析，自动推断客户的潜在需求。

2.2 智能客服服务

（1）多机器人协同服务：首先通过智能机器人判定客户当前意图（大模型+记忆模块），如果客户没有明确意图，持续与客户进行对话，了解客户需求；如果客户表达出明确意图，转交给对应业务机器人，结合政策规定和策略文件给出处理建议。

（2）挖掘最优沟通：从我司历史过往的优秀人工坐席的服务会话（亿级）自动挖掘优秀的沟通流程和沟通话术，将挖掘结果对大模型进行训练，让大模型能够根据当前对话的上下文、客户特征，生成最佳的沟通话术及沟通流程建议。

（3）知识管理模块：利用金融大模型，可以从我司知识库、亿级会话等数据中，将非结构化内容转化为结构化实体、主题、事件、关键词等原子标签，通过对这些原子标签进行管理和使用，支撑坐席服务助手、合规助手等上层应用。

2.3 智能数据服务

马上消费的客服场景超300种，包括申请资金、提前还款、查询账单等，这些场景日均咨询量高达20万。为支撑精细化业务运营离不开数据分析。业务人员可通过输入一段数据分析的文字描述后，大模型自动生成对应的分析SQL语句，包括通用化的SQL语法+具体需要在公司的某某表里取某某字段的差异化语法。

举例：

Step1-分析需求：从历史对话文本中找到用户提到“开具结清证明”的数据量

Step2-模型输入：AIGC实现通过敲入“从2023/3/1-2023/4/1，客群为15的历史数据中提取包含[我录音了]”的对话文本，AIGC自动帮其转化如下

Step3-模型输出：Select from xxx_table where xxx_bucket=‘15’ and dt>=‘20230301’ and dt<=20230401’ and the text like‘%我录音了%’

Step4-整体步骤：SQL语句人工进行微调后上线发布

基于大模型驱动的智能客服平台除了应用于马上消费公司金融服务场景中，也广泛应用于银行、保险、信托、零售、电商等客服场景。

1.马上消费内部应用效果

通过在线交互的强化学习技术实时优化大模型预测精度，提升智能客服机器人服务质量，意图理解准确率达91%,相较于传统AI的68%有较大提升；用户满意度达98.6%，问题识别率93.6%，日均提供咨询服务8万次，年均提供智能客服2880万次，据零壹智库对部分消费金融应用2023年上半年活跃度进行排名，公司“安逸花APP”产品活跃度位居第一。

2.重庆某地方银行：助力AI+客服中心智能化转型

助力重庆某地方银行向“多渠道、智能化、人性化、高可靠”的一流客户服务、营销和体验中心演进。围绕3个方面提供解决方案，一是全渠道智能客服。新一代智能客服系统双活建设，应用金融科技思维驱动渠道智能化转型升级，打造集成大数据、人工智能、深度学习等金融科技场景应用的交互性智能银行。二是远程银行。通过视频客服的能力，为客户带来智能、个性、互动、便捷的全新服务体验，可线上开展更多业务，提升金融服务效率；三是适老化应用APP。APP上嵌入语音控制指令，老年人也能轻松玩转手机银行，弥合“数字鸿沟”。目前，在线服务机器人的自助服务率超80%，人机协同成本下降超50%，服务效率提升70%；智能营销能将人工成本降低80%以上，产能是传统人工产能的6倍以上。

3.重庆某大型零售公司：提供数字化服务与运营解决方案，助力数字化转型

重庆某大型零售公司业务范围广泛，带来人工客服成本高，效率低；架构复杂，沟通管理困难；电销及客服手动记录,便利性差，人工回访效率低等问题。

通过联合马上消费构建数字化服务和运营解决方案，以提升数字化效率，搭建智能语音联络中心、智能文本客服等，实现语音联络中心智能IVR导航，提高15%的有效解决率，智能客服有效解答80%以上重复性咨询，降低人力成本70%以上，智能外呼降低60%人工成本，回访总量增加了5倍以上。

一、模型训练过程中的模型精调

通过基础大模型、高效模型微调、RLHF等技术，训练出金融大模型。然后通过高效模型精调（Fine Tuning）让大模型具备模型专业知识。

二、客服对话场景的模型生产

客服对话场景的模型生产过程主要分为3块：收集数据、客服对话大模型训练过程、文档问答大模型训练过程。

（1）收集数据

马上消费目前已有超1.8亿客户，日均客服进线20万、营销外呼500万，已积累了6大类高质量数据：

A.历史对话数据：如优秀坐席服务语音对话、文本对话；

B.业务文档数据：涉及贷前、贷中、贷后等超2000篇服务文档；

C.业务规则数据：客服机器人配合规则和决策树及各个节点话术；

E.用户特征数据：用户的静态特征描述，包括用户基本信息、行为轨迹、用户标签、账务数据等超1000项特征；

F.技术相关数据：SQL代码及注释，数据库定义和描述。

（2）客服对话大模型训练过程

（3）文档问答大模型训练过程

三、提示工程技术

提示工程（ Prompt Engineering）， Prompt提示词是人与大模型交互的媒介，其Prompt的选择和设计将直接影响生成的质量、可用性和准确性。

在客服领域，主要通过“上文信息”“情景建设”“关联事实”“举例示例”“回复要求”等5个模块进行Prompt输入。

四、幻觉检测技术

在话术生成时，大模型偶尔会产生看似合理但与用户输入、先前生成的上下文或事实知识偏离的输出，这种现象通常被称为幻觉，对业务场景有一定影响。

举例：

客户提问：你们安逸花的贷款利息是多少呢？

模型回复：先生，您好！我们优逸花的贷款利息在8.3%左右，它提供在线理财等功能。您可以到APP办理开具结清证明。

幻觉分析：

【输入冲突幻觉】用户想咨询的产品是安逸花，而模型生成了优逸花的利息查询。

【事实冲突幻觉】事实上公司并不提供在线理财服务

【上下文冲突幻觉】在之前的上下文中没有提到开具结清证明。

针对该问题，可通过幻觉检测有效缓解该类问题。具体流程如下：

（1）大模型生成话术内容；

（2）事实抽取模型，选取用户相关事实信息；

（3）规则对齐：对齐道德法律规范，保障合规安全；

（4）数据校验：验证模型内容生成内容的真实性。