混元加持 腾讯企点智能客服“由里向外”全面升级

作者:郝俊慧 来源:IT时报

“全面拥抱大模型”的腾讯,9月7日正式发布通用大模型混元。腾讯集团高级执行副总裁、云与智慧产业事业群CEO汤道生在当日举行的腾讯数字生态大会上透露,作为腾讯云MaaS服务的底座,超过50个腾讯业务和产品,都已接入混元测试,其中首批服务已对外开放内测。

腾讯企点在首批之列。早在今年6月19日,腾讯企点便在腾讯云行业大模型及智能应用技术峰会上公布,正在研发腾讯企点智能客服、腾讯企点分析·AI助手两款智能产品。如今,两个多月过去,腾讯企点再度迭代,智能客服管理端效率及用户端体验大幅提升,复杂问题解决率提升30%,“企点营销与分析产品方案”升级至6.0版本,并开放企点分析·AI助手内测申请。

消除智能客服“幻觉”

这波由大规模语言模型引起的AI浪潮,从一开始便被作为生产工具投入产业发展中,智能客服将成为第一批被改变的行业,几乎成为业内共识。

然而,当大模型真正投入客服场景时,一个新的悖论出现:如何让大模型训练出的客服实现“零幻觉”?

究其原因,传统智能客服只能依赖知识库提供解答服务,对于非知识库中的问题,便无法提供拟人化的交互体验,而且庞大的知识维护量也为企业客服运营带来负担。

尽管大规模语言模型(LLM)可以顺畅地完成多轮对话,但作为企业与用户的第一触点,“客户要求仍然是,宁愿不回答不要乱回答。”腾讯云副总裁、腾讯云智能研发负责人、腾讯企点研发负责人吴永坚告诉《IT时报》记者,为了减少甚至杜绝幻觉,企点新一代智能客服在为客户提供服务时,采用循序渐进的策略,“一开始,训练数据完全来自知识库,非知识库内容可以直接拒绝回答,随着更多相关知识文档被‘投喂’,再根据反馈机制对大模型逐步调优后,幻觉出现的概率会越来越低。”

据了解,在知识构建层面,新一代智能客服通过企业专属知识“导入-校验-调优”闭环,提升复杂文档读取、理解效果,增加了对图文混排、多列排版等复杂文档接入,通过语义切块,生成向量,以高可用、可扩展向量数据库方案丰富问答组合及内容。此外,通过快速生成问答,以及对问答原文的回溯,提高问答校验的效率,借助对话测试和运营工具,可快速实现调优,提升问答准确率。

当然,作为腾讯云MaaS服务底座的混元,本身亦在花大力气“消除幻觉”。据腾讯集团副总裁蒋杰介绍,混元的“探真”技术,可以在预训练阶段便优化目标函数。与目前市场上常见的开源大模型相比,能有效降低幻觉30%~50%。

有效降低“转人工率”

传统人工智能客服发展多年,用户满意度指标并不令人满意。

一份iiMedia Research(艾媒咨询)调查数据显示,在2022年中国用户对智能客服不同维度满意度评价中,16.9%消费者对反馈内容合理性感到不满意,12.1%消费者对服务效率感到不满意,整体满意率在60%~70%之间。中国青年报的一份调查也显示,近6成受访者对市场现有的智能客服不满意。

“转人工率”是人工智能客服有效性的重要指标之一,但在传统人工智能客服服务场景中,机械式的回答往往很难解决客户实际问题,而一旦“转人工率”上升,便失去了AI客服降本增效的目的。

吴永坚认为,大模型加持后的新一代智能客服,恰恰是希望使智能客服体验更接近“真人客服”,“当你感觉不出对面是一个真人还是机器人时,自然不会提出转人工。”

比如,新一代智能客服可以更准确地识别用户情绪,及时给出安抚;当用户提出需求时,可以分辨任务型、知识型,还是闲聊型话题,用聊天的语气、方式解决任务需求,即使在业务办理过程中,用户插入了“闲聊”话题,也不会导致任务中断。传统客服无法支持“操作步骤讲解”的复杂需求,大模型智能客服可以通过上下文信息补全,基于企业知识库进行问答推理,从而将复杂问题解决率提高30%。

吴永坚透露,目前,大模型智能客服的成本的确高于传统智能客服,但经过优化,成本差距已经控制在十倍以内,今后,随着技术的演进,人机交互体验的增强,成本和效率之间的比例会越来越合理,“从腾讯内部测试结果来看,用户对新一代智能客服给出答案的采纳率提升了好几倍。”

人人都有“数据分析助手”

相较于希望在“第一触点”百分百满足用户需求的智能客服,腾讯企点分析·AI助手更像是在完成一项填空任务,填补整个业务流程中空缺的专业分析判断角色。

高速变化的市场营销环境,正在向企业不断提出新课题,如实现覆盖全渠道、全旅程的“全域营销”,落地精细化、定制化的“个性营销”,提供数据驱动、智能化的“数智营销”,打通新零售线上线下的“融合营销”等。营销方式多元化的出现,使能够快速应对市场市场变化、实现营销目标的人才,出现大量短缺。

腾讯企点营销与分析负责人曾炜告诉《IT时报》记者,一些基层业务决策者可能没有很高的职级,不可能配备专业的营销分析助手,而市场环境又要求他们快速决策,此时,就可以由大模型来担任“助手”角色,给出专业的Know-how(诀窍),“在整个业务流中衔接和填补专业分析的空缺位置。”

大模型的加持,让“人人拥有数据分析助手”成为现实。

一个关于“最近销量情况”的提问,可能并不仅仅是单纯的数据需求,甚至包括对数据背后原因的分析以及下一步营销对策的建议。为了回答这个问题,腾讯分析大模型将深入解析过程分为三层。

据曾炜介绍,首先大模型会先分解问题,将问题拆解为对应的指标,比如“最近销量情况”中销量这个词汇会被关联为“销售额”、“订单数”,“最近”被关联为“近7天”,订单数可能包括门店、电商、小程序等各个渠道;拆解完成后,开始做量化分析,大模型会将这些数据与业务框架进行关联,比如销量等于单笔订单额*订单数量,最终形成指标和业务维度一一对应的网络框架;第三步,也是最重要的一步,结合业务特征、行业特点,进行业务诊断推理。

“以往这些结论往往通过分析员大脑思考后得出,而有了分析大模型,AI在对邮件、PPT、分析指标体系、数据分析知识等等内容分析学习后,进行意图理解、思路拆解、数据推理,进而从分析师视角生成结论。”曾炜透露,目前腾讯分析大模型针对模糊问题的准确性已经达到80%,此前业界的测试数值大多在50%~60%数据之间。

基于分析大模型,腾讯升级推出腾讯企点分析AI助手,已经在零售等行业的多个头部客户中进行落地验证,并正式开启面向全客户开放内测申请。

“今后,我们将AI大模型能力应用到更广泛的PaaS、SaaS产品。一方面,验证我们MaaS服务的可用性、易用性。另一方面,也将更多开箱即用的产品、服务,向客户开放,推动大模型在实际生产、运营场景发挥效用。”吴永坚表示。