李信马 撰文

杨勇 编辑

2024年是人工智能和大模型快速发展的一年，年底 OpenAI 发布了最新版本的GPT-o3，强大的能力让我们看到了AGI的未来。这一年也是大模型加速落地的一年，市场规模已达数百亿，金融行业就是大模型技术重点落地的行业之一。

容联云是国内领先的智能通讯云服务商，在大模型的浪潮中，同样积极拥抱新技术，发布了赤兔大模型，并在金融行业积极落地。

和智谱、腾讯、百度等耳熟能详的平台型厂商不同，容联云的定位更接近于应用厂商，并不直接提供底层的算力资源或平台能力，而是针对企业具体业务场景中的用户服务需求，提供具体的应用方案。

赤兔大模型是容联云基于主流开源大模型，结合行业数据进行微调训练而构建的智能模型。多个主流开源大模型包括通义大模型、智谱大模型和混元大模型，在构建时，容联云还结合了金融、保险、银行等多个垂直行业的实际数据，让模型能够更好地理解行业术语、业务流程和客户需求，从而提供更精准的服务，并随着技术进步和客户需求的变化而持续迭代优化。

具体来说，在预训练阶段，容联云会利用企业之间沉淀的数据资源。在以往的小模型时代，模型的能力主要依赖于大量的数据进行训练，这些在小模型时代积累的脚本和数据，在大模型时代同样可以直接被利用。

其次，容联云会在垂直领域内寻找公开的数据来增强模型的理解能力。例如在金融领域，有公开的企业介绍、产品介绍或服务条款等信息，这样模型就能更好地理解金融相关的内容。以牡丹卡为例，如果不进行相关的训练，模型可能无法识别牡丹卡属于哪家银行。但是，当提供了包含牡丹卡产品资料的数据后，模型就能自行理解并识别出相关信息。

此外，企业的历史语料数据，比如客服中心的历史语料，也可以用来调整和优化模型。

在不久前容联云举办的活动中，容联云介绍了其大模型方案在金融领域的落地情况。比如在保险客服领域，企业面临着一系列业务痛点，传统客服服务时间有限，客户在遇到问题时，往往需要等待人工客服上班才能得到解答，面对大量客户咨询和投诉，人工客服服务效率低下，业务高峰期客户要等待很久，而且由于保险业务涉及大量专业知识和术语，客服人员专业水平参差不齐，也会影响到客户的体验，进而影响企业的品牌口碑和市场竞争力。

针对行业存在的痛点，容联云提供了基于大模型的智能客服解决方案，其中智能文本机器人能够7*24小时不间断地提供服务，该机器人具备强大的语义理解和自然语言处理能力，能够准确理解客户问题给出相应回答，并根据客户需求提供个性化的服务方案。

通过引入大模型技术，容联云实现了保单查询、保全信息变更、线上理赔等一系列业务流程的自动化处理。针对保险业务对专业知识要求高的特点，容联云构建了智能知识库系统，将大量保险专业知识和术语进行结构化处理，并通过大模型技术进行语义理解和关联分析，让客服人员在使用智能知识库时，可以快速准确地找到所需知识点，提升专业水平和服务质量。

据容联云提供的数据显示，智能文本机器人的首解率从原来的60%提升到了80%，转人工率从84%降低到了55%。而且智能文本机器人和自动化业务流程处理功能减少人工客服的数量和工作时间，智能知识库系统也降低了客服人员的培训成本和时间周期，提高了整体运营效率。

在会后的采访中，容联云副总裁孔淼认为，大模型赋能金融行业，是典型的“技术驱动”，其表现是，首先影响对客服务环节，进而改变客户体验。

金融行业从早期的电子网银到后来的手机银行，再发展到如今多元化的手机银行服务，这一系列变革背后都是技术在推动。同样，智能客服的兴起等智能化技术的应用，也是技术驱动的产物。

更早之前，全渠道客服的演变——从传统的呼叫中心到在线客服的加入，同样见证了技术（如互联网移动化、大数据、小模型人工智能，直至现在的大模型人工智能）对行业的深刻影响。

技术驱动不仅带来了服务形态的变化，还吸引了部分客户尝试这种新体验或新技术，从而为存量市场带来了增量流量。一些企业因此尝到了甜头，他们的客户因为新技术的引入——比如个性化推荐等功能——而获得了体验上的提升，进而实现了ROI的增长，这使得企业开始意识到新技术在新场景下的应用潜力。

随着这些新技术在应用中不断展现其价值，企业的需求也随之发生变化。逐渐地，这些新的应用方式和场景会形成一些新的标准，特别是在特定行业场景中，这些标准会逐渐演化为企业软件的标准配置。

对于大模型如何在企业中落地，容联云也经历市场认知上的转变。大模型初现时，业界普遍预期其将彻底改变客户体验和软件行业格局，并倾向于以大模型为核心来解决问题，视其为万能钥匙。

然而，大模型虽强大，但也存在诸多局限，如幻觉现象等，需要加以约束，在企业内部应用时，还需关注流程效率、数据整合等实际问题，包括公有数据与私有数据的融合，以及RAG等配套措施的实施。

另外，训练大模型的成本极高，孔淼认为，追求大模型的通用人工智能（AGI）固然是一种理论上的可能，但从性价比角度考虑，对企业来说大小模型结合是更为可行的方案。

经过过去一年和客户的沟通交流以及业务实践，容联云在选择场景时，关注商业化公司的销售路径和市场化问题，区分存量市场和增量市场，确保所选场景具有市场潜力和商业价值。

“我们对这个事情的认知其实是越来越细，到底哪些短期运营其实是可以产生商业效益的，就是所谓的能看到ROI的，哪些其实可能只是个‘痒点’，甚至只是一个‘嗨点’。”孔淼说到。