中关村科金受邀出席2024全球数字经济大会,分享大模型技术探索实践

来源:东方网
2024-07-05 16:26:50
分享

7月2日上午,2024全球数字经济大会在北京国家会议中心隆重开幕,大会邀请到了50多个国家和国际组织的300多名重要外宾,国内外共有近千人出席开幕式。

全球数字经济大会是经国务院批准的盛会,自2021年以来,已成功举办三届,是数字经济领域最具影响力的盛会之一。

作为2024全球数字经济大会的重要组成部分,由通州区人民政府、中关村软件和信息绿色创新服务联盟等共同主办的“2024全球数字经济大会城市副中心论坛”于7月3日在京隆重启幕。

中关村科金受邀出席本次论坛,与工信部、北京经信局及通州区政府、科研院校领导,“一带一路”沿线国家相关组织嘉宾,专家、相关企业、媒体等300余人共襄盛举。

为千行百业打造新“智”生产力

中关村科金CTO李智伟博士发表主题演讲《大模型促进数据要素加快价值释放》,分享中关村科金自研领域大模型在营销获客、客户服务、知识管理、安全合规四大场景的应用实践。

李智伟表示,从目前大模型相关技术的专利数量、发展时间和舆论指数来看,文本生成图像、提示工程、大模型工程化和对话式AI已经到了推广技术早期,即将进入成熟期,迎来广泛商业化的阶段。领先企业会积极拥抱新技术的使用,因此从应用成熟度、客户需求与厂商服务能力来讲,在面向C端的营销获客、客户服务领域,面向办公的知识管理、安全合规领域,大模型的能力表现和适配性最优,这也是我们正在通过大模型技术全面升级与革新的四大场景。

探索与实践大模型技术赋能四大场景

营销获客场景——智能外呼

中关村科金使用数亿的样本训练了电销大模型,基于数据洞察平台自动挖掘优秀对话样本,从数亿样本中挖掘出数万高质量样本进行样本数据优化和合规性检查,把数据灌入模型进行训练和混合SFT,通过增强学习和人工反馈实现闭环。

在与某头部金融机构的合作中,中关村科金通过应用大模型技术帮助客户提升获客能力与服务体验。其中,提现发起率相比小模型提升了10%-30%,平均通话轮次提升了83%,客户投诉率保持稳定,活跃用户数从5%提升至77%。

客户服务场景——医保办理

在面向政务的客户服务场景,中关村科金也进行了大量实践,比如说医保办理领域。以往需要去网点办理的医保赔付等业务,现在可以借助中关村科金打造的服务全流程“在线窗口”经办平台,通过文字办、音频办和视频办完成。

中关村科金基于大模型打造“医保大脑”,群众可以通过文本咨询医保流程,使用语音连接智能客服咨询办理网点、流程、材料等,接通视频客服办理赔付、面签等业务。

在与某市合作的医保“小智”项目中,文字客服准确率达到了80%以上,相当于文字客服首次介入,就可以完整答复客户80%的问题。人工坐席的日均接听数量由6000个下降到3500个,下降了41.7%,更多咨询工作由机器替代,并且能够满足广泛的市民需求。此外服务的客诉率也有所下降,2023年1-2?份,服务类信访件共计803件,较去年同期2265件下降64.5%,服务满意度为94.74%。

客户服务场景——接警助手

在政务服务中,中关村科金认为接警助手也是非常好的使用场景。近几年,电信诈骗犯罪呈高发态势,民警每天面临繁重的电话接警工作,并需要详细记录报警人受骗过程和各种账号信息,录入系统后派单属地派出所处理警情。

为此中关村科金研发了全场景接警助手平台,提供从底层反诈大模型接入,到上层应用工具一站式服务,目前已为全国9家省级公安、100多家地市公安和200多家区县公安提供服务。

全场景接警助手平台的价值主要体现在三部分,一是能够规范民警跟被报案人之间的沟通,基于诈骗类型按照话术询问报案人,效率比以前高很多。二是自动提取、录入报案人提供的银行卡号、电话等信息。三是报警派单、银行止付流程自动生成。

至此,中关村科金已为近400家公安机关处理了9154万条预警线索,有效预警7940万人次,有效拦截近10亿元资金,具有极高的社会价值。

知识管理场景——投顾助手

中关村科金探索大模型升级与革新的第三个场景是知识管理,投顾助手是其中大模型技术应用很有价值的场景之一。传统投顾需要聘请很多经济分析师、专业的投顾人员,但使用基于大模型的智能投顾应用,通过多模态数据、投资组合知识等训练,可以帮助初阶人员也具备投顾方案服务能力。

中关村科金研发了一套覆盖全流程的投顾助手系统,在投前、投中、投后的辅助和维护都布局了相应的功能和模型能力。在底层能力构建上,中关村科金基于大模型使用组合式AI方式,使用检索增强技术对接入的金融机构知识库进行多模态数据解析,通过自主研发的知识大模型进行问答知识的挖掘、反馈调优,保障落地效果。

知识管理场景——智能陪练

智能陪练也是知识管理场景一个很好的落地方向。训练坐席、销售人员的能力都需要陪练系统,传统陪练更多是使用小模型,进行规则性训练,但大模型可以自动生成对练脚本,根据输入的培训材料自动抽取知识、生成课件,通过数字人的方式提升培训效果。

中关村科金大模型智能陪练使用的是大模型、小模型混合的模型架构,小模型对练作用于优秀导师配置高频、易出错的对话流程,推送学员对练,再通过NLP相似度和关键词等进行实时评分;大模型对练根据行业场景设置大模型扮演角色,覆盖面更广,场景更丰富,多轮对话自然流畅,复刻真实对客场景。

在与某头部金融机构合作使用大模型陪练提升新人培训效果的项目中,培训时长缩短40%,过度承诺违规率降低31.3%,客户信息泄露违规率降低9.6%,对培训人员的日常工作有很强的指导作用。

安全合规场景——深度防伪

安全问题是大模型技术应用的重要部分,国内不管是金融机构还是政企类部门都会对安全有深度地考虑。近一年,活体攻击造成的欺诈风险呈现高损失态势,人脸攻破对银行信用、声誉造成严重影响,如何实现深度防伪?这是攻防一体、矛和盾的问题。

中关村科金研发多模态深度防伪平台,通过视频、人脸识别、声音三位一体的合成能力构建模型,使用30亿参数模型和2百万亿自有金融业务自有数据训练防伪大模型,拦截从未出现的新型攻击,呈现式攻击防护能力达到98.1%,对抗性攻击达到99.95%,深伪攻击达到95.4%。

在与某头部金融机构的合作中,使用防伪大模型全面提升攻击检测能力,转账资金保障超过1亿,攻击拦截率提升至98%。

安全合规场景——合规质检

当前企业安全合规面临着全新的挑战,无论从监管政策还是提升服务的角度出发,金融机构远程办理业务人员的操作是否合规都需要进行检测,包括音频、视频两种模态,因此需要应用多模态大模型技术产生价值。

中关村科金推出新一代合规质检平台,同样使用大模型、小模型混合场景训练方式,全面提升质检效果,大幅降低人工检测成本,严重违规质检召回率达到80%,人工检测效率提升1000倍,全量违规检出准确率为85%-98%。合规质检平台的应用领域很广泛,之后可以泛化到非金融场景,比如政务、媒体等行业的信息合规性检查等。

未来,中关村科金将持续探索自研大模型在更多行业场景的应用与落地,以数据、知识为燃料,以领域大模型为引擎,赋能千行百业数智化升级。

分享