System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及大数据,具体而言,涉及一种数据处理方法、系统、装置以及非易失性存储介质。
技术介绍
1、在互联网金融领域,随着业务的不断扩展与深化,风险控制(简称风控)业务对数据处理的实时性和准确性提出了前所未有的高要求。风控涉及对全公司各业务线的大量数据进行综合分析,数据类型覆盖了交易记录、用户登录、验证、支付等行为数据,且数据量呈爆炸式增长。尤其是在监控主体行为和构建数据模型时,往往需要进行长时段的回溯指标数据计算,以全面评估风险并及时调整策略。
2、然而,传统的风控指标计算方案已难以满足当下的需求,主要受限于实时性、准确性和计算效率上的不足。例如,从需求提出到指标计算完成,存在天级甚至更长的延迟;离线计算的指标数据精度受限,只能达到天级或小时级,无法满足分钟级或实时的监控需求;计算效率和资源消耗问题突出,批量计算任务占用大量计算资源,且在处理长周期历史数据时,计算时间显著增加等。
3、针对上述的问题,目前尚未提出有效的解决方案。
技术实现思路
1、本专利技术实施例提供了一种数据处理方法、系统、装置以及非易失性存储介质,以至少解决传统的大规模风控指标数据处理实时性差和准确率低的技术问题。
2、根据本专利技术实施例的一个方面,提供了一种数据处理方法,包括:接收目标业务系统中对目标指标的计算指令,其中,目标指标表征目标业务系统中业务行为的量化数据;响应于计算指令,读取目标指标在数据库中对应的历史数据,并计算目标指标对应的实时数据,其中,历史数据表征
3、可选地,在读取目标指标在数据库中对应的历史数据之前,包括:设置与目标指标对应的预设历史时间、分片粒度和规则条件,其中,分片粒度表征将数据分割成多个分片时所依据的时间维度的精细程度,规则条件包括前置规则条件和后置规则条件,前置规则条件用于确定目标指标是否触发计算,后置规则条件用于确定目标指标是否触发聚合计算;基于预设历史时间、分片粒度和规则条件,确定计算语句;基于计算语句,确定历史数据并保存在数据库中。
4、可选地,计算目标指标对应的实时数据,包括:获取目标指标在当前时刻对应的行为数据,其中,行为数据表征目标指标对应的业务行为数据;对行为数据进行计算操作,得到目标指标对应的实时数据,其中,计算操作包括最大值、最小值、平均数。
5、可选地,将历史数据和实时数据进行聚合,得到目标指标对应的数据,包括:在多个分片粒度中,分别将历史数据中的多个分片数据与对应的实时数据中的多个分片数据聚合,得到目标指标对应的多个分片数据;基于目标指标对应的多个分片数据,确定目标指标对应的数据。
6、可选地,在得到目标指标对应的数据之后,还包括:基于使用端输入的确认信息,判断目标指标对应的数据是否正确;在目标指标对应的数据为正确的情况下,将目标指标的状态标识为上线状态,其中,上线状态表征其他使用端被允许读取目标指标对应的数据。
7、可选地,目标业务系统中业务行为包括目标账户的登录行为、验证行为、支付行为和支用行为。
8、根据本专利技术实施例的另一方面,还提供了一种数据处理系统,应用上述中任意一项数据处理方法,包括:指标管理模块,用于预先设置与目标指标对应的预设历史时间、分片粒度和规则条件;实时计算模块,用于计算目标指标对应的实时数据;历史计算模块,用于计算目标指标对应的历史数据;调度模块,用于在指标管理模块、实时计算模块和历史计算模块之间进行任务的传输。
9、根据本专利技术实施例的另一方面,还提供了一种数据处理装置,包括:接收模块,用于接收目标业务系统中对目标指标的计算指令,其中,目标指标表征目标业务系统中业务行为的量化数据;读取模块,用于响应于计算指令,读取目标指标在数据库中对应的历史数据,并计算目标指标对应的实时数据,其中,历史数据表征目标指标在预设历史时间内对应的数据,实时数据表征目标指标在当前时刻对应的数据;聚合模块,将历史数据和实时数据进行聚合,得到目标指标对应的数据。
10、根据本专利技术实施例的又一方面,还提供了一种非易失性存储介质,非易失性存储介质包括存储的程序,其中,在程序运行时控制非易失性存储介质所在设备执行上述中任意一项数据处理方法。
11、根据本专利技术实施例的再一方面,还提供了一种计算机设备,计算机设备包括处理器,处理器用于运行程序,其中,程序运行时执行上述中任意一项数据处理方法。
12、根据本专利技术实施例的再一方面,还提供了一种计算机程序产品,包括计算机程序,计算机程序被处理器执行时实现上述中任意一项数据处理方法。
13、在本专利技术实施例中,采用数据处理方法,通过接收目标业务系统中对目标指标的计算指令,其中,目标指标表征目标业务系统中业务行为的量化数据;响应于计算指令,读取目标指标在数据库中对应的历史数据,并计算目标指标对应的实时数据,其中,历史数据表征目标指标在预设历史时间内对应的数据,实时数据表征目标指标在当前时刻对应的数据;将历史数据和实时数据进行聚合,得到目标指标对应的数据,达到了更加高效地获取所需的量化数据指标的目的,从而实现了提高数据处理的实时性和准确性的技术效果,进而解决了传统的大规模风控指标数据处理实时性差和准确率低的技术问题。
本文档来自技高网...【技术保护点】
1.一种数据处理方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,在所述读取所述目标指标在数据库中对应的历史数据之前,包括:
3.根据权利要求1所述的方法,其特征在于,所述计算所述目标指标对应的实时数据,包括:
4.根据权利要求1所述的方法,其特征在于,所述将所述历史数据和所述实时数据进行聚合,得到所述目标指标对应的数据,包括:
5.根据权利要求1所述的方法,其特征在于,在所述得到所述目标指标对应的数据之后,还包括:
6.根据权利要求1所述的方法,其特征在于,所述目标业务系统中业务行为包括目标账户的登录行为、验证行为、支付行为和支用行为。
7.一种数据处理系统,其特征在于,应用权利要求1至6中任意一项所述数据处理方法,包括:
8.一种数据处理装置,其特征在于,包括:
9.一种非易失性存储介质,其特征在于,所述非易失性存储介质包括存储的程序,其中,在所述程序运行时控制所述非易失性存储介质所在设备执行权利要求1至6中任意一项所述数据处理方法。
10.一种计算机
...【技术特征摘要】
1.一种数据处理方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,在所述读取所述目标指标在数据库中对应的历史数据之前,包括:
3.根据权利要求1所述的方法,其特征在于,所述计算所述目标指标对应的实时数据,包括:
4.根据权利要求1所述的方法,其特征在于,所述将所述历史数据和所述实时数据进行聚合,得到所述目标指标对应的数据,包括:
5.根据权利要求1所述的方法,其特征在于,在所述得到所述目标指标对应的数据之后,还包括:
6.根据权利要求1...
【专利技术属性】
技术研发人员:朱航,
申请(专利权)人:天翼电子商务有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。