一种支持十亿级别的缓存设计方法技术

技术编号:20014644 阅读:35 留言:0更新日期:2019-01-05 22:42
本发明专利技术公开了一种支持十亿级别的缓存设计方法,包括三个组件:缓存服务配置系统、缓存服务调度系统、缓存服务通信系统;本发明专利技术通过计算机软件技术实现的对大容量的缓存系统进行优化设计,通过缓存服务实现缓存调用的自动压力分布,访用户端在使用过程中,一旦缓存服务器出现故障,自动切换到该缓存服务器的备份缓存服务器,该缓存服务器和备份缓存服务器之间存在映射关系。一个能自动对缓存访问进行智能调度的设计,能很好的解决缓存系统涉及中的缺陷,避免产生大量缓存访问在某一时间段集中请求服务器资源,造成系统响应延时,甚至死机的不良状况。从而提高系统的稳定性及健壮性。

A Cache Design Method Supporting Billion Level

The invention discloses a cache design method supporting a billion-level, including three components: cache service configuration system, cache service scheduling system and cache service communication system; the invention optimizes the design of a large-capacity cache system through computer software technology, realizes the automatic pressure distribution of cache invocation through cache service, and visits the user during the use process. Once the cache server fails, it automatically switches to the backup cache server of the cache server. There is a mapping relationship between the cache server and the backup cache server. A design that can automatically schedule the cache access intelligently can solve the defects of the cache system, and avoid a large number of cache access requesting server resources centrally in a certain period of time, resulting in the system response delay, or even the bad situation of crash. Thus, the stability and robustness of the system are improved.

【技术实现步骤摘要】
一种支持十亿级别的缓存设计方法
本专利技术涉及一种支持十亿级别的缓存设计方法,属于软件开发

技术介绍
所谓一种支持十亿级别的缓存设计方法,指的是通过一种科学的调度系统,实现对缓存访问进行科学调度,防止某一缓存服务在某一时间段被过分访问,也防止某一缓存服务在某一时间段访问量过低造成系统资源浪费。在大容量的缓存系统设计中,一般的做法是采用分服务器分机房分服务的方式实现,采用访问站点分流的方式来减少单缓存服务的访问数量和频次,但此方式存在一个缺陷,那就是如果遇到单点访问量过大就会造成系统资源过载,如果站点分流设计不合理由会造成服务器资源浪费,单点缓存访问率低,提高企业IT成本。更大的问题是各分布服务器上的缓存通信存在问题,各站点访问出的数据可能出现不一致的情况。
技术实现思路
本专利技术要解决的技术问题是克服现有技术超大数据量环境下缓存访问压力不均衡,极端情况下会出现系统缓慢甚至宕机的缺点,提供一种支持十亿级别的缓存设计方法,从而更好的满足使用者的需求。为了解决上述技术问题,本专利技术提供了如下的技术方案:本专利技术提供一种支持十亿级别的缓存设计方法,包括三个组件:缓存服务匹配系统、缓存服务调度系统、缓存服务通信系统;该系统运行步骤:S1:系统上线之前进行缓存服务配置系统设置;缓存服务配置系统包括缓存服务系统、备份缓存服务系统和用户端;S2:用户端向缓存服务调度系统发出缓存调用请求;每个用户端的用户数据ID在使用过程中都有配套的缓存服务系统,当该缓存服务系统在使用过程中出现故障,用户端根据步骤S1中的设置,直接调用备份缓存服务系统;S3:缓存服务通信系统,该系统主要是接受步骤S2中缓存服务调度系统的访问请求,缓存任务;根据该请求定时发送信号给缓存服务调度系统。作为本专利技术的一种优选技术方案,对于步骤S1中设置缓存服务匹配系统的步骤为:A1:根据资金预算和实际用户端需求,确定一个缓存调度系统中含有的缓存服务器的数量和备份缓存服务器的数量,并对缓存服务器、备份缓存服务器以及用户端进行标号,形成映射关系;A2:用户端对每个服务设置备份服务配置,备份服务配置是指当前缓存服务出现故障时,自动切换到备份缓存服务中;A3:设定缓存服务调度系统与缓存系统之间的通信间隔,以此判断缓存服务是否处于可运行状态;A4:设定最低缓存运行数量报警阙值,当低于此数值时向系统管理员发出信息,提出预警。作为本专利技术的一种优选技术方案,缓存服务匹配系统中缓存服务系统配套设置有10个缓存服务器,此时,用户端的用户数据ID的尾数直接映射对应标号的缓存服务器。作为本专利技术的一种优选技术方案,缓存服务匹配系统中用户端的用户数据ID数为(n>1),缓存服务器的数量为m(m>1),采用n/m取余算法,所述用户端的用户对应缓存在对应设置在该余数对应的缓存服务器中。作为本专利技术的一种优选技术方案,缓存服务调度系统中建立的缓存服务器和备份缓存服务器存在映射关系,每个缓存服务器对应有一个备份缓存服务器。作为本专利技术的一种优选技术方案,对于步骤S2中用户向缓存系统发出缓存调用请求:其操作步骤为:B1:缓存调度服务根据缓存配置服务中的设定,获得该用户数据ID所对应的缓存服务;B2:缓存调用服务判断缓存服务是否可用,若可用,则直接调用缓存服务,若该服务不可用,则调用备用服务。作为本专利技术的一种优选技术方案,对于步骤S3中缓存服务通信系统,其操作步骤为:C1:根据缓存配置服务中的通信间隔设置,定时与缓存调度系统进行通信,让缓存调度系统确定该服务是否处于可用状态;C2:若缓存访问请求为读取操作,直接返回C3:若缓存访问请求为修改操作,执行先删除后新增操作,并通知缓存调度服务器,由缓存调度服务器通知所有缓存服务执行相同操作;C4:若缓存访问请求为删除操作,则在缓存服务中执行删除操作,并通知缓存调度服务器,由缓存调度服务器通知所有缓存服务执行相同操作;C5:若缓存访问请求为新增操作,则在缓存中增加数据,并通知缓存调度服务器,由缓存调度服务器通知所有缓存服务执行相同操作。本专利技术所达到的有益效果是:目前缓存服务大量的应用在网络应用程序中,利用缓存技术,可以降低对数据库的访问频次,提高系统的响应速度,改善用户体验,本专利技术通过计算机软件技术实现的对大容量的缓存系统进行优化设计,通过缓存服务实现缓存调用的自动压力分布,访用户端在使用过程中,一旦缓存服务器出现故障,自动切换到该缓存服务器的备份缓存服务器,该缓存服务器和备份缓存服务器之间存在映射关系。一个能自动对缓存访问进行智能调度的设计,能很好的解决缓存系统涉及中的缺陷,避免产生大量缓存访问在某一时间段集中请求服务器资源,造成系统响应延时,甚至死机的不良状况。从而提高系统的稳定性及健壮性。附图说明附图用来提供对本专利技术的进一步理解,并且构成说明书的一部分,与本专利技术的实施例一起用于解释本专利技术,并不构成对本专利技术的限制。在附图中:图1为本专利技术缓存服务配置系统的流程图;图2为本专利技术缓存服务调度系统的流程图;图3为本专利技术缓存服务通信系统的流程图。具体实施方式以下对本专利技术的优选实施例进行说明,应当理解,此处所描述的优选实施例仅用于说明和解释本专利技术,并不用于限定本专利技术。实施例1:如图1-3所示,本专利技术提供一种支持十亿级别的缓存设计方法,包括三个组件:缓存服务匹配系统、缓存服务调度系统、缓存服务通信系统;该系统运行步骤:S1:系统上线之前进行缓存服务配置系统设置;缓存服务配置系统包括缓存服务系统、备份缓存服务系统和用户端;S2:用户端向缓存服务调度系统发出缓存调用请求;每个用户端的用户数据ID在使用过程中都有配套的缓存服务系统,当该缓存服务系统在使用过程中出现故障,用户端根据步骤S1中的设置,直接调用备份缓存服务系统;S3:缓存服务通信系统,该系统主要是接受步骤S2中缓存服务调度系统的访问请求,缓存任务;根据该请求定时发送信号给缓存服务调度系统。对于步骤S1中设置缓存服务匹配系统的步骤为:A1:根据资金预算和实际用户端需求,确定一个缓存调度系统中含有的缓存服务器的数量和备份缓存服务器的数量,并对缓存服务器、备份缓存服务器以及用户端进行标号,形成映射关系;A2:用户端对每个服务设置备份服务配置,备份服务配置是指当前缓存服务出现故障时,自动切换到备份缓存服务中;A3:设定缓存服务调度系统与缓存系统之间的通信间隔,以此判断缓存服务是否处于可运行状态;A4:设定最低缓存运行数量报警阙值,当低于此数值时向系统管理员发出信息,提出预警。缓存服务匹配系统中缓存服务系统配套设置有10个缓存服务器,此时,用户端的用户数据ID的尾数直接映射对应标号的缓存服务器。缓存服务匹配系统中用户端的用户数据ID数为(n>1),缓存服务器的数量为m(m>1),采用n/m取余算法,所述用户端的用户对应缓存在对应设置在该余数对应的缓存服务器中。缓存服务调度系统中建立的缓存服务器和备份缓存服务器存在映射关系,每个缓存服务器对应有一个备份缓存服务器。对于步骤S2中用户向缓存系统发出缓存调用请求:其操作步骤为:B1:缓存调度服务根据缓存配置服务中的设定,获得该用户数据ID所对应的缓存服务;B2:缓存调用服务判断缓存服务是否可用,若可用,则直接调用缓存本文档来自技高网...

【技术保护点】
1.一种支持十亿级别的缓存设计方法,其特征在于,包括三个组件:缓存服务匹配系统、缓存服务调度系统、缓存服务通信系统;该系统运行步骤:S1:系统上线之前进行缓存服务配置系统设置;缓存服务配置系统包括缓存服务系统、备份缓存服务系统和用户端;S2:用户端向缓存服务调度系统发出缓存调用请求;每个用户端的用户数据ID在使用过程中都有配套的缓存服务系统,当该缓存服务系统在使用过程中出现故障,用户端根据步骤S1中的设置,直接调用备份缓存服务系统;S3:缓存服务通信系统,该系统主要是接受步骤S2中缓存服务调度系统的访问请求,缓存任务;根据该请求定时发送信号给缓存服务调度系统。

【技术特征摘要】
1.一种支持十亿级别的缓存设计方法,其特征在于,包括三个组件:缓存服务匹配系统、缓存服务调度系统、缓存服务通信系统;该系统运行步骤:S1:系统上线之前进行缓存服务配置系统设置;缓存服务配置系统包括缓存服务系统、备份缓存服务系统和用户端;S2:用户端向缓存服务调度系统发出缓存调用请求;每个用户端的用户数据ID在使用过程中都有配套的缓存服务系统,当该缓存服务系统在使用过程中出现故障,用户端根据步骤S1中的设置,直接调用备份缓存服务系统;S3:缓存服务通信系统,该系统主要是接受步骤S2中缓存服务调度系统的访问请求,缓存任务;根据该请求定时发送信号给缓存服务调度系统。2.根据权利要求1的一种支持十亿级别的缓存设计方法,其特征在于,对于步骤S1中设置缓存服务匹配系统的步骤为:A1:根据资金预算和实际用户端需求,确定一个缓存调度系统中含有的缓存服务器的数量和备份缓存服务器的数量,并对缓存服务器、备份缓存服务器以及用户端进行标号,形成映射关系;A2:用户端对每个服务设置备份服务配置,备份服务配置是指当前缓存服务出现故障时,自动切换到备份缓存服务中;A3:设定缓存服务调度系统与缓存系统之间的通信间隔,以此判断缓存服务是否处于可运行状态;A4:设定最低缓存运行数量报警阙值,当低于此数值时向系统管理员发出信息,提出预警。3.根据权利要求2的一种支持十亿级别的缓存设计方法,其特征在于,缓存服务匹配系统中缓存服务系统配套设置有10个缓存服务器,此时,用户端的用户数据ID的尾数直接映射对应标号的缓存服务器。4.根据权利要求2的一种支持十...

【专利技术属性】
技术研发人员:李兵王春苗
申请(专利权)人:上海萃颠信息科技有限公司
类型:发明
国别省市:上海,31

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1