System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 缓冲区大小及最大请求线程总数的动态调整方法及装置制造方法及图纸_技高网

缓冲区大小及最大请求线程总数的动态调整方法及装置制造方法及图纸

技术编号:40874503 阅读:19 留言:0更新日期:2024-04-08 16:43
本发明专利技术公开了一种缓冲区大小及最大请求线程总数的动态调整方法及装置,包括:获取网络的第一吞吐量;当第一吞吐量未超过最大网络带宽值,且当前程序内存中存在一定的缓存数据,或者第一吞吐量已超过最大网络带宽值,则检测磁盘写入速率及对应内核的CPU利用率,当磁盘写入速率超过第一阈值或CPU利用率超过第二阈值,则将最大请求线程总数减少,若磁盘写入速率还超过第一阈值,则减小缓冲区大小;当第一吞吐量未超过最大网络带宽值,且当前程序内存中存在空数据,则检测CPU利用率,当最大请求线程总数未超过第三阈值或CPU利用率未超过第二阈值,则将最大请求线程总数增加;再获取网络的第二吞吐量,根据第二吞吐量增加缓冲区大小,提高带宽的利用率。

【技术实现步骤摘要】

本专利技术涉及计算机领域,具体涉及一种缓冲区大小及最大请求线程总数的动态调整方法及装置


技术介绍

1、随着5g技术的普及和网络基础设施的不断完善,网络带宽速度确实比以前更快了。在许多地区,人们可以享受到高速的光纤网络和移动网络,这使得信息传输更加迅速和高效。未来,随着技术的不断进步,网络带宽速度还将继续提升。同时,随着计算机内存、硬件容量以及处理器内核技术的不断进步,计算机可以更快地处理大量的数据和应用程序。处理器内核数量也在不断增加,这使得计算机可以同时处理更多的任务。这也必将导致取证人员从以前对远程服务器镜像不可能固定到现在要求更快更高效的更全面的从远程服务器上获取镜像数据。

2、目前,很多集群服务器和分布式系统大部分都是由多台服务器组成,甚至服务器硬件容量超过t级别数据已经是很常见。这意味着取证人员需要花费更多的时间和精力从远端服务器获取和处理这些数据。为了应对这一挑战,取证人员需要建立起完善的实验室网络环境和硬件设备,并使用高效率的数据处理工具和算法,以便快速地分析数据和提取证据。然而,目前市面上在对远程服务器固定过程中通常都是通过市面上某工具来固定远程服务器镜像数据,并未充分利用当前的网络带宽环境及硬件资源来实时调整下载到本地固定的数据大小。这导致取证人员无法最大化地利用网络带宽和硬件资源来提高取证效率,并可能导致取证过程中出现数据丢失或不完整的情况。

3、目前市面上大部分固定远程服务器镜像工具会在远程固定数据前根据当前设备实际情况预设缓冲区大小,来提高网络镜像制作能力,手动调整缓冲区大小普通存在如下几个缺点:

4、1、无法根据设备实际情况在远程固定镜像过程中实时调整缓冲区大小,可能导致硬件资源无法充分利用;

5、2、在固定镜像过程中通过第三方工具监控,然后手动修改配置文件来调整对服务器请求数据块大小;

6、3、在部分机cpu内核数偏小时,可能由于设置不合理的缓冲区大小,导致程序无法正常运行或请求过程中出现程序崩溃、数据丢包等现象;

7、4、在实际固定镜像过程中通过人为判断实时调整网络配置文件,可能不是很精确,需要多次观察及调整,也必将导致浪费大量的时间。


技术实现思路

1、针对上述提到的技术问题。本申请的实施例的目的在于提出了一种缓冲区大小及最大请求线程总数的动态调整方法及装置,来解决以上
技术介绍
部分提到的技术问题。

2、第一方面,本专利技术提供了一种缓冲区大小及最大请求线程总数的动态调整方法,包括以下步骤:

3、获取预设的请求端的缓冲区大小和最大请求线程总数,检测请求端到目标服务器的最大网络带宽值,获取网络的第一吞吐量;

4、响应于确定第一吞吐量未超过最大网络带宽值,且当前程序内存中存在超过预设数量的缓存数据,或者响应于确定第一吞吐量已超过最大网络带宽值,则检测请求端的磁盘写入速率及对应内核的cpu利用率,响应于确定磁盘写入速率超过第一阈值或对应内核的cpu利用率超过第二阈值,则将对应内核的最大请求线程总数进行减少,响应于磁盘写入速率仍超过第一阈值,则减小请求端的缓冲区大小及当前程序内存大小;

5、响应于确定第一吞吐量未超过最大网络带宽值,且当前程序内存中不存在超过预设数量的缓存数据,则检测对应内核的cpu利用率,响应于最大请求线程总数未超过第三阈值或对应内核的cpu利用率未超过第二阈值,则将对应内核的最大请求线程总数进行增加;

6、再次获取网络的第二吞吐量,响应于确定第二吞吐量未超过最大网络带宽值,则增大请求端的缓冲区大小及当前程序内存大小;

7、而后获取网络的第三吞吐量,响应于确定第三吞吐量已超过最大网络带宽值,则结束调整。

8、作为优选,还包括:

9、响应于确定磁盘写入速率未超过第一阈值,或者第二吞吐量超过最大网络带宽值,则获取网络的第三吞吐量,响应于确定第三吞吐量已超过最大网络带宽值,则结束调整。

10、作为优选,还包括:

11、响应于确定第三吞吐量未超过最大网络带宽值,则将最大请求线程总数进行增加。

12、作为优选,第一吞吐量、第二吞吐量和第三吞吐量均在请求端的网卡上直接统计得到。

13、作为优选,当前程序内存大小为其内部的若干个缓冲区大小之和,响应于不存在预设的当前程序内存大小的最大值,则通过dump机制确定当前程序内存大小的最大值。

14、第二方面,本专利技术提供了一种缓冲区大小及最大请求线程总数的动态调整装置,包括:

15、数据获取模块,被配置为获取预设的请求端的缓冲区大小和最大请求线程总数,检测请求端到目标服务器的最大网络带宽值,获取网络的第一吞吐量;

16、第一调整模块,被配置为响应于确定第一吞吐量未超过最大网络带宽值,且当前程序内存中存在超过预设数量的缓存数据,或者响应于确定第一吞吐量已超过最大网络带宽值,则检测请求端的磁盘写入速率及对应内核的cpu利用率,响应于确定磁盘写入速率超过第一阈值或对应内核的cpu利用率超过第二阈值,则将对应内核的最大请求线程总数进行减少;

17、第二调整模块,被配置为响应于确定第一吞吐量未超过最大网络带宽值,且当前程序内存中不存在超过预设数量的缓存数据,则检测对应内核的cpu利用率,响应于最大请求线程总数未超过第三阈值或对应内核的cpu利用率未超过第二阈值,则将对应内核的最大请求线程总数进行增加;

18、第三调整模块,被配置为再次获取网络的第二吞吐量,响应于确定第二吞吐量未超过最大网络带宽值,则调整请求端的缓冲区大小及当前程序内存大小;

19、结束调整模块,被配置为而后获取网络的第三吞吐量,响应于确定第三吞吐量已超过最大网络带宽值,则结束调整。

20、第三方面,本专利技术提供了一种电子设备,包括一个或多个处理器;存储装置,用于存储一个或多个程序,当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现如第一方面中任一实现方式描述的方法。

21、第四方面,本专利技术提供了一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现如第一方面中任一实现方式描述的方法。

22、相比于现有技术,本专利技术具有以下有益效果:

23、(1)本专利技术提出的缓冲区大小及最大请求线程总数的动态调整方法通过预设动态调整数据过程及实时检测网络带宽处理能力,最大化利用本地设备资源和网络带宽处理能力,从而提高远程数据固定的效率。

24、(2)本专利技术提出的缓冲区大小及最大请求线程总数的动态调整方法通过动态分析当前磁盘io使用情况、当前程序内存使用率以及当前网络的吞吐量,根据当前设备资源环境动态调整缓冲区大小及最大请求线程总数,同时结合实战过程对网络传输数据相关经验值的应用,提高在电子数据取证行业中对远程服务器数据固定起到更好的效果。

25、(3)本专利技术提出的缓冲区大小及最大请求线程总数的动态调整方法不仅适用于远程镜像固本文档来自技高网...

【技术保护点】

1.一种缓冲区大小及最大请求线程总数的动态调整方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的缓冲区大小及最大请求线程总数的动态调整方法,其特征在于,还包括:

3.根据权利要求1所述的缓冲区大小及最大请求线程总数的动态调整方法,其特征在于,还包括:

4.根据权利要求1所述的缓冲区大小及最大请求线程总数的动态调整方法,其特征在于,所述第一吞吐量、第二吞吐量和第三吞吐量均在所述请求端的网卡上直接统计得到。

5.根据权利要求1所述的缓冲区大小及最大请求线程总数的动态调整方法,其特征在于,所述当前程序内存大小为其内部的若干个缓冲区大小之和,响应于不存在预设的当前程序内存大小的最大值,则通过dump机制确定当前程序内存大小的最大值。

6.一种缓冲区大小及最大请求线程总数的动态调整装置,其特征在于,包括:

7.一种电子设备,包括:

8.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-5中任一所述的方法。

【技术特征摘要】

1.一种缓冲区大小及最大请求线程总数的动态调整方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的缓冲区大小及最大请求线程总数的动态调整方法,其特征在于,还包括:

3.根据权利要求1所述的缓冲区大小及最大请求线程总数的动态调整方法,其特征在于,还包括:

4.根据权利要求1所述的缓冲区大小及最大请求线程总数的动态调整方法,其特征在于,所述第一吞吐量、第二吞吐量和第三吞吐量均在所述请求端的网卡上直接统计得到。

5.根据...

【专利技术属性】
技术研发人员:李向林洪合俊林志玮黄志炜张炜铭
申请(专利权)人:厦门市美亚柏科信息股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1