一种分布式存储系统参数调优方法及相关组件技术方案

技术编号:32119749 阅读:28 留言:0更新日期:2022-01-29 19:05
本申请公开了一种分布式存储系统参数调优方法及相关组件,包括:获取能够进行配置的第一参数,对各个第一参数进行配置,得到与各个第一参数对应的第一性能特征;基于各个第一性能特征从第一参数中确定出第二参数,以第二参数所属模块为单位对各个模块中的全部第二参数进行配置,得到与各个模块对应的第二性能特征;基于第二性能特征从第二参数中确定出第三参数,以第三参数所属模块为单位通过对各个模块进行组合的方式对组合模块中的全部第三参数进行配置,得到第三性能特征;根据第三性能特征确定并消除性能瓶颈。本申请通过单个参数调优、单个模块调优和模块组合调优能够得到重要参数集合以确定并消除性能瓶颈,使系统性能处于最优状态。能处于最优状态。能处于最优状态。

【技术实现步骤摘要】
一种分布式存储系统参数调优方法及相关组件


[0001]本专利技术涉及数据存储
,特别涉及一种分布式存储系统参数调优方法、装置、设备及存储介质。

技术介绍

[0002]随着计算机应用和网络技术的飞速发展,作为保障应用可靠性、可用性和存取效率的分布式存储系统的规模也日益庞大和复杂,高复杂度、高规模的存储系统必然涉及众多参数参与调优以使系统性能最优。然而,由于参数过多,一方面难以从全局选择对性能影响最大的TOPN个参数,仅依赖研发经验调整所熟悉的参数,其他参数的性能提升效果不可知。另一方面,若仅掌握一个模块的有限参数,跨模块调参所能取得的性能提升不可知。另外,在设置待测试的参数时,不同类型的参数配置不当存在功能异常风险,且由于参数之间存在关联性,需同时设置才有效等问题导致配置后的参数可能不能真正生效,调优效率较低。
[0003]因此,如何高效实现分布式存储系统的参数调优是本领域技术人员亟待解决的技术问题。

技术实现思路

[0004]有鉴于此,本专利技术的目的在于提供一种分布式存储系统参数调优方法、装置、设备及存储介质,能够得到重要参数集合并确定并消除性能瓶颈,使系统性能处于最优状态。其具体方案如下:
[0005]本申请的第一方面提供了一种分布式存储系统参数调优方法,包括:
[0006]获取分布式存储系统中能够进行配置的第一参数,并分别对各个所述第一参数进行单独配置,得到与各个所述第一参数对应的所述分布式存储系统的第一性能特征;
[0007]基于各个所述第一性能特征从所述第一参数中确定出第二参数,并以所述第二参数所属模块为单位分别对各个模块中的全部所述第二参数进行同时配置,得到与各个模块对应的所述分布式存储系统的第二性能特征;
[0008]基于所述第二性能特征从所述第二参数中确定出第三参数,并以所述第三参数所属模块为单位通过对各个模块进行组合的方式对组合模块中的全部所述第三参数进行同时配置,得到所述分布式存储系统的第三性能特征;
[0009]根据所述第三性能特征确定所述分布式存储系统的性能瓶颈,并消除所述性能瓶颈。
[0010]可选的,所述获取分布式存储系统中能够进行配置的第一参数,包括:
[0011]获取分布式存储系统的全局配置文件以得到参数全集,并从所述参数全集中筛选出能够进行配置的第一参数。
[0012]可选的,所述基于所述第二性能特征从所述第二参数中确定出第三参数,包括:
[0013]根据所述第二性能特征对各个模块中的所述第二参数进行重要性排序,得到排序
后的参数序列;其中,所述参数序列中的参数排序表征各个模块中的所述第二参数对所述分布式存储系统的性能影响程度;
[0014]分别从各个模块对应的所述参数序列中确定出预设占比的所述第二参数,以得到第三参数。
[0015]可选的,所述分布式存储系统参数调优方法,还包括:
[0016]当所述分布式存储系统通过NFS协议进行文件共享,在配置参数前控制客户端卸载NFS共享目录,并通过修改配置文件的方式对参数进行配置;
[0017]参数配置完成后,控制所述客户端重新挂载所述NFS共享目录。
[0018]可选的,所述通过修改配置文件的方式对参数进行配置,包括:
[0019]分别通过修改ganesha配置文件和icf配置文件对相应类型的参数进行配置,并重新启动集群服务和ganesha服务。
[0020]可选的,所述第一性能特征和所述第二性能特征为包括所述分布式存储系统的CPU性能、内存性能、磁盘性能及网络性能在内的硬件性能。
[0021]可选的,所述第三性能特征为包括所述分布式存储系统的ganesha服务、osd服务、lib库及主数据服务运行中的平均时延数据在内的软件性能。
[0022]本申请的第二方面提供了一种分布式存储系统参数调优装置,包括:
[0023]第一调优模块,用于获取分布式存储系统中能够进行配置的第一参数,并分别对各个所述第一参数进行单独配置,得到与各个所述第一参数对应的所述分布式存储系统的第一性能特征;
[0024]第二调优模块,用于基于各个所述第一性能特征从所述第一参数中确定出第二参数,并以所述第二参数所属模块为单位分别对各个模块中的全部所述第二参数进行同时配置,得到与各个模块对应的所述分布式存储系统的第二性能特征;
[0025]第三调优模块,用于基于所述第二性能特征从所述第二参数中确定出第三参数,并以所述第三参数所属模块为单位通过对各个模块进行组合的方式对组合模块中的全部所述第三参数进行同时配置,得到所述分布式存储系统的第三性能特征;
[0026]瓶颈消除模块,用于根据所述第三性能特征确定所述分布式存储系统的性能瓶颈,并消除所述性能瓶颈。
[0027]本申请的第三方面提供了一种电子设备,所述电子设备包括处理器和存储器;其中所述存储器用于存储计算机程序,所述计算机程序由所述处理器加载并执行以实现前述分布式存储系统参数调优方法。
[0028]本申请的第四方面提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机可执行指令,所述计算机可执行指令被处理器加载并执行时,实现前述分布式存储系统参数调优方法。
[0029]本申请中,先获取分布式存储系统中能够进行配置的第一参数,并分别对各个所述第一参数进行单独配置,得到与各个所述第一参数对应的所述分布式存储系统的第一性能特征;然后基于各个所述第一性能特征从所述第一参数中确定出第二参数,并以所述第二参数所属模块为单位分别对各个模块中的全部所述第二参数进行同时配置,得到与各个模块对应的所述分布式存储系统的第二性能特征;接着基于所述第二性能特征从所述第二参数中确定出第三参数,并以所述第三参数所属模块为单位通过对各个模块进行组合的方
式对组合模块中的全部所述第三参数进行同时配置,得到所述分布式存储系统的第三性能特征;最后根据所述第三性能特征确定所述分布式存储系统的性能瓶颈,并消除所述性能瓶颈。可见,本申请通过对分布式存储系统的可配置第一参数进行配置实现单个参数调优,然后基于单个参数调优结果从第一参数中确定第二参数并以模块为单位对第二参数进行配置实现单个模块调优,同样的,基于单个模块调优结果从第二参数中确定第三参数并通过组合模块方式实现模块组合调优,从而得到最重要参数集合,以此确定并消除性能瓶颈,使系统性能处于最优状态。
附图说明
[0030]为了更清楚地说明本专利技术实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本专利技术的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
[0031]图1为本申请提供的一种分布式存储系统参数调优方法流程图;
[0032]图2为本申请提供的一种具体的分布式存储系统参数调优方法示意图;
[0033]图3为本申请提供的一种分布式存储系统本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种分布式存储系统参数调优方法,其特征在于,包括:获取分布式存储系统中能够进行配置的第一参数,并分别对各个所述第一参数进行单独配置,得到与各个所述第一参数对应的所述分布式存储系统的第一性能特征;基于各个所述第一性能特征从所述第一参数中确定出第二参数,并以所述第二参数所属模块为单位分别对各个模块中的全部所述第二参数进行同时配置,得到与各个模块对应的所述分布式存储系统的第二性能特征;基于所述第二性能特征从所述第二参数中确定出第三参数,并以所述第三参数所属模块为单位通过对各个模块进行组合的方式对组合模块中的全部所述第三参数进行同时配置,得到所述分布式存储系统的第三性能特征;根据所述第三性能特征确定所述分布式存储系统的性能瓶颈,并消除所述性能瓶颈。2.根据权利要求1所述的分布式存储系统参数调优方法,其特征在于,所述获取分布式存储系统中能够进行配置的第一参数,包括:获取分布式存储系统的全局配置文件以得到参数全集,并从所述参数全集中筛选出能够进行配置的第一参数。3.根据权利要求1所述的分布式存储系统参数调优方法,其特征在于,所述基于所述第二性能特征从所述第二参数中确定出第三参数,包括:根据所述第二性能特征对各个模块中的所述第二参数进行重要性排序,得到排序后的参数序列;其中,所述参数序列中的参数排序表征各个模块中的所述第二参数对所述分布式存储系统的性能影响程度;分别从各个模块对应的所述参数序列中确定出预设占比的所述第二参数,以得到第三参数。4.根据权利要求1至3任一项所述的分布式存储系统参数调优方法,其特征在于,还包括:当所述分布式存储系统通过NFS协议进行文件共享,在配置参数前控制客户端卸载NFS共享目录,并通过修改配置文件的方式对参数进行配置;参数配置完成后,控制所述客户端重新挂载所述NFS共享目录。5.根据权利要求4所述的分布式存储系统参数调优方法,其特征在于,所述通过修改配置文件的方式对参数进...

【专利技术属性】
技术研发人员:王团结曹琪李强
申请(专利权)人:浪潮电子信息产业股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1