System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 基于Transformer时序预测模型的网络运行指标预测方法及系统技术方案_技高网
当前位置: 首页 > 专利查询>南昌大学专利>正文

基于Transformer时序预测模型的网络运行指标预测方法及系统技术方案

技术编号:41642139 阅读:12 留言:0更新日期:2024-06-13 02:35
本申请涉及网络运行指标预测技术领域,公开了一种基于Transformer时序预测模型的网络运行指标预测方法及系统,该方法包括:对原始时间序列数据进行预处理和多项时序分解,多项时序分解包括趋势项时序分解和周期项时序分解,以得到网络运行的多项时序数据;将多项时序数据输入嵌入层以得到可嵌入特征序列;将可嵌入特征序列输入引入了多头稀疏自注意力的编码器中以捕捉序列的全局信息和局部特征;将编码器输出特征和补充掩码序列输入解码器以得到预测网络运行指标。该方法能够解决现有的Transformer时序预测模型在长非平稳序列预测退化明显、对局部特征和周期特征提取不充分,使得无法满足复杂的非平稳时序预测需求的问题。

【技术实现步骤摘要】

本申请涉及网络运行指标预测,特别涉及一种基于transformer时序预测模型的网络运行指标预测方法及系统。


技术介绍

1、随着互联网的快速普及和数字化社会的崛起,网络运行指标预测成为保障用户体验和业务正常运行的关键环节。用户对高性能、低延迟、可靠性和安全性的网络服务需求不断增加,这使得网络服务提供商和企业面临着更严峻的挑战。网络服务性能和可用性的综合评估,旨在确保用户能够获得稳定、高效、可靠的服务体验。该评估涵盖多个方面,包括带宽、延迟、丢包率、响应时间等关键指标。通过监测和分析这些指标,可以全面了解网络运行状况,并及时发现和解决潜在问题,从而提升用户满意度。现代网络运行状况评常借助先进的监测工具和技术,以确保服务在不同条件下都能表现出色。这种评估对于云计算、在线应用和远程工作等领域至关重要,帮助保障用户体验并提高业务效率。

2、早期的网络运行指标预测方法所使用的算法多是有监督算法,需要在数据量庞大的网络数据中对其进行标签化分类,然后使用聚类等算法进行计算,但巨大的数据量显然是不符合实际应用的。除有监督算法外还有静态阈值评定算法,该方法是对各种网络运行中的参数进行阈值范围的界定,超过一定范围例如延迟超过1s即认定网络存在问题,该方法的缺点是无法动态地对网络的运行指标进行评估,只能被动地监测,此外阈值的设定也需要有经验的网络工程师进行设定。而基于时间序列预测的可以很好的解决以上问题,首先时间序列预测是无监督的学习,不需要对数据进行标签分类,其次,基于时间序列预测的算法还可以根据已有的历史数据对当前时间和未来时间的网络运行进行预测评定,具有很好的动态性。

3、时间序列预测分为传统预测方法和基于机器学习的预测方法。传统算法有传统的时序预测主要是基于统计学方法。传统预测方法主要有自回归模型(autoregressivemodel ar)、提出移动平均模型(ma)、自回归移动平均模型(auto-regressive movingaverage model arma)、自回归条件异方差模型(autoregressive conditionalheteroskedasticity model arch)等。基于机器学习的预测方法有基于机器学习的时序预测主要有支持向量机(svm)、贝叶斯网络(bayesian network,bn)、lstm和transformer等模型。这些方法一定程度上解决了无法应对非线性问题,但是该算法要求时序序列具有平稳性(即时序特征单一或不明显),因此不适合于非平稳时序的长序列预测。

4、然而,传统的时序预测方法存在诸多问题,具有很大的局限性,泛用性不足,并且使用条件苛刻、模型简单且参数单一,只适合用于简单的线性曲线的拟合,无法满足复杂的时序预测需求。此外,传统的时序预测方法只考虑到时间上的建模,是对历史数据进行回归计算分析,忽略了其他额外的多种特征,这也导致了预测精度不理想。而基于机器学习的时序预测方法具有更好的泛用性,可以对多通过特征提取种非线性曲线进行拟合,但基于机器学习的时间序列预测仍存在很多问题,预测效果优异的transformer虽然全局建模能力强,但是transformer在处理非平稳数据时退化明显,不能很好的提取到时间序列中的局部特征和各种周期性的特征。因此,现有的transformer时序预测模型在长非平稳序列预测退化明显、对局部特征和周期特征提取不充分,使得无法满足复杂的非平稳时序预测需求。


技术实现思路

1、基于此,本申请提出一种基于transformer时序预测模型的网络运行指标预测方法及系统,旨在能够解决现有的transformer时序预测模型在长非平稳序列预测退化明显、对局部特征和周期特征提取不充分,使得无法满足复杂的非平稳时序预测需求的问题。

2、本申请的第一方面提供了一种网络运行指标预测方法,基于改进的transformer时序预测模型,所述改进的transformer时序预测模型包括嵌入层、编码器和解码器,所述方法包括:

3、获取网络运行指标的原始时间序列数据,对所述原始时间序列数据进行预处理和多项时序分解,所述多项时序分解包括趋势项时序分解和周期项时序分解,以得到网络运行的多项时序数据;

4、将所述多项时序数据输入所述嵌入层进行转换,以得到可嵌入特征序列;

5、将所述可嵌入特征序列输入编码器,所述编码器中引入多头稀疏自注意力,以捕捉所述可嵌入特征序列的全局信息和局部特征;

6、将所述编码器输出特征和补充掩码序列输入所述解码器,以得到网络运行指标的预测结果。

7、与现有技术相比,本申请提供的一种网络运行指标预测方法,基于改进的transformer时序预测模型,先对网络运行指标的原始时间序列数据进行预处理和多项时间序列分解,这一步骤的目的是将原本一维的时间序列项分解成多项,其中包括趋势项和周期项序列,趋势项能够反映时间序列总体的平稳变化趋势以及可以了解数据整体的变化趋势和长期趋势,在趋势项基础上,周期项更侧重于局部的非平稳变化以及能够捕捉时序数据中具有周期性的变化模式,这样的分解能够将原始时间序列数据更细致地划分为不同的时序信息,从而在后续处理中更好地挖掘隐藏信息;分解后的多项时间序列被送入模型的嵌入层,嵌入层的作用是将多项时间序列转换为模型可接受的输入格式,并且可以学习到数据中的特征表示;接着,将嵌入层输出的数据输入到基于稀疏注意力的编码器模块中,这个模块包含多个多头自注意力和最大池化层的堆叠,其中稀疏注意力机制的引入有效地降低了注意力计算的复杂度,提升了模型的计算效率和性能;再利用解码器来完成对序列的预测任务,解码器能够根据输入的编码表示生成相应的输出序列,这样就可以实现对时间序列未来趋势或其他目标的预测。通过这样的处理流程,本申请提出的模型就能够更好地利用时间序列的多维信息,从而提高模型在预测和分析任务中的准确性和鲁棒性,能够解决现有的transformer时序预测模型在长非平稳序列预测退化明显、对局部特征和周期特征提取不充分,使得无法满足复杂的非平稳时序预测需求的问题。

8、作为第一方面的一种可选实施方式,所述预处理包括:

9、通过窗口化原则从所述原始时间序列数据中检测出异常数据并置为空值,再基于动态时间规整距离的knn插补算法对所述空值进行插补。

10、作为第一方面的一种可选实施方式,所述多项时序分解的步骤包括:

11、定义原始时间序列数据的变量值,其中,st为周期项,为趋势项,为余项;

12、将预处理后的原始时间序列数据进行t阶差分,所述t阶差分公式为:

13、,

14、其中,表示预处理后的原始时间序列数据的t阶差分,表示在另一时间t-t上的时序数据,表示趋势项的t阶差分,表示周期项的t阶差分,表示余项的t阶差分。

15、作为第一方面的一种可选实施方式,所述趋势项时序分解的步骤包括:

16、通过最小化加权来对所述趋势项进行增强以构建目标函本文档来自技高网...

【技术保护点】

1.一种网络运行指标预测方法,其特征在于,基于改进的Transformer时序预测模型,所述改进的Transformer时序预测模型包括嵌入层、编码器和解码器,所述方法包括:

2.根据权利要求1所述的网络运行指标预测方法,其特征在于,所述预处理包括:

3.根据权利要求1所述的网络运行指标预测方法,其特征在于,所述多项时序分解的步骤包括:

4.根据权利要求3所述的网络运行指标预测方法,其特征在于,所述趋势项时序分解的步骤包括:

5.根据权利要求4所述的网络运行指标预测方法,其特征在于,所述周期项时序分解的步骤包括:

6.根据权利要求1所述的网络运行指标预测方法,其特征在于,所述将所述多项时序数据输入所述嵌入层进行转换,以得到可嵌入特征序列的步骤包括:

7.根据权利要求1所述的网络运行指标预测方法,其特征在于,所述引入多头稀疏自注意力的步骤包括:

8.根据权利要求1所述的网络运行指标预测方法,其特征在于,所述将所述编码器输出特征和补充掩码序列输入所述解码器,以得到网络运行指标的预测结果的步骤包括:p>

9.根据权利要求1所述的网络运行指标预测方法,其特征在于,所述得到网络运行指标的预测结果的步骤之后还包括:

10.一种网络运行指标预测系统,其特征在于,基于改进的Transformer时序预测模型,所述改进的Transformer时序预测模型包括嵌入层、编码器和解码器,所述系统包括:

...

【技术特征摘要】

1.一种网络运行指标预测方法,其特征在于,基于改进的transformer时序预测模型,所述改进的transformer时序预测模型包括嵌入层、编码器和解码器,所述方法包括:

2.根据权利要求1所述的网络运行指标预测方法,其特征在于,所述预处理包括:

3.根据权利要求1所述的网络运行指标预测方法,其特征在于,所述多项时序分解的步骤包括:

4.根据权利要求3所述的网络运行指标预测方法,其特征在于,所述趋势项时序分解的步骤包括:

5.根据权利要求4所述的网络运行指标预测方法,其特征在于,所述周期项时序分解的步骤包括:

6.根据权利要求1所述的网络运行指标预测方法,其特征在于,所述将所述多...

【专利技术属性】
技术研发人员:刘承启宋雨轩邹伟平黄文海
申请(专利权)人:南昌大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1