System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 无栅格光传送网络频谱自适应感知的路由和频谱分配方法组成比例_技高网

无栅格光传送网络频谱自适应感知的路由和频谱分配方法组成比例

技术编号:41069519 阅读:11 留言:0更新日期:2024-04-24 11:25
本发明专利技术公开一种无栅格光传送网络频谱自适应感知的路由和频谱分配方法,属于弹性光网络技术领域。本发明专利技术包括:收集网络和服务特征,生成状态空间;确定频谱切片度以及动作空间;建立并训练双深度Q网络模型,并调整参数;根据训练完成的Double‑DQN网络采用SSD‑DDQN进行路由与频谱分配。本发明专利技术通过频谱切片度来反映业务在链路上分配频谱的情况,同时将双DQN模型引入强化学习,并将其与频谱切片度相结合,将频谱片段感知和强化学习相结合,实现自适应频谱分配,在此基础上,优化强化学习的动作空间,提高网络性能,降低流量阻塞概率。

【技术实现步骤摘要】

本专利技术涉及一种无栅格光传送网络频谱自适应感知的路由和频谱分配方法,属于弹性光网络。


技术介绍

1、无栅格光传送网络能够有效利用频谱资源,根据不同的业务需求分配其所需的频隙;无栅格光传送网络拥有足够的灵活性,是具有极大潜力的下一代光网络关键技术之一。

2、强化学习(reinforcement learning,rl)在光网络中得到广泛的应用:rl在资源分配问题中的表现非常优秀,为了全面提取拓扑信息、路径信息等无栅格光传送网络特征,通过全连接神经网络(fully connected neural network,fnn)和循环神经网络(recurrent neural network,rnn)优化rl策略;依据概率失效模型,基于可靠性q学习(reliability-oriented q-leaning,ro-q)的路由与频谱分配(routing andspectrumallocation,rsa),将q学习方法应用到rl策略中,建立节点可靠性分析模型,在网络流量负载较高的情况下保证无栅格光传送网络的应对故障的能力。

3、无栅格光传送网络技术的关键问题是路由与频谱分配问题,属于多项式复杂程度的非确定性(non-deterministic polynomial,np)问题,目前用于频谱分配的方法,使得rl策略动作空间中的备选频谱动作数量多、质量差,已有的rl策略容易产生过高的频谱碎片率,同时极大地增加方法的复杂程度。


技术实现思路

1、本专利技术的目的是提供一种无栅格光传送网络频谱自适应感知的路由和频谱分配方法,通过频谱切片度来反映业务在链路上分配频谱的情况,同时将双深度q网络(deep q-network,dqn)模型引入强化学习,将频谱片段感知和强化学习相结合,实现自适应频谱分配。

2、本专利技术的目的是通过下述技术方案实现的:

3、一种无栅格光传送网络频谱自适应感知的路由和频谱分配方法,具体包括以下步骤:

4、步骤1:收集网络和服务特征,生成状态空间;

5、对于新到达服务,记录服务请求信息:源节点、目的节点、持续时间、服务需求宽度,并与此时网络拓扑状态一起生成当前的状态空间;

6、为充分反映服务请求信息和光网络状态,所述状态空间包括服务请求信息以及网络环境信息两类特征;

7、服务请求信息包括:源节点o、目的节点d、服务时长t以及频谱宽度w;

8、网络环境信息包括:候选链路以及候选链路内部频谱使用情况,即k候选链路中j个候选频谱块的初始索引以及宽度,k候选链路中可用频谱块的总宽度以及平均宽度,以及k候选链路上的频谱片段率;

9、所述状态空间为1×[2n+2+k(2j+3)]的矩阵,其中n为网络中的节点数;

10、步骤2:确定频谱切片度以及动作空间;

11、频谱切片度ssd反映链路上的频谱被新连接分割的程度,如式(1)所示:

12、

13、其中,nk为链路的长度,以及分别为第条被分配的频谱左右相邻处是否有空闲频谱,若有则为1,否则为0;

14、ssd值高于1表示新服务在链路上产生比原先网络更多的分段,低于1表示分配后的频谱分段相较于原先的网络更少;

15、进一步地,步骤2中的动作空间定义方式如下,

16、通过k条最短路径方法确定k条备选路径,并根据频谱切片度确定每条备选路径对应的最佳频谱分配选择;

17、当备选链路不足k条时,将缺少的链路作为第一条可用链路,当可用链路数为0时,服务阻塞;

18、步骤3:建立并训练双深度q网络模型,并调整参数;

19、dqn网络模型通过神经网络来拟合“状态-价值”,并采用一个记忆库来存储历史信息,dqn网络模型有两个结构相同但是参数不同的神经网络,其中一个神经网络qtar用于存储历史信息,具有历史数据,并且定期进行更新;另一个神经网络qeva具有最新的参数,为新来的服务请求确定输出的动作;

20、双深度q网络模型将选择与评估分离,避免过估计;

21、步骤4:根据训练完成的double-dqn网络采用ssd-ddqn进行路由与频谱分配。

22、有益效果:

23、1、本专利技术的无栅格光传送网络频谱自适应感知的路由和频谱分配方法,采用ssd来反映链路上的频谱被一个新连接分段的程度,当光网络面对差异化的到达服务需求时,ssd均能提供较好的频谱选择,提升网络中频谱的连贯程度,提高频谱利用率,降低带宽阻塞概率;

24、2、本专利技术的无栅格光传送网络频谱自适应感知的路由和频谱分配方法,在dqn网络模型中,神经网络直接对价值函数进行学习,使其能够输出与目标动作最大程度相类似的输出动作;

25、3、本专利技术的无栅格光传送网络频谱自适应感知的路由和频谱分配方法,采用强化学习方法,具有学习和决策能力,更加符合人类进行学习和决策的特点,能够根据神经网络提供的参考值,按照一定的策略进行动作的选择,并根据环境的回报信息对自身的策略不断修改与优化,能够做出更好的决策,有效地为服务请求找到更优化的路径。

本文档来自技高网...

【技术保护点】

1.一种无栅格光传送网络频谱自适应感知的路由和频谱分配方法,其特征在于:通过频谱切片度来反映业务在链路上分配频谱的情况,同时将双DQN模型引入强化学习,将频谱片段感知和强化学习相结合,实现自适应频谱分配,具体包括以下步骤:

【技术特征摘要】

1.一种无栅格光传送网络频谱自适应感知的路由和频谱分配方法,其特征在于:通过频谱切片度来反映业务在链路上分配频谱...

【专利技术属性】
技术研发人员:王富忻向军张琦常天海姚海鹏高然董泽管泽川田清华田凤王拥军杨雷静李志沛潘晓龙周思彤于超朱磊
申请(专利权)人:北京邮电大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1