一种高精度混合动态优先级多目标优化方法技术

本发明专利技术提供一种高精度混合动态优先级多目标优化方法，具体过程为：建立目标优化函数，基于所述目标优化函数计算优化变量相对于各优化目标的梯度值；计算本轮迭代的各优化目标的损失函数值，基于所述损失函数值和所述梯度值计算反映目标损失函数变化率的整体速率因子、反映目标参数更新的梯度因子和反映目标优化程度的整体比例因子；利用焦点损失函数计算每一因子的函数值，基于三个因子的函数值，计算各优化目标的总梯度值；基于所述总梯度值更新所述优化变量。由于该算法采用三种因子加权的混合优先级策略，可以避免现有基于单一优先级法则的多目标算法带来的目标间差距加大的问题。问题。问题。

【技术实现步骤摘要】
一种高精度混合动态优先级多目标优化方法


[0001]本专利技术涉及一种高精度混合优先级多目标优化方法，属于多目标优化


技术介绍

[0002]对于单目标优化的情况下，任何两解都可以依据单一目标比较其好坏，可以得出没有争议的最优解，多目标优化与传统的单目标优化相对。多目标优化的概念是在某个情景中在需要达到多个目标时，由于容易存在目标间的内在冲突，一个目标的优化是以其他目标劣化为代价，因此很难出现唯一最优解，取而代之的是在它们中间做出协调和折衷处理，使总体的目标尽可能的达到最优。
[0003]随着深度学习及多任务学习领域的快速发展，基于梯度的多目标算法得到了进一步的关注，其主要特点在于依据不同的优先级分配法则分配目标的优先级，优先级分配的法则主要包括三类：第一类匀化收敛速率、第二类改进困难目标、第三类搜索帕累托改进。
[0004]在匀化收敛速率法则方面，相关文献(Gradient Normalization for Adaptive Loss Balancing in Deep Multitask Networks,ICML，2018)提出了一种GradNorm，将多目标权值分配问题转化为一个基于学习的目标优化问题，目的在于平衡各任务梯度大小。相关文献(End
‑
to
‑
End Multi
‑
Task Learning with Attention,CVPR，2018)提出了一种动态平权方法(Dynamic Weight Average,简称DWA)的轻量级多目标算法，该方法不需要通过建立优化目标，通过迭代过程中的Loss变化速率，分配优化权重，匀化各任务的更新速度。
[0005]在改进困难目标法则方面，相关文献(Dynamic Task Prioritization for Multitask Learning,ECCV,2018)提出了一种动态任务优先化(Dynamic Task Prioritization,简称DTP)多目标方法，该方法设计特定的函数强化对“困难”任务的学习，并对其赋予更高的优化权重。相关文献(Multi
‑
objective lithographic source mask optimization to reduce the uneven impact of polarization aberration at full exposure field,OE,2019)提出了自适应权重多目标梯度下降算法，该方法利用上一轮各目标损失函数的比重分配权重因子。
[0006]在搜索帕累托改进法则方面，相关文献(Multi
‑
Task Learning as Multi
‑
Objective Optimization,NeurlIPS,2018)多梯度下降算法，该方法通过搜索多目标问题的帕累托改进方向，从而使多目标优化问题接近非支配解。
[0007]然而，上述每种算法均是依据“单一”优先级分配法则，忽视了优先级法则之间本身存在的对立关系。实际上，“匀化收敛速率”与“改进困难目标法则”优先级法则之间存在着对立关系。当优化问题过渡关注“匀化收敛速率”法则，则会导致各目标的数量级达到统一，困难目标由于得不到较大的数量级，从而使得优化过程中得不到很好的改进；反之，当优化问题过渡关注“改进困难目标”法则，困难任务的梯度数量级将不断的被强化，导致目标间的数量级差距拉大，影响优化精度。

技术实现思路

[0008]有鉴于此，本专利技术提供一种高精度混合动态优先级多目标方法，该方法可以避免单一优先级法则带来的目标间差距加大的问题。
[0009]实现本专利技术的技术解决方案如下：
[0010]一种高精度混合动态优先级多目标优化方法，具体过程为：
[0011]建立目标优化函数，基于所述目标优化函数计算优化变量相对于各优化目标的梯度值；
[0012]计算本轮迭代的各优化目标的损失函数值，基于所述损失函数值和所述梯度值计算反映目标损失函数变化率的整体速率因子、反映目标参数更新的梯度因子和反映目标优化程度的整体比例因子；
[0013]利用焦点损失函数计算每一因子的函数值，基于三个因子的函数值，计算各优化目标的总梯度值；
[0014]基于所述总梯度值更新所述优化变量。
[0015]进一步地，本专利技术基于分段式焦点损失函数计算每一因子的函数值；利用焦点损失函数计算的整体速率因子和梯度因子的函数值与其自身成反比，所述利用焦点损失函数计算的整体比例因子的函数值与其自身成正比。
[0016]进一步地，本专利技术个所述焦点损失函数为：
[0017][0018]其中，r
i
为整体速率因子，g
i
为梯度因子，s
i
为整体比例因子，γ为聚焦参数，通常情况下γ＝1。
[0019]进一步地，本专利技术当各优化目标的损失函数为达到预设的收敛条件时，开启下一轮迭代。
[0020]进一步地，本专利技术所述整体速率因子为对DWA算法中的整体速率因子各轮次变化率进行指数移动平均确定。
[0021]进一步地，本专利技术所述整体速率因子为：
[0022][0023]EMA
t
(x)＝[βEMA
t
‑1(x)+(1
‑
β)x
(t
‑
1)
]/(1
‑
β
t
)
[0024]其中，其中，β表示移动平均权重因子，t表示迭代轮次序号，R
i
表示DWA算法中的瞬时速率因子。
[0025]进一步地，本专利技术所述梯度因子为各优化目标梯度矩阵的L2范数。
[0026]进一步地，本专利技术所述整体比例因子为对各轮次瞬时比例因子进行移动平均确定。
[0027]进一步地，本专利技术还包括还包括对所述整体速率因子、梯度因子和整体比例因子所计算的函数值分别赋予系数，其中，整体速率因子和梯度因子的系数小于整体比例因子的系数。
[0028]有益效果
[0029]第一、本专利技术基于整体速率因子、梯度因子和整体比例因子计算各优化目标的总梯度值，其中整体速率因子反映目标损失函数变化率，梯度因子反映目标参数更新，整体比例因子反映目标优化程度；避免单一优先级法则带来的目标间差距加大的问题。
[0030]第二、本专利技术利用焦点损失函数分配权重，将目标的优先级分配聚焦到突变的因子上，实现各优化目标间合理的优先级排序。
附图说明
[0031]图1为本专利技术的总体算法流程图。
[0032]图2为极紫外光刻弧形视场的示意图。
[0033]图3为极紫外光刻弧形视场及典型视场点分布图。
[0034]图4为本专利技术提出的多目标算法优化后的各视场点图形误差分布图。
[0035]图5为本专利技术算法优化后的光源图形、掩模图形及对应在F2及F5视本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种高精度混合动态优先级多目标优化方法，其特征在于，具体过程为：建立目标优化函数，基于所述目标优化函数计算优化变量相对于各优化目标的梯度值；计算本轮迭代的各优化目标的损失函数值，基于所述损失函数值和所述梯度值计算反映目标损失函数变化率的整体速率因子、反映目标参数更新的梯度因子和反映目标优化程度的整体比例因子；利用焦点损失函数计算每一因子的函数值，基于三个因子的函数值，计算各优化目标的总梯度值；基于所述总梯度值更新所述优化变量。2.根据权利要求1所述高精度混合动态优先级多目标优化方法，其特征在于，基于分段式焦点损失函数计算每一因子的函数值；利用焦点损失函数计算的整体速率因子和梯度因子的函数值与其自身成反比，所述利用焦点损失函数计算的整体比例因子的函数值与其自身成正比。3.根据权利要求2所述高精度混合动态优先级多目标优化方法，其特征在于，所述焦点损失函数为：其中，r
i
为整体速率因子，g
i
为梯度因子，s
i
为整体比例因子，γ为设定的聚焦参数。4.根据权利要求1所述高精度混合动态优先级多目标优化方法，其特征在于，当各优化目标的损失函数为达到预设的收敛条件时，开启下一轮迭代。5....

【专利技术属性】
技术研发人员：李艳秋，韦鹏志，
申请(专利权)人：北京理工大学，
类型：发明
国别省市：