System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种模型训练方法、装置、介质和程序产品制造方法及图纸_技高网

一种模型训练方法、装置、介质和程序产品制造方法及图纸

技术编号:44260573 阅读:2 留言:0更新日期:2025-02-14 22:05
本申请提供了一种模型训练方法、装置、电子设备、计算机可读介质和计算机程序产品。本申请的方法包括:完成对目标模型的预训练后,通过冻结目标模型中目标参数之外的参数,来针对目标参数相应的部分进行训练;获取待执行的检测任务对应的目标训练图像集;将已冻结的参数进行解冻处理后,基于目标训练图像集对目标模型进行微调。本申请通过在模型训练阶段冻结相关参数,从而仅训练词表映射层和待执行的场景文本任务相关的参数,并在微调阶段解冻所有可学习的参数来基于场景文本任务对应的数据集对模型进行微调,该训练方式减少了在目标数据集上训练微调的成本。

【技术实现步骤摘要】

本申请涉及计算机,尤其涉及一种模型训练方法、装置、电子设备、计算机可读介质和计算机程序产品。


技术介绍

1、场景文本相关的任务是计算机视觉领域的一个重要研究方向,它涉及多种类型的从自然场景中检测识别文本信息相关的任务。这些任务对于图像搜索、即时翻译、机器人导航、工业自动化等领域具有重要意义。现有的研究主要集中在文本的检测和识别方面。

2、传统的场景文本检测模型,如dbnet,致力于通过多步骤方式、基于文本组件的特殊表示的方法来提高文本检测的性能。另一方面,文本识别模型,如parseq,则尝试通过使用深度学习技术,特别是基于cnn和rnn的模型,来提高文字的识别性能。

3、然而,基于现有技术的方案在处理复杂场景下的文本检测或文本识别时仍面临挑战。


技术实现思路

1、本申请的多个方面提供一种模型训练方法、装置、电子设备、计算机可读介质和计算机程序产品。

2、本申请的一方面,提供一种模型训练方法,其中,所述方法包括:

3、完成对目标模型的预训练后,通过冻结目标模型中目标参数之外的参数,来针对目标参数相应的部分进行训练;

4、获取待执行的检测任务对应的目标训练图像集;

5、将已冻结的参数进行解冻处理后,基于目标训练图像集对目标模型进行微调。

6、本申请的一方面,提供一种模型训练装置,其中,所述装置包括:

7、用于完成对目标模型的预训练后,通过冻结目标模型中目标参数之外的参数,来针对目标参数相应的部分进行训练的装置;

8、用于获取待执行的检测任务对应的目标训练图像集的装置;

9、用于将已冻结的参数进行解冻处理后,基于目标训练图像集对目标模型进行微调的装置。

10、本申请的另一方面,提供一种计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令可被处理器执行以实现本申请实施例的方法。

11、本申请的另一方面,提供一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现本申请实施例的方法。

12、本申请实施例提供的方案中,通过在模型训练阶段冻结相关参数,从而仅训练词表映射层和待执行的场景文本任务相关的参数,并在微调阶段解冻所有可学习的参数来基于场景文本任务对应的数据集对模型进行微调,该训练方式减少了在目标数据集上训练微调的成本,可实现在几个小时内完成文本图片中数百个目标的检测与识别,同时能够轻松扩展词表,进一步提升了模型训练效率;通过构建和训练基于transformer架构的包含骨干网络、编码器层和解码器层的模型,将检测、识别和链接等多种任务集成到一个统一的框架中,从而能够适应不同的目标数据集和词表,具有很好的灵活性和适应性;本申请实施例使用基于贝塞尔曲线的降噪训练方法来优化模型的性能,提高了模型在目标数据集上的准确性和鲁棒性。

本文档来自技高网...

【技术保护点】

1.一种模型训练方法,其中,所述方法包括:

2.根据权利要求1所述的方法,其中,所述通过冻结目标模型中目标参数之外的参数,来针对目标参数相应的部分进行训练包括:

3.根据权利要求1所述的方法,其中,所述通过对目标参数之外的参数进行冻结处理,来针对目标参数相应的部分进行训练包括:

4.根据权利要求3所述的方法,其中,所述使用基于贝塞尔曲线的降噪训练方法来来针对目标参数相应的部分进行训练包括:

5.根据权利要求3或4所述的方法,其中,所述方法还包括:

6.根据权利要求1至5中任一项所述的方法,其中,所述目标模型为基于Transformer架构的模型,该模型的结构包括骨干网络、编码器和解码器,所述方法通过以下步骤来训练所述模型:

7.根据权利要求1所述的方法,其中,所述方法还包括:

8.根据权利要求1所述的方法,其中,所述方法还包括:

9.一种模型训练装置,其中,所述装置包括:

10.一种电子设备,所述电子设备包括:

11.一种计算机可读介质,其上存储有计算机程序指令,所述计算机程序指令可被处理器执行以实现如权利要求1至8中任一项所述的方法。

12.一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现权利要求1至8中任一项所述的方法。

...

【技术特征摘要】

1.一种模型训练方法,其中,所述方法包括:

2.根据权利要求1所述的方法,其中,所述通过冻结目标模型中目标参数之外的参数,来针对目标参数相应的部分进行训练包括:

3.根据权利要求1所述的方法,其中,所述通过对目标参数之外的参数进行冻结处理,来针对目标参数相应的部分进行训练包括:

4.根据权利要求3所述的方法,其中,所述使用基于贝塞尔曲线的降噪训练方法来来针对目标参数相应的部分进行训练包括:

5.根据权利要求3或4所述的方法,其中,所述方法还包括:

6.根据权利要求1至5中任一项所述的方法,其中,所述目标模型为基于transform...

【专利技术属性】
技术研发人员:谢彧张婕蕾
申请(专利权)人:上海哔哩哔哩科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1