本申请公开了一种语音识别纠错模型训练方法、电子设备、介质及程序产品，涉及语音识别技术领域，语音识别纠错模型训练方法包括：获取第一训练文本，通过预设的大语言模型分别对第一训练文本和对应的第一真实文本中的预设类型文本的字符位置插入标记，得到第二训练文本和第二真实文本；将第二训练文本输入初始语音识别纠错模型，得到预测纠错文本；根据预测纠错文本和第二真实文本，计算损失函数值，损失函数值的计算过程中忽略标记过的文本；基于第二训练文本和损失函数值对初始语音识别纠错模型进行迭代训练，得到目标语音识别纠错模型。本申请的技术方案避免语音识别纠错模型在无法纠正的错误上浪费计算资源和时间，提高了训练效率。
【技术实现步骤摘要】
本申请涉及语音识别，尤其涉及一种语音识别纠错模型训练方法、电子设备、计算机可读存储介质及计算机程序产品。
技术介绍
1、由于自动语音识别(automatic speech recognition,asr)技术在进行语音识别时，语音到文本的转换过程中会产生错误，语音识别纠错的需求也随之产生。语音识别的错误中有些是由于同音不同字的名称(如人名、地名、公司名等)或者代词(如她、它、他等)引起的，在没有上下文的情况下，这些错误通常难以被纠正。
2、目前，在训练用于进行语音纠错的大语言模型时，训练数据中通常也会包括这些无法纠正的错误，模型也无法有效学习，不能对这类错误进行有效纠正。但模型的训练过程中会将这些错误计入模型损失并进行迭代训练，浪费了不必要的计算资源和时间，影响模型训练效率。
3、上述内容仅用于辅助理解本申请的技术方案，并不代表承认上述内容是现有技术。
技术实现思路
1、本申请的主要目的在于提供一种语音识别纠错模型训练方法、电子设备、计算机可读存储介质及计算机程序产品，旨在解决目前的语音识别纠错模型的训练效率低的技术问题。
2、为实现上述目的，本申请提出一种语音识别纠错模型训练方法，所述的语音识别纠错模型训练方法包括：
3、获取第一训练文本，通过预设的大语言模型分别对所述第一训练文本和对应的第一真实文本中的预设类型文本的字符位置插入标记，得到第二训练文本和第二真实文本，其中，所述预设类型为语音识别纠错中不能通过上下文纠正的文本类型；</p>4、将所述第二训练文本输入初始语音识别纠错模型，得到预测纠错文本；
5、根据所述预测纠错文本和所述第二真实文本，计算损失函数值，其中，在所述损失函数值的计算过程中，忽略标记过的预设类型的文本；
6、基于所述第二训练文本和所述损失函数值对所述初始语音识别纠错模型进行迭代训练，得到目标语音识别纠错模型。
7、在一实施例中，所述通过预设的大语言模型分别对所述第一训练文本和对应的第一真实文本中的预设类型文本的字符位置插入标记，得到第二训练文本和第二真实文本的步骤包括：
8、将所述第一训练文本和对应的提示词输入到所述大语言模型中，通过所述大语言模型输出第二训练文本；
9、将所述第一真实文本和对应的提示词输入到所述大语言模型中，通过所述大语言模型输出第二真实文本；
10、其中，所述提示词用于指示所述大语言模型在所述预设类型文本的字符位置插入标记。
11、在一实施例中，所述通过所述大语言模型输出第二训练文本的步骤包括：
12、通过所述大语言模型识别所述第一训练文本中的预设类型文本的字符位置；
13、通过所述大语言模型在所述预设类型文本的字符位置前后插入预设标记，得到并输出第二训练文本。
14、在一实施例中，所述根据所述预测纠错文本和所述第二真实文本，计算损失函数值的步骤包括：
15、将所述预测纠错文本和所述第二真实文本输入预设的损失函数，确定对应的损失函数值；
16、其中，所述损失函数中至少包括标记矩阵，所述标记矩阵用于表征标记过的预设类型的文本的位置，用于在计算损失函数值时忽略标记过的预设类型的文本的影响。
17、在一实施例中，在所述将所述预测纠错文本和所述第二真实文本输入预设的损失函数，确定对应的损失函数值的步骤前，所述方法还包括：
18、获取所述预测纠错文本或所述第二真实文本中每个位置的标记情况；
19、根据所述标记情况，生成标记矩阵，其中，在所述标记矩阵中，标记过的位置记为0，未标记过的位置记为1。
20、在一实施例中，在所述获取第一训练文本的步骤之后，所述方法还包括：
21、判断所述第一训练文本中是否包括预设类型的文本；
22、若是，则执行所述通过预设的大语言模型分别对所述第一训练文本和对应的第一真实文本中的预设类型文本的字符位置插入标记，得到第二训练文本和第二真实文本的步骤；
23、若否，则根据所述第一训练文本和所述第一真实文本训练所述初始语音识别纠错模型，得到目标语音识别纠错模型。
24、在一实施例中，所述基于所述第二训练文本和所述损失函数值对所述初始语音识别纠错模型进行迭代训练，得到目标语音识别纠错模型的步骤包括：
25、调整所述初始语音识别纠错模型的模型参数，并将所述第二训练文本中的训练集文本输入到调整后的初始语音识别纠错模型中，获得新的预测纠错文本；
26、基于新的预测纠错文本对应的第二真实文本确定调整后的初始语音识别纠错模型的损失函数值；
27、若所述损失函数值未收敛，则返回执行所述调整所述初始语音识别纠错模型的模型参数的步骤，直到所述损失函数值收敛后，将所述初始语音识别纠错模型置为目标语音识别纠错模型。
28、此外，为实现上述目的，本申请还提出一种电子设备，所述设备包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序配置为实现如上文所述的语音识别纠错模型训练方法的步骤。
29、此外，为实现上述目的，本申请还提出一种存储介质，所述存储介质为计算机可读存储介质，所述存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如上文所述的语音识别纠错模型训练方法的步骤。
30、此外，为实现上述目的，本申请还提供一种计算机程序产品，所述计算机程序产品包括计算机程序，所述计算机程序被处理器执行时实现如上文所述的语音识别纠错模型训练方法的步骤。
31、本申请提出了一种语音识别纠错模型训练方法，在语音识别纠错模型训练方法中，首先获取第一训练文本，通过预设的大语言模型分别对所述第一训练文本和对应的第一真实文本中的预设类型文本的字符位置插入标记，得到第二训练文本和第二真实文本，其中，所述预设类型为语音识别纠错中不能通过上下文纠正的文本类型，本申请的技术方案中采用大语言模型对文本中不能通过上下文纠正的文本类型的文本进行标记，相比人工标记方式有效地提高了文本标记的效率，再将所述第二训练文本输入初始语音识别纠错模型，得到预测纠错文本，然后根据所述预测纠错文本和所述第二真实文本，计算损失函数值，其中，在所述损失函数值的计算过程中，忽略标记过的预设类型的文本，由于在计算损失函数值时忽略了预设类型的文本，也就忽略了预设类型的文本出现错误时的函数损失，最后基于所述第二训练文本和所述损失函数值对所述初始语音识别纠错模型进行迭代训练，得到目标语音识别纠错模型，损失函数的计算将不会受到标记过的文本的影响，从而避免梯度反向传播到这些部分，使模型训练中能更专注于纠正能够纠正的错误和有意义的错误，倾斜更多的计算资源和时间在能提升纠正准确率的部分，实现了计算资源的充分利用，从而提高了语音识别纠错模型的训练效率和纠错准确率。
本文档来自技高网...
【技术保护点】
1.一种语音识别纠错模型训练方法，其特征在于，所述语音识别纠错模型训练方法包括：
2.如权利要求1所述的语音识别纠错模型训练方法，其特征在于，所述通过预设的大语言模型分别对所述第一训练文本和对应的第一真实文本中的预设类型文本的字符位置插入标记，得到第二训练文本和第二真实文本的步骤包括：
3.如权利要求2所述的语音识别纠错模型训练方法，其特征在于，所述通过所述大语言模型输出第二训练文本的步骤包括：
4.如权利要求1所述的语音识别纠错模型训练方法，其特征在于，所述根据所述预测纠错文本和所述第二真实文本，计算损失函数值的步骤包括：
5.如权利要求4所述的语音识别纠错模型训练方法，其特征在于，在所述将所述预测纠错文本和所述第二真实文本输入预设的损失函数，确定对应的损失函数值的步骤前，所述方法还包括：
6.如权利要求1所述的语音识别纠错模型训练方法，其特征在于，在所述获取第一训练文本的步骤之后，所述方法还包括：
7.如权利要求1至6任一项所述的语音识别纠错模型训练方法，其特征在于，所述基于所述第二训练文本和所述损失函数值对所述初始语音识别纠错模型进行迭代训练，得到目标语音识别纠错模型的步骤包括：
8.一种电子设备，其特征在于，所述设备包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序配置为实现如权利要求1至7中任一项所述的语音识别纠错模型训练方法的步骤。
9.一种存储介质，其特征在于，所述存储介质为计算机可读存储介质，所述存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如权利要求1至7中任一项所述的语音识别纠错模型训练方法的步骤。
10.一种计算机程序产品，包括计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1至7任一项所述的方法。
...
【技术特征摘要】
1.一种语音识别纠错模型训练方法，其特征在于，所述语音识别纠错模型训练方法包括：
2.如权利要求1所述的语音识别纠错模型训练方法，其特征在于，所述通过预设的大语言模型分别对所述第一训练文本和对应的第一真实文本中的预设类型文本的字符位置插入标记，得到第二训练文本和第二真实文本的步骤包括：
3.如权利要求2所述的语音识别纠错模型训练方法，其特征在于，所述通过所述大语言模型输出第二训练文本的步骤包括：
4.如权利要求1所述的语音识别纠错模型训练方法，其特征在于，所述根据所述预测纠错文本和所述第二真实文本，计算损失函数值的步骤包括：
5.如权利要求4所述的语音识别纠错模型训练方法，其特征在于，在所述将所述预测纠错文本和所述第二真实文本输入预设的损失函数，确定对应的损失函数值的步骤前，所述方法还包括：
6.如权利要求1所述的语音识别纠错模型训练方法，其...
【专利技术属性】
技术研发人员：葛娴，宋元峰，姜迪，
申请(专利权)人：深圳前海微众银行股份有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。