人工学习单元的递归耦合制造技术

本发明专利技术涉及一种在由至少两个人工学习单元形成的系统中的方法，该方法包括：在至少一个第一人工学习单元和第二人工学习单元处输入输入值；从第一人工学习单元获取第一输出值；基于第一人工学习单元的输出值形成一个或多个调制函数；将形成的一个或多个调制函数应用于第二人工学习单元的一个或多个参数，其中，一个或多个参数影响第二人工学习单元中输入值的处理和输出值的获得；并且最后，从该第二人工学习单元获取第二输出值。二人工学习单元获取第二输出值。二人工学习单元获取第二输出值。

【技术实现步骤摘要】
【国外来华专利技术】人工学习单元的递归耦合


[0001]本专利技术涉及一种递归耦合人工智能单元的方法。

技术介绍

[0002]人工智能现在在无数应用领域发挥着越来越重要的作用。这最初被理解为智能行为和机器学习的任何自动化。然而，此类系统通常是为特殊任务而设计和训练的。这种形式的人工智能(AI)通常被称为“弱AI”，并且其本质上是基于计算和算法的应用来模拟固定域中的智能行为。示例包括能够识别某些模式的系统，诸如车辆中的安全系统，或者可以学习和实施某些规则的系统，诸如国际象棋。同时，这些系统在其他领域基本上是无用的，必须针对其他应用进行完全重新训练，或甚至使用完全不同的方法进行训练。
[0003]对于此类人工智能单元的实际实施，除其他外，还使用了神经网络。原则上，这些网络在抽象层面上复制了生物神经元的功能。有几个人工神经元或节点相互连接，并且它们可以接收、处理和传输信号到其他节点。例如，对于每个节点，定义了函数、权重和阈值，以确定信号是否被传递到节点以及在多大程度上被传递到节点。
[0004]通常，这些节点是按层考虑的，使得每个神经网络至少有一个输出层。在此之前，其他层可作为所谓的隐藏层存在，从而形成多层网络。这些输入值或特征也可以视为层。不同层的节点之间的连接称为边缘，这些边缘通常被分配固定的处理方向。根据网络拓扑，可以指定层的哪个节点链接到下一层的哪个节点。在这种情况下，可以连接所有节点，但是，例如，由于学习的权重值为0，因此无法经由特定节点进一步处理信号。
[0005]神经网络中信号的处理可以用各种函数来描述。下面，针对单个神经元或神经网络的节点描述该原理。从到达节点的几个不同输入值中，网络输入由传播函数(也称输入函数)形成。通常该传播函数包括简单的加权和，其中每个输入值都给定一个相关的权重。然而，原则上，其他传播函数也是可能的。在这种情况下，该权重w
i
可以指定为该网络的权重矩阵。
[0006]可以依赖于阈值的激活函数f
akt
被应用于以这种方式形成的节点的该网络输入。该函数表示该网络输入与神经元的活动水平之间的关系。各种激活函数是已知的，例如，简单的二进制阈值函数，该函数的输出因此低于该阈值为零，而在阈值以上为恒等式；sigmoid函数；或具有给定斜率的分段线性函数。这些函数在神经网络的设计中被指定。激活函数f
akt
的结果形成了激活状态。任选地，可以指定额外的输出函数f
out
或输出函数，将其应用于该激活函数的输出并确定该节点的最终输出值。然而，通常激活函数的结果在这里只是直接作为输出值传递，即该标识用作输出函数。根据使用的命名法，激活函数和输出函数也可以组合为传递函数f
trans
。
[0007]每个节点的输出值然后被传递到神经网络的下一层，作为该层对应节点的输入值，在该层重复相应的步骤，以使用该节点的对应函数和权重进行处理。根据网络的拓扑结构，也可能存在到前一层或返回到输出层的反向边缘，从而形成循环网络。
[0008]相比之下，该网络可以改变用于对每个输入值进行加权的权重w
i
，以调整该整个
网络的输出值和操作，这被认为是神经网络的“学习”。
[0009]为此，通常使用网络中的误差反向传播，即将输出值与预期值进行比较，并使用该比较来适应输入值，以实现误差最小化的目的。然后可以使用误差反馈来相应地调整网络的各种参数，诸如步长大小(学习率)或这些节点输入值的权重。同样，这些输入值也可以重新评估。
[0010]然后可以在训练模式下训练这些网络。所使用的学习策略对于神经网络的可能应用也是决定性的。特别是，区分了以下变体：
[0011]在监督学习中，给定输入模式或训练数据集，并将该网络的输出与预期值进行比较。
[0012]无监督学习将相关性或规则的发现留给系统，从而只指定要学习的这些模式。中间变体是部分监督学习，其中也可以使用没有预定义分类的数据集。
[0013]在强化学习或Q
‑
learning中，创建了可以接受对行为的奖励和惩罚的代理，并基于此尝试最大化所接受的奖励，从而调整其行为。
[0014]神经网络的一个重要应用是将输入数据或输入分类为某些分类或类别，即识别相关性和分配。这些类别可以基于已知数据进行训练并且至少是部分预定义的，或者它们可以由网络独立开发或学习。
[0015]此类神经网络的基本操作和进一步的具体细节是本领域已知的，例如来自R.Schwaiger,J.Steinwender的:Neuronale Netze programmieren mit Python,Rheinwerk Computing,Bonn 2019。
[0016]一个普遍适用的AI系统如果不是只针对一项特殊任务进行训练，就会导致高维空间，因此需要成倍增加的训练和测试数据集。因此，实时响应很快变得不可能。因此，通常试图降低此类系统的维度和复杂性。正在采取不同的方法。例如，可以通过链接数据集、降低自由度和/或将已知知识输入系统来降低复杂性。作为另一种方法，可以至少部分地分离相关数据或相互依赖的数据集，例如通过诸如主成分分析的方法。通过对特征应用过滤方法，可以消除在训练网络时不突出或负面突出的数据，例如，通过应用诸如卡方检验或其他统计检验。最后，该训练数据本身的选择可以作为AI网络中的优化问题来完成。这涉及以此类方式组合该训练数据，即它可以尽可能快地训练新网络。
[0017]更高级的方法包括所谓的“卷积神经网络”，该方法在多层全连接网络的至少一层中应用卷积，而不是简单的矩阵变换。为此，例如，所谓的“深梦(deep
‑
dream)”方法是已知的，尤其是在图像识别领域，其中权重在训练网络中保持最优，但是取而代之的是，输入值(例如，输入图像)根据输出值被修改为反馈回路。因此，例如，系统认为它可以识别的内容逐渐变弱或被插入。这个名字指的是在这个过程中创造了梦幻般的图像。通过这种方式，可以追踪神经网络的内部过程及其方向。
[0018]显而易见，这些方法对人类智能仍然表现出很大的差异。尽管数据库、文本文件、图像和音频文件原则上可以与事实、语言、语音逻辑、声音、图像和事件序列在大脑中的存储和处理方式相比较，但例如人类智能的显著差异在于，它将所有该数据与感觉和无意识的“软”分类情况联系起来。

技术实现思路

[0019]根据本专利技术，提出了一种具有独立专利权利要求特征的用于递归耦合至少两个人工智能单元的方法。有利的实施方案是从属权利要求和以下描述的主题。
[0020]特别地，根据一个实施方案，在至少两个人工智能单元的系统中提出了一种方法，该方法包括将输入值输入到至少第一人工智能单元和第二人工智能单元，由此获得第一人工智能单元的第一输出值。基于第一人工智能单元的输出值，形成一个或多个调制函数，然后将该调制函数应用于第二人工智能单元的一个或多个参数。在这点上，一个或多个参数是以某种方式影响第二人工智能单元中输入值本文档来自技高网...

【技术保护点】

【技术特征摘要】
【国外来华专利技术】1.一种在至少两个人工智能单元的系统中的方法，所述方法包括：向至少第一人工智能单元(110、310、410、510、610)和第二人工智能单元(120、320、420、520、620)输入输入值(X
i
)；获取所述第一人工智能单元(110、310、410、510、610)的第一输出值(Output1)；基于所述第一人工智能单元的输出值(Output1)形成一个或多个调制函数(f
mod_f
、f
mod_w
)；将所形成的一个或多个调制函数应用于所述第二人工智能单元(120、320、420、520、620)的一个或多个参数，其中，所述一个或多个参数影响所述第二人工智能单元(120、320、420、520、620)中输入值的处理和输出值的获得；获取所述第二人工智能单元的第二输出值(Output2)。2.根据权利要求1所述的方法，其中，所述人工智能单元(110、120；310、320；410、420；510、520；610、620、630)包括具有多个节点的神经网络，并且其中，所述一个或多个参数是以下中的至少一者：所述神经网络的节点的权重(w
i
)、节点的激活函数(f
akt
)、节点的输出函数(f
out
)、节点的传播函数。3.根据权利要求1或2所述的方法，其中，分类存储器(512、522)与每个人工智能单元相关联，其中，所述每个人工智能单元将所述输入值分类为一个或多个类别(K1、K2、...、K
n
、K
m
)，所述一个或多个类别(K1、K2、...、K
n
、K
m
)存储在所述分类存储器(512、522)中，所述类别均被构造为一个或多个相关级别(524)，并且所述第一人工智能单元的第一分类存储器(512)中的所述类别和/或所述等级的数量(n)小于所述第二人工智能单元的第二分类存储器(522)中的所述类别和/或所述等级的数量(m)。4.根据前述权利要求中任一项所述的方法，其中，应用所述至少一个调制函数使得所述第二人工智能单元的参数的时间依赖性叠加，并且其中，所述至少一个调制函数(f
mod_f
、f
mod_w<...

【专利技术属性】
技术研发人员：海科，
申请(专利权)人：萨尔大学，
类型：发明
国别省市：