机器学习模型提供系统、机器学习模型提供方法技术方案

提出一种机器学习模型提供系统、机器学习模型提供方法，能够提供不针对用户公开个人信息数据地利用个人信息数据的机器学习模型，另一方面遏制提供个人信息保护不充分的机器学习模型。本公开所涉及的机器学习模型提供系统包括存储个人信息数据的集合以及数据目录的存储装置、和信息处理装置。信息处理装置执行：取得在机器学习模型的生成中利用的元数据的指定、第1数据范围的指定、及机器学习的逻辑的处理；根据与指定的元数据及第1数据范围相应的个人信息数据，依照逻辑生成机器学习模型的处理；关于生成的机器学习模型计算确定风险的处理；以及在确定风险成为预定的阈值以上的情况下，停止提供生成的机器学习模型的处理。停止提供生成的机器学习模型的处理。停止提供生成的机器学习模型的处理。

【技术实现步骤摘要】
机器学习模型提供系统、机器学习模型提供方法


[0001]本公开涉及生成机器学习模型并提供所生成的机器学习模型的机器学习模型提供系统以及机器学习模型提供方法。

技术介绍

[0002]在专利文献1中，公开了一种针对应用深度学习算法而得到的深度学习模型实施匿名化处理而得到匿名模型的隐私保护数据提供系统。该隐私保护数据提供系统针对包含于深度学习模型的权重参数以及偏置参数，对各个参数值提供基于拉普拉斯分布的误差，并且在根据拉普拉斯分布提供了误差的各参数超过用最大值以及最小值表示的阈值的范围时，限制于阈值的范围。
[0003]现有技术文献
[0004]专利文献
[0005]专利文献1：日本特开2018
‑
97467号公报

技术实现思路

[0006]在伴随机器学习技术的发展而各种数据的有效利用发展的过程中，个人信息数据的利用的有用性得到瞩目。另外，预想在将来设想如智慧城市那样数据收集者和用户不同的情形增加的情况下，用户利用数据收集者收集的个人信息数据的需求变高。
[0007]然而，根据个人信息保护的观点，有个人信息数据的流出风险、向第三人的提供困难性，个人信息数据限于限定的组织内的利用、统计化的信息的利用。这样，以往，机器学习中的个人信息数据的利用未得到发展。
[0008]在专利文献1中公开的隐私保护数据提供系统中，生成实施了预定的匿名化处理的匿名模型(机器学习模型)。然而，关于生成的机器学习模型，未进行结合个人信息保护的判断，所以存在提供个人信息保护不充分的机器学习模型的忧虑。
[0009]本公开是鉴于上述课题而完成的，其目的在于提出一种机器学习模型提供系统以及机器学习模型提供方法，能够提供不针对用户公开个人信息数据地利用个人信息数据的机器学习模型，另一方面遏制提供个人信息保护不充分的机器学习模型。
[0010]第1公开涉及一种机器学习模型提供系统，生成机器学习模型并提供所生成的所述机器学习模型。
[0011]该机器学习模型提供系统包括：存储装置，存储个人信息数据的集合、及关于与所述个人信息数据相关的元数据的数据目录；以及信息处理装置。
[0012]所述信息处理装置执行：取得处理，取得在所述机器学习模型的生成中利用的所述元数据的指定、提供与所述个人信息数据相关的数据范围的第1数据范围的指定、及机器学习的逻辑；模型生成处理，根据与指定的所述元数据及所述第1数据范围相应的所述个人信息数据，依照所述逻辑生成所述机器学习模型；确定风险计算处理，关于所生成的所述机器学习模型，计算表示根据输出确定个人的风险的确定风险；以及提供管理处理，在所述确
定风险成为预定的阈值以上的情况下，停止提供所生成的所述机器学习模型。
[0013]第2公开涉及相对第1公开所涉及的机器学习模型提供系统，还包括以下的特征的机器学习模型提供系统。
[0014]关于各个所述个人信息数据，与一个或者多个表示特定的个人的ID信息关联起来。
[0015]所述信息处理装置在所述确定风险计算处理中，选择作为向所生成的所述机器学习模型的输入数据的所述个人信息数据，取得作为所述机器学习模型针对所述输入数据的输出的输出数据，生成表示所述ID信息和对所述ID信息关联起来的与所述输入数据相关的所述输出数据的集合的对应的关联输出信息，根据所述关联输出信息计算所述确定风险。
[0016]第3公开涉及相对第2公开所涉及的机器学习模型提供系统，还包括以下的特征的机器学习模型提供系统。
[0017]所述输出数据按类别划分。
[0018]所述信息处理装置在所述确定风险计算处理中，针对所述ID信息和所述类别的每个组合(i，j)，计算包含于所述类别且在所述关联输出信息中与所述ID信息对应的所述输出数据的集合的要素数u(i，j)，通过以下的式(1)以及式(2)，计算所述确定风险IR，
[0019]【数学式1】
[0020][0021]【数学式2】
[0022][0023]第4公开涉及相对第2或者第3公开所涉及的机器学习模型提供系统，还包括以下的特征的机器学习模型提供系统。
[0024]所述信息处理装置在所述确定风险计算处理中，生成提供所述数据范围的第2数据范围，将与所述第2数据范围相应的所述个人信息数据选择为所述输入数据。
[0025]第5公开涉及相对第4公开所涉及的机器学习模型提供系统，还包括以下的特征。
[0026]所述第2数据范围依照尺度(scale)不同的多个分区，提供多个所述数据范围。
[0027]第6公开涉及生成机器学习模型并提供生成的机器学习模型的机器学习模型提供方法。
[0028]在该机器学习模型提供方法中，收集并存储个人信息数据的集合、以及关于与所述个人信息数据相关的元数据的数据目录，取得在所述机器学习模型的生成中利用的所述元数据的指定、提供与所述个人信息数据相关的数据范围的第1数据范围的指定、以及机器学习的逻辑，根据与指定的所述元数据及所述第1数据范围相应的所述个人信息数据，依照所述逻辑生成所述机器学习模型，关于所生成的所述机器学习模型，计算表示根据输出确定个人的风险的确定风险，在所述确定风险小于预定的阈值的情况下，提供所生成的所述机器学习模型，在所述确定风险成为所述阈值以上的情况下，停止提供所生成的所述机器学习模型。
[0029]第7公开涉及相对第6公开所涉及的机器学习模型提供方法，还包括以下的特征。
[0030]关于各个所述个人信息数据，与一个或者多个表示特定的个人的ID信息关联起
来，选择作为向所生成的所述机器学习模型的输入数据的所述个人信息数据，取得作为所述机器学习模型针对所述输入数据的输出的输出数据，生成表示所述ID信息和对所述ID信息关联起来的与所述输入数据相关的所述输出数据的集合的对应的关联输出信息，根据所述关联输出信息计算所述确定风险。
[0031]第8公开涉及相对第7公开所涉及的机器学习模型提供方法，还包括以下的特征。
[0032]所述输出数据按类别划分，针对所述ID信息和所述类别的每个组合(i，j)，计算包含于所述类别且在所述关联输出信息中与所述ID信息对应的所述输出数据的集合的要素数u(i，j)，通过以下的式(1)以及式(2)，计算所述确定风险IR，
[0033]【数学式3】
[0034][0035]【数学式4】
[0036][0037]根据本公开所涉及的机器学习模型提供系统以及机器学习模型提供方法，能够提供利用了个人信息数据的机器学习模型。另外，在确定风险成为预定的阈值以上的情况下，停止提供所生成的机器学习模型。由此，能够遏制提供由输出确定个人的盖然性高、且个人信息保护不充分的机器学习模型。进而，能够降低个人信息数据的流出风险。
[0038]另外，与元数据以及第1数据范围相应的个人信息数据成为在机器学习模型的生成中利用的数据。由此，无需针对用户公开个人信息数据。进而，能够提供并非利用统计化的信息等而直接本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种机器学习模型提供系统，生成机器学习模型并提供所生成的所述机器学习模型，其特征在于，包括：存储装置，存储个人信息数据的集合、及关于与所述个人信息数据相关的元数据的数据目录；以及信息处理装置，所述信息处理装置执行：取得处理，取得在所述机器学习模型的生成中利用的所述元数据的指定、提供与所述个人信息数据相关的数据范围的第1数据范围的指定、及机器学习的逻辑；模型生成处理，根据与指定的所述元数据及所述第1数据范围相应的所述个人信息数据，依照所述逻辑生成所述机器学习模型；确定风险计算处理，关于所生成的所述机器学习模型，计算表示根据输出确定个人的风险的确定风险；以及提供管理处理，在所述确定风险成为预定的阈值以上的情况下，停止提供所生成的所述机器学习模型。2.根据权利要求1所述的机器学习模型提供系统，其特征在于，各个所述个人信息数据与一个或者多个表示特定的个人的ID信息关联起来，所述信息处理装置在所述确定风险计算处理中，选择作为向所生成的所述机器学习模型的输入数据的所述个人信息数据，取得作为所述机器学习模型针对所述输入数据的输出的输出数据，生成表示所述ID信息和对所述ID信息关联起来的与所述输入数据相关的所述输出数据的集合的对应的关联输出信息，根据所述关联输出信息计算所述确定风险。3.根据权利要求2所述的机器学习模型提供系统，其特征在于，所述输出数据按类别划分，所述信息处理装置在所述确定风险计算处理中，针对所述ID信息和所述类别的每个组合(i，j)，计算包含于所述类别且在所述关联输出信息中与所述ID信息对应的所述输出数据的集合的要素数u(i，j)，通过以下的式(1)以及式(2)，计算所述确定风险IR，【数学式7】【数学式8】4.根据权利要求2或者3所述的机器学习模型提供系统，其特征在于，所述信息处理装置在所述确定风险计算处理中，生成提供所述数据范围...

【专利技术属性】
技术研发人员：藤田幸久，
申请(专利权)人：丰田自动车株式会社，
类型：发明
国别省市：