(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210711148.0 (22)申请日 2022.06.22 (71)申请人 广州大学 地址 510006 广东省广州市外环西路23 0号 (72)发明人 孙哲　殷丽华　吕扬　方滨兴　 韩伟红　张美范　李然　 (74)专利代理 机构 北京八月瓜知识产权代理有 限公司 1 1543 专利代理师 秦莹 (51)Int.Cl. G06F 21/62(2013.01) G06N 20/00(2019.01) (54)发明名称 深度学习差分隐私算法保护效果的评估方 法、 系统及装置 (57)摘要 本发明公开了一种深度学习差分隐私算法 保护效果的评估 方法、 系统及装置， 包括， 从训练 集D中选取k个样本， 将k个样本根据针对性标记 样本生成方法生成k个标记样本； 将k个标记样本 插入训练集D中生成对比训练集D ’； 随机选取D或 D’作为训练集， 结合差分隐私的深度学习算法训 练得到深度学习模型； 将深度学习模型和k个标 记样本输入判别器， 分别计算k个标记样本的损 失值Loss， 根据k个损 失值判断训练深度学习模 型采用的训练集； 统计判别器判别结果中的假正 例个数和假负例个数， 根据假正例个数和假负例 个数计算得到组隐私损失值， 组隐私损失值表示 该差分算法隐私保护强度。 本发 明可以实现面向 深度学习中差分隐私算法 保护效果的评估。 权利要求书2页 说明书7页 附图3页 CN 115081019 A 2022.09.20 CN 115081019 A 1.一种面向深度学习中差分隐私算法 保护效果的评估方法， 其特 征在于， 包括， S1、 从训练集D中选取k个样本， 将k个样本按照对抗性标记样本生成方法生成k个标记 样本； S2、 将所述 k个标记样本插 入训练集D中生成对比训练集D ’； S3、 随机选取D或D ’作为训练集， 结合差分隐私的深度学习算法训练得到深度学习模 型； S4、 将深度学习模型和k个标记样本输入判别器， 分别计算所述k个标记样本的损失值 Loss， 根据k个损失值判断训练深度学习模型采用的训练集； S5、 统计判别器判别结果中的假正例个数和假负例个数， 根据假正例个数和假负例个 数计算得到组隐私损失值， 组隐私损失值表示该差分算法隐私保护强度。 2.根据权利要求1所述的方法， 其特 征在于， 所述S1具体包括： S11、 从训练集D中选取一个样本， 计算所述 一个样本在分类模型 上的最近扰乱类； S12、 根据最近扰乱类 计算扰动向量； S13、 将所述 一个样本中添加扰动向量， 得到一个标记样本； S14、 重复S1 1到S13得到k个标记样本 。 3.根据权利要求2所述的方法， 其特征在于， 所述S4具体包括： 将深度 学习模型和k个标 记样本输入判别器， 使用交叉熵分别计算所述k个标记样本的损失值Loss， 根据k个损失值 判断训练深度学习模型采用的训练集。 4.根据权利要求3所述的方法， 其特 征在于， 所述S5具体包括： 统计判别器判别结果中的假正例个数和假负例个数， 根据假正例个数和假负例个数计 算得到组 隐私损失值， 组隐私损失值表示该差分算法隐私保护强度， 所述组 隐私损失值表 示如下： 其中， FP表示假正例个数， FN表示假 负例个数， δ表示差分隐私算法隐私保护效果松弛程度。 5.一种面向深度学习中差分隐私算法 保护效果的评估系统， 其特 征在于， 包括， 选取生成模块： 用于从训练集D中选取k个样本， 将k个样本根据针对性标记样本生成方 法生成k个标记样本； 生成模块： 用于将所述 k个标记样本插 入训练集D中生成对比训练集D ’； 训练模块： 用于随机选取D或D ’作为训练集， 结合差分隐私的深度学习算法训练得到深 度学习模型； 判断模块： 用于将深度学习模型和k个标记样本输入判别器， 分别计算所述k个标记样 本的损失值 Loss， 根据k个损失值判断训练深度学习模型采用的训练集； 计算模块： 用于统计判别器判别结果中的假正例个数和假负例个数， 根据假正例个数 和假负例个数计算得到组隐私损失值， 组隐私损失值表示该差分算法隐私保护强度。 6.根据权利要求5所述的系统， 其特 征在于， 所述选取生成模块具体用于： 从训练集D中选取一个样本， 计算所述一个样本在 分类模型上的最近扰乱类； 根据最近 扰乱类计算扰动向量； 将所述一个样本中添加扰动向量， 得到一个标记样本； 重复得到k个权　利　要　求　书 1/2 页 2 CN 115081019 A 2标记样本 。 7.根据权利要求6所述的系统， 其特征在于， 所述判断模块具体用于： 将深度学习模型 和k个标记样 本输入判别器， 使用交叉熵分别计算所述k个标记样本的损失值Loss， 根据k个 损失值判断训练深度学习模型采用的训练集。 8.根据权利要求7 所述的系统， 其特 征在于， 所述计算模块具体用于： 统计判别器判别结果中的假正例个数和假负例个数， 根据假正例个数和假负例个数计 算得到组 隐私损失值， 组隐私损失值表示该差分算法隐私保护强度， 所述组 隐私损失值表 示如下： 其中， FP表示假正例个数， FN表示假 负例个数， δ表示差分隐私算法隐私保护效果松弛程度。 9.一种面向深度学习中差分隐私算法保护效果的评估装置， 其特征在于， 包括： 存储 器、 处理器及存储在所述存储器上并可在所述处理器上运行 的计算机程序， 所述计算机程 序被所述处理器执行时实现如权利要求1至4中任一项所述的面向深度学习中差分隐私算 法保护效果的评估方法的步骤。 10.一种计算机可读存储介质， 其特征在于， 所述计算机可读存储介质上存储有信息传 递的实现程序， 所述程序被处理器执行时实现如权利要求 1至4中任一项 所述的面向深度学 习中差分隐私算法 保护效果的评估方法的步骤。权　利　要　求　书 2/2 页 3 CN 115081019 A 3