浅论数据安全中的隐私计算方法之差分隐私

安全小白成长记2022-07-21 10:55:48

近年来,随着大数据、人工智能、云计算等数字技术的蓬勃发展,新技术带来了新业态和新的增长。然而,隐私泄露、网络欺诈、流量欺诈等现象的存在也成为数据要素健康流通的阻碍,为互联网治理带来挑战,因此构建一个安全的数据协作技术环境显得十分必要且紧迫。而隐私计可以在数据不泄露的前提下,对数据进行计算并得到计算结果,在创造更好的数据底层环境的同时,体现数据深层价值,深入推动行业传统数据业务转型。

然而什么是隐私计算?有专家认为,隐私计算是指在保护数据本身不对外泄露的前提下实现数据分析计算的技术集合。从技术机制来看,隐私计算涉及三大技术体系的联合创新:其一是人工智能算法;其二是分布式系统和底层硬件;其三是密码学设计。

对于隐私计算而言,一般目前有几种比较主要的方法,包括安全多方计算(MPC),其提出者是唯一的中国籍图灵奖获得者姚期智教授(Paul Yao)。但在提出时由于计算机的算力非常有限,故仅存在于理论的模型,但随着计算机计算能力的整体提升以及集群/云计算的发展,使得安全多方计算成为现实;另外一种比较主流的是联邦学习,联邦学习本质上是人工智能的一种;第三种则是可信执行环境(TEE),即通过软硬件方法在中央处理器中构建一个安全的区域,保证其内部加载的程序和数据在机密性和完整性上得到保护。

本文主要讨论的是另一种与上述方法均存在差异的隐私计算方法(不是算法),即差分隐私(Difference Privacy)。那什么是差分隐私?简而言之,差分隐私就是利用一些随机化的方法,在两个邻近的数据集的查询结果中添加一些随机化的内容,使得攻击者无法通过查询结果的差异来推测其中存在的隐私信息。

那什么是邻近的数据集?严格的意义上而言,所谓临近数据集就是仅相差一条数据记录的两个数据集。那么什么又是推测结果呢?实际上推测就是我们不用通过直接访问含有隐私内容的数据,而仅仅是通过两次或多次查询数据集中的其它信息而间接计算得到相关结果。

有点抽象!举个简单的例子,如在一个单位里有99个员工,他们都是男士,且只有2个已婚人士,而此时又来了一个美女员工,但对于其它97个未婚男士(其它两个已婚男士没准也关心)急于知道这个美女的婚姻状况,于是他们可以通过统计员工数据库中的相关婚姻信息就能推测出这个美女到底是否为单身(注意只需要统计就行,而不用单独、直接地访问这位女士的个人记录),这就是通过相邻数据集来对某些隐私信息进行推测(因为美女员工入职前,所有已婚员工的数量是2,待她入职后则这个数量如果不变则说明她是未婚否则是已婚)。

那如何来防止这类间接的数据攻击呢?我们可以在查询的结果中加入一些所谓随机性,使得两次的查询结果间看上去是非常相似的,从而不能通过此类方法来进行。一般而言我们经常用的随机化方法就是所谓拉普拉斯(Laplace)随机化方法。

目前已经有不少开源项目都支持对于差分隐私的计算,如Facebook的Opacus框架或者Google RAPPOR算法。

来源:聚铭网络

原文链接:https://baijiahao.baidu.com/s?id=1738044635005161480

大数据数据安全
本作品采用《CC 协议》,转载必须注明作者和本文链接
“卓信数据计划”持续招募成员单位,预计2022年3月前完成第六批(2022年第二批)100家相关企业招募审核工作。
当前,以数字经济为代表的新经济成为经济增长新引擎,数据作为核心生产要素成为了基础战略资源,数据安全的基础保障作用也日益凸显。伴随而来的数据安全风险与日俱增,数据泄露、数据滥用等安全事件频发,为个人隐私、企业商业秘密、国家重要数据等带来了严重的安全隐患。近年来,国家对数据安全与个人信息保护进行了前瞻性战略部署,开展了系统性的顶层设计。《中华人民共和国数据安全法》于2021年9月1日正式施行,《中华人
前言:工信部召开“十四五”信息通信行业发展规划新闻发布会。工信部网络安全管理局副局长杜广达在会上回答有关“数据安全”和“网络安全”等问题。
高额奖金等你来拿~
随着《中华人民共和国密码法》和《国家政务信息化项目建设管理办法》(国办发〔2019〕57 号)的发布,以密码为核心的网络安全的重要性越发凸显。然而,在国内智慧城市的大规模建设中,“重业务、轻安全”的现象普遍存在。密码技术作为智慧城市网络安全的基础与核心技术,从智慧城市密码的应用架构、密码核心技术、防护能力、解决的应用领域、密码应用实践等方面分别进行了阐述,可以解决智慧城市建设中出现的安全性问题,
医疗物联网升温态势明显,做好安全保障前置了吗?
10月16日至17日,“天府杯”国际网络安全大赛暨2021天府国际网络安全高峰论坛将在成都天府国际会议中心举行。本届“天府杯”国际网络安全大赛将总奖金额提升至150万美元。“网络安全红云展”和“反诈宣传展”两特色科普宣传展将在天府杯活动中首度亮相。值得一提的是,这两项特色科普展览原计划于今年8月举行的2021北京网络安全大会上首次展出。但受突发疫情影响,北京网络安全大会改为线上举行
本报告通过六张实战推演图,结合安全能力者、第三方机构和安全运营者的观点,展示了攻击方从攻击面分析、边界突破、横向渗透到靶标攻陷的攻击过程,防守方从基础保护、强化保护到协同保护的纵深防御体系,描绘了大型网络安全攻防实战演习的全景对象和步骤推演。
11月16日,在工业和信息化部举办的《“十四五”信息通信行业发展规划》新闻发布会上,工信部信息通信发展司司长谢存介绍了《规划》起草的背景、过程、主要考虑和相关内容。
安全小白成长记
暂无描述