精华内容
下载资源
问答
  • 该方案通过统计第三方服务提供商从不同APP获取的权限,并考虑权限组合对隐私泄露风险带来的非线性影响,构建模型来评估隐私泄露风险。基于风险评估结果,在服务质量与隐私保护之间进行均衡分析,最终给出系统整体的...
  • 传统的信息安全风险评估较少涉及对背景知识关联分析所导致的隐私泄露风险。针对基于关联分析的大数据隐私泄露风险问题,以隐私资产、 隐私威胁因子和隐私存储有效时间为要素建立隐私泄露风险指标体系、 定义风险计算...
  • 针对目前iOS平台隐私泄露检测缺乏系统性的评估方法,提出了一种多维度iOS隐私泄露评估模型。该模型分为综合静态分析、动态分析和网络数据分析方法,从多维度对应用程序隐私泄露行为进行特征抽取和评估。实验测试了30...
  • 梯度隐私泄露

    2020-10-31 01:24:16
    梯度隐私泄露梯度信息推测出数据集信息(三种预设)参考文献 梯度信息推测出数据集信息(三种预设) 若获得梯度信息,根据权重梯度与偏置梯度的比值可以恢复出数据输入。 若第一层梯度信息加密,可以根据第二层...

    动机

    • 传统认为,在用户与用户、用户与中心之间传输梯度信息是安全的,本文打破了这种理所当然。
    • 已知学习模型、权重参数W和真实梯度∇W,只需要少量迭代,可以反向推测出像素级的图像以及标签。
    • 这种推测实际上是一种优化过程,随机生成一组虚拟的图像及标签,结合模型和权重执行前向和反向计算,获得虚拟梯度,目标是最小化虚拟梯度和真实梯度的差距,通过不断地优化输入图像和标签,迭代少量次数后,可以使得这组图像和标签接近(恢复)出真实的图像和标签。
    • 如何抵抗这种现象或是攻击?梯度扰动(例如差分隐私);梯度压缩或稀疏化(例如梯度TOP-K选择);低精度(例如量化);大批量;高分辨率;安全算法(密码学、安全多方计算)。

    梯度泄露推测方法(DLG)

    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

    • 局限性:上述梯度泄露推测在批处理数量为1的时候表现良好;然而随着批处理数量的增加,梯度方向难以选择,收敛更加困难,需要的迭代更新次数增多,甚至无法收敛。
    • 因此,采取大批量更新优化是避免梯度泄露的方法之一,隐私安全强度有待论证。

    梯度泄露防御方法

    • 梯度扰动
    1. 添加噪声(高斯噪声或拉普拉斯噪声)
      与噪声方差有关,噪声方差scale of 10×10^{-×}越大,梯度推测难度越大,但同时会影响检测任务的准确率;

    2. 低精度,即参数量化(单精度float16、bfloat16(float32的截断形式)、int8)
      float16和bfloat16精度对梯度推测攻击无效;int8可以抵抗这种攻击,但会严重损害准确率。
      在这里插入图片描述

    • 梯度压缩或稀疏化
      将不重要的梯度、或是变化幅度较小的梯度修减为0;使得梯度下降方向选择困难;显然剪枝比例超过20%后,根据梯度信息无法推测出原始图像和标签;梯度TOP-K选择也属于这个范畴,详见这里
      在这里插入图片描述

    • 大批量;高分辨率;安全算法(密码学、安全多方计算)。
      本文提出的DLG梯度泄露推测算法限制batchsize \le 8,输入图像精度 64×64\le 64 \times 64
      密码学算法中,同态加密显然是安全领域的圣杯,但它要求梯度为整数形式,这涉及编码优化的问题;且适用范围只针对参数服务器;此外,计算和通信开销也是需要关注的优化方向;
      安全多方计算,典型的是两方(多方)秘密共享,但对实时性(同步)要求较高,如何降低通信开销是需要考虑的;**伪随机函数(PRF)**需要得到关注。

    梯度信息推测出数据集信息(三种预设)

    在这里插入图片描述

    1. 若获得梯度信息,根据权重梯度与偏置梯度的比值可以恢复出数据输入。
      在这里插入图片描述
      在这里插入图片描述
      在这里插入图片描述
    2. 若第一层梯度信息加密,可以根据第二层梯度信息恢复出隐藏层输出OuthiOut_{h_i}(第二层的输入),再利用第一层连接原理解方程组可以恢复出数据输入。
      在这里插入图片描述
      在这里插入图片描述
      在这里插入图片描述
    3. 上述两种情况假设偏置为定值(例如常数1),若神经网络模型偏置项数值由随机数生成;一般采用试错法,采用可能的偏置,比较推测梯度与真实梯度的差距,从而获得近似偏置值,偏置比较接近时可能导致隐私泄露,偏置一般表现为图像亮度变化。
      在这里插入图片描述
    • 应对方法:联邦学习中,传输梯度信息修改为传输权重信息,不再限制用户端的权重更新方式;采用同态加密处理权重信息,协作服务器执行加法权重聚合(同态加法性质)。

    参考文献

    1. 2019_NIPS_Deep Leakage from Gradients
    2. 2020_自动化学报_支持数据隐私保护的联邦深度神经网络模型研究
    展开全文
  • 针对Android操作系统App内第三方域名采集用户信息造成的隐私泄露问题,基于TF-IDF模型和层次聚类方法提出了移动设备中的隐私泄露评估方案HostRisk。TF-IDF模型通过App内域名的行为特征计算域名与App的业务相关性,...
  • 在本文中,我们采取了不同的角度,从联系的角度而不是孤立的角度研究涉及隐私泄露的主要参与者。 更具体地说,我们提出了应用程序生态系统的概念,它由用户,应用程序和对手(恶意第三方)作为实体组成。 我们的...
  • 2012年全国大学生信息安全大赛资料,实验室老师的一个课题组项目,关于Cookie隐私泄露防范系统
  • iOS应用内部隐私泄露检测技术研究 ,於剑波,郭燕慧,针对iOS应用中用户隐私泄露的问题,为了弥补现有的技术无法检测应用内部用户隐私泄露的局限性,提出了一种基于动态检测和文件取证
  • 大数据隐私泄露事件分析及应对策略文档 
  • 基于网络流量的安卓应用隐私泄露分析,袁春欢,何永忠,安卓应用程序存在严重的隐私泄露威胁。现有的安卓应用隐私泄露检测方法大多存在开销大、准确度低等问题。论文中提出一种基于网络
  • Android平台应用隐私泄露检测与评估技术,王斌,李晖,Android手机近年来快速发展,用户可方便地使用各类型应用。然而,应用在使用过程中会产生大量隐私数据,同时隐私泄露已成为Android平台严�
  • 我们构建了不同隐私泄露行为子程序的PPN模块,并给出了四个指标:用于定量分析的可能性,严重性,隐秘性和可操作性。 我们将我们的方法应用于实际的PLS,案例研究表明,我们不仅可以将经过测试的软件标识为PLS(就...
  • 这些良好的上网习惯避免隐私泄露https://www.zhihu.com/video/1068559533621706752移动互联网时代,我们早已习惯通过扫码,授权等方式来进行登录帐号,付款等行为;这些方式用起来很方便,但是不注意保护的话也容易...

    abc9a77aaa9bed8e7f923c47f4e087ed.png
    71676ae7cd83aa7bb905b8c3d49eb01a.png
    这些良好的上网习惯避免隐私泄露https://www.zhihu.com/video/1068559533621706752

    移动互联网时代,我们早已习惯通过扫码,授权等方式来进行登录帐号,付款等行为;这些方式用起来很方便,但是不注意保护的话也容易泄露个人隐私信息。

    今天就和大家分享 14 个避免在网络设备泄露隐私的方法:

    NO.1 在使用浏览器的过程中,不要打开来历不明的广告链接,在网站中输入账号或密码记得核对网站地址,看是否为官方网站地址。

    NO.2 经常清理浏览器缓存并设置浏览器保护,不要开启浏览器的密码保存功能。平时的上网信息是可以被某些工具获取的,电脑缓存可能包含大量隐私信息,如 QQ 账号,支付账号和密码等等。

    NO.3 浏览小众软件和网站时,可以使用手机小号或者虚拟号码,避免手机号码泄露。

    NO.4 自己的个人密码要定期更换,不要众多账号都用同一个密码。密码尽量复杂,不要过于简单。

    NO.5 自己的电脑或者手机不要连接不确定安全性的公共 WIFI ,更不要在公共 WIFI 中输入个人信息;连接公共 WIFI 前一定要确定安全性。

    NO.6 在和陌生人聊天,或者群发消息时,发送的照片中如果含有个人信息,记得一定要打马赛克。

    NO.7 不要太依赖云服务,如果一些非常私密的东西上传到云服务器,帐号一但泄露,在云端就会被获取隐私数据;上传到云端的文件如果包含隐私信息,可以在本地加密后再上传

    NO.8 在公共场合离开电脑时,记得给电脑锁屏,按下 Win+L 键。

    NO.9 在安卓手机中初次打开软件,不要把权限全部点击为默认允许;用不到的权限尽量拒绝,更不要安装来历不明的软件,下载软件尽量去软件商店或者应用官网下载。

    NO.10 不要 Root 安卓手机 , iPhone 也不要越狱 ,因为这些都有泄露隐私安全的风险

    NO.11 对于手机、优盘等存储设备,如果不使用了,处理掉之前记得格式化所有数据,一般来说格式化一次后还有恢复的可能,所以最好的方法是再次装满不相关的数据,然后再重新格式化设备,重复多次,即可尽量删除。

    NO.12 尽量不要扫描街头的广告二维码,更不要轻易把解锁的手机给陌生人使用,扫码可能会获取你的个人信息。

    NO.13 在社交通讯软件,比如 QQ、微信当中,可能会默认开启“附近的人” 功能,如果用不到,最好选择关闭,这个功能有泄露位置信息的风险;他人也可能通过微信号、手机号、QQ 号搜索到你,根据你的需要最好关闭相应功能;

    NO.14 在陌生的场合输入密码时,要注意周围是否有摄像头,有的话尽量避开。

    以上就是 Topbook 的一点小意见,欢迎在评论区补充鸭!最后,欢迎在 Topbook 微信公众号回复 网络安全 查看更多网络安全的相关内容。

    更多资源技能戳这里:topbook.cc

    展开全文
  • 我的隐私泄露神经瞬间紧绷。 每天沉浸在“大数据之下无隐私”的氛围和恐惧中,我怎么可能去做如此危险的操作!亲爱的,你找我真是找错人了。。。 但是,人性是一种很悬的东西。有一种爱,叫作愿意为你放弃所有。 ...

    暂请点进来看的同学闲看故事二则。

     

    故事一

    今天早上发生了一件尴尬的事情。

    我最好的闺蜜发来一条微信:

     

    我的隐私泄露神经瞬间紧绷。

    每天沉浸在“大数据之下无隐私”的氛围和恐惧中,我怎么可能去做如此危险的操作!亲爱的,你找我真是找错人了。。。

    但是,人性是一种很悬的东西。有一种爱,叫作愿意为你放弃所有。

    不忍拒绝她的我,停顿5分钟后回复到:“要我这些信息的目的是什么?”

    “就是增加杭州校区的软件下载量。”

    这个答案显然说服不了我(任何类似的答案应该都说服不了我)。

    我又问:“这和你的业绩考核挂钩吗?”

    果然,一问就扒出了这些商户的丑恶面目。

    “这是部门要求,没有达到数量就扣钱。”

    唉,卑鄙无耻。

    为了不让我最好的闺蜜蒙受经济损失,我不得不下载注册,虽然手机型号、系统版本提供的是假信息。

     

    故事二

    那时刚毕业,大学里要做一个毕业生就业率和工资水平调查。调查问卷用的不知是哪一家第三方企业开发的程序。

    第一波造势是班长在班群里发通知:请各位同学在X月X日前尽快注册并填写以下链接中的毕业生就业调查问卷。

    我点进去一看,第一页就是填写我的个人信息:姓名、性别、手机、专业、班级、就职单位、月薪。。。

    看完我就直接退出,完全不理会这条班长推了N多天的通知。就业调查问尽管做,但请不要收集我的姓名、性别和手机号,ok?

    调查截止前的前一个礼拜,我的大学辅导员在微信上私聊我:“小X啊,你们班的调查问卷就差你了。有时间的话赶紧做一下哦。”

    “老师,这个调查问卷收集太多个人信息了,我不做。”

    “这是学校任务啊,作为应届毕业生,这么一点回馈母校的小事情还是应该积极去做的。”(开启道德绑架模式……)

    “老师,这个问卷平台靠谱吗?学校掌握着我详细的档案资料,把信息交给学校没办法。可让我在这样一个不知道什么来路的第三方平台上输入这么多个人信息,太危险了!”

    我的辅导员迫于学院领导的压力,仍然孜孜不倦地劝说着我。我只能沉默。

    但是,人性是一种很悬的东西。有一种听话,叫作您是我的老师

    第二天,辅导员直接给我打来了电话。最后我还是服从了。毕竟,她是我敬爱的大学老师。

    隐私泄露抵挡不住的,不是金钱,而是人情。

     

     

    “中国人愿意用隐私换便利。”这句话体现的只是人性贪婪的初级阶段。

    哪怕我是一个隐私保护意识非常强烈的人,如果不让朋友帮我注册、不让我的学生填写问卷,我就会失去这份各方面都令人满意的工作,那么我的选择可能也是“助纣为虐”吧。

    人类这种社会型动物,仅凭一人之力抵抗外界干扰是行不通的,生存的唯一出路就是被同化。

    除了贪婪,还有人性中温暖的一面——人情。

    很多人愿意交出隐私的原因可能只是因为我在乎这个让我交出隐私的人

    我在乎我的好闺蜜,不想让她受到伤害;我尊重我的老师,不想让她在工作中太为难。

    但是,如果提出这些要求的人,隐私保护观念和少部分人一样强,他们还会把自己的朋友置于这样的境地吗?

    归根结底,唯一的解决办法就是绝大部分人,共同地、齐心协力地筑起自己的隐私围墙。

     

    如果闺蜜的隐私保护意识强了,她就不会找朋友帮忙注册;

    如果闺蜜领导的隐私保护意识强了,他就不会对员工作出“数量不达标就扣工资”的威胁

    如果商户的隐私保护意识强了,他就会选择“健康的”品牌营销策略,在市场中公平竞争!

    如果辅导员的隐私保护意识增强了,她就不会苦口婆心地说服我“快把你的隐私信息交给这个问卷平台”;

    如果学校领导的隐私保护意识增强了,他们肯定不接受这样的问卷调查方案;

    如果问卷平台提供方的隐私保护意识增强了,他们也就不会设计出这样的问卷问题

     

    但是人性就是那么贪婪,而且感情用事。我们的隐私保护之路,还有很长的路要走。


     

    杭州世平信息科技有限公司(简称“世平信息”),致力于智能化数据管理与应用的深入开拓和持续创新,为用户提供数据安全、数据治理、数据共享和数据利用解决方案,帮助用户切实把握大数据价值与信息安全。

    展开全文
  • 本节书摘来自华章出版社...1.4 隐私泄露威胁 归根结底,LBS的体系结构主要由4个部分组成:移动客户端、定位系统、通信网络和LBS服务提供商,具体如图1-1所示,移动客户端向LBS服务提供商发送基于位置信息的查询...

    本节书摘来自华章出版社《位置大数据隐私管理》一 书中的第1章,第1.4节,作者潘晓、霍 峥、孟小峰,更多章节内容可以访问云栖社区“华章计算机”公众号查看。

    1.4 隐私泄露威胁

         归根结底,LBS的体系结构主要由4个部分组成:移动客户端、定位系统、通信网络和LBS服务提供商,具体如图1-1所示,移动客户端向LBS服务提供商发送基于位置信息的查询请求,LBS服务提供商响应用户的查询请求并通过内部计算得出查询结果,最终将相应查询结果返回给移动客户端。从图1-1可以看到,查询请求的发送以及查询结果的返回均是通过通信网络(如3G、4G网络)来完成的。其中,移动客户端的位置信息由定位系统提供。

    b103484fd8b91c19e544ab3f610bb4fdd82d127e

         相应地,在该体系结构中,用户的隐私泄露威胁存在于以下3种情况。第一种情况是用户在移动客户端的隐私泄露。例如,用户的移动设备被捕获或劫持造成的用户私有信息的泄露,这种情况主要通过移动终端的安全机制来进行保护。第二种情况是查询请求和查询结果在通信网络传输的过程中,有可能被窃听或遭受“中间人”攻击导致保密数据的泄露以及数据完整性的破坏,这种情况可以通过网络安全通信协议(如IPSec、SSL等协议)来进行抵御。以上两种情况的隐私泄露威胁并不属于本书的研究范围。第三种情况——也就是本书关注的重点——是LBS服务提供商端的隐私泄露问题。LBS服务器一旦拥有了用户的查询内容,就可以对用户的隐私信息进行推测,甚至出于利益原因卖给第三方机构分析使用,从而导致严重的隐私泄露问题。因此,本书关注的内容针对第三种情况,即LBS服务提供商作为攻击者的情况下如何对查询用户进行高质量、高效率的隐私保护。
    展开全文
  • 推荐系统中的安全问题 《A NOVEL PRIVACY-PRESERVED RECOMMENDER SYSTEM FRAMEWORK BASED ON FEDERATED LEARNING》论文阅读笔记 推荐系统:解决信息过载的问题。RS需要收集用户个性化...隐私泄露的案例: (1)2015年5
  • 那么,公有云隐私泄露问题真的很难避免吗?其实不是!以下Cloudeasy云管家将为您简要介绍一些您必须了解的有关公有云隐私的主要问题。 1.用户拥有数据,同时也要为此负责 当我们将数据上传到云服务提供商的服务器时...
  • 浅谈IT行业中的隐私泄露问题

    千次阅读 2017-12-07 17:19:43
    随着IT技术的发展,个人隐私泄露似乎变得越来越简单,高新技术和低警惕人群以及防御的困难相比较,高下显而易见,以下是几个实例:1.谷歌眼镜引起了人们对隐私问题的关注  带着谷歌眼镜的人们在你毫不知情的情况下...
  • Fortify漏洞之 Privacy Violation(隐私泄露)和 Null Dereference(空指针异常)
  • 针对社交网络公开信息提出了一种隐私信息推测算法,通过对用户的好友关系网络进行社区发现,利用社区内一部分好友公开信息推测其他好友隐私信息。实验表明,该算法只需利用少量公开信息就能以较高的准确率推测出其他...
  • 直到今日,各类隐私泄露事件虽被公众关注,大多数人还是于沉默的螺旋中被动分化。放眼全球,不论是五角大楼意外暴露18亿公民信息,还是Facebook泄露用户隐私案、抑或埃森哲服务器未加密事件,都曾闹得沸...
  • 当下不少语音社交和AI换脸的产品一上线就成为爆款,但涉及用户隐私泄露、内容是否合规等问题也被曝光,随即被下架。针对此类产品,相关部门强化安全评估,这给平台提出了更高的安全挑战,但对保护用户个人信息、打击...
  • 担心电脑中的隐私泄露?为您推荐几款加密软件,包含应用程序加密软件,GPG加密软件,数据加密软件,通讯录加密软件,PIN码加密软件等,非常广泛,并且使用简单,操作方便,快来看看吧! iLock for Mac(应用程序加密...
  • 2018年对于Facebook来说,是命运多舛的一年,此前曝光的隐私泄露事件如今又在持续发酵。据BBC近日报道,有黑客宣称其已经窃取1.2亿个Facebook用户账号的私...
  • 北京时间 2 月 10 日晚间消息,据报道,苹果公司今日赢得了一起 “Siri 隐私泄露”诉讼。2019 年 8 月,苹果因允许合同商通过 Siri 听取用户的录音,而遭遇集体诉讼。原告方指出,Siri 在未经用户同意的情况下记录...
  • 安全防范:nginx下git引发的隐私泄露问题 1安全事件 最近阿里云服务器后台管理系统中收到一条安全提示消息,系统配置信息泄露: http://my.domain.com/.git/config 能够被公网无认证即可访问,请修复。 ...
  • 【城宇移动互联】报道,百度百家推荐,转载需注明 随着手机使用次数和频率的不断飙升,充电难的问题一直萦绕在许多用户头上。...为什么会成为隐私泄露的温床? 虽然现在各大手机厂商都在主推大电量电池与快速充...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 3,548
精华内容 1,419
关键字:

隐私泄露