人是如何做黑盒优化的？ 第1页
1
lokinko 网友的相关建议:
简单介绍一篇最近看过的通过梯度盗取用户训练数据的文章吧
《Deep Leakage from Gradient》
在联邦学习中，每个用户在本地上传梯度或者模型参数，通过一个 Server 端对模型进行更新，那么就有人研究能不能通过人工智能模型这个黑盒以及梯度信息，从中盗用可用的用户数据呢？
通过本地不断生成样本，比较本地梯度和他人梯度的差距作为loss，将loss最小化使得生成的数据越来越靠近他人用户的数据，最终实现数据的窃取。
神奇的事情发生了，即使大家无法理解这个黑盒里是在做什么，只要能控制输入和输出，就能透过黑盒消除其他影响，论文结果如下
论文高保真的从梯度中还原了原始数据。
无论是图像数据还是文本数据，都被轻易地识破并还原。
这种基于神经网络黑盒来进行攻击的方式应该也属于黑盒优化的一种思路吧~仅供参考。
论文链接：https://papers.nips.cc/paper/2019/file/60a6c4002cc7b29142def8871531281a-Paper.pdf
1
相关话题
请问怎么证明一个实对称矩阵为零矩阵（如题）？''余数定理''可以用什么简单通俗的语言解释吗?
如果一根冰做的针，以高速穿过人的要害部位，能否将人致死而不被发现？
为什么我用相同的模型，数据，超参，随机种子，在两台服务器会得到不同的结果？
为什么自中生代以来海洋的高阶生态位大部分时间并不是由鱼类把持？
如何看待大疆员工猝死？
如何通俗地理解 2019 年诺贝尔生理学或医学奖？细胞是如何感知和适应氧气的？
下面这道数竞平面几何题求好的解题思路和方法？
解决初等几何题目使用辅助线的逻辑原理是什么？
假如人类是单体繁殖物种，男性有子宫，女性有精子，都具备繁殖的功能，那将是怎样的世界？
前一个讨论
消融实验是什么？
相关的话题
历史上由于技术进步而被淘汰的职业，都是如何处理失业率、社会稳定 与 再就业问题的？有什么深度学习数学基础书推荐？
胆固醇在细胞膜上是不是不对称性【细胞膜的生物特性】，别马，认真回答？
如何把微信群/QQ群构造成一个阿贝尔群？
生物的鳞片是不是一种落后的形态？进化应该是要淘汰鳞片的吧？
显微镜到底是列文虎克发明的还是詹森发明的？
如何判定荧光定量结果的真实性？
如何看待国务院印发的 2 万多字人工智能发展规划？
如何看待上海某小学通过 AI 图像识别学生上课开小差并对学生进行评分？
如何看待中科院研究员徐华强称国内实验室硬件堪比世界顶尖，甚至有所反超？
国内的数学系本科是不是代数的训练不够？
中国科学家在东北发现 14.6 万年前新人种「龙人」，与智人有何关系？这一发现有怎样的意义？
如果可以从头重新翻译，你会换掉哪些不太好的科学名词译名？
碱基质量换算系数是多少?
如何看待由 AI 绘制的漫画《Phaedo》？
142857 是人类数学的巧合吗？
数学工作者最不习惯的物理学方法是什么？
无限群是否一定含无限阶元？无限群是否一定有无限多个子群？
为什么大量人类会喜欢猫？
新冠病毒会像乙肝病毒和艾滋病毒一样终身携带吗?
数学专业是不是真的又难又脱离实际找不到工作啊⊙_⊙？
如何才能在高考前证明哥德巴赫猜想？
“有屎以来”到底有多长的历史？
准高一学生想自学数学有什么建议吗？
当我用手指划过尺子 3 和 4 刻度之间时，我是否触摸到了 π？
人有可能进化成昼伏夜出的生物吗？
宁波大学的陈计教授是一个什么样的人？
人类在初期是怎么发现可以通过交媾行为繁育后代的？
如何评价中国人民大学高瓴人工智能学院教授的薪酬标准？
G7 忙着「秀」，有哪些值得注意的细节？