人是如何做黑盒优化的？ 第1页
1
lokinko 网友的相关建议:
简单介绍一篇最近看过的通过梯度盗取用户训练数据的文章吧
《Deep Leakage from Gradient》
在联邦学习中，每个用户在本地上传梯度或者模型参数，通过一个 Server 端对模型进行更新，那么就有人研究能不能通过人工智能模型这个黑盒以及梯度信息，从中盗用可用的用户数据呢？
通过本地不断生成样本，比较本地梯度和他人梯度的差距作为loss，将loss最小化使得生成的数据越来越靠近他人用户的数据，最终实现数据的窃取。
神奇的事情发生了，即使大家无法理解这个黑盒里是在做什么，只要能控制输入和输出，就能透过黑盒消除其他影响，论文结果如下
论文高保真的从梯度中还原了原始数据。
无论是图像数据还是文本数据，都被轻易地识破并还原。
这种基于神经网络黑盒来进行攻击的方式应该也属于黑盒优化的一种思路吧~仅供参考。
论文链接：https://papers.nips.cc/paper/2019/file/60a6c4002cc7b29142def8871531281a-Paper.pdf
1
相关话题
既然线粒体无色，为什么褐色脂肪组织是褐色的？神经网络能否代替决策树算法？
麻将中手牌 13 张都是索子，最多再摸进几张才能和牌？
有没有生物不以光作为“视觉”来源？
人工智能要有自主意识有创造力，才能全面超越人类，这个时候人工智能才可怕，这话对吗？
圆周率里包含你的银行卡密码吗？
生殖隔离的意义何在，对物种生存有什么作用？
单基因,多基因,表观遗传引起的疾病有什么异同点?
四川卧龙拍到全球首例白色大熊猫，是怎么形成的？对它的健康会有影响吗？
如何看待中科大 26 岁教授陈杲攻克数学复微分几何领域世界难题？
前一个讨论
消融实验是什么？
相关的话题
为什么世界上大多数地方的人习惯用逗号表示小数点，而C++却用圆点表示小数点，而不是按照大多数地方习惯？从事数学研究的你可以分享一下当时学习本科基础课程的经验吗？
欧氏空间到自身的局部同胚、连续、满映射，是否一定是单射？
我希望中国举办一个更有分量的奥数天才赛，出一些很难的题目和各种猜想，可以花一年解题，吃住在考场可以吗？
USC 大学教授、Pinscreen CEO Hao Li 是否存在论文造假、产品虚假宣传等问题？
如果一份饭菜每隔几小时就加热一次，永不停息，它能永远不馊吗？
如何评价阿里巴巴推出的智能音箱「天猫精灵 X1」？
如果地球只剩下两个人类（一男一女），那么他们该如何避免近亲繁殖？
如何看待美最新研究称，2019 年 12 月新冠病毒已在美传播，这说明了什么？
数学可以直观想象么？
合成生物学属于基因工程吗？
数学系学数学的男生最后都是如何找到女朋友的？
所有正方形的数量与所有长方形的数量相等吗？
如何看待特朗普计划减少NIH(National Institutes of health)60亿经费?
动物界有没有走路顺拐的现象？
当年有哪些让你拍案叫绝的高中数学题？
如何评价新Nature子刊Nature Machine Intelligence的出现？
为什么吃没熟的猕猴桃嘴巴会出血？
台湾专家推断新冠病毒发源于美国，因为美国有全部五个病毒族群，这靠谱吗？
免疫检查点 PD-1 抑制剂与 CAR-T 细胞联合应用是否对实体瘤造成致命性的打击？
x^4+y^4+z^4+w^4=a^4有正整数解吗？
当病毒入侵人体后，免疫系统如何抵御？
逻辑学中，前提为假而命题为真的推论如何解释？
华为 P30 Pro 相机使用 AI 技术为拍摄的月亮增加细节是合理的吗？
什么是离体蛙心？
如何改造人体，可以让人类看到更广阔的波长范围，看到更长或更短的光?
为什么有很多名人让人们警惕人工智能？
五十年后，数学家和物理学家会否是最后一群还坚持使用黑板进行教学和学术讨论的人？
数学中，梯度可不可以理解为电场线垂直为等势线？
奥赛生做高考题是种怎样的体验？