人是如何做黑盒优化的？ 第1页
1
lokinko 网友的相关建议:
简单介绍一篇最近看过的通过梯度盗取用户训练数据的文章吧
《Deep Leakage from Gradient》
在联邦学习中，每个用户在本地上传梯度或者模型参数，通过一个 Server 端对模型进行更新，那么就有人研究能不能通过人工智能模型这个黑盒以及梯度信息，从中盗用可用的用户数据呢？
通过本地不断生成样本，比较本地梯度和他人梯度的差距作为loss，将loss最小化使得生成的数据越来越靠近他人用户的数据，最终实现数据的窃取。
神奇的事情发生了，即使大家无法理解这个黑盒里是在做什么，只要能控制输入和输出，就能透过黑盒消除其他影响，论文结果如下
论文高保真的从梯度中还原了原始数据。
无论是图像数据还是文本数据，都被轻易地识破并还原。
这种基于神经网络黑盒来进行攻击的方式应该也属于黑盒优化的一种思路吧~仅供参考。
论文链接：https://papers.nips.cc/paper/2019/file/60a6c4002cc7b29142def8871531281a-Paper.pdf
1
相关话题
你见过哪些让你叹为观止的物理和数学问题的证明或计算方法（包括简单粗暴的数量级估算）？类似于勒让德函数和贝塞尔函数的函数还有哪些？
数学系的学生能硬核到什么程度？
有一函数F(x)，其导数为F`(x)，现在它们共同出现在同一等式里，是否能计算出F(x)的表达式？
人类如何才能做到不用吃饭睡觉？
三个蛋挞，分别是紫薯的、提子的、黄桃的，有 80% 的把握第一个是紫薯的，有 80% 的把握最后一个是黄桃的，中间的那个是提子的概率是多大？
AlphaFold2 解决了蛋白质结构问题吗？DeepMind 解决这项生物学五十年难题有何重大意义？
人工智能可以解决人类难题吗？
如何评价《王者荣耀》「绝悟」AI?
最小二乘法的本质是什么？
前一个讨论
消融实验是什么？
相关的话题
曹德旺称「我们一定要警惕疫情后全球产业链去中国化」，他的「预测」会有多大概率成真？如果一个人无意捡到了哥德巴赫猜想的证明，应该如何处理？
有没有可能通过基因编辑的方式延长浮萍的繁殖周期改变水体生态链？
人类卵子排在内裤上看得出来吗？长啥样?
为什么任何阶数等于其定义空间维数的全反对称张量在该空间中坐标系转动下不变？
前N个整数的最小公倍数有没有近似公式？
发现了蒙日圆一个很好的性质，却不知道有没有简便方法证明？
如何看待的法兰西的数学水平？
如何看待吴伊卓高考数学使用搜题软件作弊？
为什么说Hox盒和哺乳动物的SRY基因是转录因子控制生物发育的实例？
如何评价陈天奇团队新开源的TVM？
2021 未来科学大奖授予袁国勇、裴伟士、张杰、施敏，单项奖金约 650 万元，有哪些值得关注的亮点？
让人工智能去下路边街头的象棋残局会赢吗？
支持向量机（SVM）是什么意思？
（纯）数学 phd 的你们和导师 meeting 的时候都聊些什么？
一立方米的物体（类似于活性炭）把它展开后它的表面积最大能有多少？能达到无限吗？
DNA如何选择性的控制蛋白质的合成?
为什么生物学的发展远落后于物理化学等学科？
无穷维流形是什么意思？
咬手指甲到底是心理问题还是生理问题？
从鸦片战争到如今，我们中国是怎样一步步获得现在的国际地位的？
数学分析中，关于某个变量一致是什么意思？
人类对自然科学的探索是否会因其自身的复杂而走向停滞？
生物是怎么放电的？人能够放电吗？
如何证明哈代不等式?
蒙特卡罗算法是什么？
怎样利用格理论，也就是 minkowski 基本定理来证明拉格朗日四平方和定理以及费马平方和定理?
为何从一元五次方程开始就没有由有限次加、减、乘、除、开方运算构成的求根公式了？
如果中国古代发现了现代数学物理定理或公式，会怎么样记录?
怎样看待“清华生物系毕业生张晓勇从事保安工作”这件事？