人是如何做黑盒优化的？ 第1页
1
lokinko 网友的相关建议:
简单介绍一篇最近看过的通过梯度盗取用户训练数据的文章吧
《Deep Leakage from Gradient》
在联邦学习中，每个用户在本地上传梯度或者模型参数，通过一个 Server 端对模型进行更新，那么就有人研究能不能通过人工智能模型这个黑盒以及梯度信息，从中盗用可用的用户数据呢？
通过本地不断生成样本，比较本地梯度和他人梯度的差距作为loss，将loss最小化使得生成的数据越来越靠近他人用户的数据，最终实现数据的窃取。
神奇的事情发生了，即使大家无法理解这个黑盒里是在做什么，只要能控制输入和输出，就能透过黑盒消除其他影响，论文结果如下
论文高保真的从梯度中还原了原始数据。
无论是图像数据还是文本数据，都被轻易地识破并还原。
这种基于神经网络黑盒来进行攻击的方式应该也属于黑盒优化的一种思路吧~仅供参考。
论文链接：https://papers.nips.cc/paper/2019/file/60a6c4002cc7b29142def8871531281a-Paper.pdf
1
相关话题
下面这两种情况为什么不一样，x为什么比y少了 ,后面一定要加x,y吗?肠道微生物组增加宿主寿命的原理是什么？人类能否通过某种益生菌来延缓衰老？
如果一个圆的半径无限大，那它还是一个圆吗？
应届硕士毕业生如何拿到知名互联网公司算法岗（机器学习、数据挖掘、深度学习） offer？
你所在的研究领域里，有哪些工作的结果虽然不是造假，但是是精挑细选出来的?
如何在数学试卷上调戏阅卷人？
对于随机抽取的情况，概率最大值总是在数学期望附近取到，这是一个定理吗？
2022 年人工智能领域的发展趋势是什么？你都有哪些期待？
如何通俗地理解概率论中的「极大似然估计法」?
为何既然人类同类相食会产生朊病毒，但是似乎那些食人魔无事发生？
前一个讨论
消融实验是什么？
相关的话题
你看好哪些人工智能的应用场景？TensorFlow 中 padding 的 SAME 和 VALID 两种方式有何异同？
黎曼 ζ 函数为什么要那么解析延拓？
贝叶斯深度学习是什么，和传统神经网络有何不同？
猫的这个部位是什么？
如何看待山东大学泰山学堂数学取向要做大量的大物实验？
人工智能可以作曲吗？
为什么小学要在没学二元一次方程的情况下先学鸡兔同笼问题？
一堆n维空间的由m个点组成的点集，m大于n，我们只知道它们之间的距离，能否判断所在空间的维数？
什么是数学之美？
哪些经历让你体会到，科学技术真的提升了我们生活的幸福感？
如何看待2019世界人工智能大会马云与埃隆马斯克的对话？
为什么绝大部分的草食动物不能自己分泌纤维素酶？
如何评价 DeepMind 公司？
如何评价FAIR提出的ConvNeXt：CNN匹敌Swin Transformer?
中国的物种入侵到国外的例子有哪些？
世界上所有生物的原始冲动是什么？
世界上存在一种原核生物，它的 DNA 是莫比乌斯环，或者扭结结构吗？
人类从什么时候开始驯养猫？
如何看待施一公创立制药公司？
为什么百度无人车在国内这么多人黑？
《现代数学基础丛书》的封面图有什么数学背景？
如果所有动物包括昆虫都变成人类大小，那么哪种杀伤力最强？
如何从进化心理学的观点去解释女性大都倾向于选择成熟的大叔作为配偶？
这个数列极限的定义反过来为什么就不行?
有没有简单的方法[这里指高中（非竞赛）水平，初等计算复杂程度不计]证明这个不等式（详细见下图）？
蚊子如何识别一个目标可以吸血？
现在的人工智能是否走上了数学的极端？
当游戏设计师需要具备哪些基本素养？
如何看待 Emory 大学生物学教授李晓江的实验室突遭校方关闭？