人是如何做黑盒优化的？ 第1页
1
lokinko 网友的相关建议:
简单介绍一篇最近看过的通过梯度盗取用户训练数据的文章吧
《Deep Leakage from Gradient》
在联邦学习中，每个用户在本地上传梯度或者模型参数，通过一个 Server 端对模型进行更新，那么就有人研究能不能通过人工智能模型这个黑盒以及梯度信息，从中盗用可用的用户数据呢？
通过本地不断生成样本，比较本地梯度和他人梯度的差距作为loss，将loss最小化使得生成的数据越来越靠近他人用户的数据，最终实现数据的窃取。
神奇的事情发生了，即使大家无法理解这个黑盒里是在做什么，只要能控制输入和输出，就能透过黑盒消除其他影响，论文结果如下
论文高保真的从梯度中还原了原始数据。
无论是图像数据还是文本数据，都被轻易地识破并还原。
这种基于神经网络黑盒来进行攻击的方式应该也属于黑盒优化的一种思路吧~仅供参考。
论文链接：https://papers.nips.cc/paper/2019/file/60a6c4002cc7b29142def8871531281a-Paper.pdf
1
相关话题
人类从什么时候开始驯养猫？有没有这样的函数，其一阶导等于1，二阶导等于2，三阶导等于3，n阶导等于n，n一直趋于无穷大？
能否使用神经网络来判断奇偶数？
生物书上说现在已经有植物细胞和动物细胞成功融合的案例。这样融合得到的杂交细胞分裂分化会变成什么样子？
如何看待NIPS2017图灵奖得主贝叶斯网络之父Judea Pearl讲座无人问津？
是否存在一个世界，这个世界没有任何关于物理化学甚至数学方面的性质，只是一个单纯的世界？
如果物种间突然没有了生殖隔离地球会怎么样？
如果一个人把蓝色看成绿色，把绿色看成蓝色，如何让他知道他和别人不一样?
能不能简单的说一下PCR扩增技术是什么呀?
把猫的胡子剪了，会对猫有什么影响？
前一个讨论
消融实验是什么？
相关的话题
在食物缺乏的情况下，胖子、瘦子、肌肉男和大力士哪个能活得更久？人为什么会有接吻的欲望？
什么是人工智能？人工智能、机器学习、深度学习三者之间有什么关系吗？
你曾使用过的最靠谱的驱蚊方式是什么？
哺乳动物有巴氏小体，单孔类有吗？单孔类雄性5个X5个Y，雌性10个X，如果有巴氏小体雌雄各几个？
真正喜欢数学的人是什么样的？
大数据听着很牛，实际上也很牛吗？
偏微分方程可不可以用级数展开直接解？
数学中有什么难以置信的结论？
为什么 larger batch size 对对比学习的影响比对监督学习的影响要大？
请问数学的函数和编程语言的函数有什么区别呢？
Galapagos tortoises灭绝了吗?
深度学习调参有哪些技巧？
构建一个地底世界，如何使光照、水分、生物等条件合理？
如果物种进化成立，那么为何食草动物不去进化獠牙利爪来对抗敌人，反而要进化出灵敏的耳朵、善跑的脚？
从上海沿G318国道一路向西到西藏，用什么速度行驶可以做到“出发时天刚开始暗下来，到达时天正好全黑”？
集合论与微积分？
现在的AI能自动编写另一个AI代码吗？
统计学里有哪些振聋发聩颠覆三观的证明和定理？
如果人体从海平面下沉，能不能直接抵达马里亚纳海沟底部？
Rokid 提问：家里的电器会说话是怎样一种体验？
如何看待Meta（恺明）最新论文ViTDet：只用ViT做backbone（不使用FPN）的检测模型？
设光速为1那么我的飞船（小滑块）达到0.9的循环，是否能代表我达到了光速？
如果你可以长生，你会怎么活？
什么是meta-learning?
如何评价生物化学博士生文章《真实的阶级滑落体验》？反映了哪些问题？
为什么不存在收敛速度最慢的级数？
除了 1 和 144，还有哪个斐波那契数是平方数?
自然界有哪些很美好的现象？
十倍重力下人会怎样？