人是如何做黑盒优化的？ 第1页
1
lokinko 网友的相关建议:
简单介绍一篇最近看过的通过梯度盗取用户训练数据的文章吧
《Deep Leakage from Gradient》
在联邦学习中，每个用户在本地上传梯度或者模型参数，通过一个 Server 端对模型进行更新，那么就有人研究能不能通过人工智能模型这个黑盒以及梯度信息，从中盗用可用的用户数据呢？
通过本地不断生成样本，比较本地梯度和他人梯度的差距作为loss，将loss最小化使得生成的数据越来越靠近他人用户的数据，最终实现数据的窃取。
神奇的事情发生了，即使大家无法理解这个黑盒里是在做什么，只要能控制输入和输出，就能透过黑盒消除其他影响，论文结果如下
论文高保真的从梯度中还原了原始数据。
无论是图像数据还是文本数据，都被轻易地识破并还原。
这种基于神经网络黑盒来进行攻击的方式应该也属于黑盒优化的一种思路吧~仅供参考。
论文链接：https://papers.nips.cc/paper/2019/file/60a6c4002cc7b29142def8871531281a-Paper.pdf
1
相关话题
我好像证明了四色猜想，各位怎么看？蜘蛛结一张网后至少需要逮到多少昆虫才算不亏？
“二分之一乘二等于一”，在这个算式里面“二分之一”该如何定义？
在B站弹幕里去世的阿伟一个接一个排起来有多长(单位：米)？
如何证明 e^π＞23？
如何看待swin transformer成为ICCV2021的 best paper？
为什么会出现缪氏拟态?
大佬们这个等式怎么证？
怎么形象清晰地解释「周期 3 意味着混沌」?
人的脚趾头有什么用？为什么没进化成和脚板连成一体的大肉坨？
前一个讨论
消融实验是什么？
相关的话题
主动学习（Active Learning）近几年的研究有哪些进展，现在有哪些代表性成果？生物的基因有没有可能是“祖传屎山”？
以「维数」为自变量的函数怎样表示和画图象？
有哪些优秀的 AI 相关的「一句话科幻」？
是否有迹象可以说明长期用耳机听音乐会损害听力？
为什么深海里的鱼都长得那么特别？
有哪些职业容易被人工智能替代？
深度神经网络（DNN）是否模拟了人类大脑皮层结构？
如果动物和人类有相同智慧，人类还会是地球霸主么？
中国当年首次合成结晶牛胰岛素为什么没有获诺奖？
0.0……1中0的个数是无穷尽的，也就是说永远都不会出现1，那么0.0…1存在的意义是什么？
2019年NeurIPS有哪些糟糕的论文？
《数学分析》212 页定理可不可以这样用：因为可积且有界，所以有有限个间断点？
云计算已经发展10多年了，你最看好云计算为哪个行业创造的前景?
不知道想下面描述的一样理解数列极限和收敛对不对，有什么需要改进的地方吗？
2022 年初，你认为哪项成果代表了现在人工智能的最高水平？
如何看待SQuAD比赛中，阿里、MSRA机器阅读理解准确率超越人类？
瞬间低温冰冻人体，解冻后人体还会有生命活动吗？
为什么一条线有无数个点？
函数方程 f(xy)=f(x)+f(y) 的严格解是什么？解是否唯一？
阿里巴巴的AI实力被低估了吗？
新智元提问：如何看待李飞飞高徒Karpathy加入特斯拉，主管人工智能部门？
为什么我们要学数学，长大之后数学能用在哪？
假如裸鼹鼠演化发展出文明，将是怎样的社会形态？
为什么 KCl 和 NaCl 化学性质相似，而 KCl 不能代替 NaCl 成为食盐的主要成分呢？
FC 游戏《中国象棋》中，困难难度是真的在计算棋谱吗？
深度学习调参有哪些技巧？
一盘围棋输半目算输，输十几目也算输，输得少比输得多水平高，为什么现在都一视同仁，不分水平？
深度学习火热兴起后，隐马尔可夫模型（HMM）还有何独到之处，是不是几乎可被深度学习模型给替代了？
如何看待亚马逊智能音箱劝主人自杀的新闻？