人是如何做黑盒优化的？ 第1页
1
lokinko 网友的相关建议:
简单介绍一篇最近看过的通过梯度盗取用户训练数据的文章吧
《Deep Leakage from Gradient》
在联邦学习中，每个用户在本地上传梯度或者模型参数，通过一个 Server 端对模型进行更新，那么就有人研究能不能通过人工智能模型这个黑盒以及梯度信息，从中盗用可用的用户数据呢？
通过本地不断生成样本，比较本地梯度和他人梯度的差距作为loss，将loss最小化使得生成的数据越来越靠近他人用户的数据，最终实现数据的窃取。
神奇的事情发生了，即使大家无法理解这个黑盒里是在做什么，只要能控制输入和输出，就能透过黑盒消除其他影响，论文结果如下
论文高保真的从梯度中还原了原始数据。
无论是图像数据还是文本数据，都被轻易地识破并还原。
这种基于神经网络黑盒来进行攻击的方式应该也属于黑盒优化的一种思路吧~仅供参考。
论文链接：https://papers.nips.cc/paper/2019/file/60a6c4002cc7b29142def8871531281a-Paper.pdf
1
相关话题
人类生长激素受体基因的进化，这意味着什么？为什么有的数学定理看起来很显然，证明起来却很复杂？
数学经典教材有什么？
拉格朗日是什么意思？
为什么1/49前面几项刚好是等比数列0204081632……，这是巧合吗 ？
学生物的人都有哪些特有的习惯？
俄罗斯“物理数学中学”的教学模式是什么样的？
如何证明对任意给定的正数e，存在M上的矩阵范数||A||，满足不等式||A||<=谱半径+e?
一个强大可以对抗现代武器的异兽需要 什么设定?
如何评价张景中《不用极限的微积分》？
前一个讨论
消融实验是什么？
相关的话题
为什么恐高症都是从上往下看地面恐？而不是从下往上看天空恐？中国在国际奥数比赛中，近些年几乎是压倒性的优势，可是为什么至今没有人获得菲尔兹奖？
直角坐标与极坐标的互化中，为什么 dxdy=rdrdθ？
为什么中国人数理化学科成绩似乎秒杀外国人，但世界相关的（出名的）顶级的科学家几乎全是外国的？
初三学生，立志将来进行数学研究，未来五年需要看哪些书才能打牢基础？
如何用十分中二的方式解数学题？
加法交换律 a＋b＝b＋a 是怎么证明的？
冰山里有大型动物尸体吗？
有哪些关于机器学习的真相还鲜为人知？
深度学习和强化学习之间的差别有多大？
999的99次方是什么概念？
深度学习（机器学习）的下一步如何发展？
如果在外星发现结构功能复杂的物体，我们如何判定它是自然形成的还是被制造出来的？
在 UCLA 上陶哲轩的课是什么感受？
如果有机会给 1950 年科学界传达一句话，你会选择说什么？
工业固氮量和生物固氮量持平会有什么后果？
学什么数学，为什么不直接学逻辑，为什么不把数学改成逻辑？
在上学的同时自学完这些物理、数学、计算机技术、哲学等内容，大概需要多长时间？
深度学习底层开发对数学有哪些要求？
人体生物样本包含毛发吗？
植物光反应产生的ATP是不是只能用于暗反应?
如何评价Yann LeCun 说的「要研究机器学习，本科应尽量多学物理和数学课」？
2020-2021年NLP有什么核心技术的更迭吗？或者有什么推动领域发展的paper吗？
地球上是否存在没有天敌的动物（不包括人类）？
云计算已经发展10多年了，你最看好云计算为哪个行业创造的前景?
把什么昆虫扔进这样的蚂蚁窝里能活下来？
人脸识别技术现在成熟了吗，为什么没有大范围应用呢？
如何看待任正非说的「发展芯片光砸钱不行，还要砸物理学家数学家」？
猪的智商比狗高吗?
叶绿素怎么进化出来的？