商务部科技部调整发布的《中国禁止出口限制出口技术目录》，有哪些变化？意味着什么？ 第2页

谢邀。鉴于我的专业：

• 我用一半内容讲调整的主要内容以及影响，顺便说说用户数据泄露的后果。
• 一半内容用不带公式的方法简单讲讲相关技术，以解释为啥商务部科技部这个调整是必须的。

调整与影响

首先附上调整内容原文

首先先说，这不是”新发布“的，而是”调整“。这份目录最早是科技部令2008年第12号附件。

也不是第一次调整，例如2015年调整过一次

不过大家都看得出来，这次”基于数据分析的个性化信息推送服务技术“这点很明显是对字节跳动想出售进行限制，并不是不给你卖身，但别把中国用户数据卖了，大家都看得出来，我这里就不展开讲了。

字节跳动并非算法方面有啥秘密武器，和一些字节跳动的工程师交流过，他们用的算法也是业界常用的，他们推荐系统层面的复杂度主要工程上而非算法架构上，在工程上支持“精细化运营“。而算法方面的性能也并非完全因为工程架构的功劳，更重要的是数据的喂养。

但不管字节跳动是否有意出售，不管tiktok和微软出售的内容里包不包括用中国用户数据训练的模型，这个漏洞必须迅速补上。给科技部的迅速反应点个赞。

这可不是国家为了民族气节给你使绊子，这是直接威胁信息安全的事情，毫不夸张是说，是维护国家安全的必要举措。字节跳动的算法靠中国十几亿用户喂养出来的，若模型被破译，将会是数亿用户数据的暴露。即使不暴露具体数据，这个模型也是个潜在的安全隐患，还记得英国公司Cambridge Analytic是如何利用Facebook的用户数据操纵美国大选的吗。

由于知乎不能发图，那就直接引用一段报道。在Facebook数据这个事件中，pingwest的一篇文章^[1]写到：

在此之前，一直有特朗普靠高级算法获胜的传言，但专家认为，这种说法并不靠谱。因为离了数据的支撑，再神奇的统计方法也是空中楼阁，有意义的结论必须通过一定量级的数据才能得出。考虑到现实条件，想要获得足够左右大选结果的数据量，几乎是不可能的。
然而现实往往比电视剧更有戏剧性。如果你接着看 CA 的官网，会发现这样一段话：“我们对超过两亿三千万美国选民进行了每人高达五千个数据点的数据采集，通过这些数据，我们可以为用户筛选出目标群体，接着改变他们的想法，改变他们的行动。”
2.3 亿就是一个很可观，也很可怕的数字了——美国注册选民数总共也就 2.3 亿，2016 年在大选中投票者约 1.3 亿。而本次曝出 CA 掌握的用户信息高达 5000 万，几乎是 2016 年总票数的一半。
很快，美国的《纽约时报》和英国的《卫报》两家权威媒体同时刊文，曝光了 Cambridge Analytica（以下简称 CA）违规窃取数据的丑闻。两家媒体通过 CA 内部信源获得的证据表明，该公司违反了 Facebook 开放平台协议，获取了总计超过 5000 万名 Facebook 用户（其中大部分为美国真实选民）的数据。
尽管比起泄露了 30 亿账户资料的雅虎， 5000 万真的不算多，但考虑到在 CA 事件中用户的姓名、性别、住址、生活状态、政治主张、社交关系等信息均被获取，足够对一个用户进行完整画像，这一事件足以跻身美国史上最大规模数据泄露榜单。
当一家公司拥有了超过 5000 万个真实个人的数据，和分析这些数据的能力，它的力量足以颠覆一个社会——只要它愿意。
过去，全世界只有一家公司拥有这个能力：Facebook。而现在，多了一家公司：CA。
Facebook 没有这个意愿，而 CA 有。

现在，多了很多家中国公司有这个能力，但有意愿的，也多了很多，这是一块肥猪肉，虎视眈眈的人多着呢。
如果字节跳动的几亿用户数据或者这几亿数据的模型被美国掌控，你敢想这后果？

不过我相信这个调整并不是因为字节跳动打算售卖开始才开始的，但很大可能是因为字节跳动因为急着卖而加快了发布进程。

不过这么一来，张总就有点尴尬了。原本谈好的售价可能要打个折了，说不定折扣太多，张总最终决定不卖呢？

不过有的人会想，把模型打包加密后，不都是一些梯度吗？会对用户数据造成泄漏吗？

恰好我是在做机器学习的，这里就我个人及其有限的专业水平简单说下可能的风险。

隐私收集风险

在数据收集阶段，虽然我们法律对收集用户数据的权限做出规定, 但是由于你懂得，国内厂商隐私保护还是稍微欠缺的，不保证数据收集者仍可能过度收集数据并贩卖用户隐私.这种窃取用户原始数据的方式是机器学习系统中最直接的隐私泄露。

隐私攻击

虽然模型训练好是一个梯度的合集，但是还是有攻击方法，一般有几种：

1. 成员推断攻击。成员推断攻击是指攻击者试图判断某条个人信息是否存在于目标模型的训练数据集。
2. 模型倒推攻击。模型倒推是指通过模型的输出反推训练集中某条目标数据的部分或全部属性值。其基本思路是找到使输出中某一类对应的可能性最大的输入。
3. 参数提取攻击。目标模型参数不公开, 攻击者已知部分模型结构信息和标签信息, 试图通过访问目标模型得到模型参数的攻击。

目前保护隐私的话，主要通过几种方式：

1. 差分隐私。差分隐私中主要存在两种直接添加噪声的方法:拉普拉斯机制(Laplace mechanism)、高斯机制(Gaussian mechanism), 这两种机制适用于保护数值型数据。
2. 同态加密。同态加密是一种允许用户对密文进行特定代数运算并得到密文结果的加密形式 。基本思路就是公钥和私钥这一套
3. 安全多方计算。使用基本的密码学工具,包括秘密共享、同态加密、零知识证明、不经意传输等等。

更多的技术细节可以参考^[2]这篇文章。这里就点一下技术，毕竟要讲清楚得上万字。

你可以不了解这些技术，但是记住，保护隐私和模型效率是天平的两头，过度保护隐私会造成模型效率低下。目前还没有万无一失的100%保护隐私和数据安全的方法，除非你不想用这个模型了，那就能100%安全。机器学习中的隐私保护要随着机器学习技术的进步而发展, 现有的诸多关键问题和挑战仍需进一步研究。这也解释了商务部科技部为啥必须做这个调整。

参考

1. ^Cambridge Analytica：掩盖在大数据高科技下的竞选作弊器 https://www.pingwest.com/a/158779
2. ^机器学习中的隐私攻击与防御 http://www.jos.org.cn/html/2020/3/5904.htm#outline_anchor_27

单说其中一条“基于数据分析的个性化信息推送服务技术”，针对性很明显了，字节跳动。

限制出口部分 45.在信息处理技术（编号：056101X）项下增加控制要点：“21. 基于数据分析的个性化信息推送服务技术”。

你想卖KneeKnock可以，那你就单卖个APP名字吧，想卖算法，问过商务部了么？

限制类技术出口必须到省级商务主管部门申请技术出口许可，获得批准后方可对外进行实质性谈判，签订技术出口合同。所以现在你只要想卖，商务部就有理由介入这笔交易，依法依规审查这次交易是否涉及抖音的核心算法，直接卡住你脖子。

别来说什么火星企业，只要技术研发活动在中国进行，或者在中国工作的员工参与了技术研发活动，商务部就能管。字节跳动也是要遵守中国的法律的，你敢在审查好之前强行卖，先不说张一鸣要吃牢饭，随便把你国内抖音的牌照收回就凉凉了，字节跳动股东都会生撕了他。

这可太逗了，估计张一鸣万万没想到会是这个结局，火星企业被双方围剿了，你不想体面是吧，那我们有九种方式让你体面。

现在还说什么在商言商格局大么？企业家不懂政治是很危险的，以为资本做大之后背后没国家撑腰能活下去？真的太天真了。

这波目录及时调整，真的舒服。

几乎打了字节跳动和所有为字节跳动说话人的脸，想不战而跪?别逗了

半个月前有些人疯狂攻击沈逸大佬说的话，攻击所有劝字节跳动不要跪下的人。将这些劝告说成是粉红的自我意淫，还表示国家是支持卖抖音的。意图将民众的情绪说成是无理取闹。有些人坚定的在中国国内维护美国利益，要挟国家话语权。

这次商务部真是太棒了！

---

  zhui-huang-bu 网友的相关建议: 
      

火星企业被地球两大国围攻

---