怎么看待「张小龙：微信将推出自有输入法」? 第1页

其实输入法真的不一定要侵犯隐私，技术是真的可以保护隐私的。

对于微信看不看你聊天记录，我不敢打包票。不过作为一个AI从业人员，我想来讲讲相关的保护隐私技术。

如果你对技术头疼，那么这里是一些key takeaway，看完后面就可以跳过了:

• 不知道微信愿不愿意做保护隐私的输入法，但微信是有这个能力。
• 通过联邦学习技术，可以实现不需要上传用户数据就可以训练模型。
• 非常期待有厂商能开「保护隐私输入法」的先河，无论是微信还是其他公司。

如果你对联邦学习这个技术感兴趣，可以继续往下看。我不会讲很深，引用了谷歌的一个漫画来简单讲解联邦学习。

微信有能力做保护隐私的输入法

微信要做输入法的话，是可以做到不传你的隐私同时又做到智能的。（但他们选择做不做我就不知道了）

事实上，我倒是非常期待微信（或者其他厂商也行）推出一款保护隐私的输入法。我们现在用的很多输入法（就不指名道姓了）会出卖我们隐私，我们在微信聊天框，用某输入法输入了「想买衣服」，可能打开某购物app，就能看到衣服的广告了，其实这里是微信背了锅，真正的罪魁祸首是输入法。

虽然我昨天才吐槽微信越来越臃肿，变得像QQ，但这十年来，微信算是最克制的那个了(都怪同行衬托)。我们目前使用最多的App是微信了，打字最多的聊天框也许是微信了，就微信的使用频次来说，数据量确实能撑起一个很好的输入法预测模型。

如果他们坚持做保护用户隐私的输入法，我猜测他们可能用联邦学习来做。事实上Google Keyboard输入法就是用了这个技术来保护隐私。

联邦学习如何保护隐私

联邦学习保护隐私的原理是：上传权重，而非数据。

目前多数公司是把用户数据存在自己服务器上，然后在自己服务器上训练神经网络。神经网络模型是由不同层的神经元之间连接构成的，层与层之间的连接则是通过权重实现的。Blaise提出了设备端联邦学习^[1]，不需要用户把数据发送到服务器，然后在服务器上进行模型训练，而是用户在本地训练，加密上传训练模型（权重），然后服务器端综合成所有用户的权重后再反馈给用户模型改进方案。这种方式就是联邦学习。

要让输入法在不传用户隐私的同时来智能预测用户输入，这项技术其实在Google Keyboard上使用了好几年了。Google Keyboard原理如下图：

关于为此谷歌还出了一个漫画^[2]来讲解联邦学习技术原理。

这个漫画好几十张图，具体可以看看文末的参考链接^[2]，这里截取关键的几张图来讲解一些关键信息

• 无法从发送到服务器的梯度里重建数据

• 加密钥匙服务器也没有

• 模型不需要整合用户个人数据就可以学习

当然，在本地的计算，权重涉及训练模型，以及加密解密操作，如果太频繁，耗电量是很大的，可能你以前能用一天的电池，现在半天就没电了。不过减少计算频率的话，应该不是大问题。我用过google keyboard，并没有感觉电池续航有太大差别。

参考

1. ^H. Brendan McMahan, Eider Moore, Daniel Ramage, and Blaise Agüera y Arcas, "Federated Learning of Deep Networks using Model Averaging," Feb. 2017.  https://uk.arxiv.org/abs/1602.05629v1
2. ^^abfederated learning https://federated.withgoogle.com/