如何看待QQ邮箱翻译出他人的快递通知？ 第1页

看样子是因为模型在训练的时候用到了一些个性化的数据，但是这些数据在送入模型进行训练前没有做相应的处理，因此在遇到特殊词汇的时候就会还原出了训练数据中的内容，进而泄露了用户的隐私数据，类似于被用户套话了。

上个月的时候，某三岁半小朋友 @lokinko 同学曾在群里分享过一篇 @量子位 的公众号文章，讲的就是GPT-2的隐私泄露问题。

可以看到，只需要你说出一串“神秘代码”：“East Stroudsburg Stroudsburg……”，自然语言模型GPT-2就像是收到了某种暗号，立刻“送出”一套个人信息：姓名、电话号码，还有地址、邮箱和传真，这就是所谓的“吃了吐”。另外，这篇文章还谈到泄露个人隐私信息的概率还会随着模型的变大而升高。

这是我想说的第一个问题，即一部分模型训练过程中使用到的个性化数据会被不经意间泄露出来，导致个人隐私信息受到侵害。

解决这个问题也有方法，例如可以进行数据的清洗处理，以及等等其它手段。

不过我更为关注的是，这些数据都是从哪里来的？

是从网上爬取的吗？

还是说，tx和一些电商平台以及物流平台达成了某种协议，来获得一部分客户的个人信息进行，用以进行训练？

前段时间刚爆出QQ会读取用户的浏览器历史记录，可这部分信息被用作了什么至今还未知，不过目前至少可以知道不会是它所说的恶意网站检测。

所以在这件事发生后，我的第一反应就是腾讯又被发现在窃取用户隐私了。

希望能够在后续看到这些用于训练的个人信息的来源，是用户不小心泄露被爬取到了，还是背后有些刻意为之的事情？（原谅我怀着恶意揣测了一波）

我想我已经找到这条快递通知泄漏的源头了。

事实上如果你拿这条短信里的片段去搜索的话，已经能搜出一些相似的东西来了：

但是这些结果显然不是短信的源头，因为它们错字漏字太多，比如那个菜鸟骚站是什么玩意儿？而且最敏感的取货码和手机号也没有出现。

出于好奇我又重新排列组合了一下关键字，终于在一个不知名的香港电商网站上找到了线索。

然而打开网站后会发现网页已经更新了，于是我只好再去翻了一下网页快照，在快照的源代码里我终于搜到了那条短信：

考虑到这个电商网站恰好提供英文、简体、繁体三种语言，我猜测这一切发生的顺序是这样的：

某个粗心的商家复制了自己的短信内容（可能是想让朋友代领快递），扭头在上架商品的时候不小心压到了粘贴，把自己的私人短信插进了商品简介里。之后没什么顾客来光顾，TA自己也没再注意到这条简介。

后来腾讯为了训练AI翻译模型，用爬虫定期爬取互联网上各种多语言版本的网页，其中恰好就有这个电商网站，于是这条短信就稀里糊涂的混进了腾讯训练AI的语料库里，让腾讯的AI把一些奇怪的词翻译成了这条短信。

虽然现在扭头看看，这次的“隐私泄漏事件”应该是个有点滑稽的乌龙，隐私内容是当事人自己稀里糊涂上架到电商网站上的。

但是我觉得腾讯各团队也该反思一下，为什么现在出点什么事，围观群众第一时间的反应就是：“不愧是tx”、“腾讯又在偷隐私了”。

取信如登，失信如崩，望诸君自省。

经测试已经成功触发。

测试内容“a banner reading "This message is from a mailing list. Unsubscribe"”翻译结果出现菜鸟驿站快递消息：

在网上搜索发现，去年10月已经有网友发现类似问题：

当时的情况是QQ邮箱“会把unsubscribe单词翻译成菜鸟驿站的一条短信”

但随后评论中有人称QQ邮箱已经修复了。

我们也进行了测试，如果邮件内容仅有单词unsubscribe，确实不会触发，但是正如开头所说，稍微通过组合不同语句，依然可以触发该问题。

题主也是同样的情况。截图中邮件内容虽然也是“unsubscribe”单词，但由于邮件还包含其他内容，所以也依然翻译出了菜鸟驿站的快递信息。

我们还发现，通过进行不同组合语句，翻译出现的菜鸟快递信息也不同：

不过大家不必担心，这个问题不会导致隐私泄露。但是这个翻译内容中确实出现了其他人的隐私信息（手机号）就是了……