如何向一个没学过大学物理的人解释玻尔兹曼熵？ 第1页

你去买一种彩票。

有 N 种买法，只有1种中大奖。

这个时候一个人告诉你，他是从未来穿越过来的，告诉你中奖号码。

他告诉了你多少信息？

一个最直接的想法是，N 越大，这里面信息越多。假设这个信息量是函数。

再假设，你要去买另一种彩票，有 M 种买法。你问那个穿越者，那个彩票的中奖号码是多少呢？

他又告诉了你。

这里面信息量是多少？显然是。

现在我问你，他总共告诉了你多少信息？

答：。

好，我们从头来看，买两个彩票总共有多少种买法呢？。

说明他告诉你的信息还可以这样计算：。

所以你知道，信息量有这样的性质：

满足这个条件的函数是，对任意的常数 k 。

这就是玻尔兹曼熵。

————————————分割线——————————————

针对几个典型的质疑统一回答一下

1. 这是信息量，和熵是相反的概念；

2. 这个熵看起来跟热力学毫无关系啊。

回答1：是的，上面给出的函数 是使得有 N 种可能性的情况变成确定的情况所使用的信息量。也就是说，在穿越者告诉我中奖彩票之前， 是我距离确切地知道系统所有细节（即哪个号码中奖）所缺失的信息量，这个称为熵。即如果没人告诉我哪个号码中奖，这个有 N 种可能性的系统的熵为 。

回答2：玻尔兹曼熵按定义并不来自于热力学的细节，所以我在定义它的时候完全不必管热力学。举个栗子，我们知道一团气体有温度 T 、体积 V 和粒子数 n，这三个量是态的宏观描述，这样一个宏观态对应于许许多多微观态，其数目 N 就和该宏观态（热力学态）的熵 S 有关系。至于温度 T 、体积 V 和粒子数 n 究竟对应多少个微观态 N=?，才是一个物理问题；把 N 的某个函数叫做熵完全是为了某种方便的数学定义。

当然，这种定义与热力学熵的定义是怎样联系起来的，才是一个真正有趣的物理问题。然而我看到题目时，并不觉得那样回答是切题的。如果看官一定要从中找到熟悉的热力学定律，不妨跟我一起继续开脑洞：

——————————————脑洞线——————————————

你在穿越者的帮助下，赚了很多钱。但你仍不满足，想用这些钱继续买彩票。记住：这次你的目的是中奖，而不是赚钱，所以有时是要做亏本生意的。

假设你愿意拿出来买彩票的钱的总量是 E。如果你只买第一种有 N 种买法的彩票，你能买的彩票数 n 是你投入的钱数 e 的函数，这是个单调增函数。（为什么不是简单的线性函数呢？现实中也许只能做到，其中是彩票单价。但是我们不妨直接扩展到任意情况，假设彩票公司可以让你买的彩票越多使用的单价越高或越低，以满足它不可告人的目的。）

我们还用之前的方法分析一下，虽然会略显累赘。你买了 n 张彩票后，穿越者又灰过来告诉你中奖号码了。如果他告诉你一个具体的号码，那么信息量显然是。但假设他分两步告诉你，先告诉你你中奖了，再告诉你中奖的号码是多少。第二步的信息量显然是，所以第一步的信息量是，这是告诉你你中奖了所需要的信息量。

这个信息量意味着什么？我们取两个极限来理解。如果 n=N，那么该信息量是0，对应的是「废话，不用你说我也知道我中奖了，因为我把所有可能性都买了（为的是中奖而不是赚钱！）」。如果 n=1，那么该信息量是，因为，对应的是最开始的情形，即「告诉我中奖了和告诉我哪个号码中奖是一回事，以为我只买了一张」。

那么你买彩票的策略是什么呢？是让这个「告诉你中奖了」的信息量尽量小，这意味着你中奖的确定性越大。所以为了让尽量小，你要买尽量多的彩票使得 n 尽量接近于 N。呵呵，这是一句废话，谁都知道想要中奖就尽量多买一些彩票。

数学和物理的分析往往都是这样，我们从最平凡的例子里面找灵感，这些例子也许是一些废话，但它能扩展到不平凡的情况。

现在我们买两种彩票，分别有买法 N 和 M，而且买的彩票数和投入的钱数的关系是不同函数和。你只有这么多钱 E，怎么买才能使你同时中两个奖的概率最大呢？

一下子摸不着头脑吧？这就对了。我们来用上面的「废话」来分析一下。直接使用结论，为了使你更可能同时中两个奖，你需要「告诉你同时中了两个奖」的信息量尽量小，即尽量小，或者尽量大。由于你的总投资是 E，所以你只能买张第一种彩票和张第二种彩票。所以问题变成了，你要找到一个 e 使得最大。

不就是求极值嘛，求个导呗。先定义，那么极值条件就是。这里注意里的负号。

翻译一下就是，当第一种彩票的熵对投资额的敏感度与第二种彩票的熵对投资额的敏感度相同时，最可能同时中两个奖。

我们取一个容易算的例子检查一下这个结论。假设两种彩票都使用普通的恒定单价的销售方法，即 ，，其中是它们的单价。则，。它们相等的条件是，即，两边做等量的投资，无论单价如何，无论 N 和 M 是多少！

我们来用普通的方法算一下概率吧。中奖的概率其实很好算，分别是和，所以同时中奖的概率是，当时取极大值。

讲了那么多彩票，这套方法到底对应了什么物理呢？

E 是总能量，两种彩票是两个可互相传热的系统，最可能中奖的情况对应的是热平衡，而和分别是两个系统的温度的倒数。讲了这么多，我们推出的是热力学第零定律，热平衡的系统温度相同。

为什么把熵对能量的导数定义为温度的倒数呢？因为热力学第一定律。

而这个定律中的是热力学熵。

也就是说，如果我们定义了玻尔兹曼熵，并且把它当做热力学熵来定义一个温度，这样定义出来的温度同样满足热力学第零定律。所以这两种熵的定义是等价的。

（推导过程用到了熵最大原理，因为这是能量守恒的封闭系统所以没有问题。彩票的例子中该原理替换为「尽量要同时中两种彩票」。物理上源于统计力学基本假设。）