题主您好。在 A Probability Path by Sidney I. Resnick 中，我曾读到过这个例子，著名的St. Petersburg paradox，很开心能够分享给你。

命题1：若随机变量 $X$X 服从离散分布 $P(X=2^k)=\frac{1}{2^k},k\in \{1,2,\dots \}$P(X=2^k)=\frac{1}{2^k},\; k\in\{1,2,\dots\} ，则 $EX=+\mathrm{\infty }$EX=+\infty 。

这个命题是正确的。按照概率论对数学期望的定义，他的确是正无穷。

命题2：如果我们玩 $n$n 次这个游戏，并假设每次获得的钱是独立同分布的随机变量序列 $\{X_1,X_2,\dots ,X_n\}$\{X_1,X_2,\dots,X_n\} ，再由大数定律，我们猜测：样本均值 ${\overline{X}}_n=\frac{X_1+\cdots +X_n}{n}$\bar{X}_n=\frac{X_1+\cdots+X_n}{n} 可以逼近总体均值 $EX=\mathrm{\infty }$EX=\infty 。即：我们平均每把游戏能够赢得 $\mathrm{\infty }$\infty 元。

很可惜，这个命题是错误的。大数定理陈述的内容的确是：样本均值可以逼近总体均值。但作为严格的数学定理，它是有条件的。为方便各位理解，我留下一个简易版本的弱大数定律：Khinchines' Weak Law of Large Numbers。

Kinchine's Weak Law of Large Numbers: 对于一个独立同分布的随机变量序列 $\{X_1,X_2,\dots \}$\{X_1,X_2,\dots\} ，如果 $E|X_i|<\mathrm{\infty }$E|X_i|<\infty ，则 ${\overline{X}}_n=\frac{X_1+\cdots +X_n}{n}\stackrel{p}{⟶}E{X}_i$\bar{X}_n=\frac{X_1+\cdots+X_n}{n} \mathrel{\overset{p}{\longrightarrow}}EX_i 。

这条定理告诉我们：想要样本均值趋向于总体均值，我们的条件是总体分布 $E|X|<\mathrm{\infty }$E|X|<\infty 。很可惜，在这个游戏里，我们达不到这个条件。所以命题2是错误的。

大数定律 / 概率论拿这个问题一点办法都没有吗？

并不是。接下来我会陈述 General Weak Law of Large Numbers，并使用这个定理去证明这个游戏中存在的“逼近性质”，但这个逼近比较抽象，证明也比较复杂。如果对证明没有兴趣，我们可以跳过证明，直接看最终结论：方程（5）。

General Weak Law of Large Numbers: 一个独立的随机变量序列 $\{X_1,X_2,\dots \}$\{X_1,X_2,\dots\} 和一个非负、单调上升的实数序列 $0<b_n\uparrow \mathrm{\infty }$0<b_n\uparrow\infty ，并记 $S_n=\sum _{i=1}^n{X}_i$S_n=\sum_{i=1}^n X_i ，若满足条件：

1. $\sum _{i=1}^{n}P(|X_i|>b_n)\to 0$\sum_{i=1}^n P(|X_i|>b_n)\to 0 ,
2. $\frac{1}{b_n^2}\sum _{i=1}^{n}E[X_i^2{I}_{\{|X_i|\le b_n\}}]\to 0$\frac{1}{b_n^2}\sum_{i=1}^n E\Big[X_i^2I_{\{|X_i|\le b_n\}}\Big]\to 0 ,

则 $\frac{S_n-a_n}{b_n}\stackrel{p}{⟶}0$\frac{S_n-a_n}{b_n} \mathrel{\overset{p}{\longrightarrow}}0 ，其中的 $a_n=\sum _{i=1}^{n}E[X_i{I}_{\{|X_i|\le b_n\}}]$a_n=\sum_{i=1}^nE\Big[X_iI_{\{|X_i|\le b_n\}}\Big] 。

我们现在来运用这个定理。假设 $X_1,X_2,\dots$X_1,X_2,\dots 独立并都服从分布 $P(X=2^k)=\frac{1}{2^k},k=1,2,3,\dots$P(X=2^k)=\frac{1}{2^k},\; k=1,2,3,\dots 。我们将这些随机变量的前 $n$n 项有限和记作 $S_n=X_1+\cdots +X_n$S_n=X_1+\dots+X_n，即表示玩 $n$n 次游戏总赢得的钱。令 $m(n)=\lfloor {\log }_2(n)+{\log }_2({\log }_2(n))\rfloor$m(n)=\lfloor \log_2(n)+\log_2\Big(\log_2(n)\Big)\rfloor ，其中 $\lfloor x\rfloor$\lfloor x \rfloor表示不超过 $x$x 的最大整数。再令 $b_n=2^{m(n)}$b_n=2^{m(n)} 。我们现在对随机变量序列 $\{X_n\}$\{X_n\} 和实数序列 $\{b_n\}$\{b_n\} 验证 General Weak Law of Large Numbers。

$\begin{array}{rl}1.\sum _{i=1}^{n}P(|X_i|>b_n)& =nP(X>b_n)\\ & =n\cdot \sum _{i=m(n)}^{\mathrm{\infty }}\frac{1}{2^i}\\ & =n{2}^{-m(n)+1}\\ & \le n{2}^{-({\log }_{2}n+{\log }_2({\log }_{2}n))+2}\\ & =4\frac{1}{{\log }_{2}n}\to 0\end{array}$\begin{align*} 1.\quad\sum_{i=1}^n P(|X_i|>b_n)& =nP(X>b_n)\\ &=n\cdot\sum_{i=m(n)}^\infty \frac{1}{2^i}\\ &=n2^{-m(n)+1}\\ &\le n2^{-\big(\log_2n+\log_2(\log_2 n)\big)+2}\\ &=4\frac{1}{\log_2n}\to0 \end{align*}

$\begin{array}{rl}2.\frac{1}{b_n^2}\sum _{i=1}^{n}E[X_i^2{I}_{\{|X_i|\le b_n\}}]& =\frac{1}{b_n^2}\cdot n\cdot E[X^2{I}_{\{|X|\le b_n\}}]\\ & =\frac{1}{b_n^2}\cdot n\cdot \sum _{i=1}^{m(n)}{2}^{2i}{2}^{-i}\\ & =2^{-2m(n)}\cdot n\cdot (2^{m(n)+1}-2)\\ & \le n\cdot 2^{-m(n)+1}\to 0\end{array}$\begin{align*} 2.\quad\frac{1}{b_n^2}\sum_{i=1}^n E\Big[X_i^2I_{\{|X_i|\le b_n\}}\Big]&=\frac{1}{b_n^2}\cdot n\cdot E\Big[X^2I_{\{|X|\le b_n\}}\Big]\\ &= \frac{1}{b_n^2}\cdot n\cdot \sum_{i=1}^{m(n)}2^{2i}2^{-i}\\ &=2^{-2m(n)}\cdot n\cdot (2^{m(n)+1}-2)\\ &\le n\cdot 2^{-m(n)+1}\to 0 \end{align*}

因此，General Weak Law of Large Numbers 可以使用。我们只需要把定理中的 $a_n$a_n 算出来就可以得到一条收敛性质了。 $$\begin{array}{r}{a}_n=\sum _{i=1}^{n}E[X_i{I}_{\{|X_i|\le b_n\}}]=nE[X{I}_{\{|X|\le b_n\}}]=n\sum _{k=1}^{m(n)}{2}^k\cdot \frac{1}{2^k}=n\cdot m(n)\end{array}$$\begin{align*} a_n=\sum_{i=1}^nE\Big[X_iI_{\{|X_i|\le b_n\}}\Big]=nE\Big[XI_{\{|X|\le b_n\}}\Big]=n\sum_{k=1}^{m(n)}2^k\cdot \frac{1}{2^k}=n\cdot m(n) \end{align*} \\ 所以，General Weak Law of Large Numbers 告诉我们的事情是：

$$\begin{array}{}\text{(1)}& \frac{S_n-nm(n)}{2^{m(n)}}\stackrel{p}{⟶}0.\end{array}$$\begin{equation*} \frac{S_n-nm(n)}{2^{m(n)}} \mathrel{\overset{p}{\longrightarrow}}0.\tag{1} \end{equation*}

由于 $m(n)$m(n) 实在是不好理解，我们将它用其他形式逼近一下。注意到：

$$\begin{array}{}\text{(2)}& 2^{m(n)}\le 2^{{\log }_{2}n+{\log }_2({\log }_{2}n)}\le n{\log }_2({\log }_{2}n),\text{(3)}& 0\le nm(n)-n{\log }_{2}n\le n{\log }_2({\log }_{2}n),\end{array}$$\begin{align} 2^{m(n)}\le 2^{\log_2n+\log_2(\log_2 n)}\le n\log_2(\log_2n),\tag{2}\\ 0\le nm(n)-n\log_2n\le n\log_2(\log_2n),\tag{3} \end{align} 并且

$$\begin{array}{}\text{(4)}& \frac{S_n-n{\log }_{2}n}{n{\log }_{2}n}=\frac{S_n-nm(n)}{n{\log }_{2}n}+\frac{nm(n)-n{\log }_{2}n}{n{\log }_{2}n}.\end{array}$$\begin{align*} \frac{S_n-n\log_2n}{n\log_2n}=\frac{S_n-nm(n)}{n\log_2n}+\frac{nm(n)-n\log_2n}{n\log_2n}\tag{4}. \end{align*}由(2), (3), (4)，我们得到 $$\begin{array}{r}\left|\frac{S_n-n{\log }_{2}n}{n{\log }_{2}n}\right|\le \left|\frac{S_n-nm(n)}{2^{m(n)}}\right|+\frac{{\log }_2({\log }_{2}n)}{{\log }_{2}n},\end{array}$$\begin{align*} \left|\frac{S_n-n\log_2n}{n\log_2n}\right|\le \left|\frac{S_n-nm(n)}{2^{m(n)}}\right|+\frac{\log_2(\log_2n)}{\log_2n}, \end{align*}\\ 其中右侧的第一项，由(1)保证收敛到0；右侧的第二项，由基本的数学知识，也可以收敛到0。所以左侧被右侧控制住，也会收敛到0，即：

$$\begin{array}{r}\left|\frac{S_n-n{\log }_{2}n}{n{\log }_{2}n}\right|\stackrel{p}{⟶}0,\end{array}$$\begin{align*} \left|\frac{S_n-n\log_2n}{n\log_2n}\right|\mathrel{\overset{p}{\longrightarrow}}0, \end{align*}\\ 即： $$\begin{array}{}\text{(5)}& \frac{S_n}{n{\log }_{2}n}\stackrel{p}{⟶}1.\end{array}$$\begin{align*} \frac{S_n}{n\log_2n}\mathrel{\overset{p}{\longrightarrow}}1.\tag{5} \end{align*}\\

怎么理解这条结论呢？当我们玩的次数 $n$n 足够大的时候，这 $n$n 次游戏总共赢得的钱与 $n{\log }_{2}n$n\log_2n 的比值，非常非常接近于1。这意味着，我们可以用 $n{\log }_{2}n$n\log_2n 去近似玩 $n$n 次游戏总共赢得的钱。这条逼近性质是否能够回答题主你的疑惑呢？

University of Michigan 的 Professor Tailen Hsing 在班上向我证明这条逼近的时候，我非常震惊，惊讶于概率论能够用抽象的方法，解决如此有趣的问题。我尝试用最通俗易懂的语言分享给大家，希望大家也能get到其中的乐趣。（如有typo或者错误请批评指正！）

这个问题叫做圣彼得堡悖论，是数学史上大名鼎鼎的伯努利家族里的尼古拉斯·伯努利在1713年提出的，他的堂弟丹尼尔·伯努利对其进行了最早的解释，这一问题也就因此以丹尼尔的居住地——圣彼得堡命名。

很久之前我在微软工作时同组的一个俄罗斯数学博士很喜欢拿这个问题作为面试题，因为没有标准答案，可以考验面试者的发散思维并考察解决问题的思路，所以后来变成相对还算常见的一道面试题，我自己也用过几次。

一个现代的等价问法如下：

假设有一个游戏，不断投掷一枚硬币直到出现反面为止，在游戏结束时如果总共掷了 $n$n 次，你就会获得 $2^n$2^n 元，问你愿意花多少钱玩这个游戏。

因为期望收益值 $\sum _{n=1}^N{2}^n\frac{1}{2^n}=\sum _{n=1}^{N}1=N$\sum_{n=1}^N 2^n\frac{1}{2^n}=\sum_{n=1}^N 1=N 在 $N\to \mathrm{\infty }$N\rightarrow \infty 时会超过任何实数，可以得到不管你付多少钱玩这个游戏你的预期收益都是正的这一和现实相悖的结论。实际上，有教授在课堂里询问学生时很少有人愿意出20元以上的价格来购买一次游戏权。所以到底是哪里出错了？

值得注意的是，这个问题尽管有300年历史，而且非常简单易懂，但是因为它涉及了统计学、心理学、经济学的不同领域，至今没有完全确定的解答。直到今天，还是经常有很多新的思路出现。也有一些受其启发的类似悖论。

1 - 边际效用

丹尼尔·伯努利最早在研究这一问题时指出了“人们关心的是金钱的效用，而不是金钱的数值”。例如，同样的1000元对于一个百万富翁和一个乞丐来说效用显然是不同的。

在这一基础上，丹尼尔假设效用并不是随金钱的数值线性增长，你拥有的钱越多，下一元钱对你提供的额外效用就越少。这是历史上第一次系统地用数学方法来解释“边际效益”这个经济现象。

丹尼尔提出简单地把效用定义为 $\ln (w)$\ln(w) ，其中 $w$w 是个人的总资产。这里使用对数函数只是为了让计算简单选择了一个边际收益降低的函数，事实上你可以选择使用各种递增凹函数（如 $\sqrt{w}$\sqrt w 等等）。

这么一来假设你玩游戏之前的个人资产为 $w$w ，假设你愿意付 $c$c 元来玩这个游戏，因为你所关心的并不是金钱收益的预期值，而是效用增加的预期值，后者为

$\sum _{i=0}^{\mathrm{\infty }}\frac{1}{2^n}[\ln (w+2^n-c)-\ln (w)]$\sum_{i=0}^\infty \frac{1}{2^n}[\ln(w+2^n-c)-\ln(w)]

这是 $w,c$w,c 的函数，对于给定的 $w$w ，你可以算出让上升大于等于0的最大 $c$c 值。由此可以算出一个百万富翁（ $w=1000000$w=1000000 )最多愿意付约21元，一个只有1000元的学生最多愿意付11元，而一个总共只有2元的人应该想办法借1.35元来玩这个游戏。

虽然这个想法对于后世经济学来说是一个非常重要的想法，但这作为圣彼得堡悖论的解决方案是有缺陷的。事实上，不管你写出什么效用函数，我都可以修改游戏支付更高的奖金，从而让期望值再次趋于无穷，于是再次带出同样的悖论。

2 - 忽略小概率

蒲丰（蒲丰投针问题）在1777年提出人们在做决策时会忽略概率很小的情况。这一提议争议性极大，例如多小才算是很小，一万分之一？十万分之一？

显然，除了能解决圣彼得堡悖论以外，并没有足够的理由相信为什么以上观点为真。如果人们真的忽略小概率，那么就没有人赌博或买彩票了。

2013年美国哲学家布查克提出了相对于一刀切忽略小概率，我们可以给不同的概率加上不同的加权。换句话说，不但奖金的效用递减，决策者在概率缩小时也会递减相应的效用。这么做确实可以解决圣彼得堡悖论，但是在引入明确的数学函数之后，之前的问题再次出现：即不管你给出什么加权函数，我们可以修正奖金让期望值再次趋于无穷。

3 - 游戏可行性

显然，这个游戏的可行性依赖于庄家拥有无限的金钱这一显然错误的假设。数学家杰弗里曾说过任何提出圣彼得堡游戏的庄家都是一个骗子，因为他自称拥有无限资产可以支持这一游戏。

假设庄家最多只能支付 W 元，之后就会破产，再结合1假设金钱效用为 \ln(W) 。那么，这个游戏的预期收益其实是 \ln(W) 而不是无穷。这么一来如果庄家为百万富翁，你最多应该支付13.8元，如果庄家为马一龙有约1900亿可以和你对赌，那么你最多应该支付26元，以此类推。

这也许是圣彼得堡悖论作为经济学问题的最佳解释，但是这并没有探讨圣彼得堡悖论作为纯数学问题的答案，所以现代讨论圣彼得堡悖论时一般不会考虑游戏的可行性。

圣彼得堡悖论会衍生很多其它有趣的问题：

彼得格勒游戏：和圣彼得堡游戏完全一样，只是任何情况下都多付1元，那么似乎这是一个严格更佳的游戏，但是无穷加1并没有改变，所以从期望值角度来看两个游戏收益是一样的？

帕萨迪纳游戏：如果掷了n次 ，那么当 n 为奇数时获得 2^n/n 元奖金，但是如果 n 为偶数时游戏参加者必须要交付 2^n/n元罚金。

这种情况下预期收益为 \sum_{n=1}^\infty (-1)^{n-1}\frac{1}{2^n}\frac{2^n}{n}=\sum_{n=1}^\infty (-1)^{n-1}\frac{1}{n} ，熟悉无穷级数的同学立刻发现这个式子根据求和的顺序不同收敛于不同的极限。而在这个问题的背景下很难看出哪种排序是“最正确”的。

最后，这个问题也让一部分经济学者质疑预期平均值的有用程度，并因此衍生出遍历性经济学等分支。

这个问题不好理解，换成下面的问题就很好理解了

你有万分之9999的概率损失十万元人民币（足以让一个普通家庭遭受重大的打击），万分之1的概率获得马云甚至比尔盖茨马斯克的一切财产，这个游戏你会玩吗？

如果只能玩一次，一般人都不会玩。

但是如果可以瞬间玩任意多次，且允许无限负债，且时间足够短以至于几乎不会产生负债利息呢？这才是“期望”的适用范围。

重点是，次数无限多。

一个老掉牙的冷笑话：

“一亿元对你意味着什么？”一个人问上帝。
“一分钱。”上帝回答。
“那么一亿年对你又意味着什么呢？”这个人又问道。
“一秒钟。”上帝答，
“噢，上帝，请你给我一分钱吧！ ”这个人哀求上帝。
“请等一秒钟吧。”上帝说。