九章格数学 PhiloMath · K2C 正文 · C 段(大学低年级)

概率统计初步 · 骰子与数据

〇体例说明

体例

本书怎么读:一章一个节奏

全书按「章」前进,一章 50 页。每章的节奏是:第 1 页导引(这个问题在人间是怎么长出来的,本章路线),随后 18 页讲义(定义、定理与方法一条一条立起来,含历史注与现代接口旁注),12 页例题(带完整解答与逐步演算),12 页习题(由浅入深,末页复盘归档),2 页格物札记——一章一思:一页回到往昔的游戏与问题,一页接通现代数学;末 6 页为综合站(章小结 · 思想卡 · 挑战一 · 挑战二 · 实验 · 章测试与评讲)。

本册三条线索,贯穿每一章:

① 明线——骰子与赌金。全书从一颗骰子起手,经纸牌、轮盘、彩票、赌金分配的旧案,把「偶然里能不能算」这门古老的好奇,一步步提升为样本空间、公理、分布与极限定理的语言。凡标〔骰子〕〔赌金〕处,都是这条线索的接续点。

② 直觉 ⇄ 理论接口——两个世界的对撞与和解。这一册最要紧的,是让直觉的「显然」接受理论的检验:生日问题、医学检验悖论、赌徒谬误、频率与概率的关系。凡标〔直觉⇄理论〕处,都写下直觉,再让理论开口——对不上,恰好是理解开始的地方。

③ 数据与应用——从游戏到科学。统计篇不满足于公式,而是走进民意调查、质量控制、临床检验、A/B 测试的真实场景,看统计方法如何在不确定中作出可靠的判断。凡标〔数据〕处,都是这条线索的落地点。

写法约定(TEX 标准):分数写成上下两层的 16;样本空间与事件用大写字母 Ω, A, B,概率写作 P(A)、条件概率写作 P(A|B);并、交、对立写作 A∪B, A∩B, A̅;随机变量用大写 X, Y、取值用小写 x, y,期望与方差写作 E(X)、Var(X);求和号 ∑、积分号 ∫、组合数写作 Cnk;集合与数系符号 ∈ ⊂ ∪ ∩ ∅,ℕ ⊂ ℤ ⊂ ℚ ⊂ ℝ;蕴含 ⟹、当且仅当 ⟺、任意 ∀、存在 ∃。函数名(sin, ln, lim)与常数 e 用正体,大写希腊字母(Ω, Φ, Σ)亦用正体,而变量——拉丁字母与小写希腊字母(π, λ, μ, σ)——一律斜体;数学字母一律 Times New Roman。中括号写成 [ ]。凡方法步骤,一律配图,一步一图。

一全册目录

目 录
概率统计初步 · 骰子与数据 · 全书正文页码一览
1.1 导引:一颗骰子的六张脸——偶然如何被计算〔骰子〕10
1.2 随机现象与样本空间:把「掷骰子」写成集合11
1.3 事件与集合运算:把「至少一个六」翻译成符号12
1.4 古典概型:等可能假设及其边界13
1.5 计数的基石:加法原理与乘法原理14
1.6 排列:有次序的选取15
1.7 组合:无次序的选取——从一手牌算起16
1.8 二项系数与杨辉三角:组合数的骨架17
1.9 组合恒等式:帕斯卡规则与范德蒙德卷积18
1.10 骰子和的分布:两粒、三粒骰子的穷举实验19
1.11 牌型概率(一):一手五张的完整分类20
1.12 牌型概率(二):同花顺、葫芦与四条21
1.13 放回与不放回:摸球模型的两种世界22
1.14 生日问题:直觉的崩塌与修正23
1.15 几何概型:落入区域中的比例24
1.16 布丰投针:当概率遇见 π25
1.17 现代接口:随机数、模拟与蒙特卡洛的诞生〔直觉⇄理论〕26
1.18 本章总结与方法表27
例题精讲(12 道)p.28–39
习题课与讲评p.40–50
复盘:错题归档与三问自测p.51
〖札记〗格物札记① 卡达诺的《机会游戏之书》:一位赌徒兼医生的概率先声〔骰子〕52
〖札记〗格物札记② 从六博到骰子:中国古代博戏里的随机观念53
综合站(小结 · 思想卡 · 挑战 · 实验 · 章测试)p.54–59
2.1 导引:当直觉失效——为什么必须公理化〔骰子〕60
2.2 从频率到公理:概率究竟是什么61
2.3 概率的公理化定义:科尔莫戈罗夫三公理62
2.4 概率的基本性质:单调性、有限可加与减法公式63
2.5 容斥原理:加法公式的推广64
2.6 条件概率:信息改变世界65
2.7 乘法公式:概率的链式分解66
2.8 全概率公式:分而治之的策略67
2.9 贝叶斯公式:从结果推断原因68
2.10 贝叶斯与直觉:医学检验的悖论〔直觉⇄理论〕69
2.11 事件的独立性:互不影响的确切含义70
2.12 独立与互斥:一对极易混淆的概念71
2.13 多个事件的独立性:两两独立未必相互独立72
2.14 伯努利试验与二项分布初步73
2.15 系统的可靠性:串联、并联与冗余设计74
2.16 概率方法初览:用概率证明存在性75
2.17 现代接口:从贝叶斯推理到人工智能〔直觉⇄理论〕76
2.18 本章总结与方法表77
例题精讲(12 道)p.78–89
习题课与讲评p.90–100
复盘:错题归档与三问自测p.101
〖札记〗格物札记① 帕斯卡与费马的五封信:赌金分配问题的解决〔赌金〕102
〖札记〗格物札记② 科尔莫戈罗夫与《概率论基础》:公理化运动的里程碑103
综合站(小结 · 思想卡 · 挑战 · 实验 · 章测试)p.104–109
3.1 导引:给随机结果贴上数字标签〔骰子〕110
3.2 随机变量的定义:从样本空间到实数轴111
3.3 离散型随机变量与分布列112
3.4 分布列的性质与条形图113
3.5 两点分布与二项分布再探114
3.6 二项分布的形态:最可能成功次数115
3.7 泊松分布:稀有事件的数学模型116
3.8 泊松定理:二项分布的极限117
3.9 几何分布与超几何分布118
3.10 随机变量的分布函数:统一的描述语言119
3.11 连续型随机变量与概率密度120
3.12 均匀分布:最朴素的连续分布121
3.13 指数分布:等待时间的模型122
3.14 正态分布(一):钟形曲线的诞生123
3.15 正态分布(二):标准化与查表计算124
3.16 随机变量函数的分布125
3.17 现代接口:正态分布在自然与社会中的普遍性〔直觉⇄理论〕126
3.18 本章总结与方法表127
例题精讲(12 道)p.128–139
习题课与讲评p.140–150
复盘:错题归档与三问自测p.151
〖札记〗格物札记① 棣莫弗与正态曲线:从二项近似到钟形分布152
〖札记〗格物札记② 泊松与「小数定律」:稀有事件背后的秩序153
综合站(小结 · 思想卡 · 挑战 · 实验 · 章测试)p.154–159
4.1 导引:用一个数概括随机〔骰子〕160
4.2 数学期望的定义:加权平均的真义161
4.3 期望的性质与线性性162
4.4 随机变量函数的期望163
4.5 常见分布的期望164
4.6 方差与标准差:离散程度的度量165
4.7 方差的性质与计算技巧166
4.8 常见分布的方差167
4.9 期望与赌局:公平游戏如何判定〔赌金〕168
4.10 协方差与相关系数169
4.11 矩与矩母函数初览170
4.12 大数定律(一):伯努利大数定律171
4.13 大数定律(二):切比雪夫不等式172
4.14 大数定律(三):辛钦大数定律173
4.15 大数定律的意义:频率稳定于概率174
4.16 中心极限定理(一):独立同分布情形175
4.17 中心极限定理(二):应用与正态近似176
4.18 本章总结与方法表177
例题精讲(12 道)p.178–189
习题课与讲评p.190–200
复盘:错题归档与三问自测p.201
〖札记〗格物札记① 惠更斯与「期望值」:一封信里的价值判断〔赌金〕202
〖札记〗格物札记② 中心极限定理的百年:从棣莫弗到林德伯格–莱维203
综合站(小结 · 思想卡 · 挑战 · 实验 · 章测试)p.204–209
5.1 导引:从数据中读出故事〔数据〕210
5.2 总体与样本:统计学的两个世界211
5.3 数据的整理:频数分布表与直方图212
5.4 集中趋势:均值、中位数与众数213
5.5 离散程度:极差、平均偏差、方差与标准差214
5.6 位置度量:分位数与箱线图215
5.7 数据的图形语言:茎叶图、散点图与热力图216
5.8 简单随机抽样与抽样调查217
5.9 分层抽样、系统抽样与整群抽样218
5.10 抽样误差与非抽样误差219
5.11 统计量:样本均值与样本方差220
5.12 抽样分布:统计量的规律221
5.13 卡方分布、t 分布与 F 分布222
5.14 正态总体的抽样分布定理223
5.15 应用场景一:民意调查与市场调研〔数据〕224
5.16 应用场景二:质量控制与六西格玛〔数据〕225
5.17 现代接口:大数据时代的数据科学〔直觉⇄理论〕226
5.18 本章总结与方法表227
例题精讲(12 道)p.228–239
习题课与讲评p.240–250
复盘:错题归档与三问自测p.251
〖札记〗格物札记① 凯特勒与「平均人」:统计学的社会科学转向〔数据〕252
〖札记〗格物札记② 南丁格尔的玫瑰图:一张图如何拯救生命253
综合站(小结 · 思想卡 · 挑战 · 实验 · 章测试)p.254–259
6.1 导引:用样本推断总体〔数据〕260
6.2 矩估计法:用样本矩替换总体矩261
6.3 最大似然估计:最可能的参数262
6.4 估计量的评价标准(一):无偏性263
6.5 估计量的评价标准(二):有效性与一致性264
6.6 区间估计的思想:置信区间的含义265
6.7 正态总体均值的区间估计266
6.8 比率与方差的区间估计267
6.9 假设检验的基本思想:小概率原理268
6.10 两类错误:弃真与取伪269
6.11 正态总体均值的检验:t 检验270
6.12 正态总体方差的检验:卡方检验271
6.13 两个总体的比较检验272
6.14 拟合优度检验:卡方检验的应用273
6.15 独立性检验:列联表分析274
6.16 回归分析初步:最小二乘与预测275
6.17 现代接口:临床试验、A/B 测试与数据决策〔直觉⇄理论〕276
6.18 结语:从骰子到数据——偶然中的秩序277
例题精讲(12 道)p.278–289
习题课与讲评p.290–300
复盘:错题归档与三问自测p.301
〖札记〗格物札记① 费希尔与「显著性」:假设检验的奠基〔数据〕302
〖札记〗格物札记② 从高尔顿的回归到机器学习:一条延续百年的主线303
综合站(小结 · 思想卡 · 挑战 · 实验 · 章测试)p.304–309
绪论

偶然中的秩序——从骰子到数据

从一颗骰子说起:偶然里到底藏着规矩吗?三千年来,人们从赌桌、牌局与轮盘出发,一步步把「碰运气」变成可计算的科学。这一册要走的路,就是从游戏到公理、从直觉到理论、从数据到判断。
页型节奏:讲义×18 → 例题×12 → 习题×12 → 格物札记×2 → 综合站×6
绪论

绪论 偶然中的秩序——从骰子到数据0.1 从掷骰说起:偶然中真的藏着规矩吗〔骰子〕

一枚骰子掷下去,落定之前,谁也说不准它是几点。这是「偶然」最朴素的形象:结果不可预知。可是,若把这枚骰子掷上一万次,把每一个点数出现的次数记下来,可以发现一件奇怪的事——六个点数出现得几乎一样多,各占大约六分之一。单次不可预知,长期却显出惊人的整齐。

随机现象

在相同条件下可以反复进行,而每次的结果事先无法确定、事后却能观测的现象,称为随机现象。掷骰、抛硬币、抽牌、明天的天气、下一通电话到来的时刻,都是随机现象。

与它相对的是确定性现象:给定条件,结果唯一确定,如自由落体、日食时刻。「概率统计」研究的,正是随机现象中那层「看不见的秩序」。

这层秩序,古人早已隐约察觉。掷骰的历史比数学早得多:从古印度的《摩诃婆罗多》到两河流域的羊距骨游戏,从中国的六博到罗马士兵边走边赌的骰子,人类玩了至少四千年。但「玩」与「算」之间隔着一道鸿沟——直到十六世纪,才有人敢于宣称:掷骰子的结果虽然不可预知,却可以被计算。

单次不可预知,长期趋于稳定:频率向 1/6 收敛 1/6 早期摆动剧烈 后期贴近 1/6 掷骰次数 n → 六个点数 机会均等
图 0-1 偶然的秩序:每一次结果不可预知,但随着试验次数增加,某一点数出现的频率(蓝折线)会围绕理论值 1/6(红虚线)上下摆动,且越摆越紧——「频率稳定于概率」,这一册的第一个核心命题。

本册要回答的第一个问题正是:这种「整齐」是什么?能不能算?答案是肯定的。把「等可能」这一个最朴素的假设当作基石,我们能用纯粹的计数,算出掷骰点数、抽牌牌型、生日巧合等等一大批问题的概率——这就是古典概型(第一章)。但故事不会停在骰子:当结果不再等可能、当试验无穷次、当我们要从有限的数据反推未知的总体,就需要更锋利的工具。它们构成后面五章的地图。

留一个悬念给出的直觉:一枚骰子连出了六个「六」,下一把它们出「六」的概率是变大、变小,还是不变?先别急着算,把直觉写在纸上——第三章与第四章会回来核对它。凡标〔直觉⇄理论〕处,都是直觉与理论正面相遇的地方。

绪论

绪论 偶然中的秩序——从骰子到数据0.2 直觉与计算:为什么「显然」常常算错〔直觉⇄理论〕

人类对随机现象有一种天生的、却常常出错的直觉。这种直觉是几万年进化留给我们的快捷判断,在赌桌上、在市场里、在诊室中都极为活跃;但它违背概率论的地方,也正是概率论最迷人的地方。这一册特意安排了一条主线:让直觉先出声,再让理论来裁决。

三个著名的「直觉陷阱」

① 赌徒谬误:轮盘上连出了十次红,很多人觉得下一次「该出黑」了。可轮盘没有记忆,下一把出黑的概率仍是 18/37,与之前十次无关。

② 生日悖论:一个班里只要 23 个人,就有超过一半的可能「存在两人生日相同」。多数人的直觉会押在大得多的数字上(如 183 人)。

③ 检验悖论:一种罕见病(患病率 0.1%),检验的灵敏度 99%、特异度 99%。某人检验呈阳性,他真患病的概率是 99% 吗?——远不是,答案不足 10%。

三个陷阱的共同点:直觉把「条件」记错了。「生日悖论」把「存在一对相同」误当成「有某人与我相同」;「检验悖论」把「有病则阳性」与「阳性则有病」两个方向相反的条件概率混为一谈;「赌徒谬误」则给互不影响的实验硬加上了「补偿」的想象。理论的作用,不是取代直觉,而是给直觉装上一把校准器。

生日问题:概率曲线远高于直觉的预期 1/2 23 人:过半 直觉猜这里 57 人:≈99% 班级人数 n 概率
图 0-2 直觉的崩塌:人们以为要「很多人」才可能撞上生日,其实 23 人已过半(红点),57 人几乎必中(蓝线)。理论计算的曲线,与直觉的预期相距甚远——这正是本册反复演示的「直觉⇄理论」对撞。

把直觉与理论的对撞当作学习线索,有一个额外的好处:错得越离谱,记得越牢。当亲手算出生日问题只要 23 人、亲笔推出检验阳性后的患病率不足一成,这些反直觉的结论会像钉子一样留在记忆里,成为日后判断风险、识别骗局的底层能力。

因此,读这一册不妨带一支笔:遇到任何一个概率问题,先写下直觉答案,再算一遍。两者之差,就是这一册真正要传达的东西。

绪论

绪论 偶然中的秩序——从骰子到数据0.3 三次跃迁:游戏、赌金与公理——概率论的三级阶梯

概率论不是凭空诞生的。它从一个赌徒的求开始,经过一场赌金纠纷,最后在一场公理化运动中长成一门严密的数学。这段历程可以概括为三级台阶——游戏、赌金、公理。

第一级 · 游戏(16 世纪)卡尔达诺写出《机会游戏之书》:第一次系统地计算骰子的机会,把赌博变成算术。
第二级 · 赌金(1654 年)帕斯卡与费马的五封通信,解决了「分赌注问题」,概率论正式成为一门学问。
第三级 · 公理(1933 年)科尔莫戈罗夫以测度论为地基,用三条公理重建概率论,使其跻身现代数学的主流。
概率论的三级阶梯:从赌桌上的技巧到严密的数学 ① 游戏 ② 赌金 ③ 公理 骰子与机会 分赌注问题 测度论地基 卡达诺 1564 帕斯卡–费马 1654 科尔莫戈罗夫 1933 每一次跃迁,都是「可算」的范围扩大一圈
图 0-3 三级阶梯:游戏给出问题,赌金给出方法,公理给出地基。本册的三条主线(〔骰子〕〔赌金〕与公理化)正对应这三级。

为什么值得先讲历史?因为概率论的每一个概念,几乎都是被一个具体问题「逼」出来的:期望值来自「这场赌局值多少钱」,条件概率来自「已知部分信息如何更新判断」,大数定律来自「赌场为什么稳赚不赔」。先看见问题,再看见概念,最后才看见定义——这是本册的讲述顺序,也是数学史真实的生长顺序。

值得补充的是,这三步并非欧洲独有的思路。中国古代的占筮(《周易》以大衍之数五十的著草操作定吉凶)与博戏(六博、樗蒲、骰子)同样积累了大量对「随机操作」的经验,只是始终未能提炼出可计算的模型。概率论的公理化,最终由科尔莫戈罗夫在 1933 年完成——那已经是掷骰游戏流行三千年之后了。

绪论

绪论 偶然中的秩序——从骰子到数据0.4 本书的地图:从一颗骰子走到一份数据

本册分六章,可以看成「一颗骰子」出发、最终抵达「一份数据」的旅程。前四章讲概率——从已知的模型出发,推断随机结果的可能性;后两章讲统计——从观测到的数据出发,反推未知的模型。两者方向相反,却共用同一套语言。

从骰子到数据:六章一线 一 古典概型 骰子·牌局 二 公理·条件 贝叶斯 三 随机变量 分布 四 期望·极限 大数·中心极限 五 数据·抽样 描述统计 六 推断 估计·检验 概 率:由模型推结果(演绎) 统 计:由数据推模型(归纳) 明线:骰子 → 赌金 → 数据
图 0-4 全书地图:一至四章的箭头指向同一方向——用已知模型计算结果的概率;五、六章的箭头则反转过来——用观测数据反推未知模型。二者的枢纽,是第四章的极限定理。

六章一览

第一章 古典概型——样本空间、计数、等可能;骰子与牌局。第二章 公理化与条件概率——三条公理、条件概率、独立性、贝叶斯公式。第三章 随机变量与分布——分布列、密度函数、二项·泊松·正态等分布。第四章 数字特征与极限定理——期望、方差、大数定律、中心极限定理。第五章 数据的描述与抽样——均值方差、抽样方法与抽样分布。第六章 统计推断——估计、假设检验、回归与应用。

这张图记在心里。它是本册的骨架;每当在某章迷路,回到它,问一句:我现在站在哪一段箭头上?

绪论

绪论 偶然中的秩序——从骰子到数据0.5 统计的另一半:面对未知世界如何作决定〔数据〕

概率与统计,常被并称,其实是两个人的工作。概率从事先知道的模型出发,推演结果的可能性——这是演绎;统计从事后观测到的数据出发,反推模型的样子——这是归纳。掷一枚「公平」骰子算点数概率,是概率;掷了一千次骰子后判断它是否公平,是统计。

两句话分清概率与统计

概率:模型已知 ⟹ 推结果。例:已知骰子公平,求掷出点数和为 10 的概率。

统计:结果已知 ⟹ 推模型。例:掷骰子一千次,判断骰子是否公平(或估计各点数出现的概率)。

统计学的舞台,是真实世界中那些无法穷举、只能抽样的场景。抽样调查想知道全体选民的意向,只能问几千人;工厂想知道一批灯泡的寿命,只能测出几十只;药厂想知道一种新药是否有效,只能让几百名患者参加试验。所有这些问题都指向同一个动作:用有限的样本,去言说无限的总体。这既是一门手艺,也是一门在不确定中作决定的技术。

统计走进真实的场景:四个典型的「用样本说总体」 民意调查 几千人代表千万人 比例估计 质量抽检 几十件判断整批 控制图·六西格玛 临床试验 几百患者判疗效 假设检验 A/B 测试 两组用户比优劣 两样本比较 共同的数学内核 抽样分布 · 区间估计 · 假设检验 · 回归
图 0-5 统计的应用版图:民意调查、质量抽检、临床试验、A/B 测试看似各异,却共用同一套数学内核——抽样分布、区间估计、假设检验与回归。第五、六章将把内核一一拆开。

本册在统计部分特意多花笔墨在真实场景上:不仅给出公式,还交代它从哪一个行业问题来、在什么条件下可靠、会在什么地方骗人。我们希望在合上这一册时,获得的不是一堆会忘的公式,而是一种可以随身携带的判断力。

绪论

绪论 偶然中的秩序——从骰子到数据0.6 历史一瞥:从帕斯卡与费马的信到科尔莫戈罗夫的公理

概率论的编年史,本身就是一部人类驯服偶然的历史。下面这条时间轴,串起了本册将反复提到的名字。不需要记住全部日期,只需要记住每个名字与哪一个概念相连。

三千年赌博,四百年数学:概率统计大事记 1564 卡达诺机会游戏 1654 帕斯卡·费马分赌注问题 1657 惠更斯期望值 1713 伯努利大数定律 1733 棣莫弗正态曲线 1933 科尔莫戈罗夫公理化 中间还站着拉普拉斯(1812《概率的分析理论》)、高斯、泊松、切比雪夫、费希尔(统计学)……
图 0-6 概率统计大事记:从卡达诺的骰子(1564)到科尔莫戈罗夫的公理(1933),三百七十年间,偶然被一步步译成了数学。统计学的独立成军更晚,以费希尔开创的假设检验与估计理论为标志。

这条线上的每一次停顿,都对应本册的一个章节:卡达诺与帕斯卡的骰子走向第一章;贝叶斯(1763 年身后发表的论文)走向第二章;棣莫弗与拉普拉斯的钟形曲线走向第三章;伯努利的大数定律与棣莫弗的极限定理走向第四章;凯特勒、南丁格尔、费希尔的统计思想走向第五、六章。

历史还有一个耐人寻味的细节:概率论在 1933 年之前,尽管已被广泛应用了两百多年,却在数学上并不「干净」——许多推理依赖模糊的直觉。科尔莫戈罗夫用测度论把它重建为严密的公理体系后,概率论才真正与现代数学的主干(分析、测度、泛函)合流。这也解释了本册的编排偏见:先让在直觉与计数中熟悉「概率」,再在第二章把地基换成公理——先走路,再学解剖学。

绪论

绪论 偶然中的秩序——从骰子到数据0.7 怎么读本书:实验、直觉与证明三条腿走路

一只三条腿的凳子最稳。本册的知识,也靠三条腿支撑:实验、直觉、证明。少了任何一条,凳子都会晃。

实验(动手)掷骰、抽牌、模拟、蒙特卡洛。让数字自己说话,用频率去「摸见」概率。
直觉(预判)遇题先猜。写下直觉答案,再与计算对拍。直觉的误差是最好的老师。
证明(立住)定理必须推导。公理如何长出公式,公式如何约束直觉——这是数学的脊梁。

具体到操作,本册提供了三类可亲手完成的「实验」:其一是真实试验——掷二十次骰子,记录频率,亲手体会它离 1/6 有多远;其二是随机模拟——用随机数在计算机上「掷」十万次骰子,看频率如何稳稳落向理论值;其三是思想实验——对同一个事件换一个样本空间去数,看两种数法是否一致,从而检查自己的理解。每章末的「实验」页会给出一个可执行的模拟任务。

三条腿走路:实验、直觉、证明 我们在此 实验 掷骰·模拟 证明 公理·推导 直觉 对拍 约束 校准
图 0-7 三条腿:实验提供手感,直觉提供预判,证明提供确定性。三者互相「对拍」与「约束」,缺一条,知识就不稳。

阅读节奏上,建议每章用时约一周:先通读 18 页讲义(不求一遍全懂),再做 12 页例题(动手跟算),然后独立完成 12 页习题(末页复盘归档错题),最后读 2 页札记、走一遍 6 页综合站。习题不必全做,但画了★的题与「挑战」页务必亲自动手——那是本册的核心训练。

绪论

绪论 偶然中的秩序——从骰子到数据0.8 约定与工具:符号、记号与阅读节奏

最后约定记号。本册的符号与通行教材一致,先把它们摆在眼前,读起来就不会卡。

记号含义首次出现
Ω样本空间(一切可能结果的集合)§1.2
A, B, C事件(样本空间的子集)§1.3
P(A)事件 A 发生的概率§1.4
A∪B, A∩B, A̅并、交、对立事件§1.3
P(A|B)在 B 发生的条件下 A 的条件概率§2.6
X, Y随机变量(大写)§3.2
x, y随机变量的取值(小写)§3.3
F(x)分布函数§3.10
f(x)、pk连续型的密度函数、离散型的分布列§3.3 / §3.11
E(X)、D(X)数学期望、方差§4.2 / §4.6
N(μ, σ2)正态分布(均值 μ、方差 σ2)§3.14
x̄, s2样本均值、样本方差§5.11

书写约定(TEX 标准):变量(A, X, x 等)用斜体,函数名(sin, ln, lim)、数字与运算符用正体,常数 π、e 用正体,数学字母一律 Times New Roman。分数写成上下两层,如 16;组合数写作 Cnk;求和与积分写作 ∑、∫;集合与数系符号 ∈, ⊂, ∪, ∩,数系 ℕ ⊂ ℤ ⊂ ℚ ⊂ ℝ;蕴含 ⟹、当且仅当 ⟺、任意 ∀、存在 ∃。

热身·读前自测

1. 抛两枚硬币,出现「一正一反」的概率是 1/2 还是 1/3?先用直觉答,再说理由。

2. 一副扑克抽一张,抽到「红桃」与抽到「红色」哪个概率大?

3. 一件事「有 90% 可能」与「十次里必有一次不发生」,是同一句话吗?

把答案写下来,学完第一章回头核对——这三个小问题,恰好覆盖「等可能」「条件」「频率与概率」三个要害。

格物致知,JUST FOR FUN。现在,掷出第一枚骰子——第一章见。

第一章

古典概型:从骰子与牌局说起

一切都从「等可能」开始:样本空间是账本,计数是算盘。骰子的和、纸牌的型、生日的巧合——古典概型用最朴素的对称,解决了第一批难题,也第一次暴露出直觉的破绽。
页型节奏:讲义×18 → 例题×12 → 习题×12 → 格物札记×2 → 综合站×6
讲义

第一章 古典概型:从骰子与牌局说起1.1 导引:一颗骰子的六张脸——偶然如何被计算〔骰子〕

一枚正六面体的骰子,六个面刻着一点到六点。掷出去之前,结果未知;掷出去之后,结果唯一。可就是这样一件再普通不过的小事,让人类琢磨了几千年,最后竟逼出了一门崭新的数学。偶然如何被计算——这是本章的全部主题。

本章的第一个模型

掷一枚均匀骰子。六个面机会均等——这是唯一一条假设。仅凭它,加上会数数,我们就能回答一大批问题:掷出偶数的可能性多大?掷出点数超过 4 的可能性多大?两粒骰子掷出「和为 7」与「和为 8」,哪个更容易?

「机会均等」四个字,就是本章的全部本钱。它朴素得近乎显然,却比它看起来脆弱得多——本章末尾会交代它的边界。

一颗骰子的六张脸:等可能是全部本钱 每一面一个样本点,六份机会均等 偶数 3/6 大点 3/6 质数 2/6 一点 1/6 事件=若干份机会的并 把「可能」切成等大的六份,概率就是数份数
图 1-1 等可能的直观:六个样本点各占六分之一;任何事件都是其中若干份的并,概率就是「数份数」。整章的算术都建立在这幅图上。

本章路线图:样本空间与事件(§1.2–1.3,把语言翻译成集合)→ 古典概型(§1.4,概率=数份数)→ 计数工具(§1.5–1.9,加法、乘法、排列、组合、二项系数)→ 三大应用(§1.10–1.12,骰子和、牌型)→ 两种抽样(§1.13)→ 直觉的崩塌(§1.14,生日问题)→ 等可能的延伸(§1.15–1.16,几何概型与布丰投针)→ 现代接口(§1.17,随机数与蒙特卡洛)。〔骰子〕的账本,从此翻开。

讲义

第一章 古典概型:从骰子与牌局说起1.2 随机现象与样本空间:把「掷骰子」写成集合

要计算偶然,第一步是把「所有的可能」一件不漏、一件不重地列出来。这个清单,就叫样本空间。

样本空间与样本点

一个随机试验的样本空间,记作 Ω,是它全部可能结果的集合;每个可能结果称为一个样本点,常记作 ω。

写样本空间的两条铁律:①不漏——任何可能都要在清单上;②不重——同一种可能只写一次。

掷一枚骰子,Ω = {1, 2, 3, 4, 5, 6}。抛两枚硬币,若关心的只是正面枚数,则 Ω = {0, 1, 2};若关心每枚的正反,则 Ω = {正正, 正反, 反正, 反反}——四种,不是三种。这个例子埋着一颗雷:直觉常把「正反」与「反正」合并成「一正一反」,从而错算出 1/3 的概率。§0.2 留下的热身题,答案在这里:一正一反的概率是 24 = 12,不是 13。

样本空间取决于关心什么

同一件事,问法不同,样本空间就不同;而等可能性可能随之改变。抛两枚硬币:「每枚的正反」给出 4 个等可能的样本点;「正面的枚数」给出 3 个不等可能的结果(0 与 2 各占 1/4,1 占 1/2)。把样本空间选对,是古典概型的第一功夫。

常见样本空间速查

① 掷一枚骰子:Ω = {1,…,6},|Ω| = 6。
② 掷两枚骰子(有序对):Ω = {(i, j) : 1 ≤ i, j ≤ 6},|Ω| = 36。
③ 从 52 张牌中抽 1 张:|Ω| = 52。
④ 从 52 张牌中有序抽 2 张:|Ω| = 52 × 51 = 2652。
⑤ 一天内某网站访客数:Ω = {0, 1, 2, …}——无限样本空间,古典概型失效,须待第三章。

样本空间是本册一切后续讨论的舞台:事件是它的子集,概率是它上面的一个函数,随机变量是它到实数的映射。把舞台搭好,后面的戏才有地方演。

讲义

第一章 古典概型:从骰子与牌局说起1.3 事件与集合运算:把「至少一个六」翻译成符号

「掷出偶数」「至少一个六」「不是三点」——这些日常语言,在数学里都要翻译成集合。这一节建立翻译词典。

事件:样本空间的子集

样本空间 Ω 的任一子集称为一个事件。试验后若观测到的样本点 ω 属于子集 A,就说事件 A 发生。单点集 {ω} 称为基本事件;全集 Ω 是必然事件;空集 ∅ 是不可能事件。

事件的运算(翻译词典)

并 A∪B:「A 与 B 至少一个发生」。
交 A∩B(简记 AB):「A 与 B 同时发生」。
差 A−B:「A 发生而 B 不发生」。
对立 A̅ = Ω−A:「A 不发生」。
互斥(不相容):A∩B = ∅,二者不能同时发生。

事件的运算:一张韦恩图看全 Ω A B 并 A∪B(至少一个) Ω A 交 A∩B 同时发生(重叠处加深) 对立 A̅ = Ω − A 二者必居其一,不同时发生
图 1-2 韦恩图三式:并、交、对立。对立是特殊的互斥(还要求并起来是全集);互斥不一定对立——两个互斥事件的并可以不是全集。

德摩根律

(A∪B)̅ = A̅∩B̅, (A∩B)̅ = A̅∪B̅。

读法:「至少一个发生」的否定是「都不发生」;「同时发生」的否定是「至少一个不发生」。这两条在化简事件时极其常用,务必手熟。

翻译示范

掷一枚骰子两次。「至少一个六」= A∪B,其中 A=第一次是六、B=第二次是六。「都不是六」= A̅∩B̅ = (A∪B)̅。恰好一个六:(A∩B̅)∪(A̅∩B)。三个式子,一句话一句译,练习到看见中文就想到集合。

讲义

第一章 古典概型:从骰子与牌局说起1.4 古典概型:等可能假设及其边界

工具备齐,可以立出本章的中心公式了。它之所以叫「古典」,因为它是概率论历史上最早被系统使用的模型——卡达诺与帕斯卡用的就是它。

古典概型(等可能概型)

若随机试验满足:① 样本空间有限,|Ω| = n;② 每个样本点等可能发生(各占 1n),则对任意事件 A,定义

P(A) = |A||Ω| = 有利于 A 的样本点数样本点总数

一句话:概率就是数份数。分子数「有利场合」,分母数「全部场合」——这是帕斯卡时代的原始措辞,今天依然好记。

两个立等可用的例子

① 掷一枚骰子,偶数 A = {2, 4, 6},P(A) = 3/6 = 1/2。点数大于 4:P = 2/6 = 1/3。
② 掷两枚骰子,|Ω| = 36。「和为 7」的样本点:(1,6),(2,5),(3,4),(4,3),(5,2),(6,1),共 6 个,故 P = 6/36 = 1/6;「和为 8」只有 5 个:P = 5/36。所以「和为 7」比「和为 8」更容易——直觉往往以为对称,其实不然。

概率的三条基本性质(古典概型内即可验证)

① 非负性:P(A) ≥ 0;② 规范性:P(Ω) = 1;③ 有限可加性:若 A∩B = ∅,则 P(A∪B) = P(A) + P(B)。

由此立得两条常用推论:P(A̅) = 1 − P(A);单调性 A ⊂ B ⟹ P(A) ≤ P(B)。求「至少一个」时,先算对立面常是捷径。

等可能是假设,不是事实 均匀骰子(对称) 六份等高 → 每面 1/6 灌铅骰子(不对称) 六份高低不一 → 古典概型失效 判断是否等可能,靠对称性论证,不靠「感觉差不多」
图 1-3 等可能的边界:均匀骰子六份等高,古典概型适用;灌铅骰子各面机会不等,数份数的公式立刻失效——此时需要频率(第二章)与分布(第三章)。

边界在哪里?「等可能」是一条关于模型的假设,要靠对称性论证:骰子是正多面体、洗牌是充分的、抽奖球大小一致。当对称性不存在(灌铅骰子、技术不匀的玩家)或样本空间无限(几何概型之外的无限情形)时,本章的公式不再适用。识别边界,与套用公式同样重要。

讲义

第一章 古典概型:从骰子与牌局说起1.5 计数的基石:加法原理与乘法原理

古典概型把概率变成计数,于是「会数数」成了核心技能。数数有两条基石原理,一切排列组合公式都由它们长出来。

加法原理与乘法原理

加法原理:一件事可分 k 类办法,第 i 类有 ni 种,各类互不重叠且都能独立完成此事,则共有 n1 + n2 + … + nk 种办法。
乘法原理:一件事须依次经过 k 个步骤,第 i 步有 ni 种做法,则共有 n1 × n2 × … × nk 种办法。

判别口诀:「分类」用加,「分步」用乘。类与类之间是「或」(并集),步与步之间是「然后」(笛卡尔积)。

乘法原理:从 A 地经 B 地到 C 地 A B1​ 高铁 B2​ 飞机 B3​ 轮船 C1​ C2​ C3​ C4​ C5​ C6​ 3 种走法 每条路线再乘 2 种 → 3 × 2 = 6 条
图 1-4 乘法原理的树状图:A 到 B 有 3 种走法,B 到 C 有 2 种走法,则 A 经 B 到 C 共 3 × 2 = 6 条路线。每多一步,树枝分叉一次——「分步用乘」的直观来源。
讲义

第一章 古典概型:从骰子与牌局说起1.6 排列:有次序的选取

从 n 个不同元素中取出 k 个,若次序要紧,这样的取法叫排列。次序要紧的例子随处可见:赛跑的金银铜牌(前三名有名次)、密码的数字、五人排成一排的队形。

排列数与阶乘

从 n 个不同元素中依次取 k 个排成一列的取法数,记作 Ank:

Ank = n(n−1)(n−2)⋯(n−k+1) = n!(n−k)!

其中阶乘 n! = n × (n−1) × … × 2 × 1,并约定 0! = 1。取尽全部 k = n 个的全排列 Ann = n!。

两个热身例

① 十人赛跑,金银铜牌的颁发方式共 A103 = 10 × 9 × 8 = 720 种。
② 五人站成一排合影,共 5! = 120 种站法;若甲必须站中间,则其余四人排两侧,4! = 24 种。
③ 掷三粒不同颜色的骰子(红白蓝),结果是有序三元组,样本点共 63 = 216 个——这是乘法原理,也是排列思想的特例(可重复)。

注意区分「可重复」与「不可重复」:密码可重复,用 nk;抽牌不放回不可重复,用 Ank。混淆二者是初学最常见的错误。

为什么是连乘?——一步一图

排第一个位置有 n 种选择;排定后第二个位置只剩 n−1 种;……到第 k 个位置剩 n−k+1 种。这是一条分步的链,由乘法原理,总数是连乘 n(n−1)…(n−k+1)。每个位置就是树上的一层,越往下分叉越少。

讲义

第一章 古典概型:从骰子与牌局说起1.7 组合:无次序的选取——从一手牌算起

从 n 个不同元素中取出 k 个,若只问成员、不问次序,就叫组合。一手扑克牌就是组合:抓到手后怎么摆都还是同一手牌。

组合数

从 n 个不同元素中取 k 个(不计次序)的取法数,记作 Cnk:

Cnk = Ankk! = n!k!(n−k)!

推导一句话:每一个组合可以内部排序成 k! 个不同的排列,故排列数是组合数的 k! 倍,除掉即得组合数。「组合=排列 ÷ k!」——次序不要紧,就把多算的 k! 种序除掉。

从 {a,b,c,d} 中取 3 个:组合 4 种,排列 24 种 abc(一组) abd(一组) acd(一组) → abc acb bac bca cab cba → abd adb bad bda dab dba → acd adc cad cda dac dca → bcd bdc cbd cdb dbc dcb C4​3​ = 4 组(组合) 4 × 3! = 24 个(排列 A4​3​)
图 1-5 组合=排列 ÷ k!:四个组合 {abc},{abd},{acd},{bcd},每组内部有 3! = 6 种排序,故排列共 4 × 6 = 24 种。这幅图就是公式 C = A/k! 的全部内容。

一手五张牌有多少种?

从 52 张中取 5 张不计次序:C525 = 2 598 960。这个二百六十万的分母,将是 §1.11–1.12 牌型概率计算的总账本——每种牌型各占多少个组合,除以它就得到概率。

对称性 Cnk = Cnn−k 常能省一半计算:从 52 取 48 等于从 52 取 5——「留下谁」与「取走谁」一一对应。

讲义

第一章 古典概型:从骰子与牌局说起1.8 二项系数与杨辉三角:组合数的骨架

把 Cnk 按行列摆开,会浮现一座著名的金字塔——杨辉三角。西方称帕斯卡三角,但在中国它出现得更早:贾宪约 1050 年已用它处理高次幂开方,杨辉 1261 年在《详解九章算法》中完整记载并注明「贾宪用此术」。

杨辉三角(贾宪–杨辉,1261):每个数=肩上两数之和 1 11 121 1331 14641 15101051 1615201561 第 n 行第 k 个数(从 0 数起)= Cn​k​;如第 4 行的 6 = C4​2​
图 1-6 杨辉三角:边界全是 1(C(n,0) = C(n,n) = 1),内部每个数等于两肩之和——这一条加法规则正是下一节帕斯卡规则的来历。三角的第 n 行之和为 2n,恰是二项式定理的系数行。

为什么叫二项系数

展开 (a+b)n 时,各项系数恰是组合数:

(a+b)n = ∑k=0n Cnk an−kbk

组合的计数解释:(a+b)n 是 n 个括号相乘,每个括号出 a 或 b;要凑出 bk 项,须从 n 个括号中选出 k 个出 b——选法数正是 Cnk。乘法原理一出手,定理就得证了。

两条最常用的性质

① 对称性:Cnk = Cnn−k(从 n 个里选 k 个,等价于选留下来的 n−k 个)。
② 全体和:∑k Cnk = 2n(在二项式定理中令 a=b=1;计数解释:每个元素都面临「选或不选」两种选择)。

讲义

第一章 古典概型:从骰子与牌局说起1.9 组合恒等式:帕斯卡规则与范德蒙德卷积

组合数之间有一条内部交通网,恒等式就是它的干道。掌握两三条,很多看似艰难的求和会瞬间坍缩。

帕斯卡规则(杨辉三角的加法规则)

Cnk = Cn−1k−1 + Cn−1k (1 ≤ k ≤ n−1)

计数证明:把 n 个元素分成「特定元素 x」与「其余 n−1 个」。取 k 个的方案分两类:含 x(再从其余取 k−1 个,Cn−1k−1 种)与不含 x(从其余取 k 个,Cn−1k 种)。两类互斥,加法原理相加即得。∎

这是「分类用加」的教科书示范:先找一个特殊元素,按「选不选它」分两类。这一招在组合证明里出场率极高,值得专设一个名字——「按特殊元素分类」。

范德蒙德卷积

Cm+nk = ∑i Cmi Cnk−i

计数证明:从 m 个红球、n 个白球中取 k 个。按「取了几个红球」i 分类:红取 i 个有 Cmi 种,白取 k−i 个有 Cnk−i 种,乘法原理相乘后各类相加。∎

左端是「一把抓」,右端是「先分红白再各取所需」——同一次取球的两种数法。这种「一题两算」的证明手法叫组合证明(double counting),是本讲义的招牌方法。

卷积的一个漂亮特例

取 m = n = k 并求和变形可得范德蒙德恒等式:C2nn = ∑i=0n (Cni)2。如 C42 = 6 = 12 + 22 + 12。一个数等于一串平方和,纯代数要费些周折,组合意义却一目了然。

本节方法卡

① 遇到「选不选某元素」→ 帕斯卡规则;② 遇到「两类来源」→ 范德蒙德卷积;③ 遇到「配对/对称」→ 对称性 C(n,k)=C(n,n−k);④ 拿不准时,给小数值列表验证(如 n=4)再推广。恒等式不是背出来的,是「两次数」数出来的。

讲义

第一章 古典概型:从骰子与牌局说起1.10 骰子和的分布:两粒、三粒骰子的穷举实验

掷一粒骰子,六个点数机会均等。掷两粒呢?直觉说「和从 2 到 12,十一个结果,各占十一分之一」。这个直觉是错的——数一数就知道。

样本空间与和的分布

掷两粒骰子,样本空间取有序对 Ω = {(i, j) : 1 ≤ i, j ≤ 6},|Ω| = 36 且等可能。事件「和为 s」的样本点数记 N(s),则 P(和 = s) = N(s)/36。清点得:

和 s234567
点数 N(s)123456
概率 N(s)/36136236336436536636
和 s89101112
点数 N(s)54321
概率 N(s)/36536436336236136
两粒骰子和的分布:中间隆起,两端陡落(对称三角形) 6/36 3/36 23456 789101112 6/36 和 s(红色为最可能的 7)
图 1-7 和的分布呈对称三角形:「和为 7」最容易(6/36 = 1/6),「和为 2 或 12」最难(各 1/36)。直觉以为十一种和均等——数份数立刻纠正了它。

为什么会隆起?——范德蒙德卷积现身

掷两粒骰子,第一粒出 i、第二粒出 s−i 才能得到和 s,且 i 须在 1 到 6 之间。N(s) 恰是满足条件的 i 的个数——这就是卷积的结构:两端的和(2、12)只有一条路,中间的和(7)六条路全通。「路越多,越常见」——这句朴素的话,将在第四章中心极限定理处大放异彩。

三粒骰子的和从 3 到 18,分布仍是「中间隆起」;历史记载,三粒骰子正是中世纪欧洲赌桌上的主角,而「为什么掷出 10 与 11 的路数最多」曾是一桩真实的算术公案(见札记)。

讲义

第一章 古典概型:从骰子与牌局说起1.11 牌型概率(一):一手五张的完整分类

扑克牌是概率论的又一座练武场。一副 52 张(四种花色各 13 张),一手五张,总取法数 C525 = 2 598 960。把所有五张牌按牌型分类,就是一次完整的组合普查。

牌型分类(从高到低)

同花顺(五张同花色且连号)→ 四条(四张同点)→ 葫芦(三张同点+一对)→ 同花(五张同花色)→ 顺子(五张连号)→ 三条(恰三张同点)→ 两对 → 一对 → 散牌(以上皆非)。分类须互斥且完备——每一手牌恰好落入一类,这与样本空间「不漏不重」是同一条纪律。

牌型组合数概率(÷2 598 960)约每
同花顺400.0015%65 万手 1 次
四条6240.024%4 165 手
葫芦3 7440.144%694 手
同花5 1080.197%509 手
顺子10 2000.392%255 手
三条54 9122.11%47 手
两对123 5524.75%21 手
一对1 098 24042.26%2.4 手
散牌1 302 54050.12%2 手
牌型概率:一半的手牌什么都不是 散牌 50.12% 一对 42.26% 两对 4.75%(条宽缩为 1/2 比例) 三条 2.11% 顺子 0.39% 葫芦 0.14% 同花 0.20% 四条 0.02% 同花顺 0.0015% 高牌型越往上越稀有:同花顺 65 万手才等来一次
图 1-8 牌型概率的悬殊:超过九成的手牌是「散牌或一对」,四条以上合计不到 0.05%。赌桌上大牌的震撼感,正是这份稀有性的心理定价。

这张表有两重用途:一是练习组合计数(下一页逐类拆解);二是直接可用——任意「比大小」类扑克游戏的公平性都由它保证:牌型越稀有,级别越高,等级次序恰好是概率从小到大。这不是巧合,而是游戏设计的本意。

讲义

第一章 古典概型:从骰子与牌局说起1.12 牌型概率(二):同花顺、葫芦与四条

现在逐类拆解四个代表性牌型,示范「分步用乘、分类用加」在真实问题里的配合。

例 A · 同花顺:40 种

先选花色(4 种),再在同花色内选连续五张的起点:A-5, 2-6, …, 10-A 共 10 种。分步相乘:4 × 10 = 40。

注意 A 既可当 1(A-5)也可当最大(10-A),两个「A 起头」的顺各自合法,故是 10 个起点而非 9 个。

例 B · 四条:624 种

先选四条的点数(13 种),四张全取(C44 = 1),再从其余 48 张中配一张:13 × 48 = 624。乘法原理一气呵成。

例 C · 葫芦:3 744 种

分两步:① 选三张同点的点数(13 种)并取齐三张(C43 = 4);② 从剩下 12 个点数中选一对的点数(12 种)并取两张(C42 = 6)。连乘:13 × 4 × 12 × 6 = 3 744。

陷阱:若第二步写成「从剩余 48 张中取 2 张成对」,会重复计数吗?不会——但若把三张与一对的位置对调(先选对再选三条),得到的仍是同一批葫芦,切记两步的角色不同,不可交换次序后重复计入。

例 D · 顺子:10 200 种

起点 10 种;每个位置的花色任选(45 = 1024);但要扣除五个花色全同的 40 个同花顺:10 × 1024 − 40 = 10 200。

「先放宽,再扣除重叠」是分类的另一面:顺子与同花并非互斥,硬算会重复计 40 手。事件分类必须互斥——这条纪律在组合计数里同样生效。

葫芦的计数:分两步,乘法原理串起来 ① 选三条的点数 13 × C4​3​ = 52 ② 选一对的点数 12 × C4​2​ = 72 连乘 52 × 72 = 3 744 第二步必须「换一个点数」,否则三条就变五条了 概率 = 3744 / 2598960 ≈ 0.144%,约每 694 手一张
图 1-9 葫芦的计数分解:选三条(52 种)→ 选一对(72 种)→ 连乘。每一步内部又含一次「选点数 × 取花色」的小乘法——乘法原理可以层层嵌套。
讲义

第一章 古典概型:从骰子与牌局说起1.13 放回与不放回:摸球模型的两种世界

抽样有两种基本方式:放回(取一个记下,放回去再取)与不放回(取出便不再归还)。两者算出的概率不同,本节把差异算一遍。

摸球模型

袋中 N 个球,其中红球 K 个。从中取 n 个:

不放回:恰取到 k 个红球的取法数 CKk · CN−Kn−k,概率为 CKkCN−Kn−k / CNn——这就是超几何分布(第三章正式登场)。

放回:每次红球概率恒为 K/N,各次互不影响——通向二项分布(§2.14)。

一个对比实例

袋中 10 球(4 红 6 白),取 3 个。
不放回:恰 2 红 = C42C61/C103 = 36/120 = 0.30。
放回:恰 2 红 = C32(0.4)2(0.6) = 0.288(后者需二项分布,此处先给出结果作对照)。
两者相差不大但不相等——样本相对总体越小,差距越小;「放回与不放回」在总体很大时几乎重合,这正是第五章用二项近似超几何的依据。

抽签的公平性

不放回地依次抽签,每人抽中的概率与次序无关。以 N 签、其中 a 签为「中」为例:第 i 人抽中的概率都是 a/N。

证(i = 2 为例,按第一人结果分两类):① 第一人中而第二人也中:(a/N)·((a−1)/(N−1));② 第一人不中而第二人中:((N−a)/N)·(a/(N−1))。两类互斥,相加:

P = a(a−1) + (N−a)aN(N−1) = a(N−1)N(N−1) = aN

∎ 一般 i 用归纳法同理(习题课六)。

注意易错点:只算「第一人不中而第二人中」这一支,会得到 (N−a)a / N(N−1) ≠ a/N——漏掉另一支是最常见的翻车点。「分类必须完备」,在这里兑现成一句实战提醒。

4 红 6 白取 2 个:两种世界,两条树枝 不放回:第二枝概率随首枝改变 0.4 → 红红 0.4×0.333 0.6 → 红白 0.4×0.667 放回:第二枝概率不变 0.4 → 红红 0.4×0.4 0.6 → 红白 0.4×0.6 不放回:取出后袋中构成变了;放回:袋中构成永远如初 「袋中构成变不变」正是第二章「独立性」的种子
图 1-10 两种抽样的树状对比:不放回时第二枝的概率要按首枝结果修正(0.4 → 0.333 或 0.667);放回时恒为 0.4。「条件改变概率」的意识,从此处开始生根。
讲义

第一章 古典概型:从骰子与牌局说起1.14 生日问题:直觉的崩塌与修正〔直觉⇄理论〕

本册第一个「直觉陷阱」正式登场。问题只有一句话:一个房间里至少要多少人,才有一半以上的概率存在两人生日相同?(设一年 365 天、每天等可能、忽略闰年。)多数人的直觉答案在 100 上下——「365 天里撞上同一天,总得凑大半年的量吧」。正确答案是 23。

正面难,就从反面来

「至少两人同生日」的对立事件是「互不相同」。逐个人看:第一人可任占一天(365/365);第二人须避开第一人(364/365);第三人须避开前两人(363/365)……第 n 人须避开前面 n−1 人((365−n+1)/365)。由乘法原理(各步相乘):

P(互不相同) = 365365 × 364365 × ⋯ × 365−n+1365

P(至少两人相同) = 1 − P(互不相同)

人数 n102023305060
至少两人生日相同11.7%41.1%50.7%70.6%97.0%99.4%
鸽笼视角:365 个格子,人如球投入,同格即「生日相同」 ……共 365 格 蓝球:各占一格,互不相同(对立事件) 红球:与已有球同格——只要有一对,事件发生 要「全不撞」的约束随人数平方级收紧: n 人有 Cn​2​ = n(n−1)/2 对可能相撞 23 人 → 253 对机会,撞上一对并不稀奇 直觉数「人」(23),理论数「对」(253)——差一个数量级
图 1-11 生日问题的直觉修补:直觉盯着「23 个人」看,理论盯着「253 个人对」看。相撞的可能配对随人数平方增长,远比直觉的线性想象快——「直觉数错对象」是它翻车的真正原因。

〔直觉⇄理论〕这本账该怎么记?直觉并没有全错——它只是把「人与人两两相撞的对数」错当成了「人数」。修正后的直觉版本:「23 人有 253 对,每对撞上的机会虽小(1/365 量级),但 253 次小机会累积起来,过半毫不奇怪。」这个「机会虽小,对数众多」的句式,在第五章(抽样误差)与第六章(假设检验)会反复出现,值得现在就收进工具箱。

讲义

第一章 古典概型:从骰子与牌局说起1.15 几何概型:落入区域中的比例

样本点无穷多时,「数份数」失灵。但若可能性均匀地铺在一条线段、一块平面区域上,可以用测度之比替代计数之比——这就是几何概型。

几何概型

样本空间是区域 Ω(线段的长度、平面的面积、立体的体积),事件 A 是 Ω 的子区域。若「落点等可能」(落在任一小区域的概率与其测度成正比、与位置形状无关),则

P(A) = A 的测度Ω 的测度 (测度=长度 / 面积 / 体积)

「数份数」升级成「量面积」:份数无穷细了,就用面积量。逻辑与古典概型一脉相承——都是「有利部分 ÷ 全体」。

经典例:会面问题

甲、乙约定 0 到 60 分钟内到某地,先到者等候 15 分钟即离开。两人到达时刻等可能且互不影响,求两人能会面的概率。

解:设甲到时刻 x、乙到时刻 y,样本空间是正方形 0 ≤ x, y ≤ 60(面积 3600)。会面条件 |x − y| ≤ 15,即夹在两条对角线之间的带状区域。带宽外是两个直角边 45 的三角形,面积 2 × (452/2) = 2025,故会面区域面积 3600 − 2025 = 1575,概率 P = 1575/3600 = 7/16 = 0.4375。

会面问题:60 分钟内到达,等候 15 分钟 60 0 0 60 甲到时刻 y 乙到时刻 x 会面带 |x−y|≤15 阴影 = 会面区域,面积 1575 空白 = 一方等待不及,面积 2025 P(会面) = 1575 / 3600 = 7/16 ≈ 43.75% 思路:全正方形 − 两个直角三角形 (直角边 45 的等腰直角三角形 × 2) 「数份数」升级为「量面积」——逻辑仍是「有利 ÷ 全体」
图 1-12 会面问题:到达时刻 (x, y) 等可能铺满正方形,会面条件 |x−y|≤15 化为夹在两虚线间的带状阴影。概率=阴影面积 ÷ 全面积=7/16。

边界警示(贝特朗悖论的预告):「等可能」铺在无限样本上时,对同一句话可以给出不同的合理模型。经典例子:在圆内随机作一条弦,弦长大于内接正三角形边长的概率,可以算出 1/2、1/3 或 1/4——取决于「随机的弦」如何生成。这不是数学出错,而是「等可能」一词有了歧义。教训:几何概型必须先说清随机机制,再谈概率。本章末的挑战二与综合站会回到这一点。

讲义

第一章 古典概型:从骰子与牌局说起1.16 布丰投针:当概率遇见 π

1777 年,法国博物学家布丰提出了一个石破天惊的问题:把一根针随机抛到画满平行线的地板上,针与线相交的概率是多少?答案是——里面居然藏着 π。随机与圆周率,在此握手。

布丰投针公式

平行线间距 a,针长 l < a。随机抛针(针中点位置均匀、针的倾角均匀),则针与任一平行线相交的概率为

P = 2lπa

证明的骨架(完整推导见挑战二):交不交只看两件事——针中点到最近直线的距离 x ∈ [0, a/2] 与针的倾角 θ ∈ [0, π/2],二者相互独立且各自均匀;相交条件是 x ≤ (l/2)·sin θ,在矩形样本里是一片正弦曲线下的面积,积分即得。

布丰投针:相交概率里藏着 π 相交 相交 未相交 间距 a 决定交不交的两个量: ① 中点到最近线的距离 x(均匀) ② 针与线的倾角 θ(均匀) 相交条件:x ≤ (l/2)·sin θ 矩形样本中的正弦面积 ÷ 全面积 ⟹ P = 2l/(πa) 一条几何概率公式,让圆周率从「掷针」里自己走出来
图 1-13 布丰投针:针的位置与倾角共同决定相交与否。公式 P = 2l/(πa) 中出现了 π——概率第一次反哺了几何常数。

掷针能算 π?——概率的「反用」

把公式反过来:π = 2l/(πa)。掷 N 次、相交 k 次,用频率 k/N 顶替概率 P,得 π ≈ 2lN/(πa)。历史上真有人这样做:1901 年意大利数学家拉扎里尼掷了 3408 次,得到 π ≈ 3.1415929——准得令人起疑(后人考证其数据经过修饰),但方法本身无懈可击。用随机试验逼近确定性的量——这一思想在下一页长成一门方法。

值得点一句:布丰公式里 l < a 的条件不可省。若 l > a,针可能同时跨多条线,公式要修正;若 l = a,恰得 P = 2/π——一个漂亮的特例。

讲义

第一章 古典概型:从骰子与牌局说起1.17 现代接口:随机数、模拟与蒙特卡洛的诞生〔直觉⇄理论〕

掷骰子的本质是什么?——按已知概率生成一个结果。把这个动作交给计算机,就是随机数生成;把成千上万次「掷骰子」叠加起来估计一个量,就是蒙特卡洛方法。本册的「实验」栏目,全部站在这一接口上。

伪随机数:确定性机器里的「偶然」

计算机没有真正的骰子。它用确定性的递推公式(如经典的线性同余法 Xn+1 ≡ aXn + c (mod m))生成一串看似杂乱、实则可复现的数列,称伪随机数。它对模拟足够好——前提是通过统计检验(均匀性、独立性)。「伪」字提醒我们:模拟的概率来自程序的构造,最终仍须与理论对拍。

蒙特卡洛第一课:随机撒点估计 π 单位圆内接于边长 2 的正方形 正方形面积 = 2 × 2 = 4;圆面积 = π 等可能撒点 ⟹ P(落进圆) = π/4 π ≈ 4 × k / N(k=圆内点数) 蓝点:落入圆内;红点:落在圆外 N = 100 时误差约 ±0.2; N 每增百倍,误差约缩小十倍 随机性的「大数」一侧,压住不确定的一侧
图 1-14 蒙特卡洛估计 π:在正方形内等可能撒点,落入内切圆的比例收敛于 π/4,故 π ≈ 4 × 圆内比例。撒得越多越准——这是「频率稳定于概率」的第一场实战。

蒙特卡洛方法小史

这一方法得名于摩纳哥的赌城,由乌拉姆与冯·诺伊曼在 1940 年代为核武器中的中子输运问题正式确立——解析积分算不动,就用随机模拟硬啃。它的哲学与布丰一脉相承:当确定性的计算太难,就造一台「概率的机器」让答案自己浮出来。今天它活跃于金融风险定价、粒子物理、芯片设计与人工智能(随机梯度、采样推断)。

〔直觉⇄理论〕在接口处各就各位:直觉说明「撒点越多越准」,理论(第四章大数定律)将证明它以什么速度、在什么意义下成立。本章先提供手感,第四章再给出定理——同一句话,两个高度。

讲义

第一章 古典概型:从骰子与牌局说起1.18 本章总结与方法表

一章走完,把骨架抽出来钉在墙上。

① 舞台样本空间 Ω:不漏不重的可能清单。同一试验可取不同 Ω,选等可能的那个。
② 事件事件=Ω 的子集;并、交、差、对立,德摩根律是化简的闸刀。
③ 公式古典概型 P(A)=|A|/|Ω|;几何概型换成测度之比。
④ 工具加法(分类)、乘法(分步)、排列 A、组合 C、帕斯卡规则、范德蒙德卷积。
⑤ 反面求「至少一个」先算对立面;验算用小数值穷举。
⑥ 警戒等可能是假设:靠对称性论证;无限样本上先说清随机机制。
问题特征首选工具代表页
有限、等可能,直接数古典概型 P = |A|/|Ω|§1.4
依次多步、可重复与否分明乘法原理 / 排列 Ank§1.5–1.6
只问成员不问次序组合 Cnk§1.7
求和恒等式 / 双源选取帕斯卡规则 / 范德蒙德卷积§1.9
掷骰点数和、牌型穷举+组合普查§1.10–1.12
依次抽取、先抽后抽超几何 / 抽签公平性§1.13
「至少一个……」对立事件 1 − P§1.14
落点铺满线段 / 平面几何概型(测度比)§1.15–1.16
解析计算太难蒙特卡洛模拟§1.17

本章思想上的一句话

概率的第一课不是公式,而是一种态度:把「说不准」翻译成「可以数」。骰子与纸牌提供了翻译的字典——等可能给出分母,计数给出分子;当直觉与数出来的结果冲突时(一正一反是 1/2 不是 1/3,和为 7 最常见,生日 23 人过半),修正的永远是直觉。这一章所有的公式,都是「数份数」的变奏。

p.27

下一章,我们将追问一个更深的问题:当等可能不再成立,概率还剩下什么?答案是三条公理——以及从它们长出来的条件概率与贝叶斯公式,那里才是概率论的成年礼。

例题

第一章 古典概型:从骰子与牌局说起例1 骰子模型:同时掷两粒骰子的样本空间清点

题目 同时掷两粒均匀骰子。① 写出样本空间并给出样本点总数;② 求「点数相同」的概率;③ 求「第一粒的点数大于第二粒」的概率。

解 ① 两粒骰子有区别(比如一红一白),结果用有序对 (i, j) 记:红骰出 i、白骰出 j。样本空间

Ω = {(i, j) : 1 ≤ i, j ≤ 6}

由乘法原理(第一步选 i 六种、第二步选 j 六种):|Ω| = 6 × 6 = 36。均匀骰子且两粒独立,36 个样本点等可能,古典概型适用。

② 「点数相同」A = {(1,1), (2,2), …, (6,6)},共 6 个样本点,故

P(A) = 636 = 16

③ 「第一粒 > 第二粒」:对每个固定的第二粒点数 j,第一粒可取 1, …, j−1 共 j−1 种,故有利样本点数

∑j=16(j−1) = 0+1+2+3+4+5 = 15

P(B) = 1536 = 512

点评 ③ 与「第二粒 > 第一粒」完全对称(把两粒骰子对调),各占 5/12;剩下 6/36 = 1/6 是平局——三案合计 5/12 + 5/12 + 1/6 = 1,一次自洽性检验。凡是能「拆成对称三案」的题,都值得做这最后一步,它能当场揪出漏算。

例题

第一章 古典概型:从骰子与牌局说起例2 事件运算:用集合符号表达复合事件

题目 掷一枚骰子三次。设 Ai =「第 i 次出六点」(i = 1, 2, 3)。用 A1, A2, A3 的运算表示:① 「三次全出六」;② 「至少一次出六」;③ 「恰好一次出六」;④ 「一次都没出六」;⑤ 验证 ② 与 ④ 互为对立。

解 ① 三次同时发生:A1∩A2∩A3。
② 「至少一次」是三个「那一次发生了」的并:A1∪A2∪A3。
③ 「恰好一次」要精确指明哪一次发生、其余不发生,三个互斥分支的并:

(A1∩A2̅∩A3̅) ∪ (A1̅∩A2∩A3̅) ∪ (A1̅∩A2̅∩A3)

④ 全部不发生:A1̅∩A2̅∩A3̅。
⑤ 由德摩根律:(A1∪A2∪A3)̅ = A1̅∩A2̅∩A3̅,正是 ④ 的表达式。∎

点评 「至少一个」用并、「恰好 k 个」用互斥分支的并、「一个都没有」用全交——这三件套是事件翻译的基本功。恰好分支容易写漏(如漏掉 A1̅ 而写成 A1∪A2̅∪A3̅),自查的办法是问一句:这个表达式里的样本点,是不是每个都恰好属于一个分支?

三次掷骰的 8 个分支:恰好一次占其中 3 支 第1次第2次第3次 表达式(3 支示例) 六,非六,非六 → A1​∩A̅2​∩A̅3​ 非六,六,非六 → A̅1​∩A2​∩A̅3​ 非六,非六,六 → A̅1​∩A̅2​∩A3​ 3×3×3 = 27 个「非六样本」被压缩为一束 真正的样本空间有 63​ = 216 个点 每枝是一个「发生/不发生」的组合,恰好一次的 3 枝互斥
图 1-15 事件分支树:三次试验的每种「发生/不发生」组合对应表达式的一项。把复合事件画成分支树,是避免写漏、写重的最直观手段。
例题

第一章 古典概型:从骰子与牌局说起例3 古典概率:从一副牌中抽出红心的概率

题目 从一副 52 张的扑克中随机抽 1 张。① 求抽到红心的概率;② 求抽到「红色牌或 A」的概率;③ 求「既是红色又是 A」与「是红色或是 A」的概率关系。

解 样本空间 |Ω| = 52,充分洗牌使每张等可能。记 H=红心,R=红色(红心+方片),E=A。

① |H| = 13,P(H) = 13/52 = 1/4。
② 「红色或 A」是并事件。红色 26 张,A 有 4 张,红色的 A 有 2 张(红桃 A 与方片 A)被数了两遍,容斥:

|R∪E| = |R| + |E| − |R∩E| = 26 + 4 − 2 = 28

P(R∪E) = 2852 = 713

③ P(R∩E) = 2/52 = 1/26。与 ② 对比可见并的概率不等于概率的并:P(R) + P(E) = 26/52 + 4/52 > P(R∪E),多出的部分恰是重叠 P(R∩E)。只有当两事件互斥(P(R∩E) = 0)时才能直接相加。

点评 容斥是一把「扣除重复计数」的尺子:加法原理要求类与类互斥,若不互斥,就把重叠扣回来。两事件版是 |A∪B| = |A|+|B|−|A∩B|;三事件版再加一项并扣三项交叉(第二章给出一般式)。数「红色 A」这类交叉项时,老老实实把牌摊开数一遍,比任何公式都可靠。

例题

第一章 古典概型:从骰子与牌局说起例4 乘法原理:三位数密码的计数

题目 ① 用 0–9 十个数字组成可重复的三位密码(首位可为 0),有多少种?② 组成首位非零的三位数呢?③ 三位数字互不相同的三位数呢?④ 若密码随机生成,猜中一次的概率各是多少?

解 ① 三步、每步 10 种,103 = 1000 种(000 到 999)。
② 首位 9 种(1–9),次位、末位各 10 种:9 × 10 × 10 = 900 种。
③ 分步时注意后一步的选择数依赖前面已用的数字:首位 9 种;次位不能用首位,9 种;末位再用掉一个,8 种:

9 × 9 × 8 = 648(种)

④ 随机生成下,猜中一次的概率是「1 ÷ 总数」:1/1000、1/900、1/648。约束越多,样本空间越小,概率反而越大——分母变小了。

点评 ③ 是乘法原理最典型的「依赖型分步」:每一步的种数不是常数,要在前面步骤选定后清点剩余。画树状图最保险:第一层 9 枝、第二层每枝 9 枝、第三层每枝 8 枝。另一个常见错误是把 ③ 算成 A103 = 720——那是「允许首位为 0」的互不相同情形;首位受限时须先单独处理首位,再做 9 × 8。

例题

第一章 古典概型:从骰子与牌局说起例5 排列:骰子的排列与座位问题

题目 ① 六名学生(含甲、乙)站成一排合影,有多少种站法?② 甲必须站两端,有多少种?③ 甲乙必须相邻,有多少种?④ 随机站排,求「甲在乙左边(不必相邻)」的概率。

解 ① 全排列:6! = 720 种。
② 甲占两端之一(2 种),其余五人全排(5! = 120):2 × 120 = 240 种。
③ 捆绑法:把甲乙捆成一个「超级元素」,五个元素全排 5! = 120;捆绑内部甲乙可换序 2 种:120 × 2 = 240 种。
④ 对称性一步到位:任意一种站法,把甲乙互换得到一种「甲乙相对位置相反」的站法,两者一一配对,故各占一半:

P(甲在乙左) = 12

若要硬算:甲在乙左的站法数 = 720/2 = 360,同样得 360/720 = 1/2。

点评 ④ 是本册第一个「对称性替代计数」的范例:两个事件在某个对换下互为镜像,概率必然平分。遇到「A 在 B 前」「甲先于乙」这类问题,先找对换对称,常能跳过整段计算——这是「等可能」思想的高级用法:既然每人地位平等,先来后到各占一半。

例题

第一章 古典概型:从骰子与牌局说起例6 组合:从 52 张牌中取 5 张的组合数

题目 ① 计算 C525;② 用它求「一手五张恰为 4 张红桃」的概率;③ 求「至少 1 张红桃」的概率。

解 ① C525 = 52!5!·47! = 52×51×50×49×485×4×3×2×1。分子 = 311 875 200,除以 120 得

C525 = 2 598 960

② 「恰 4 张红桃」=从 13 张红桃取 4 张、从其余 39 张取 1 张(范德蒙德式的双源分解):

N = C134 × C391 = 715 × 39 = 27 885

P = 27 8852 598 960 ≈ 0.0107(约 1.1%,每 93 手一次)

③ 「至少 1 张」立刻想到对立面——「一张红桃都没有」:

P(至少 1 红) = 1 − C395C525 = 1 − 575 7572 598 960 ≈ 0.7785

点评 ② 用了「红桃里取多少、非红桃里取多少」的双源分解——这正是 §1.9 范德蒙德卷积计数证明的实战化。③ 是「对立事件」的招牌应用:直接算「至少 1」要分 1、2、3、4、5 张五类相加,而对立面只有一类。见到「至少」,先想反面——这一句口诀的价值贯穿全书。

例题

第一章 古典概型:从骰子与牌局说起例7 组合恒等式:用帕斯卡规则求和

题目 ① 化简 C52 + C53;② 求 ∑k=0n Cnk 并解释;③ 用「双重计数」证明 ∑k=0n k·Cnk = n·2n−1。

解 ① 帕斯卡规则一步到位:C52 + C53 = C63 = 20(验证:10 + 10 = 20 ✓)。规则要求两个组合数「上标同增」,若形态不齐先用对称性整形。
② 在二项式定理 (a+b)n = ∑ Cnk an−kbk 中令 a = b = 1:

∑k=0n Cnk = 2n

计数解释:从 n 人中任选一个委员会(可空可全员),每人面临「入或不入」两种选择,共 2n 种;按委员会人数分类,恰得左端。
③ 考虑「从 n 人中选一个有组长的委员会」的两种数法:
按组长先定:组长 n 种,其余成员任选 2n−1 种,共 n·2n−1;
按委员会先定:k 人委员会有 Cnk 个,各选组长 k 种,共 ∑ k·Cnk。两者数的是同一批对象,故相等。∎

点评 ③ 是「一题两算」的模板级示范:找一个真实存在的对象集合(有组长的委员会),两种自然视角各数一遍。识别「先定谁」是关键——本题先定组长则一步到位,先定委员会则按人数分类。凡求和式里冒出 k·Cnk,就想想「k 是不是某个「选出来的角色数」」。

例题

第一章 古典概型:从骰子与牌局说起例8 骰子和分布:三粒骰子出现和为 10 的概率

题目 同时掷三粒均匀骰子。① 求样本点总数;② 求和恰为 10 的有序解个数;③ 求相应概率;④ 与「和为 11」比较。

解 ① 有序三元组 (a, b, c),每个坐标 6 种:63 = 216 个等可能样本点。
② 数满足 a+b+c = 10、1 ≤ a,b,c ≤ 6 的有序解。先放宽下界:令 a' = a−1 等,则 a'+b'+c' = 7、非负,解数 C92 = 36(隔板法)。再扣除越界:a' ≥ 6(即 a ≥ 7)时令 a'' = a'−6,得 a''+b'+c' = 1,解数 C32 = 3;三个坐标各犯一次,无两坐标同时越界(和不够)。故

N(10) = 36 − 3 × 3 = 27

③ P(和 = 10) = 27/216 = 1/8。
④ 同法可得 N(11) = 27(对称性也可:a → 7−a 把和 10 映成和 11)。二者并列最常见——这正是「中间隆起」的顶点,也是中世纪骰手争论的公案:粗算曾把 10 数成 21,错在漏了越界修正。

点评 「隔板法+越界修正」是数限制解的标准动作:先当无上限数(隔板),再对每个越界坐标逐一扣除,注意两坐标同时越界在此处不可能,故无需容斥第三层。这也是本章为数不多的「直接数有序解」的题——因为样本空间天然是有序三元组。

例题

第一章 古典概型:从骰子与牌局说起例9 牌型概率:一手牌恰为「满堂红」的概率

题目 「满堂红」(即葫芦:三张同点+两张同点)是德州扑克里的强牌。① 求一手五张恰为满堂红的概率;② 若第一张已抽到一对中的某张,后四张仍成满堂红的概率会更大吗?③ 该概率在赌桌上的心理意义。

解 ① §1.12 已数:N = 13 × C43 × 12 × C42 = 13 × 4 × 12 × 6 = 3 744。除以总手数:

P = 3 7442 598 960 ≈ 0.00144(约 0.144%)

② 直觉常说「有了第一张,成牌更容易」——对,但要算清楚。有利场景是「前两张即成对」等复杂分支;简单验证一角:已知首张是某点(如 K),剩 3 张 K。要成满堂红,五张须凑成「K 三张+另一对」或「K 一对+别家三条」。分支繁多,但条件概率的思想告诉我们:信息只改变条件下的样本空间,不改变古典概型的算法——精确数值留待第二章例 9,用条件概率三行算清。此处先把直觉写下:更容易,但远非必然。
③ 0.144% 意味着平均 694 手才见一次。赌桌上的心跳感,正是稀有概率的体感化——「牌型等级=概率排序」在体验上被翻译成了「越难出越兴奋」。

点评 ② 特意留了一个「直觉先行、理论后到」的钩子:本章只回答「无条件」的问题,条件化的版本将在第二章由条件概率与全概率公式干净利落地解决。这种「先猜后算再回收」的编排,是本册〔直觉⇄理论〕线索的标准节奏。

例题

第一章 古典概型:从骰子与牌局说起例10 放回与不放回:两台抽奖机的对比

题目 两台抽奖机各有 100 张券、其中 10 张中奖。甲机抽 2 张不放回,乙机抽 2 张放回(抽一张记录后放回搅匀再抽)。① 各求「恰中 1 张」的概率;② 「两张全不中」的概率;③ 解释差异来源。

解 ① 甲(不放回):恰 1 中=1 中 1 不中,双源分解:

P甲 = C101C901C1002 = 9004 950 ≈ 0.1818

乙(放回):每次中奖率恒为 0.1,恰 1 中=「中,不中」或「不中,中」两支:

P乙 = 2 × 0.1 × 0.9 = 0.18

② 甲:C902/C1002 = 4005/4950 ≈ 0.8091;乙:0.92 = 0.81。
③ 差异虽小(0.1818 对 0.18),来源却本质:不放回改变了第二次的构成——若第一次抽中,第二次中奖率降为 9/99;若第一次不中,升为 10/99。放回则两次同分布。总体越大,差异越小;样本占比越大,差异越大。

点评 这组数字关系:不放回的「恰 1 中」略大于放回版(0.1818 > 0.18)。这不是偶然——不放回的抽取自带「修正」,两次结果的波动被袋中构成部分抵消。第五章将把这一现象精确化为「有限总体修正系数」。

例题

第一章 古典概型:从骰子与牌局说起例11 生日问题:60 人中至少两人生日相同的概率

题目 60 人的班级(每天等可能、365 天、忽略闰年),求至少两人生日相同的概率,并给出实用的对数近似。

解 对立事件是「互不相同」,由乘法原理(§1.14):

Pdiff = 365365 × 364365 × ⋯ × 306365 = 365!305!·36560

直接连乘 60 项容易失手,改用对数。用 ln(1−x) ≈ −x − x2/2(x ≤ 0.16,够准):

ln Pdiff = ∑k=059 ln(1−k/365) ≈ −∑k365 − ∑k22·3652

其中 ∑k = 0+1+…+59 = 1770,∑k2 = 59×60×119/6 = 70 210。代入:

ln Pdiff ≈ −1770365 − 70 210266 450 ≈ −4.849 − 0.264 = −5.113

Pdiff ≈ e−5.113 ≈ 0.0060 ⟹ P(至少两人相同) ≈ 1 − 0.0060 = 0.994

点评 两个值得带走的技术:① 「至少」走对立面,连乘走对数——把乘法变成加法是处理长连乘的第一反应;② 近似公式 Pdiff ≈ exp(−n(n−1)/730)(只取一次项)在 n ≤ 30 时已相当好用:令它等于 ln 2,解出 n ≈ 22.5——只凭一行近似,就重新发现了「23 人过半」。挑战一将把这条近似做扎实。

例题

第一章 古典概型:从骰子与牌局说起例12 综合:一张「古典概型解题流程图」的完整填写

把本章方法收拢成一张流程图,再用两道快问快答走一遍全流程。

古典概型解题流程:五问定路线 ① 样本空间是什么? ② 样本点等可能吗? ③ 有利场合数是多少? 否 → 换样本空间 / 用频率(第二章) 不漏不重;有序 or 无序要定死 ④ 用哪件工具数? 乘法 / 排列 / 组合 / 卷积 / 对立面 ⑤ 怎么验算? 小数值穷举 · 对称三案合计 · 概率 ≤ 1 等可能 ⟹ P = 有利 ÷ 全部;不放心就换一种数法对拍
图 1-16 解题流程五问:先立样本空间,再验等可能,然后数有利场合、选工具、做验算。② 是分水岭——等可能不成立时,本章全部公式失效,须换第二章的公理化语言。

快问快答 A 三粒骰子,「恰有两粒出 6」的概率?
走流程:Ω 有序三元组 216 个等可能;有利场合=选哪两粒出 6(C32 = 3 种)× 第三粒非 6(5 种)= 15;P = 15/216 = 5/72。验算:它与「恰有一粒 6」(3 × 52 = 75 个,P = 75/216)、「全为 6」(1 个)、「无 6」(125 个)合计 15+75+1+125 = 216 ✓。

快问快答 B 从 0–9 中取三个不同数字组成三位数,求「是奇数」的概率?
走流程:样本空间 648 个(例4③);有利=末位奇数(5 种)× 首位(非零非末位,8 种)× 次位(8 种)= 5 × 8 × 8 = 320;P = 320/648 = 40/81 ≈ 0.494。验算:末位奇偶各半的直觉给了 0.5,实际 0.494——首位「非零」的约束压了奇数一头(0 不能打头而偶数 0 占了一份)。约束的位置影响对称性,这正是流程图第①问要紧的原因。

习题

第一章 古典概型:从骰子与牌局说起习题课一 样本空间与事件

本课练「搭舞台」——把随机试验写成集合。先列清单(不漏不重),再选视角(有序/无序、关心什么)。

练 1.1 写出下列试验的样本空间并给出样本点总数:① 掷一枚硬币三次;② 从一副牌中依次抽两张(记顺序);③ 同时抛三粒骰子;④ 记录某路口一分钟内的车流量。

答:① {正反}3,8 个;② 52 × 51 = 2652 个有序对;③ 若三粒有区别(红白蓝)63 = 216 个,若只看点数多重集则 C83 = 56 个但不等可能——求概率前者;④ {0, 1, 2, …},无限可列。

练 1.2 抛两枚硬币,用 4 个等可能样本点求「恰一枚正面」「至少一枚正面」的概率。

答:Ω = {正正, 正反, 反正, 反反}。恰一枚:2/4 = 1/2;至少一枚:3/4(对立面是「全反」1/4)。「一正一反 = 1/3」的错误根源是合并了正反与反正。

练 1.3 袋中 3 白 2 黑,不放回依次取 2 只。样本空间有多大?「第二只是白」这个事件含多少样本点?

答:有序取,5 × 4 = 20。第二只白:第一只任意 5 种 × 第二只白 3 种 = 15 个。注意这题不需要对称论证——直接数即可;「第二只白」的概率 15/20 = 3/5 恰是白球占比(抽签公平性的雏形)。

练 1.4 下列哪些是事件?「掷骰子出 7 点」「掷骰子出奇数」「明天本地降水」「连续抛硬币直到出正面」。

答:出 7 点是不可能事件(∅,也是事件);出奇数是事件 {1,3,5};降水是事件(把结果空间取为「降水/不降水」);「直到出正面」的样本空间是 {1, 2, 3, …},可以定义事件(如「第 k 次才出正面」)。

练 1.5 Ω = {1, …, 6}(掷一骰)。写出事件 A =「点数为质数」、B =「点数大于 3」的元素,并求 A∪B、A∩B、A−B、A̅。

答:A = {2,3,5},B = {4,5,6}。A∪B = {2,3,4,5,6},A∩B = {5},A−B = {2,3},A̅ = {1,4,6}。查表自验:A 与 B 不互斥(共享 5)。

小结:搭舞台三步——定结果空间、选视角(有序?关心什么?)、验等可能。练 1.3 的「第二只白」已经悄悄预告了条件概率。

习题

第一章 古典概型:从骰子与牌局说起习题课二 事件运算与德摩根律

练 2.1 掷两枚骰子,记 A=「和为偶」,B=「至少一枚出 6」。用样本点写出 A∩B,并求其概率。

答:A∩B = {(6,2),(6,4),(6,6),(2,6),(4,6)},5 个,P = 5/36。注意 (6,6) 是「和为偶」与「出 6」的交叉——别漏。

练 2.2 用德摩根律化简:(A̅∪B̅)̅ 与 (A∩B̅)∪(A̅∩B)。

答:第一式 = A∩B(「至少一个不发生」的否定即「都发生」);第二式是「恰发生其一」,无更简的并式,但它是 (A∪B) − (A∩B)(对称差)——两种写法等价,常作验算。

练 2.3 判断并说明理由:① 互斥必不对立?② 对立必互斥?③ A∩B = ∅ 且 A∪B = Ω,则 B = A̅?

答:① 错(互斥可以两个都不发生,如掷骰「出 1」与「出 2」);② 对(对立=互斥且必居其一);③ 对——这正是对立的定义式,三条合起来就是「互斥 vs 对立」的完整判据。

练 2.4 把下列中文译成事件运算(Ai=第 i 次命中,i = 1,2,3):① 三次全中;② 至少两次中;③ 至多一次中;④ 三次不全中。

答:① A1A2A3;② (A1A2)∪(A1A3)∪(A2A3);③ A1̅A2̅ ∪ A1̅A3̅ ∪ A2̅A3̅(恰一次或全不中);④ (A1A2A3)̅。④ 用德摩根一步省掉三分支。

练 2.5 证明分配律 A∩(B∪C) = (A∩B)∪(A∩C)。

答:双包含:左边的样本点 ω 属于 A 且属于 B 或 C,按「属于 B」分类归入右端第一或第二项;反向任一右端点先属 A 再按属 B 或 C 并入左边。集合证明的通用节奏——双向包含,各自归位。

分配律 A∩(B∪C):先并后交=先交后并 A B C 公共区域 左边:A 与「B 或 C」的公共部分 A B C 右边:A∩B 与 A∩C 两瓣拼起来 两图阴影完全一致 ⟹ 等式成立
图 1-17 分配律韦恩图:把公共区域着色,左右两张图的黑线勾勒出同一块地皮。集合恒等式的「看图法」不替代证明,但先看图再动笔,方向不会错。
习题

第一章 古典概型:从骰子与牌局说起习题课三 古典概型入门

练 3.1 掷两枚骰子,求:① 和为 9;② 和为偶数;③ 至少一枚出 6 的概率。

答:① 4/36 = 1/9((3,6)(4,5)(5,4)(6,3));② 18/36 = 1/2(奇奇/偶偶各 9);③ 11/36(36 − 25,对立面「都不出 6」25 个)。「至少」先想对立。

练 3.2 10 件产品含 2 件次品,随机取 1 件。求取到次品的概率;取 2 件(不放回)恰取到 1 件次品的概率。

答:① 2/10 = 1/5;② C21C81/C102 = 16/45 ≈ 0.356。双源分解:次品堆取 1、正品堆取 1。

练 3.3 一副牌抽 1 张。求「红桃或 K」「不是红桃」「既是红色又是人头牌(J/Q/K)」的概率。

答:① (13 + 4 − 1)/52 = 16/52 = 4/13(红桃 K 重叠 1);② 39/52 = 3/4;③ 红色人头 6 张,6/52 = 3/26。

练 3.4 甲乙两骰各掷一次,求「甲的点数 > 乙的点数 + 1」的概率。

答:逐甲清点:甲 = 3 时乙 ≤ 1(1 个),甲 = 4 时乙 ≤ 2(2 个),……甲 = 6 时乙 ≤ 4(4 个)。合计 0+0+1+2+3+4 = 10,P = 10/36 = 5/18。数「逐点清点」时画个小表,比纯脑算稳。

练 3.5 已知 P(A) = 0.6,P(B) = 0.5,P(A∪B) = 0.9。求 P(A∩B)、P(A̅∩B),并判断 A、B 是否互斥。

答:P(A∩B) = 0.6 + 0.5 − 0.9 = 0.2;P(A̅∩B) = P(B) − P(A∩B) = 0.3;非互斥(交集概率非零)。本题超出古典概型(概率不是数出来的),但容斥公式照样成立——为第二章的公理化埋个伏笔。

小结:古典概型三步——搭台、验等可能、数两堆。练 3.5 提醒:公式 P(A∪B) = P(A)+P(B)−P(A∩B) 比「数份数」更普适,第二章将把它从公理正式推出。

习题

第一章 古典概型:从骰子与牌局说起习题课四 加法与乘法原理

练 4.1 从甲城到乙城,高铁 4 班、汽车 3 班(分类);到乙城后去丙城有 5 条路线(分步)。甲经乙到丙共几条走法?甲到乙共几条?

答:甲到乙:4 + 3 = 7(类,用加);到丙:7 × 5 = 35(步,用乘)。一句口诀:先「或」后「然后」。

练 4.2 用数字 0–9 组成四位密码(可重复、首位可零),其中「恰含两个不同数字」的有多少种?

答:先选两个数字 C102 = 45;四位都用这两个数字 24 = 16 种;扣「全同」2 种:得 45 × (16 − 2) = 630。注意「选数」与「排位」是两步,别把 45 忘掉或乘两次。

练 4.3 某论坛设 3 个讨论组,每人恰选一组;5 人报名,共有多少种报名组合?若每组至少 1 人呢?

答:① 35 = 243;② 「每组非空」用容斥:35 − C31·25 + C32·15 = 243 − 96 + 3 = 150。容斥在这里是「扣空组」的通用刀法。

练 4.4 把 4 封不同的信投入 3 个不同的邮筒,有多少种投法?「每筒至多 2 封」呢?

答:① 34 = 81(每封信独立选筒);② 无限制 81 扣「某筒 ≥ 3 封」:恰一筒装 ≥3 封的情形——4 封全进一筒 3 种;一筒 3 封另一筒 1 封:选筒 3 × 选单封信 4 × 选落筒 2 = 24。合计 81 − 3 − 24 = 54。这类「至多/至少」的反面扣除比正面分类快。

练 4.5 ① 一元、五元、十元纸币各一张,可组成多少种币值?② 若再加一张十元,呢?

答:① 每张「取或不取」23 = 8,扣全不取:7 种(1、5、10、6、11、15、16 元)。② 两张十元面值同但张数不同:十元可取 0/1/2 张(3 态),一元与五元各 2 态,3 × 2 × 2 − 1 = 11 种。「相同面额的张数」是三态选择,不是二态——这是本题唯一的坑。

习题

第一章 古典概型:从骰子与牌局说起习题课五 排列

练 5.1 ① 计算 A83 与 8!/5!;② 化简 Ank / Ank−1。

答:① 都 = 8×7×6 = 336——连乘与阶乘比是同一件事的两种写法;② (n−k+1):分子分母同少了尾部因子。排列数用「连乘」算、用「阶乘比」化简,两套手法配合。

练 5.2 六人排队:① 甲不在两端;② 甲乙相邻且丙在正中;③ 甲乙不相邻。各有多少种?

答:① 4 × 5! = 480;② 丙先定中位,甲乙捆绑与余三人全排 4! × 2 = 48;③ 「不相邻」用插空法:先排余四人 4! = 24,形成 5 个空位,选 2 个给甲乙 A52 = 20,共 480。「不相邻 ⟹ 插空」是排队的万能钥匙。

练 5.3 五本书(其中两本上下册)放上书架,要求上下册相邻,共几种摆法?

答:捆绑:四元素全排 4! = 24 × 内部 2 = 48。若再要求「上册在左」,减半为 24——约束每加一条,对称性就破一档。

练 5.4 三名男生两名女生站一排合影,随机站。求「两名女生相邻」的概率。

答:总 5! = 120;有利(捆绑)4! × 2 = 48;P = 48/120 = 2/5。概率题与计数题只有一步之遥:有利 ÷ 全部,两堆都由排列原理数出。

练 5.5 ① n 个元素的全排列中,「元素 1 恰在第 k 位」的有多少种?② 由此证明 ∑k=1n An−1n−1 = n!。

答:① 固定元素 1 的位置,其余 (n−1)! 种;② 按元素 1 的位置分类(互斥完备),每类 (n−1)! 种、共 n 类,和为 n!。分类计数反过来看就是恒等式——「计数即证明」。

习题

第一章 古典概型:从骰子与牌局说起习题课六 组合

练 6.1 ① 计算 C103;② 求 C10098;③ 解方程 Cn2 = 45。

答:① 120;② 对称性 = C1002 = 4950;③ n(n−1)/2 = 45,n = 10(舍负)。

练 6.2 10 人中选 3 人参赛:① 甲必入选;② 甲不入选;③ 甲乙至少一人入选。各几种?

答:① C92 = 36(甲已定,余 9 选 2);② C93 = 84;③ 分类「甲乙都在」C81 = 8、「恰一人在」2 × C82 = 56,共 64。或反面:总 120 − 两人都不入 C83 = 56 = 64 ✓(两法对拍)。

练 6.3 (抽签公平性收尾)用归纳法证明:N 签含 a 中,第 i 人抽中概率恒为 a/N。

答:奠基 i = 1 平凡;归纳步:P(第 i 人中) = P(前 i−1 恰中 k 个) × (a−k)/(N−i+1),对 k 求和后 telescoping,细节见超几何分布的期望(第四章)——本课先承认骨架,第五章抽样处将完整重逢。

练 6.4 6 名男生 4 名女生中选 5 人组成队:① 女生至少 2 人;② 至多 2 人。各几种?

答:① C42C63 + C43C62 + C44C61 = 120 + 60 + 6 = 186;② 反面更快:总 C105 = 252,「女生 ≥ 3」=「女生 3、4 人」= C43C62 + C44C61 = 66,故 ② = 252 − 66 = 186。咦,两问同数?——因为「至少 2」与「至多 2」在此配置下恰好互补对称(4 女中「≥2」与「≤2」关于 2 对称)。

练 6.5 平面上有 10 个点,无三点共线。① 可连多少条直线?② 可作多少个三角形?③ 若有 4 点共线(其余仍无三点共线),两问答案变为多少?

答:① C102 = 45;② C103 = 120。③ 直线 C62 + 1 = 16(共线 4 点合成 1 条);三角形 C103 − C43 = 116(扣共线三点)。几何约束进组合的套路:先按「全自由」算,再扣退化。

习题

第一章 古典概型:从骰子与牌局说起习题课七 组合恒等式

练 7.1 用帕斯卡规则逐层化简:C42 + C43 + C54。

答:C42 + C43 = C53;再 C53 + C54 = C64 = 15。验证:6+4+5 = 15 ✓。链式化简的要诀是「上标差 1、下标差 1」配对。

练 7.2 证明「 hockey stick 恒等式」:∑i=rn Cir = Cn+1r+1,并用 r = 1, n = 5 验证。

答:反复用帕斯卡规则:Crr + Cr+1r = Cr+1r+1 + Cr+1r = Cr+2r,逐层吞并得 Cn+1r+1。验证:1+2+3+4+5 = 15 = C62 ✓。组合意义:杨辉三角上沿一条斜线求和,落在下一层的边上——「冰球杆」之名由此而来。

练 7.3 用范德蒙德卷积求 ∑k=03 C4kC33−k。

答:即 C73 = 35。逐项:1·1 + 4·3 + 6·3 + 4·1 = 35 ✓(注意 C32 = 3)。几何场景:从 4 白 3 黑取 3 球,按白球数分类。

练 7.4 证明 ∑k=0n (−1)k Cnk = 0,并给出组合解释。

答:二项式定理令 a = 1, b = −1:(1−1)n = 0。组合解释:把 k 奇偶分两堆,「偶数元子集」与「奇数元子集」一样多——对换一下「元素 1 进不进」即可配对。

练 7.5 某技术委员会 8 人中选 4 人组成评审组,其中至少 2 名资深(共 5 名资深)。用两种方法计数并核对。

答:法一(分类):C52C32 + C53C31 + C54 = 30 + 30 + 5 = 65;法二(反面):总 C84 = 70 扣「资深 ≤ 1」:C51C33 + C34(=0) = 5,70 − 5 = 65 ✓。两法对拍是恒等式题的「防错双保险」。

习题

第一章 古典概型:从骰子与牌局说起习题课八 骰子与和的分布

练 8.1 掷两枚骰子:① 求和为 7 或 11 的概率;② 求「和 > 9」的概率;③ 求「两枚点数之差为 1」的概率。

答:① (6+2)/36 = 2/9;② 和 10、11、12 各 3、2、1 个:6/36 = 1/6;③ 差 1 的对:(1,2)…(5,6) 各向 2 种共 10 个,P = 10/36 = 5/18。

练 8.2 掷两枚骰子,求「第一枚 > 3 且第二枚 < 5」的概率;再用对立面验算。

答:直接 3 × 4 = 12,P = 12/36 = 1/3。验算(容斥反面):1 − P(甲 ≤ 3 或 乙 ≥ 5) = 1 − (18 + 12 − 9)/36 = 1 − 21/36 = 5/12?——注意两事件并不互斥也不独立,交叉是 3×2 = 6 个,故 18+12−6 = 24,1 − 24/36 = 12/36 ✓。

练 8.3 三粒骰子:① 求和为 9 的有序解数;② 求和为 18 的概率;③ 哪个和最常见?

答:① 隔板+越界:C82 − 3·C22·1 = 28 − 3 = 25(a'≥6 时和为 2 的非负解 3 组,验证 25 个 ✓);② 只有 (6,6,1) 的排列 3 个,P = 3/216 = 1/72;③ 和 10 与 11(各 27 个)。

练 8.4 证明:两枚骰子和的分布关于 s = 7 对称,即 N(s) = N(14−s)。

答:映射 (i,j) → (7−i, 7−j) 是 36 个样本点到自身的双射,且把和 s 映成 14−s。双射计数即对称性证明——找「保性质的对换」,比代数推导更透。

练 8.5 两枚骰子掷一次,若已知「和为偶数」,求「和为 8」的条件概率有多少种可能算法?(直觉预热,正式工具在第二章)

答:缩小样本空间再数:偶数和的样本点 18 个,其中和为 8 的 5 个,故 5/18。「信息把样本空间切小了」——这正是条件概率的全部思想,第二章将给它正式的名字与公式。

习题

第一章 古典概型:从骰子与牌局说起习题课九 牌型与抽牌

练 9.1 一手五张恰为「四条」的概率是多少?写出完整计数链。

答:13 × C44 × 48 = 624,P = 624/2 598 960 ≈ 0.00024(每 4165 手一张)。链:选点数 → 取齐四张 → 配单张。

练 9.2 求一手五张「同花」的概率(不含同花顺),并说明为何要减 40。

答:4 × C135 = 5148 为「五张同花色」的总数,其中 40 手是同花顺(更高一级),牌型分类互斥故扣除:5108/2 598 960 ≈ 0.00197。

练 9.3 从 52 张中不放回抽 3 张,求「三张同花色」的概率。

答:4 × C133 / C523 = 4 × 286/22100 = 1144/22100 ≈ 0.0518(约 5.2%)。同花在「三张」尺度上远比「五张」尺度常见——样本越小,极端组合越容易。

练 9.4 依次不放回抽 2 张:① 都是 A;② 第二张是 A。各多少概率?

答:① (4/52)(3/51) = 1/221(乘法原理逐层);② 按「第一张是否 A」分两类:(4/52)(3/51) + (48/52)(4/51) = 4/52 = 1/13——与第一张抽 A 同概率(抽签公平性)。② 是本章最值得回味的练习。

练 9.5 一手五张「一对」的概率:写出计数链并验证它与「散牌」概率之和小于 1。

答:13 × C42 × C123 × 43 = 1 098 240,P ≈ 0.4226;加散牌 0.5012 得 0.9238 < 1——剩余 0.0762 是三条、两对等更高牌型,分类完备性的粗检。

习题

第一章 古典概型:从骰子与牌局说起习题课十 放回与不放回

练 10.1 袋中 5 红 3 白:① 放回取 2 次,恰 1 红的概率?② 不放回取 2 次,恰 1 红呢?

答:① 2 × (5/8)(3/8) = 30/64 = 15/32;② C51C31/C82 = 15/28。不放回版略大(15/28 ≈ 0.536 对 0.469)。

练 10.2 不放回依次取 2 次,求「第一次红且第二次白」「第一次白且第二次红」的概率,并相加。

答:(5/8)(3/7) = 15/56 与 (3/8)(5/7) = 15/56,和 = 30/56 = 15/28——与练 10.1② 无序算法一致。有序两支相加=无序一次数,这是超几何与路径法的桥梁。

练 10.3 甲机 100 券含 10 中,放回抽 3 次。求「全不中」「恰 1 中」的概率。

答:全不中 0.93 = 0.729;恰 1 中 3 × 0.1 × 0.92 = 0.243。放回时每次独立、概率不变,二项分布雏形。

练 10.4 同上题改不放回:求「全不中」「恰 1 中」的概率,并与放回版比较。

答:全不中 C903/C1003 = 117 480/161 700 ≈ 0.7265;恰 1 中 C101C902/C1003 = 40 050/161 700 ≈ 0.2477。不放回的「全不中」更小、「恰 1 中」更大——修正效应随抽取数增大而增强。

练 10.5 (抓阄设计)10 人依次抓 10 签(2 中 8 空)。第 3 人抽中的概率是多少?给出两种算法。

答:法一(抽签公平性):2/10 = 1/5。法二(对前两人分类):P = P(前两中 k 个) × (2−k)/8 对 k = 0,1,2 求和,逐支:(8/10)(7/9)(2/8) + 2(2/10)(8/9)(1/8) + (2/10)(1/9)(0/8) = 14/90 + 4/90 + 0 = 18/90 = 1/5 ✓。公平性不是经验,是可证的定理。

习题

第一章 古典概型:从骰子与牌局说起习题课十一 几何概型与综合

练 11.1 在长 10 cm 的线段上随机取一点,求它落在前 3 cm 内的概率;落在中点 ±1 cm 内的呢?

答:长度比:3/10;2/10 = 1/5。几何概型把「数份数」换成「量长度」。

练 11.2 (会面问题变式)甲乙约定 0–30 分钟内到达,先到者等 10 分钟。求能会面的概率。

答:P = 1 − (202/302) = 1 − 4/9 = 5/9(空白为两个直角边 20 的三角形)。一般公式:P = 1 − ((T−t)/T)2,T 总时长、t 等待时长。

练 11.3 单位圆内随机取弦,「弦长 > √3」的概率为何会有多种答案?出两种生成方式并各算一个。

答:方式一:随机端点在圆周上(得 1/3);方式二:随机中点在圆内(得 1/4);方式三:随机中点在固定直径上(得 1/2)。「随机作弦」语义不唯一——贝特朗悖论。结论:几何概型必须先声明随机机制。

练 11.4 布丰投针取 l = a/2,求相交概率;若掷 1000 次相交约多少次?

答:P = 2·(a/2)/(πa) = 1/π ≈ 0.3183;期望相交次数约 318 次。反过来 π ≈ 1000/318 ≈ 3.145——粗糙但真实。

练 11.5 (综合)从 1–20 中随机取两数(不放回、不计次序)。求:① 两数之和为偶数;② 两数之积能被 5 整除;③ 两数一奇一偶。

答:总数 C202 = 190。① 奇偶各 10:(C102+C102)/190 = 90/190 = 9/19;② 有 5 的倍数 4 个:190 − C162 = 190 − 120 = 70,P = 7/19;③ 10×10/190 = 10/19。注意 ① + ③ = 1(和为偶 ⟺ 同奇偶;一奇一偶 ⟺ 和为奇)——自洽。

习题

第一章 古典概型:从骰子与牌局说起复盘:错题归档与三问自测

一章收官。复盘不是重做,而是归档——把错过的题按「错在哪一层」分进三只抽屉,再回答三个自测问题。

抽屉一 · 舞台错样本空间漏点、重点,或视角选错(有序/无序)。「一正一反 = 1/3」住在这里。
抽屉二 · 等可能错把不等可能的结果当等可能数(「和为 2 与和为 7 一样常见」)。
抽屉三 · 工具错排列组合选错、分类不全、容斥漏扣、对立面未用。

归档操作 翻开做过的练习,每道错题贴一个抽屉标签;同层出现两次以上的错误,回到对应讲义页重走一遍「一步一图」。三问如下,笔作答,不许翻书。

三问之一 抛两枚硬币「一正一反」为什么是 1/2 不是 1/3?两种说法回答:①样本点的;②配对对称的。

答:①四样本点等可能,占两个;②两枚硬币地位对等,「第一枚正」与「第二枚正」镜像对称,各占一半。

三问之二 掷两枚骰子,和为 7 的概率是和为 12 的六倍,为什么?一句话说出机理。

答:和为 7 有六条路(第一枚从 1 到 6 任出),和为 12 只有一条路(6+6)——「路越多越常见」,卷积的直观。

三问之三 生日问题 23 人过半,直觉错在哪里?出一句「修正后的直觉」。

答:直觉数「人」(23),该数「对」(253)——修正版:「机会虽小,对数众多;平方级增长,过半并不稀奇。」

三只抽屉:舞台错 · 等可能错 · 工具错 ① 舞台错 漏点 / 重点 / 视角 药方:重画样本空间 ② 等可能错 把合成结果当样本点 药方:拆到最细等可能层 ③ 工具错 排列组合 / 分类 / 容斥 药方:两法对拍 对应 §1.2–1.3 对应 §1.4 对应 §1.5–1.9
图 1-18 错题归档三抽屉:本章错误几乎全部落在这三层。归档的价值在于定位「再犯的机制」——舞台错重画图,等可能错重拆层,工具错重对拍。

把三问的答案与抽屉标签贴在本页边上,一个月后回看——若三问已能脱口而出,第一章就真正长在身上了。下一章,公理登场。

格物札记

第一章 古典概型:从骰子与牌局说起格物札记① 卡达诺的《机会游戏之书》:一位赌徒兼医生的概率先声〔骰子〕

概率论的第一部系统文本,出自一个极不「数学家」的人之手。吉罗拉莫·卡尔达诺(Girolamo Cardano,1501–1576),米兰的医生、占星家、数学家,也是一名终身的赌徒。他在自传里坦白:赌博是他年轻时赖以为生的手段之一,「每年都有许多小时浪费在赌桌上」。

正是在赌桌上,他做了一件此前无人做过的事:把骰子的每一面平等地数一遍。约 1526 年成书、1663 年才刊行的《机会游戏之书》(Liber de Ludo Aleae)记录了他的核心发现:掷一粒骰子,每个点数的「 circuitus」——机会的循环数——是 6;掷两粒,是 36。他据此算出:掷两粒骰子至少出现一个六的机会是 11/36,比「不是六」少一点。这是有记载以来第一次,有人把「赢面」写成一个精确的分数。

他做对了什么,又错在哪里

对:等可能假设的雏形——「骰子有六面,各面机会相同」被他当作不证自明的起点;组合计数的初步运用;「有利循环数 ÷ 全部循环数」的比值思想,正是 P = |A|/|Ω| 的前身。

错:他把「连续掷三次出六」的概率误认为 3 × (1/6) = 1/2(应为 1 − (5/6)3 ≈ 0.421)——概率可以相加、但事件相并须容斥,这条纪律要等帕斯卡才立起来。错误的形态本身就是线索:「至少一个」必须走对立面,这一章的口诀正是踩着卡尔达诺的坑写下的。

卡尔达诺的一生跌宕:他因给耶稣占星被判异端、儿子早夭、晚年穷困,却留下了《大术》中三次方程的解法与这部赌桌上的小书。概率论诞生在一个赌徒的书桌而非学院的书房里——这个事实提醒我们:一门严肃科学的起点,常常是一个人想把「说不准」变成「算得准」的私人执念。

延伸对读:帕斯卡《思想录》中的「赌注论证」把概率思维用在了信仰上;惠更斯 1657 年的《论赌博中的计算》则是第一部正式出版的概率论教材——把卡尔达诺的零散算术整理成了可传授的方法。〔骰子〕

格物札记

第一章 古典概型:从骰子与牌局说起格物札记② 从六博到骰子:中国古代博戏里的随机观念

随机游戏并非西方特产。中国自先秦起就有成熟的博戏传统:六博(战国至汉代盛行,以十二棋六黑六红、掷采行棋)、樗蒲(晋代流行,五木掷采,卢、雉、犊、白诸采按稀有度定胜负)、唐宋以后的骰子与叶子戏(纸牌前身)。这些游戏的胜负判定,本质上就是在按「采的稀有度」排序——与本章牌型概率「越稀有级别越高」的原则惊人一致。

樗蒲的「采」:一张事实上的概率表

樗蒲用五枚木子(每枚两面),掷出的组合称「采」:王采「卢」(五子同黑,最贵)、次王采「雉」;杂采按出现难度递降。史籍《晋书》《世说新语》记载的采名与等级次序,恰是一张按稀有度排列的组合清单——古人未必算出分数,但「稀有者贵」的排序规则,说明对组合稀有度的经验把握已经相当精细。掷五木共 25 = 32 种等可能组合,「卢」只占 1 种,「雉」占 1 种——与本章 §1.11 牌型表的逻辑完全同构。

更耐人寻味的是占筮。《周易》的大衍筮法用五十根蓍草按固定程序分、挂、揲、扐,最终定出阴阳老少——这是一个确定性的程序生成随机结果的范例,与今天计算机伪随机数的思想同源:用可复现的操作制造不可预测的输出。当然,古人赋予它的是天命解释而非概率解释。

三条中国的随机线索:博采、抓阄、占筮 六博 · 樗蒲 掷采行棋,稀有者贵 五木 32 采 ≈ 组合清单 对应:牌型概率表 抓阄 · 抽签 先后机会均等 「天定次序」的公平感 对应:抽签公平性定理 大衍筮法 确定性程序产随机结果 分挂揲扐,可复现 对应:伪随机数生成 经验丰富而模型未立:中国素材与欧洲概率论的对照,恰是「问题」与「公理」的差距
图 1-19 三条中国线索:博采对应组合稀有度、抓阄对应公平性、筮法对应伪随机。素材齐备而「等可能假设+组合计算」这一步未曾迈出——科学史最耐人寻味的空白之一。

为什么中国没有长出概率论?史家多有讨论:博戏在士大夫文化中地位边缘、缺乏「赌金分配」这类逼出理论的纠纷场景、算法传统重实用而轻「为什么」。这不是为古人惋惜,而是提醒今人:一门科学的诞生,需要问题、动机与工具三者同时到位。本章的骰子与牌局,就是替今天的把「问题与动机」摆上桌。

综合站

第一章 古典概型:从骰子与牌局说起章小结:知识图谱与方法表

一张图收拢全章。从「随机试验」出发,向右搭舞台、立公式,向下磨工具,向右下走进三大应用。

第一章知识图谱:一条主线,两翼工具,三大应用 随机试验 样本空间 Ω 事件(子集) 等可能假设 P = |A| / |Ω| 计数:乘法·排列·组合 推广:几何概型(测度比) 骰子和 · 牌型 · 生日问题 · 布丰投针 验算:两法对拍 · 对称三案
图 1-20 知识图谱:主线(试验→空间→事件→概率公式);左翼是计数工具,右翼是几何推广。三大应用(骰子和、牌型、生日)与两大验证法挂在主干上。
方法何时用一句话要领
数份数有限且等可能有利 ÷ 全部
乘法原理分步、依次步与步相乘,注意依赖
排列 Ank选且有次序连乘到第 k 个位置
组合 Cnk选且无次序排列 ÷ k!
范德蒙德卷积两类来源按来源配额分类求和
对立面「至少一个」1 − P(全不)
对称性镜像结构概率平分,免于硬算
综合站

第一章 古典概型:从骰子与牌局说起思想卡:等可能——古典概率的第一块基石

一张卡,一句话

等可能不是「看起来差不多」,而是一条可以论证的模型假设:只要系统存在把样本点互换成批搬运的对称性,各点机会必然相等。

p.55

本章全部计算都踩在这块基石上,所以值得把它单独端详一遍。等可能的根据是什么?不是「骰子看起来很公平」,而是对称性:正六面体绕过对面中心的旋转把六个面互换,洗牌把 52! 种排列互移,抽签把签筒里的位置随机化——凡有对称,必有机会均等。反过来,凡无对称(灌铅骰子、技术性发牌、被操纵的抽签),等可能失效,本章公式作废。

这条「对称 ⟹ 等可能」的思路有一个高级形态:不必逐点计数,找一个把事件互换成镜像的对换,概率自动平分。例 5 的「甲在乙左」、习题 8.4 的「和分布对称」、习题 6.4 的「至少 2 女与至多 2 女同数」,都是它的战果。会找对称的人,算力翻倍。

等可能的三条边界(务必刻在脑中)

① 需对称背书:没有对称机制的「等可能」是迷信,不是模型。
② 与视角绑定:同一试验,「每枚硬币的正反」等可能,「正面枚数」不等可能——样本空间选错,全盘皆错。
③ 不能外推到无限:几何概型的「等可能」要另行声明随机机制(贝特朗悖论),无限之上没有「数份数」。

下一章预告:当对称性不再可用——明天降雨的概率、下一班公交到来的概率——「等可能」彻底失效,概率必须另立地基。科尔莫戈罗夫的三条公理,就是这块新地基。到那时可以发现,本章的 P = |A|/|Ω| 只是新公理体系下的一个特例——「有限样本点上的均匀测度」。

综合站

第一章 古典概型:从骰子与牌局说起挑战一 生日问题的一般公式与近似推导

任务 ① 推导 n 人中至少两人生日相同的概率公式;② 建立简洁的对数近似;③ 由近似反解出「50% 门槛」的人数,并讨论 365 天与「一年 d 天」的一般情形。

第一步 · 一般公式

设一年 d 天(d = 365),各天等可能。对立事件「互不相同」的概率:

Pdiff(n) = ∏k=0n−1 d−kd = d!(d−n)!·dn

故 P(n) = 1 − Pdiff(n)。注意 n > d 时必有重合(鸽笼原理),公式自动给出 1。

第二步 · 对数近似

对每项用 ln(1−x) = −x − x2/2 − …。一次项贡献 −∑k/d = −n(n−1)/(2d);二次项贡献 −∑k2/(2d2) ≈ −n3/(6d2)。当 n2 ≪ d 时二次项可忽略,得核心近似:

P(n) ≈ 1 − exp(−n(n−1)2d)

误差估计:n = 23, d = 365 时二次项 233/(6·3652) ≈ 0.015,对应相对误差约 1.5%——一次近似在门槛附近已相当准。

第三步 · 反解门槛

令 P(n) = 1/2,即 exp(−n(n−1)/(2d)) = 1/2,取对数:

n(n−1) = 2d ln 2 ⟹ n ≈ 1 + √(1 + 8d ln 2)2 ≈ √(2d ln 2)

代入 d = 365:n ≈ √505.8 ≈ 22.5,故「23 人过半」。一般地,门槛人数约为 1.177√d——它只随 √d 增长,而非线性增长:一年 1000 天,也只需约 37 人。这正是生日问题反直觉的定量根源。

延伸思考 ① 用 d = 366(闰年)重算门槛,观察变化;② 三人生日相同("生日 triplet")的门槛量级是多少?提示:对数近似里 ∑k2 不再可忽略,门槛缩到 d1/3 量级(约 88 人)——有兴趣可读 Diaconis 与 Mosteller 1989 年的经典综述。

综合站

第一章 古典概型:从骰子与牌局说起挑战二 布丰投针的完整证明

任务 完整证明布丰公式:P = 2l/(πa)(针长 l < a,平行线间距 a)。

第一步 · 化简自由度

针的位置由三个量决定:中点横坐标、中点纵坐标、倾角。只有两个量影响相交:① 中点到最近一条平行线的距离 x——因为线族周期为 a,只需考虑 x ∈ [0, a/2];② 针与线的夹角 θ ∈ [0, π/2](针无方向性,取锐角)。中点沿线的位置与「哪条线」都无关紧要。
由「均匀抛掷」的物理意义:x 在 [0, a/2] 均匀、θ 在 [0, π/2] 均匀,且相互独立。样本空间是矩形 0 ≤ x ≤ a/2, 0 ≤ θ ≤ π/2,面积 πa/4。

第二步 · 相交条件

针在竖直方向的投影半长是 (l/2)·sin θ。针触到最近那条线 ⟺ 中点距离不超过投影半长:

x ≤ l2 sin θ

在 (θ, x) 矩形里,这是正弦曲线 x = (l/2)sin θ 下方的一带状区域。

第三步 · 面积之比

相交区域面积(对 θ 积分):

S = ∫π/20 l2 sin θ dθ = l2 [−cosθ]0π/2 = l2

由几何概型(测度比):

P = Sπa/4 = l/2πa/4 = 2lπa ∎

方法论盘点 这道证明示范了三件武器:① 降维——识别真正起作用的自由度(三个量砍成两个);② 独立性——「均匀抛掷」分解为两个均匀量的直角样本空间;③ 测度比——把概率化成面积商。三件武器在第三章(密度函数)将再次以更严格的形态出现:那时 (θ, x) 将被称为「二维随机向量」,S/(πa/4) 将被称为「联合密度在区域上的积分」。

验证题:取 l = a,P = 2/π ≈ 0.6366;用 1000 次模拟应得约 637 次相交——下一页的实验正好检验它。

综合站

第一章 古典概型:从骰子与牌局说起实验:用随机数估计 π——蒙特卡洛第一课

实验目标 亲手完成两次蒙特卡洛估计:① 撒点法估计 π;② 布丰掷针法估计 π,并观察误差随试验次数的衰减。

实验 A · 撒点法

在正方形 [0,1] × [0,1] 内等可能撒 N 个点,统计落入四分之一圆 x2+y2 ≤ 1 的点数 k,则 π ≈ 4k/N。
手算版:用骰子或随机数表生成 20 对两位随机数(各除以 100 归一),数圆内个数,算一次估计——体验误差之大。
程序版:N = 103、104、105 各跑十遍,记录十次估计的平均值与极差。期待看到:平均值越来越准,极差越来越窄,且极差大致按 1/√N 缩小。

实验 B · 掷针法

取 a = 2, l = 1(此时 P = 1/π)。程序模拟:随机生成中点距离 x ~ U(0,1) 与角度 θ ~ U(0, π/2),判断 x ≤ (1/2)sin θ;π ≈ N/k。
对照挑战二的公式做核验:N = 105 时,估计值应在 3.10 ~ 3.18 之间浮动(十次中约八次)。

误差随试验次数的衰减:约按 1/√N 收窄 10-2​ 10-3​ 102​103​104​105​106​ 试验次数 N(对数轴) 误差 ~ 0.3/√N N 每增 100 倍,误差约缩小 10 倍——「精准」要用次数去换
图 1-21 误差衰减:蒙特卡洛的收敛速度只有 O(1/√N),慢得诚实——想要多一位小数,就得多一百倍的试验。这张对数图是「频率稳定于概率」的速度说明书。

记录单 把每次估计写进表格(N、k、估计值、绝对误差),三列表足矣。实验后回答:① 为什么不能指望一次超多次试验就「分毫不差」?② 误差曲线为什么在对数纸上近于直线?第一个问题将在第四章大数定律得到定理化的回答,第二个问题就是 1/√N 本身。

综合站

第一章 古典概型:从骰子与牌局说起章测试与评讲

限时 45 分钟。八道题覆盖本章主干;评讲在每题后给出关键步骤与常见错误。

一(12 分) 掷两枚骰子,求:① 和为奇数;② 至少一枚出 4;③ 两枚点数之和能被 3 整除的概率。

评讲:① 18/36 = 1/2;② 1 − 25/36 = 11/36;③ 和为 3,6,9,12:2+5+4+1 = 12,P = 1/3。常见错误:② 忘走对立面硬数 11 个(易漏 (4,4))。

二(12 分) 从 5 名男生 4 名女生中选 4 人参加夏令营:① 女生恰 2 人;② 某指定的男生必须入选;③ 求所有选法数。

评讲:① C42C52 = 60;② C83 = 56;③ C94 = 126。自查:① + 「女生 0/1/3/4 人」应等于 126。

三(12 分) 六人排成一排:① 甲乙丙三人必须相邻;② 甲不在队首且乙不在队尾。

评讲:① 捆绑 4!·3! = 144;② 容斥(反面):720 − 120 − 120 + 24 = 504。常见错误:② 只减不加(漏「既在首又在尾」的 24)。

四(14 分) 一手五张牌,求「恰有一对」的概率,写出完整计数链。

评讲:13·C42·C123·43 = 1 098 240,P ≈ 0.4226。关键:三张单牌必须点数互异(C123)且各任花色(43)。

五(14 分) 甲机(不放回)与乙机(放回)各含 6 红 4 白,各取 2 次。求两机「恰 1 红」的概率并比较大小,解释原因。

评讲:甲 C61C41/C102 = 24/45 ≈ 0.533;乙 2(0.6)(0.4) = 0.48。不放回更大:袋中构成随抽取自动修正,波动被部分抵消。

六(12 分) 60 人中至少两人生日相同(365 天等可能)的概率约为多少?写出使用的近似与一句机理解释。

评讲:1 − exp(−60·59/730) ≈ 1 − exp(−4.849) ≈ 0.992(精确 0.994)。机理:机会虽小、对数众多(1770 对)。

七(12 分) 长 20 分钟的时段内甲乙随机到达,先到者等 5 分钟。求能会面的概率。

评讲:1 − (15/20)2 = 7/16。几何概型:面积比。常见错误:把「等 5 分钟」当成每人各等 5 分钟的独立事件。

八(12 分) 掷三枚骰子,求「恰有两枚点数相同」的概率。

评讲:选相同点数 6 种 × 选异点 5 种 × 选哪两枚相同 C32 = 3,共 90 个有序样本点,P = 90/216 = 5/12。自查:三枚全同(6)+ 恰两同(90)+ 全不同(120)= 216 ✓。

评讲后的下一步:得分 80 以上,直接进入第二章;60–80,重做错题对应小节;60 以下,从 §1.2 重走「样本空间」——舞台搭不稳,后面的戏都是空的。

第二章

概率的公理化与条件概率

直觉不够用时,公理登场。科尔莫戈罗夫用三条公理为概率奠基;条件概率让「信息」成为数学对象,贝叶斯公式则教会我们从结果反推原因——医学检验的悖论将在此击碎直觉。
页型节奏:讲义×18 → 例题×12 → 习题×12 → 格物札记×2 → 综合站×6
讲义

第二章 概率的公理化与条件概率2.1 导引:当直觉失效——为什么必须公理化〔骰子〕

第一章靠一条朴素的假设——机会均等——算出了骰子的和、纸牌的型、生日的巧合。这条假设很好用,却站得并不稳。本章讲的就是它如何被逼到墙角,最后不得不换上一副更坚固的骨架。

第一次失效:等可能不见了

不是每个骰子都均匀:一颗灌了铅的骰子,「机会均等」立刻失效。布丰投针的样本空间是无穷多个点,连「数份数」都说不出口。古典概型的两根支柱——有限与等可能——同时断了。

第二次失效:直觉本身就是错的

更严重的是人脑也会出错。1654 年,法国骑士德·梅雷(Antoine Gombaud, chevalier de Méré)向帕斯卡提出两个赌局:赌局一——掷一颗骰子 4 次,「至少出一个 6」是否有利可图?赌局二——掷两颗骰子 24 次,「至少出一对双 6」是否有利可图?

骑士的推理是:出 6 的机会是 1/6,掷 4 次就是 4 × 1/6 = 2/3 > 1/2;出双 6 的机会是 1/36,掷 24 次就是 24 × 1/36 = 2/3。两边一样,都稳赚。可他赌了多年,第一个赌局长期小赚,第二个却长期小亏——「比例」相同,结果为何不同?

答案是:概率不可以这样相加。4 次里「至少一次」要走对立面——四次都不出 6 的概率是 (5/6)4,所以

P1 = 1 − (5/6)4 = 6711296 ≈ 0.5177

而 24 次掷双骰,双 6 一次都不出的概率是 (35/36)24:

P2 = 1 − (35/36)24 ≈ 0.4914

一略大于 0.5,一略小于 0.5。骑士多年所输的正是这 0.0086 的差额——根源是「每次独立,须用乘法而非加法」。这两个赌局把帕斯卡与费马引向五封通信,催生了概率论(详见格物札记①)。

德·梅雷的两个赌局:「至少一次」的概率随次数增长 1/2 048 121620 24 投掷次数 n 00.51 ① 单骰出 6:n 次 ② 双骰出对 6:n 次 n=4 时已越过 1/2(0.5177) n=24 时仍未越过(0.4914)
图 2-1 「至少一次」的概率并不随次数线性增长,而是以 1 − (1 − p)n 的形式先快后慢地逼近 1。两条曲线用的是同一套公式,只因为「每次命中率」不同,就越过了不同的门槛——赌徒的线性直觉在这里第二次失效。
讲义

第二章 概率的公理化与条件概率2.2 从频率到公理:概率究竟是什么

在给出定义之前,先答一个朴素的问题:说「这枚硬币出正面的概率是 1/2」,我们究竟在说什么?

频率的定义方式

把试验重复 n 次,其中事件 A 发生了 nA 次,称 fn(A) = nA/n 为这 n 次试验中 A 的频率。经验上 n 越大,频率越会「稳定」下来,趋近某个固定值——这个稳定值就被称为概率。

频率解释的三重困难

①做不到:「n → ∞」是理想极限,没人能把硬币抛无穷次。
②说不清:「频率必会收敛」这条待证命题(大数定律)本身要先有概率才能陈述,逻辑上绕成了环(第四章拆开这个环)。
③用不上:「明天降水的概率是 0.7」——明天只有一次,重复试验从何而来?

人们至少发展出了三种对概率的「解释」:

概率的三种解释

①古典解释:概率=有利等可能样本点 ÷ 全体等可能样本点(要求有限且等可能,即第一章)。
②频率解释:概率=长程频率的稳定值(要求可重复,是客观世界的属性)。
③主观解释(贝叶斯):概率=个人对某命题为真的信念度,随证据更新。

三派吵了三百年,谁也没能吃掉谁。但奇妙的是——三派都同意同一套运算规则。与其争论概率「是什么」,不如把公认的算法抽出来,立为公理。这个动作由三十岁的苏联数学家科尔莫戈罗夫在 1933 年完成:他只回答「概率必须满足什么」,不回答「概率是什么」。

三种解释,一套公理 古典概率 有限、等可能 频率概率 可重复、长程稳定 主观概率 信念度、随证据更新 共同地基:三条公理(科尔莫戈罗夫,1933) 「不回答概率是什么,只回答概率必须满足什么」——学科的第一次奠基
图 2-2 概率论的公理化:三派「解释」悬置不论,共同遵守同一套运算律。地基一旦砌好,塔身便不再摇晃。
讲义

第二章 概率的公理化与条件概率2.3 概率的公理化定义:科尔莫戈罗夫三公理

要写公理,先得说清公理管的是什么:事件的全家福,和概率这把尺子。

样本空间与事件域

随机试验的全部可能结果构成集合 Ω(样本空间)。我们关心的那些「可由结果判定是否发生」的集合(事件)放在一起,记作 ℱ,称为事件域,它满足:① Ω ∈ ℱ;② 若 A ∈ ℱ,则 A̅ ∈ ℱ;③ 若 A1, A2, … ∈ ℱ,则 A1 ∪ A2 ∪ … ∈ ℱ。

三条合起来意味着事件域对「并、交、对立」封闭——能用语言造出的事件,它都在列。有限样本空间里把 Ω 的一切子集都放进去即可。

概率的公理化定义(科尔莫戈罗夫三公理)

设 P 是定义在事件域 ℱ 上的实值函数,若满足

公理 1(非负性) 对任意 A ∈ ℱ,P(A) ≥ 0;
公理 2(规范性) P(Ω) = 1;
公理 3(可列可加性) 若 A1, A2, … 两两互斥,则

P(A1 ∪ A2 ∪ … ) = P(A1) + P(A2) + …

则称 P 为 (Ω, ℱ) 上的概率,三元组 (Ω, ℱ, P) 称为概率空间。三条公理可以说人话:不欠账(不为负)、账目守恒(全体份额为 1)、分堆累加(互不重叠的堆可相加)——都是日常算账的常识,正因是常识,才配当公理。

公理 3 为什么说「可列」而不说「有限」?若只允许有限加法,「抛硬币直到首次正面」这类样本空间为 {1, 2, 3, …} 的试验就被排除在外。放宽到可列多个,一举把离散与连续两类概率收进同一框架——这条技术性选择的回报极大。

概率:把集合数的不是个数,而是「份额」 事件域 ℱ(集合) A1​ 「出 6」 A2​ 「出偶数」 A3​ 「点数 > 4」 A1​∩A2​ … A1​∪A3​ … Ω(全体) ∅(空集) 实数轴(份额) P(A1​) = 1/6 P(A2​) = 1/2 P(A3​) = 1/3 P(Ω) = 1  P(∅) = 0 P 概率 = 集合的「测度」:越大的事件,份额越多;全体恰好分完 1
图 2-3 概率函数 P 的几何形象:左边是事件的家族,右边是实数轴上 [0, 1] 区间。公理说的是这把尺子的三条基本规矩。有了尺子,「两块地皮一共占多少」这类问题才能脱离「数格子」而独立运算。
讲义

第二章 概率的公理化与条件概率2.4 概率的基本性质:单调性、有限可加与减法公式

公理只有三条,能推出来的性质却有一大串。下面这一组使用频率最高。

性质 1(不可能事件与有限可加) P(∅) = 0;若 A1, …, An 两两互斥,则 P(A1 ∪ … ∪ An) = ∑iP(Ai)。

证 在 A1=Ω, A2=A3=…=∅ 上用公理 3 得 1 = 1 + P(∅) + P(∅) + …,故 P(∅) = 0;有限可加则在公理 3 的序列里补上无穷多个 ∅ 再抹掉。∎

性质 2(对立事件) P(A̅) = 1 − P(A),特别地 P(A) ≤ 1。 证 A 与 A̅ 互斥且并为 Ω,用有限可加性与规范性即得。∎

性质 3(单调性) 若 A ⊆ B,则 P(A) ≤ P(B)。

证 减法公式 P(B − A) = P(B) − P(A ∩ B)(A ⊆ B 时即 P(B) − P(A))。把 B 拆成互斥两块 (B−A) ∪ (A∩B),移项即得;再由非负性得单调性。∎

事件的「包含」对应概率的「大小」——这把集合与数轴串了起来,是本册反复使用的转换器。

性质 4(加法公式) P(A ∪ B) = P(A) + P(B) − P(A ∩ B)。

证 把 A ∪ B 拆成互斥三块 (A−B) ∪ (A∩B) ∪ (B−A),各自用减法公式代回即得。∎

只有 A 与 B 互斥(P(A ∩ B) = 0)时,才有最简的「概率直接相加」。

数值演练

设 P(A) = 0.7, P(B) = 0.4, P(A ∪ B) = 0.8。依次求:① P(A ∩ B) = 0.7 + 0.4 − 0.8 = 0.3(加法公式反用);② P(A − B) = 0.4,P(B − A) = 0.1;③ P(A̅ ∩ B̅) = 1 − P(A ∪ B) = 0.2(德摩根+对立)。

自洽检验:四块互斥分区 (A−B), (B−A), (A∩B), (A∪B)̅ 的概率之和应为 0.4 + 0.1 + 0.3 + 0.2 = 1 ✓。这类「分区求和等于 1」的验算,是概率题的标配收尾。

两事件把样本空间切成四块 A B A−B A∩B B−A (A∪B)̅ P(A∪B) = P(A)+P(B)−P(A∩B) P(A−B) = P(A) − P(A∩B) P(A∩B) 被数了两次 ⟹ 扣回来一次 P((A∪B)̅) = 1 − P(A∪B) 四块之和恒为 1 一切概率公式,都是这四块区域的加减账
图 2-4 加法公式与减法公式的几何账本:左边的圆把样本空间切成了四块互不相交的区域,右边每一行公式都是这四块的一次加减法。想不清公式时,回到这张图上数区域,比背公式可靠。
讲义

第二章 概率的公理化与条件概率2.5 容斥原理:加法公式的推广

两个事件的并要扣掉重叠,三个、四个、n 个呢?答案是一个漂亮的交替和——容斥原理。

容斥原理(三事件版与一般式)

P(A∪B∪C) = P(A)+P(B)+P(C) − P(A∩B) − P(A∩C) − P(B∩C) + P(A∩B∩C)

记 S1 = ∑iP(Ai)、S2 = ∑i<jP(Ai∩Aj)、…,则一般式

P(A1∪…∪An) = S1 − S2 + S3 − … + (−1)n+1Sn

证 逐点计数。任一 ω 若恰属于 k 个事件,它在右端被「单」数 k 次、被「双」数 Ck2 次、被「三」数 Ck3 次,合计 Ck1 − Ck2 + Ck3 = 1——不多不少恰一次。∎

「容」是多算的加回来,「斥」是重复的扣掉去。首项 +、第二项 −、第三项 +……符号交替,这是最容易写错的地方。

数值演练:24 等分的样本空间

设 |Ω| = 24 且样本点等可能,|A| = 12, |B| = 8, |C| = 6,|A∩B| = 4, |A∩C| = 3, |B∩C| = 2, |A∩B∩C| = 1。代入三事件容斥得 |A∪B∪C| = 12+8+6−4−3−2+1 = 18,故 P = 18/24 = 3/4。

换成区域的眼光:七个非空区域依次是 |仅A| = 6, |仅B| = 3, |仅C| = 2, |AB| = 3, |AC| = 2, |BC| = 1, |ABC| = 1,求和 6+3+2+3+2+1+1 = 18 ✓——两种算法殊途同归。七个区域的清点是容斥最可靠的验算手段。

由容斥派生的三条常用公式:恰发生一个=S1 − 2S2 + 3S3;至少发生一个=交替和本身,「一个都不发生」=1 − P(A∪B∪C);恰好发生两个=2S2 − 3S3。有了它们,「恰好 k 个」就不必逐区域清点了。

三事件把样本空间切成七块:容斥就是在数它们 A B C 仅 A 仅 B 仅 C AB AC BC ABC + 单层:3 块被数 1 次 − 双层:3 块各被数 2 次,扣 1 + 三层:1 块被数 3 次,补回 1 逐点考察:每点恰好被数 1 次 符号必须 + − + 交替 三事件即 7 块,n 事件即 2n​ − 1 块 「容」是加回来,「斥」是扣掉去——一张一弛,各归
图 2-5 容斥原理的七分区图:三个圆把样本空间切成七块。公式的每一项对应一层区域的加减,逐点检查「被数几次」,正好把每一块都归为 1 次。
讲义

第二章 概率的公理化与条件概率2.6 条件概率:信息改变世界

掷两粒骰子,样本空间有 36 个等可能点。问「第一粒是 3 点」的概率——6/36 = 1/6。不难。但若有人先说明:「两粒之和是 8」呢?

这一句提示把可能性从 36 个砍到了 5 个——(2,6), (3,5), (4,4), (5,3), (6,2)。其中第一粒是 3 点的只有 (3,5) 一个。于是概率从 1/6 变成了 1/5。信息改变了概率——这就是条件概率的全部意思。

条件概率的定义

设 A, B 是两事件,P(B) > 0。在「B 已发生」的条件下 A 发生的条件概率定义为

P(A|B) = P(A∩B)P(B)

分子是「A 与 B 同时发生」的概率,分母是「条件」本身的概率。分母绝不能是 0——「在不可能发生的条件下」谈条件概率没有意义。

两种算法,一个答案

上例按定义算:B=「和为 8」,P(B) = 5/36;A∩B={(3,5)},P(A∩B) = 1/36。于是 P(A|B) = (1/36)/(5/36) = 1/5,与「数缩小后的样本空间」完全一致。条件句就是新样本空间——在 B 内部重新做一次等可能计数。

性质:条件概率也是一把合法的概率尺

固定 B,令 PB(A) = P(A|B),则 PB 满足三条公理:非负性显然;PB(Ω) = P(Ω∩B)/P(B) = 1;对互斥序列,分子分母的可加性同时成立,故可列可加。

推论:§2.4 的一切性质(减法公式、加法公式、容斥)在条件概率下全部照旧,只需把每个 P 换成 P(·|B)——这一条省下了大量重复劳动。

条件概率:把舞台缩小到 B 之内重新计数 原来:|Ω| = 36,等可能 A B P(A) = 6/36 = 1/6 已知 B 缩小后:B 之内 5 个点 B A∩B P(A|B) = 1/5 (分母换成了 B) 同一句「第一粒是 3」,在两条信息下有两个答案
图 2-6 条件概率的几何意义:整块样本空间被「已知 B」这句话裁成了 B 一小块,原来算 6/36,现在改算「B 里占几分」——分母换了,概率就变了。

直觉在条件概率上翻车的次数,比在任何其他地方都多:一副 52 张牌已知是红色,它是红心的概率是 (13/52)/(26/52) = 1/2,但「已知花色是红心,它是红色的概率」却是 1。§2.9 的医学检验悖论就是重灾区。

讲义

第二章 概率的公理化与条件概率2.7 乘法公式:概率的链式分解

条件概率的定义式稍作移项,就得到一个把「同时发生」拆成「一步步发生」的工具。

乘法公式

若 P(B) > 0,则 P(A∩B) = P(B)·P(A|B);一般地,若 P(A1∩…∩An−1) > 0,则

P(A1∩…∩An) = P(A1)·P(A2|A1)·P(A3|A1∩A2)·…·P(An|A1∩…∩An−1)

一句话:把「同时」翻译成「依次」。每走一步,条件里就多记住一步已经发生的事实。

例:连续抽两张都是 A

一副牌不放回地抽两张。记 A1=第一张是 A,A2=第二张是 A。第一步:52 张里 4 张 A,P(A1) = 4/52;第二步:已知第一张已是 A(剩 51 张、A 剩 3 张),P(A2|A1) = 3/51。相乘:

P(A1∩A2) = 452 × 351 = 1221 ≈ 0.004525

连抽三张都是 A,再乘一步 2/50,得 1/5525 ≈ 1.81 × 10−4。若改为有放回,条件概率退回无条件概率(第二步仍是 4/52),两张都是 A 变为 (4/52)2 = 1/169,比不放回的 1/221 略大——放回时事件独立,「第一张抽走了一张 A」这条信息不会压低第二次的机会。

再看一例:某射手命中率 0.8,但「第一次命中后手感更好,第二次升到 0.9;若前两次都中,第三次升到 0.95」,则三发全中的概率是 0.8 × 0.9 × 0.95 = 0.684。这里的条件概率不是原始命中率——「手感」正是一种信息依赖。当概率随历史改变时,乘法公式是唯一的正确通道。

乘法公式=沿路径连乘 起 P(A1​) = 4/52 P(A2​|A1​) = 3/51 P(A2​̅|A1​) = 48/51 P(A3​|A1​A2​) = 2/50 … 红路 = P(A1​∩A2​∩A3​) = 4/52 × 3/51 × 2/50 每一步的分母都因「已知前面已发生」而被改写 全树所有路径之和 = 1(样本空间的一次完整划分) 「同时」就是「沿一条路径走到底」——乘法公式的树形读法
图 2-7 乘法公式的树形图:每一个分支上的概率都是「在这条路径已有条件下的条件概率」。求「同时发生」就是沿一条路径把各段概率连乘;求「任一发生」则把若干条路径的乘积相加——这就是下一节的伏笔。
讲义

第二章 概率的公理化与条件概率2.8 全概率公式:分而治之的策略

乘法公式把「同时」拆成路径,把许多条路径相加,就得到了全概率公式。它不是新知识,而是「树图求和」的正式写法。

完备事件组(划分)

若 B1, …, Bn 两两互斥,且 B1 ∪ … ∪ Bn = Ω,就称它们为一个完备事件组(Ω 的一个划分)。意思是:不管发生什么,恰好落进其中一族。

全概率公式

设 B1, …, Bn 为一个完备事件组,P(Bi) > 0,则对任意事件 A:

P(A) = ∑i=1n P(Bi)·P(A|Bi)

证 把 A 按划分切片:A = (A∩B1) ∪ … ∪ (A∩Bn),各片互斥,故 P(A) = ∑iP(A∩Bi),再对每片用乘法公式即得。∎

一句话记住它:要算一件难算的事,先按某种自然的类别把它切开,再分别计算,最后加总。这是军事上的「分进合击」,也是工程上的「分而治之」。

例:两车间的次品率

某厂甲车间产量占 60%,次品率 2%;乙车间占 40%,次品率 5%。求全场产品的次品率。划分取「哪条生产线生产」:B甲、B乙。

P(次品) = 0.6 × 0.02 + 0.4 × 0.05 = 0.012 + 0.020 = 0.032

即全厂次品率 3.2%——它不是两个次品率的算术平均 3.5%,而是按产量加权的平均。这是全概率公式最要紧的直观:权重就是划分各族的概率。凡忽略权重、「取个平均」的算法,都是这一节的反面教材。

顺带一问:已知抽到一件次品,它更可能来自哪个车间?(甲贡献 0.012、乙贡献 0.020。)答案要等下一节的贝叶斯公式正式给出。另一例可自行验证:袋中 3 白 2 黑不放回取两只,按第一只的颜色划分得 P(第二白) = (3/5)(2/4) + (2/5)(3/4) = 3/5——与「第一只是白」相同,这正是抽签公平性(§1.6)在条件概率语言下的重新表达。

全概率公式:把 A 按划分 B1​…Bn​ 切片再相加 B1​B2​B3​⋮ A∩B1​A∩B2​A∩B3​ A 被切成互斥的几片,各片落在不同 Bi​ 里 P(A∩B1​) = P(B1​)·P(A|B1​) P(A∩B2​) = P(B2​)·P(A|B2​) P(A∩B3​) = P(B3​)·P(A|B3​) ↓ 逐片相加(互斥) P(A) = Σ P(Bi​)·P(A|Bi​) 「分而治之」:切得开、算得清、加得回
图 2-8 全概率公式的几何读法:先按划分把 A 切成互斥的小片,每片都是一次乘法;再把所有小片加回来。三步——切、算、加——就是全概率公式的全部操作流程。
讲义

第二章 概率的公理化与条件概率2.9 贝叶斯公式:从结果推断原因

全概率公式回答「由因推果」:知道了每个原因的概率和它的后果,算总体的后果。可现实中的问题常常是反的——看到了结果,要反过来问是哪个原因造成的。贝叶斯公式就是那条回头路。

贝叶斯公式

设 B1, …, Bn 为完备事件组,P(Bi) > 0,P(A) > 0,则

P(Bk|A) = P(Bk)·P(A|Bk)∑i P(Bi)·P(A|Bi)

证 分子用乘法公式,分母用全概率公式,两边一除即得。∎

分子是「Bk 这条路径」的贡献,分母是「所有路径」的总和。算法极简单:先算每条路径的乘积,再看某条路径占总和的几分。

三个名字:先验、似然、后验

先验概率 P(Bk):看到证据之前对它的判断;似然 P(A|Bk):假如原因确实是它,出现这个证据的可能性;后验概率 P(Bk|A):看到证据之后的修正判断。贝叶斯公式就是一份「先验 × 似然 →(归一化)→ 后验」的更新配方,§2.17 会看到整个机器学习里的贝叶斯推理都长这个样子。

例:两车间的次品来自哪里(续 §2.8)

已知 P(次品) = 0.032,现在取到一件次品,问它来自乙车间的概率:

P(B乙|次品) = 0.4 × 0.050.032 = 0.0200.032 = 0.625

乙车间产量只占 40%,却贡献了 62.5% 的次品——因为它次品率高得多。产量占比与责任占比是两回事,这是贝叶斯公式要告诉我们的第一件事。

例:医学检验的悖论(先摆出数字)

某罕见病患病率为 0.1%。一种检验:患病者中 99% 呈阳性(灵敏度 99%);未患病者中 5% 也呈阳性(假阳性率 5%)。某人检验为阳性,他真的患病的概率是多少?记 D=患病,+=阳性,两条路径的贡献是 P(D)·P(+|D) = 0.001 × 0.99 = 0.00099 与 P(D̅)·P(+|D̅) = 0.999 × 0.05 = 0.04995,相加得 P(+) = 0.05094。于是

P(D|+) = 0.000990.05094 = 11566 ≈ 0.0194

约 1.94%,不到 2%。这不是检验不准,而是基数太小——1000 个人里只有 1 个真病人,却会有约 50 个健康人因 5% 的假阳性被误报。下一节专门拆解这个直觉陷阱。

贝叶斯公式:从「结果」回到「原因」 原因(先验) 证据(似然) 反推(后验) D 0.001 D̅ 0.999 0.99 0.05 + 0.05094 P(D|+) = 0.00099 / 0.05094 ≈ 1.94% P(D̅|+) = 0.04995 / 0.05094 ≈ 98.06% 分母把两条路径「汇总」;比较两条路径的贡献,就是贝叶斯
图 2-9 贝叶斯公式的路径图:左边是两条「原因」,中间是各自的似然,右边合成同一个证据。反推时只需比较两条路径的贡献在总和里各占几分——注意与患病那条路径相比,健康假阳性那条路径长出 50 倍,这正是悖论的算术根源。
讲义

第二章 概率的公理化与条件概率2.10 贝叶斯与直觉:医学检验的悖论〔直觉⇄理论〕

上一节算出一个 1.94%,与「阳性了、病想必跑不掉」的感觉差了五十倍。这一节不讲新公式,只做一件事:把直觉的错法摊开来看。

直觉的错法

大多数人的第一反应是:灵敏度 99%,那就是 99% 呗。这个推理把两件方向相反的事混为一谈:检验问的是「有病的人里有多少会呈阳性」——P(+|D);我们想知道的是「呈阳性的人里有多少真的有病」——P(D|+)。这两个概率一般并不相等。贝叶斯公式的全部意义,就是在这两个方向之间架一座桥;而桥的宽窄取决于「先验」有多大。

千人格:把数字摆到地上数一遍

假设有 1000 个人做这项检验。① 患病率 0.1% ⟹ 真有病 1000 × 0.001 = 1 个,健康 999 个。② 那个病人有 99% 概率被检出 ⟹ 约 1 个真阳性。③ 999 个健康人里 5% 会误报 ⟹ 999 × 0.05 ≈ 50 个假阳性。

于是呈阳性者约 1 + 50 = 51 个,其中真病人只有 1 个:P(D|+) ≈ 151 ≈ 0.0196,与公式算出的 1.94% 一致。悖论不玄——健康人太多,5% 的误报率乘上去就是 50 个人的洪流,把 1 个真病人彻底淹没。

「千人格」是拆解一切贝叶斯直觉题的第一利器:不看公式,先编 1000 个具体的人,一格一格填数字,填完答案自己就跳出来了。

千人格:1000 人做检验,阳性里真病人只占 1 个 1 人:真患病(先验 0.1%) 50 人:健康但假阳性(5% × 999) 949 人:健康且阴性 阳性共 51 人,其中真病人 1 个 P(D|+) = 1/51 ≈ 1.96% (公式精确值 1.94%,千人格为取整后的近似) 假阳性的「洪流」 1 个真阳性 50 个蓝色 = 分母的主力 基数小 ⟹ 假阳性会「反客为主」 同一份「灵敏度 99%」,在罕见病里几乎什么都证明不了
图 2-10 千人格:把 1000 个人排成格子,一格一格地填「患病/健康」与「阳性/阴性」。右边那 50 个蓝格就是悖论的全部来源。任何贝叶斯直觉题,画一遍千人格,答案就会自己浮出来。

换个人群,结论立刻反转

把同一项检验用在高危人群身上(有家族史、有症状者就诊),患病率设为 30%:

P(D|+) = 0.3 × 0.990.3 × 0.99 + 0.7 × 0.05 = 0.2970.332 ≈ 0.8946

接近 90%!同一个检验、同一个阳性结果,在不同人群里的意义可以差 46 倍。这就是为什么医生不会对所有人做筛查,只对有指征的人做——先验不同,同一份证据的价值就不同。

阳性预测值随患病率上升(灵敏度 99%、特异度 95%) 00.10.20.30.4 00.51 患病率(先验) 0.001 → 1.94% 0.01 → 16.7% 0.10 → 68.8% 0.30 → 89.5% 同一条曲线,左边是「罕见病筛查」,右边是「高危人群确诊」
图 2-11 阳性预测值 P(D|+) 随先验患病率变化:先验越低,检验越「不管用」;先验越高,同一份证据越有分量。这条曲线是贝叶斯公式最实用的一张速查图,也是「筛查」与「确诊」两种医学决策的分水岭。
讲义

第二章 概率的公理化与条件概率2.11 事件的独立性:互不影响的确切含义

「两枚硬币的正反面互不影响」——这句话我们已称无数遍。现在要把它翻译成一句可以计算的等式。

独立性的定义

设 A, B 是两事件,若 P(A∩B) = P(A)·P(B),则称 A 与 B相互独立。

全部定义只有一行:交集的概率等于概率的乘积——「同时发生」的可能性恰好是「各自发生」可能性的乘积。

独立性的等价说法

设 P(A) > 0, P(B) > 0,则以下等价:① P(A∩B) = P(A)P(B);② P(A|B) = P(A)(知道 B 发生毫不改变 A 的概率);③ P(B|A) = P(B);④ A、B 独立 ⟺ A̅ 与 B 独立 ⟺ A 与 B̅ 独立 ⟺ A̅ 与 B̅ 独立。

② 是「互不影响」的字面翻译,但它只对概率水平有意义:独立不是说事件之间没有因果联系,只是说在概率上「互不给对方情报」。第 ④ 条很实用:验证独立时,用 A̅ 往往比用 A 更方便。

例:判定独立

掷两枚均匀硬币,A=第一枚为正面,B=第二枚为正面。P(A) = P(B) = 1/2,P(A∩B) = 1/4 = (1/2)(1/2),故独立。

反例:掷一枚骰子,A=出偶数,B=出 3 的倍数。P(A) = 1/2, P(B) = 1/3,P(A∩B) = P({6}) = 1/6 = (1/2)(1/3)——它们也独立!直觉上会以为「3 的倍数」与「偶数」有关系,其实在骰子这一个样本空间上概率恰好处处吻合。

这提醒我们:独立性是算出来的,不是看出来的。凡是「看上去有联系」就断言不独立、「看上去没关系」就断言独立,都会出错。要么用定义验算,要么用实际背景论证。

独立:交集面积恰等于两边面积之积 A B 一般情形:交集是多少?看不出 独立情形:可换算成「面积 × 面积」 P(B) P(A) 交集占比 P(A)·P(B) 子区域占 A 的比例 =占 B 的比例 两者「互不给情报」 独立性的两种读法:乘法等式,或「条件概率不变」
图 2-12 独立性的两层意思:左图是一般情形,交集大小无从预判;右图把「独立」画成矩形——只有当交集恰好占 A 的比例等于 B 在全空间的比例时,两者才「互不给情报」。

独立性的实战用法

① 求「多个都发生」:P(A1∩…∩An) = P(A1)…P(An)——乘法公式的独立简化版。

② 求「至少一个发生」:P(A1∪…∪An) = 1 − P(A1̅)…P(An̅)——先用德摩根转成「全不发生」,再用独立变乘法。这是全书出现频率最高的组合拳。③ 系统可靠性、连续命中、多次试验,凡「各元件/各次试验互不影响」的场合都在用它。

讲义

第二章 概率的公理化与条件概率2.12 独立与互斥:一对极易混淆的概念

「互斥」与「独立」都有「没有关系」的意味,于是成了概率论里最著名的一对「假朋友」。其实在概率轴上,它们指向的方向恰好相反。

互斥 vs 独立:定义与后果对照

互斥:A∩B = ∅,即 P(A∩B) = 0;后果 P(A∪B) = P(A) + P(B)(可直接相加)。
独立:P(A∩B) = P(A)P(B);后果 P(A∪B) = P(A) + P(B) − P(A)P(B)。

它们说的是两件完全不同的事:互斥管的是能不能同时发生,独立管的是一方发生会不会影响另一方的概率。

关键结论:两非零概率事件不可能既互斥又独立

若 A, B 互斥且 P(A) > 0, P(B) > 0,则 P(A∩B) = 0;若又要独立,则 0 = P(A)P(B) > 0,矛盾。更直观的说法:两个都能发生的事件,若知道其中一个发生了,另一个就更不可能发生(空间被占了)——P(B|A) = 0 ≠ P(B)。互斥是「极端的负相关」。

「互斥」的英文是 mutually exclusive,「独立」是 independent。记住这一层,就不会再把它们混为一谈。

数值对照(P(A) = P(B) = 1/2)

互斥时:P(A∩B) = 0,P(A∪B) = 1/2 + 1/2 = 1(必居其一,如掷硬币的正与反)。独立时:P(A∩B) = 1/4,P(A∪B) = 3/4(允许都不发生,如两枚硬币都出正面)。

同样是两个概率为 1/2 的事件,一个给出的并是 1,另一个是 3/4——差别全在「交集有多大」。

完整谱系:P(A∩B) 的取值范围是 [max(0, P(A)+P(B)−1), min(P(A), P(B))]。左端点=互斥(尽可能不重叠),右端点=包含(一个吞掉另一个),独立时=P(A)P(B) 落在区间之内。互斥与包含是交集的两个极端,独立不是极端,而是一条特别的分割线。

互斥与独立:交集的两个极端方向 A B 互斥:交集 = 0 P(A∪B) = P(A)+P(B) A B A∩B 独立:交集 = 乘积 P(A∩B) = P(A)·P(B) A B 包含:交集 = P(A) A ⊆ B ⟹ P(A) ≤ P(B) 交集最小 交集最大 独立(恰在中间某处)
图 2-13 两事件关系的完整谱系:交集的大小从左到右递增,最左是互斥(交集为 0),最右是包含(交集等于较小者),独立则落在中间的某个特定位置。互斥与独立并不相邻,而是相距最远。

两类错误的典型句法

❌「甲、乙命中率各为 0.8、0.7,所以至少一人命中率 0.8 + 0.7 = 1.5」——把独立当互斥。✓ 正确:P(至少一人命中) = 1 − 0.2 × 0.3 = 0.94。

❌「互斥的两事件概率可以相乘」——互斥之间交集为空,乘积无意义。✓ 正确:互斥 ⟹ P(A∩B) = 0。

自查口诀:看到「或」先想是否互斥(能不能相加);看到「都」先想是否独立(能不能相乘)。两个问题各问各的,不要串台。

讲义

第二章 概率的公理化与条件概率2.13 多个事件的独立性:两两独立未必相互独立

两个事件说清了,三个、四个呢?这里有一个反直觉的陷阱:「每两个都独立」不足以保证「整体独立」。

三个事件相互独立的定义

称 A, B, C 相互独立,若下列等式同时成立:

P(A∩B) = P(A)P(B)、P(A∩C) = P(A)P(C)、P(B∩C) = P(B)P(C)、P(A∩B∩C) = P(A)P(B)P(C)

前三式成立时称它们两两独立;第四式是两两独立之外额外的一条要求。n 个事件相互独立,需要 2n − n − 1 个乘法等式成立(n = 3 时即 4 个)——要求是「指数级」的多。

重要:两两独立 ⟹ 相互独立(不成立)

取 Ω = {ω1, ω2, ω3, ω4},4 点等可能(各 1/4)。令 A = {ω1, ω2},B = {ω1, ω3},C = {ω1, ω4},则 P(A) = P(B) = P(C) = 1/2,且任意两个的交集都恰是 {ω1},概率 1/4 = (1/2)(1/2)——两两独立成立。

但三者之交 A∩B∩C = {ω1},概率仍是 1/4,而 P(A)P(B)P(C) = 1/8:

14 ≠ 18 ⟹ 不相互独立

病灶在哪:三个事件都「挤」在同一个样本点 ω1 上。两两看时各分掉一半,看不出毛病;三件同时看时,ω1 就成了它们唯一的公共交点——份额被重复占用了。

更贴近直觉的反例:两枚硬币

抛两枚均匀硬币,记 A=第一枚为正面,B=第二枚为正面,C=两枚结果相同。样本空间 4 个等可能点,C = {正正, 反反}。两两独立:P(A∩B) = 1/4 = P(A)P(B) ✓,P(A∩C) = P({正正}) = 1/4 = P(A)P(C) ✓,P(B∩C) = 1/4 ✓。

三者之交:A∩B∩C = {正正},概率 1/4;而 P(A)P(B)P(C) = 1/8 ✗。直观解释:「知道了 A(第一枚正)与 B(第二枚正)都是真的,那 C(两枚相同)就必然发生了」——所以 C 与 (A, B) 整体上绝不可能独立。

独立性的实用推论

① 若 A1, …, An 相互独立,则对其中任意 k 个也相互独立,且把它们逐个换成对立事件 Ai̅ 后仍相互独立(但「两两独立」不具备这条可继承性)。

② 实际问题中判定独立,通常不是靠验算式,而是靠背景:「各次试验互不影响」是模型设定,「各元件互不牵连」是设计假设——先由实际背景认定独立,再由独立性推出乘法等式。这也是 §2.14 能直接使用 P(A1…An) = pn 的原因。

四点反例:两两独立,却不相互独立 ω2​ω1​ ω3​ω4​ 每点 1/4 A = {ω1​, ω2​} B = {ω1​, ω3​} C = {ω1​, ω4​} A∩B = A∩C = B∩C = {ω1​} P = 1/4 = 1/2 × 1/2 ✓ 两两独立 A∩B∩C = {ω1​} P = 1/4 ≠ 1/8 = P(A)P(B)P(C) 三者「挤」在同一角 相互独立必须逐条验算 2n​ − n − 1 个等式,「两两」不足以替代「相互」
图 2-14 两两独立 ≠ 相互独立:把 4 个等可能点摆成 2×2 的方格,三个事件各取一对角点与底点,两两交集恰好都只是 ω1——乘积关系在两两层面成立,在整体层面失效。这张图是反例库的「最小模型」。
讲义

第二章 概率的公理化与条件概率2.14 伯努利试验与二项分布初步

概率论里最简单、也最有用的模型,是把一次试验压缩成两个结果:成功或失败。抛硬币、检验合格与否、射击中与不中、点击广告与不点击——无数现实问题都被压成这一枚「硬币」。

伯努利试验与二项分布

只有两个可能结果的试验称为伯努利试验:成功(概率 p)与失败(概率 1 − p)。把同一试验独立重复 n 次,称为 n 重伯努利试验——「独立」与「同一 p」是它的两个要件。记 X 为 n 次试验中成功的次数,则 X 的分布称为二项分布,记作 X ~ B(n, p)。第三章会用整章篇幅解剖它,这里先把它推出来。

二项概率公式(推导)

求「恰有 k 次成功」(0 ≤ k ≤ n)的概率。第一步(选位置):n 次中哪 k 次成功?共 Cnk 种选法,每种互斥。第二步(算概率):任何一种指定的成功/失败排列,其概率由独立性连乘而得 pk(1 − p)n−k。第三步(相加):Cnk 种排列概率相同,故

P(X = k) = Cnk pk(1 − p)n−k, k = 0, 1, …, n

三板斧——选位置、算一种、乘起来——是二项公式的全部来历,也是所有「独立重复」问题的通用套路。

例:射击 5 次,命中率 0.8

各次独立,求恰命中 k 次的概率(k = 0, …, 5):

P(X=0) = 0.25 = 0.00032  P(X=1) = 5·0.8·0.24 = 0.0064  P(X=2) = 10·0.82·0.23 = 0.0512

P(X=3) = 10·0.83·0.22 = 0.2048  P(X=4) = 5·0.84·0.2 = 0.4096  P(X=5) = 0.85 = 0.32768

六项之和 = 1 ✓。最可能的结果是 4 中(0.4096),不是 5 中——虽然单次命中率高达 0.8,「五发全中」仍只有约三分之一的机会。这就是 0.85 容易被高估的原因:乘法惩罚高次幂。

回到德·梅雷:两个赌局都是「至少一次」的伯努利问题——n = 4, p = 1/6 得 1 − (5/6)4 ≈ 0.5177;n = 24, p = 1/36 得 1 − (35/36)24 ≈ 0.4914。骑士的线性直觉假设「概率正比于次数」,而真实公式是 1 − (1 − p)n——一条先快后慢的曲线。用 n 乘 p 只在 p 极小时才勉强近似,而 1/6 与 1/36 都不够小。

n = 5、p = 0.8 的二项概率柱:峰在 4,不在 5 0.0003 0.0064 0.0512 0.2048 0.4096 0.3277 012 345 命中次数 k 0.3277 六项之和恒为 1 p=0.8 的乘法惩罚
图 2-15 二项分布 B(5, 0.8) 的概率柱:从 k = 0 到 k = 5,每柱高度是「恰中 k 次」的概率。注意峰在 4 而非 5——「单次很准」不等于「次次都准」,这是二项分布给直觉的第一次修正(第三章会给出峰的位置 (n+1)p 的规律)。
讲义

第二章 概率的公理化与条件概率2.15 系统的可靠性:串联、并联与冗余设计

工程上有一句名言:「单个零件的可靠度可以做到 99.99%,但十个串在一起就未必了。」为什么?因为概率不遵循算术直觉,它遵循乘法与补运算。这一节把独立性用到工程上去。

元件可靠度与三种基本结构

设每个元件的可靠度(正常工作的概率)都是 p,各元件独立工作,系统「成功」指从输入端到输出端有通路。

① 串联:所有元件都工作才成功——「一个都不能坏」,P(成功) = pn。
② 并联:至少一个工作就成功——「有备份」,P(成功) = 1 − (1 − p)n。
③ k-out-of-n 表决系统:n 个元件中至少 k 个工作才成功(多数表决),即二项公式的尾和 ∑i=kn Cnipi(1−p)n−i。

三元件数值对照(p = 0.9)

串联 0.93 = 0.729(比单个元件差得多);并联 1 − 0.13 = 0.999(比单个元件好得多);2/3 表决 3 × 0.92 × 0.1 + 0.93 = 0.972。三种结构、同一批元件,可靠度 0.729 / 0.972 / 0.999 相差近三倍——可靠度的差别不来自元件,而来自拓扑。这是可靠性工程的第一课。

两条边界经验:串联越长越危险——p = 0.99 的元件串 10 个得 0.9910 ≈ 0.9044;把单元提到 0.999 再串 10 个则仍有 0.9900,可见提高单元质量是救长链最直接的药方。并联冗余的边际收益递减——p = 0.9 时 1、2、3 个并联分别是 0.9、0.99、0.999,每加一个备份失效概率约再除以 10;但第 4 个只把 0.999 提到 0.9999,付出一个元件的成本换来不足 0.1% 的提升。工程上的冗余是「够用即止」的艺术。

混合系统的算法:「由内到外」逐块化简

现实系统往往是串并联混合的。算法只有一条:把可以看成「串联块」或「并联块」的子结构先算成一个等效元件,再往上层层化简。例:两个元件串联成 A 块、另两个串联成 B 块、A 与 B 并联,则先算两块(各 p2),再并联得 1 − (1 − p2)2。

能这样化简的前提是各元件独立,并且两块之间没有共同的元件。若两个块共用同一个元件,化简就会出错——那时要用条件概率(按共用元件的状态分类)来做。这是可靠性分析里最常见的陷阱。

三种基本结构:同一批元件,三种可靠度 ① 串联(全活才通) ppp p3​ = 0.729 ② 并联(一个活就通) 1 − (1−p)3​ = 0.999 ③ 2/3 表决 3p2​(1−p)+p3​ = 0.972 串联「一个都不能坏」⟹ 乘法把可靠度越乘越小 并联「至少一个能坏」⟹ 补运算把失效概率越乘越小
图 2-16 三种基本可靠性结构:串联用「都发生」(概率连乘 pn),并联用「至少一个」的补(1 − (1−p)n),表决系统则是二项尾和。同一批 p = 0.9 的元件,仅因拓扑不同,系统可靠度从 0.729 变到 0.999。
讲义

第二章 概率的公理化与条件概率2.16 概率方法初览:用概率证明存在性

概率工具最出人意料的一次亮相,是它被用来证明「某种对象一定存在」——而且常常比纯组合论证简单得多。这个方法叫概率方法(the probabilistic method),由匈牙利数学家埃尔德什在 1940 年代开创。

概率方法的基本原理

若一个随机构造的对象满足某性质的概率 大于零,那么这样的对象一定存在。理由极简单:如果每一个这样的对象都不满足该性质,那么「随机取一个」满足该性质的概率只能是 0;反过来,既然概率为正,就说明至少有一个对象满足它。

妙处在于:它只证明存在,不给出构造。这在组合数学与理论计算机科学里是常规武器——「存在但找不到」的定理由此遍地开花。

经典例一:最大割必定至少切掉一半的边

给定一张有 m 条边的图,要把它切成两侧(割),使跨越两侧的边尽可能多。求一个保证:至少能切掉多少条边?

随机做法:把每个顶点独立、等可能地染成黑或白(各 1/2)。对任意一条边,它的两个端点颜色不同(即被割到)的概率是 P(一黑一白) = 12 × 12 + 12 × 12 = 12。设随机染色下被切掉的边数为 X,由期望的线性性(第四章详述),m 条边各自贡献期望 1/2,故 E(X) = m/2。

既然「平均」切掉 m/2 条,就至少存在一种染色其割边数 ≥ m/2。证明完毕——没有构造任何染色,只谈了一次概率。

经典例二:拉姆齐数的下界

多大的聚会里一定能找到 k 个人两两相识,或 k 个人两两不识?这个门槛记作拉姆齐数 R(k, k)。随机做法:让 n 个人之间每一对独立地以概率 1/2 相识。固定 k 个人,他们两两相识的概率是 2−Ck2;出现「某个 k 人团全相识或全不识」的概率不超过

2 · Cnk · 2−Ck2 < 1

只要 n 足够小使上式成立,就存在一种配置其中没有任何 k 人团是同色——于是 R(k, k) > n。取 n ≈ 2k/2 即得下界 R(k, k) > 2k/2。

这是拉姆齐数下界的第一个非平凡结果,至今仍是最简单的证法。两个不等式里,并的上界与期望的线性性是概率方法的两把基本工具——它们不需要各事件独立,这一点极其宝贵。概率方法把「存在性」这件难事转成了「算一个概率或期望」这件易事:第五章的抽样、第四章的随机算法、信息论里香农「好码一定存在」的证明,都是它的后裔。

随机染色:每条边被切掉的机会都是 1/2 红边 = 两端异色 = 被割到 每条边被割的概率 = 1/2 期望割边数 E(X) = m/2 ∴ 必存在一种染色,割边 ≥ m/2 只证存在,不给出构造 「平均这么好 ⟹ 至少有一个这么好」——概率方法的核心一步
图 2-17 概率方法的典型场景:随机给一张图染色,每条边被割到的概率恰为 1/2,于是平均割边数是 m/2;而平均值既然是 m/2,就必然存在一个不低于平均值的割。存在性从「平均」里掉出来。
讲义

第二章 概率的公理化与条件概率2.17 现代接口:从贝叶斯推理到人工智能〔直觉⇄理论〕

本章讲的三公理、条件概率、贝叶斯公式,看上去是十七世纪的赌桌与二十世纪的教科书,可它们现在是每天运行在数十亿台设备上的算法。这一节用四个场景说明这条线是怎么接上的。

接口一:垃圾邮件过滤器(朴素贝叶斯)

一封邮件是「垃圾」还是「正常」?记 S=垃圾,贝叶斯公式说 P(S|邮件内容) ∝ P(S) · P(邮件内容|S)。先验 P(S):所有邮件里垃圾占多少;似然 P(邮件内容|S):假如是垃圾,出现「中奖」「发票」这些词的可能性多大。「朴素」两字是假设各词条件独立,从而把似然拆成一串乘积 P(词1|S)P(词2|S)…——这就是 §2.13 独立性的工业级用法:虽然词与词并不真独立,这个「错了的假设」在实践中工作得出奇好。

接口二:贝叶斯网络与因果推断

把变量当作节点、依赖关系画成有向边,就得到贝叶斯网络。完整描述 n 个变量的联合分布需要 2n 个数,而用「每个变量只依赖它的父节点」这一条件独立性假设,参数量往往降到线性——正是独立性假设让高维概率变得可计算。医学诊断、故障排查、基因组分析用的都是这套语言,它也是「从结果反推原因」的工程化形式。

接口三:A/B 测试与先验的力量

产品上线两个版本,哪个更好?经典做法是显著性检验(第六章);贝叶斯做法是给「A 比 B 好」一个先验,用数据不断更新后验。§2.10 那个「患病率决定阳性意义」的教训在此重现:同一个实验结果,在「本来就更可能有效」的方案上,说服力更强。忽视先验的结论,往往高估了证据。

接口四:机器学习中的概率世界观

现代机器学习的两条主线,恰好对应本章的两个方向:①判别式/频率派直接学 P(Y|X),只看「给定输入,输出该是什么」;②生成式/贝叶斯派学 P(X, Y),再问「什么样的输出更可能生成这个输入」——后者正是当下生成式人工智能的核心语言。语言模型给出「下一个词的概率分布」,推荐系统给出「点击的概率」,自动驾驶给出「前方是行人的概率」——整个数字世界,都是在本章那三条公理与一个竖杠上跑起来的。

同一条线:赌桌 → 公理 → 算法 1654赌金分配帕斯卡·费马 1812拉普拉斯分析概率论 1933科尔莫戈罗夫三公理奠基 今天贝叶斯推断与人工智能 「未发生的事」也能算 「不追问是什么」只问满足什么 「先验 × 似然」→ 后验 本章的每一个公式,都还是这四百年老配方里的原料
图 2-18 从赌桌到算法的四百年:帕斯卡解决了赌金分配,拉普拉斯把概率分析化,科尔莫戈罗夫给了它公理地基,今天的贝叶斯推断与人工智能仍在同一条线上。「不追问概率是什么」正是这条线能拉这么长的原因。本章最想留下的一句话也在这里——概率论的力量,恰恰来自它不追问「概率究竟是什么」:赌博、保险、物理、医学、人工智能,万物皆可,只要遵守那三条公理。
讲义

第二章 概率的公理化与条件概率2.18 本章总结与方法表

本章从「直觉失效」出发,走过了公理、性质、条件概率、全概率、贝叶斯、独立性、可靠性、概率方法,最后落到人工智能。收束之前,把工具装进一只箱子。

核心公式清单

1. 定义 P(A|B) = P(A∩B) / P(B)(P(B) > 0)  2. 三公理 非负;P(Ω) = 1;互斥可列可加
3. 基本性质 P(∅) = 0;P(A̅) = 1 − P(A);A ⊆ B ⟹ P(A) ≤ P(B);P(B−A) = P(B) − P(A∩B)
4. 加法与容斥 P(A∪B) = P(A)+P(B)−P(A∩B);三事件版 S1−S2+S3;一般式交替和
5. 乘法公式 P(A∩B) = P(B)P(A|B);链式分解  6. 全概率 P(A) = ∑i P(Bi)P(A|Bi)
7. 贝叶斯 P(Bk|A) = P(Bk)P(A|Bk) / ∑iP(Bi)P(A|Bi)
8. 独立性 P(A∩B) = P(A)P(B);独立时「都发生」用 ∏,「至少一个」= 1 − ∏(1 − pi)
9. 二项概率 P(X=k) = Cnkpk(1−p)n−k  10. 可靠性 串 pn;并 1−(1−p)n;表决 ∑i≥kCnipi(1−p)n−i

方法选用表:看到什么,用什么

「已知……求……」⟹ 条件概率定义,或把条件当作新样本空间重新计数。「同时发生」「都……」⟹ 乘法公式(不独立)/直接连乘(独立)。「至少一个」⟹ 一律先走对立面 1 − P(全不发生),这是全书省力第一诀。

「分类」「按……分」⟹ 全概率公式。「由结果推原因」「阳性了是否真病」⟹ 贝叶斯公式(罕见病先画千人格)。「或」⟹ 检查是否互斥:互斥可直接加,否则用加法公式或容斥。

「互不影响」「各次独立」⟹ 独立性:连乘,或「1 减全不发生」。「重复 n 次、恰 k 次」⟹ 二项概率公式。「系统/电路/元件」⟹ 可靠性结构:串联连乘、并联取补、表决用二项尾和。

三条必须改掉的坏习惯

① 概率不相加就相乘。加法要有互斥,乘法要有独立——动笔前先问「我凭什么敢用这个运算」。
② 把 P(A|B) 当成 P(B|A)。「病人里多少阳性」与「阳性里多少病人」是两件事,后者还要乘上先验的天平。
③ 拿「直觉上的平均」代替加权。全概率公式里权重是 P(Bi),不是 1/n——两车间的 3.2% 不是 3.5%。

方法选用流程:一句话定位一个公式 「至少一个」 「按类别分」 「由果推因」 1 − ∏(1 − pi​) (对立面+独立) P(A) = ΣP(Bi​)P(A|Bi​) (全概率) P(Bk​|A) ∝ P(Bk​)P(A|Bk​) (贝叶斯) 「互不影响、各次独立」 「重复 n 次,恰 k 次」 「系统/元件」 连乘,或用条件概率 C(n,k)pk​(1−p)n−k​ 串/并/表决 「一句话定位一个公式」——本章工具箱的目录
图 2-19 本章方法选用流程图:把题面里的关键词与公式一一挂钩。「至少一个」「按类分」「由果推因」「重复 n 次」「系统元件」——这五个信号覆盖了本章八成以上的题目。
例题

第二章 概率的公理化与条件概率例1 公理验证:判断给定的集合函数是否为概率

题目 下列各「集合函数」是否是 (Ω, ℱ) 上的概率?若不是,指出违反哪条公理。

① Ω = {1, 2, 3, 4},ℱ 为全部子集,P(A) = |A|/4;② 同上 Ω,P(A) = |A|/3;③ 掷一枚均匀骰子,P(A) = c · |A|,c 待定;④ Ω = {1, 2},规定 P(∅) = 0, P({1}) = 0.6, P({2}) = 0.5, P(Ω) = 1。

解 ①是。非负性显然;P(Ω) = 4/4 = 1 满足规范性;若 A, B 互斥,则 |A∪B| = |A| + |B|,可加性成立。这正是一般有限等可能模型的通式。

②不是。P(Ω) = 4/3 > 1,违反规范性(公理 2)——分母必须等于样本点总数。

③是,当且仅当 c = 1/6。Ω 有 6 个点,规范性要求 6c = 1,故 c = 1/6。规范性在这里起了「定标」作用——把任意刻度校准到总份额为 1。

④不是。取互斥的 {1} 与 {2},其并为 Ω,但 P({1}) + P({2}) = 0.6 + 0.5 = 1.1 ≠ 1 = P(Ω),违反可加性(公理 3)。等价的说法是「总账超支」。

点评 验证公理有三条固定路线:①看非负、②看总和(把 Ω 切成基本单元相加是否为 1)、③看可加。由此立得一条常用推论:若 Ω = {ω1, …, ωn},则 ∑i P({ωi}) = 1。所以给出一个概率,等价于给每个样本点分一份份额,且总和恰为 1。所有概率题本质上都是份额的加减与重分配。第 ③ 题的「规范性定出归一化常数」是实证建模最常用的一步。

公理验证三看:非负、总和、可加 ① 判非负 ② 算 ΣP(ωi​) = 1 ? ③ 验互斥可加 三条都过 ⟹ 是概率 ① |A|/4:Σ = 4/4 = 1 ✓,非负 ✓,可加 ✓ ⟹ 是概率 ② |A|/3:Σ = 4/3 ≠ 1 ✗ ⟹ 违规范性 ③ c|A|:令 6c = 1 ⟹ c = 1/6 ⟹ 是概率(在 c 定值后) ④ 0.6 + 0.5 = 1.1 ≠ 1 ✗ ⟹ 违可加性 「总账必须刚好结清」——这是判定的第一眼
图 2-20 公理验证三看法:先看有没有负概率,再看全空间份额是否为 1,最后验互斥可加。三关里最容易栽的是第二关——把分母写成「除了总数之外」的数。
例题

第二章 概率的公理化与条件概率例2 性质运用:已知 P(A)、P(B) 求诸概率

题目 设 P(A) = 0.6, P(B) = 0.4, P(A∪B) = 0.7。求:① P(A∩B);② P(A−B) 与 P(B−A);③ P(A̅∩B̅);④ P(A̅∩B);⑤ 判断 A, B 是否互斥、是否独立。

解 ① 加法公式反解:P(A∩B) = 0.6 + 0.4 − 0.7 = 0.3。

② 减法公式:P(A−B) = 0.6 − 0.3 = 0.3;P(B−A) = 0.4 − 0.3 = 0.1。

③ 德摩根+对立:P(A̅∩B̅) = 1 − 0.7 = 0.3。  ④ 把 B 沿 A 切两半:P(A̅∩B) = P(B−A) = 0.1。

⑤ 互斥?P(A∩B) = 0.3 ≠ 0,不互斥。独立?0.6 × 0.4 = 0.24 ≠ 0.3,不独立。

点评 这道题其实是「四个分区」的完整清点:A∩B=0.3、A−B=0.3、B−A=0.1、(A∪B)̅=0.3,合计 1.0 ✓。「四块清点」是本章最可靠的验算手段:无论题目问什么,先把这四块算出来,剩下的就是加加减减。⑤ 的结论还说明 0.3 > 0.24,即 A 与 B 正相关——倾向于一起发生,但远不是互斥。

四块清点:0.3 + 0.3 + 0.1 + 0.3 = 1 A−B0.3 A∩B0.3 B−A0.1 0.3 绿色 0.3 是 (A∪B)̅ P(A) = 0.3 + 0.3 = 0.6 ✓ P(B) = 0.3 + 0.1 = 0.4 ✓ P(A∪B) = 0.6 + 0.4 − 0.3 = 0.7 ✓ 独立要求 P(A∩B) = 0.24,实为 0.3 ⟹ 不独立,正相关(交集偏大)
图 2-21 四块清点法:把 A、B 切出的四块概率一次摊清,题干给的三条信息(P(A), P(B), P(A∪B))正好把这四块全部定住,任何衍生量都可以从这张表上读出来。
例题

第二章 概率的公理化与条件概率例3 容斥:三个事件的并的概率

题目 某班 40 名学生参加三项课外活动:数学(20 人)、编程(15 人)、合唱(12 人);数学与编程兼报 6 人,数学与合唱兼报 5 人,编程与合唱兼报 4 人;三项都报 2 人。随机抽一人,求:① 至少参加一项的概率;② 恰好参加一项的概率;③ 三项都没参加的概率。

解 记三项为 M, C, B,P(M) = 20/40, P(C) = 15/40, P(B) = 12/40,交叉项 6/40, 5/40, 4/40,三交 2/40。

① 三事件容斥:P(至少一项) = 20+15+12 − 6 − 5 − 4 + 240 = 34/40 = 0.85,即 34 人。

② 恰好一项 = S1 − 2S2 + 3S3 = 47 − 30 + 6 = 23(人)。③ 都没参加 = 40 − 34 = 6(人),概率 0.15。

点评 七个区域的清点验证:仅数学 = 20 − 6 − 5 + 2 = 11;仅编程 = 15 − 6 − 4 + 2 = 7;仅合唱 = 12 − 5 − 4 + 2 = 5;双不含三 4, 3, 2;三交 2。七区求和 11 + 7 + 5 + 4 + 3 + 2 + 2 = 34 ✓,与容斥同解;而②的「恰好一项」即 11 + 7 + 5 = 23 ✓,与公式法一致。两条互相独立的算路得出同一答案,就是最好的验证。「恰好 k 项」用七区清点最不易出错——公式容易记混符号,清点只需老实做减法。

七区清点:11 + 7 + 5 + 4 + 3 + 2 + 2 = 34 11 7 5 432 2 M C B 仅 M:20−6−5+2 = 11 仅 C:15−6−4+2 = 7 仅 B:12−5−4+2 = 5 双不含三:4, 3, 2 三交:2 恰好一项 = 11+7+5 = 23 至少一项 = 34,都没参加 = 6
图 2-22 三事件的七区清点:每个数字都是一次「单减双加三」的减法结果。容斥公式给的是「至少一项」,七区图给的是全部分项——两者对照,就不会在「恰好 k 项」上翻车。
例题

第二章 概率的公理化与条件概率例4 条件概率:抽到红桃已知是红色的概率

题目 从一副 52 张扑克中随机抽 1 张。① 已知抽到红色,求它是红桃的概率;② 已知抽到人头牌(J、Q、K),求它是红色的概率;③ 掷两枚骰子,已知和为 6,求第一枚小于第二枚的概率。

解 ① 记 H=红桃,R=红色。P(R) = 26/52,而 H ⊆ R 故 P(H∩R) = 13/52,于是 P(H|R) = 13/5226/52 = 1/2。

② 人头牌共 12 张,其中红色 6 张:P(红色|人头) = 6/12 = 1/2。

③ 和为 6 的样本点 (1,5), (2,4), (3,3), (4,2), (5,1) 共 5 个,其中第一枚小于第二枚的是 (1,5) 与 (2,4):P = 2/5。

点评 三小题手法完全一致:把「已知」的那部分挑出来当新样本空间,在其中重新计数——① 缩到 26 张红色(红桃占 13),② 缩到 12 张人头(红牌占 6),③ 缩到 5 个点(符合的 2 个)。两个「1/2」不是巧合而是对称性:红色占全部一半,红桃与方片在「红色」这个新舞台里各占一半。注意 ① 里 H ⊆ R,交集直接等于小的那个——识别出包含关系能省去一次乘法。这类题画一张「缩小前后」的对照表最保险。

三道小题,同一个手法:换舞台、重计数 ① 52 张 → 缩到 26 张红色 红桃 13 / 红色 26 = 13/26 = 1/2 H ⊆ R,交集即 H ② 52 张 → 缩到 12 张人头 红色 6 / 人头 12 = 6/12 = 1/2 四种花色对称 ③ 36 点 → 缩到 5 点和为 6 第一 < 第二 占 2 个 = 2/5 逐点列出最稳 P(A|B) = P(A∩B)/P(B) 把条件当新 Ω 在缩小空间里数份数 两种算法(公式 / 缩空间)必须给出同一个答案——常用来自查
图 2-23 条件概率的两种等价算法:左边用定义式(分子分母各算一次),右边直接把条件当作新的样本空间重新计数。考试时两种都算一遍,可以当场发现错误。
例题

第二章 概率的公理化与条件概率例5 乘法公式:连续抽两张都是 A 的概率

题目 一副 52 张扑克。① 不放回连抽 2 张,求两张都是 A 的概率;② 不放回连抽 3 张,求三张都是 A 的概率;③ 若改为有放回,① 的答案变为多少;④ 不放回连抽 2 张,求「第二张是 A」的概率。

解 记 Ai=第 i 张是 A。

① P(A1) = 4/52;已知第一张为 A 后剩 51 张、A 剩 3 张,P(A2|A1) = 3/51,乘法公式给出 P(A1∩A2) = 452 × 351 = 1221 ≈ 0.004525。

② 再乘一步:P(A1∩A2∩A3) = 452 × 351 × 250 = 15525 ≈ 1.81 × 10−4。

③ 有放回时 P(A2|A1) = 4/52(独立),故 P = (4/52)2 = 1/169 ≈ 0.005917,比不放回的 1/221 ≈ 0.004525 大——抽中第一张 A 不再「消耗」机会。

④ 用全概率(按第一张分两类):P(A2) = 452 × 351 + 4852 × 451 = 2042652 = 452。

点评 ④ 的答案等于 4/52,与第一张是 A 的概率相同——这就是抽签公平性:不放回抽样中任何一个位置的边际分布都一样。(第一章用对称性证过,这里用全概率重证一遍。)①③ 的对比是本章一个关键体感:放回与不放回只差一步条件概率,答案却差 31%。工程上「抽样是否放回」绝不是细节——小批量抽检必须用不放回公式。常见错误是把①写成 (4/52)2:那是「有放回」。分子分母同时变小,是「不放回」的唯一标志。

放回 vs 不放回:分子分母是否同步变小 不放回 4/52 3/51 ⟹ 4/52 × 3/51 = 1/221 ≈ 0.004525 有放回 4/52 4/52(不变) ⟹ (4/52)2​ = 1/169 ≈ 0.005917 比值 = 0.005917 / 0.004525 ≈ 1.31 抽样是否放回,能让答案差三成 工程含义:小批量抽检必须用不放回公式 第二张是 A: P(A2​) = 4/52(抽签公平) 任意位置的边际分布相同
图 2-24 放回与不放回的路径对比:唯一的区别在第二步——不放回时「分子分母同步减一」,有放回时原样不变。这个区别造成的数值差异(约 31%)在工程抽样中不可忽略。
例题

第二章 概率的公理化与条件概率例6 全概率:两个车间产品的正品率问题

题目 某厂三个车间生产同一种零件,产量占比分别为 50%、30%、20%,次品率分别为 1%、2%、4%。① 随机取一件,求它是次品的概率;② 求它是正品的概率;③ 若取到一件次品,它来自哪个车间的可能性最大?

解 记 B1, B2, B3 分别为三个车间生产(完备事件组),D=次品。三条路径的贡献是 0.5 × 0.01 = 0.005、0.3 × 0.02 = 0.006、0.2 × 0.04 = 0.008。

① P(D) = 0.005 + 0.006 + 0.008 = 0.019。  ② P(正品) = 1 − 0.019 = 0.981。

③ 用贝叶斯比较三条路径的份额(总和 0.019):P(B1|D) ≈ 0.263,P(B2|D) ≈ 0.316,P(B3|D) ≈ 0.421,三者之和 ≈ 1 ✓。

三车间产量最少(20%),贡献的次品却最多(42.1%)——因为它的次品率是其他车间的两到四倍。

点评 本题是「权重」二字的最佳教材。若偷懒取三个次品率的算术平均 (0.01 + 0.02 + 0.04)/3 ≈ 0.0233,就错了 23%——真实答案 0.019 明显更低,因为次品率最高的车间产量最少,话语权只有 0.2。而 ③ 展示了「产量占比」与「责任占比」的分离:质量管理的抓手在低产量、高次品率的车间——这正是贝叶斯在工业实践中的经典应用,也是六西格玛与质量控制的标准动作。做题时务必写出「完备事件组」并说明其完备性(任何一件零件必然且只能来自三个车间之一),这是全概率公式的合法性来源。

产量占比 × 次品率 = 次品贡献(权重决定话语权) B1​ 产量 0.5次品率 0.01 B2​ 产量 0.3次品率 0.02 B3​ 产量 0.2次品率 0.04 0.005 0.006 0.008 P(D) = 0.005 + 0.006 + 0.008 = 0.019 责任占比:26.3% / 31.6% / 42.1% 少者贡献最多 算术平均 0.0233 是错的(忽略权重) 质量抓手:压 B3​ 的次品率收益最大
图 2-25 三车间次品贡献的加权分解:柱高是「产量占比 × 次品率」,三柱之和就是全厂次品率 0.019。同一批数据,按产量加权得 1.9%,按算术平均得 2.33%——差别正是权重的价值。
例题

第二章 概率的公理化与条件概率例7 贝叶斯:检验阳性后真正患病的概率

题目 某地区某病的患病率为 1%。一项筛查检验的灵敏度为 90%(患病者 90% 呈阳性),特异度为 95%(未患病者 95% 呈阴性)。① 某人检验呈阳性,他真的患病的概率是多少?② 若医生怀疑此人属于高危人群,据经验先验患病率应为 20%,结论如何变化?③ 若初检阳性后做第二次检验(仍独立,灵敏度、特异度同前)且再次阳性,最终患病概率是多少?

解 记 D=患病,+=阳性。P(D) = 0.01,P(+|D) = 0.9,P(+|D̅) = 0.05。

① 两条路径 P(D)P(+|D) = 0.009、P(D̅)P(+|D̅) = 0.0495,相加得 P(+) = 0.0585,故 P(D|+) = 0.0090.0585 ≈ 0.1538——即使阳性,也只有不到六分之一的可能真有病。

② 只改先验:P(D|+) = (0.2 × 0.9)/(0.2 × 0.9 + 0.8 × 0.05) = 0.18/0.22 ≈ 0.8182。从 15.4% 跳到 81.8%——同一份证据,换了人群就完全改观。

③ 两次独立检验都阳,等价于用第一次的后验 0.1538 作第二次的先验(信念传递):P(D|++) = 0.1538 × 0.90.1538 × 0.9 + 0.8462 × 0.05 ≈ 0.766。

点评 ③ 是本题最重要的一步:贝叶斯更新可以「链式」进行——把第一次的后验当作第二次的先验,逐步推进。这正是 §2.17 里「先验 × 似然 → 后验」循环的真实形态。顺手对照:若直接按「两次都阳」的联合似然一次算,P(++|D) = 0.81、P(++|D̅) = 0.052 = 0.0025,得 0.0081/(0.0081 + 0.002475) ≈ 0.766 ✓——两种算法同解,说明「链式更新」与「批量更新」等价。

同一个阳性证据,三种处境:15.4% → 81.8% → 76.6% ① 先验 1%P(D|+) ≈ 15.4% ② 先验 20%P(D|+) ≈ 81.8% ③ 复检再阳P(D|++) ≈ 76.6% 0.1538 0.8182 0.7660 0.8
图 2-26 贝叶斯更新的三次演算:先验从 1% 升到 20%,同一份阳性证据的分量从 15.4% 跳到 81.8%;而复检再阳(链式更新)又把低危人群的 15.4% 推高到 76.6%。证据的价值依附于先验。
例题

第二章 概率的公理化与条件概率例8 独立性判定:由定义验证事件独立

题目 判断下列各对事件是否独立,并说明理由。① 掷一枚骰子:A=点数 ≤ 2,B=点数为奇数;② 掷两枚骰子:A=第一枚为 6,B=第二枚为 6;③ 掷两枚骰子:A=第一枚为偶数,B=点数和为奇数;④ 从 52 张牌抽 1 张:A=红色,B=A。

解 ① P(A) = 1/3,P(B) = 1/2,A∩B = {1} 故 P(A∩B) = 1/6 = 1/3 × 1/2 ✓ 独立。

② 两枚骰子互不影响,由背景即知独立;验算 1/6 × 1/6 = 1/36 = P(A∩B) ✓。

③ P(A) = 1/2;和为奇数当且仅当一奇一偶,共 18 种,P(B) = 1/2;A∩B 要求第一枚偶、第二枚奇,共 9 种,P(A∩B) = 1/4 = 1/2 × 1/2 ✓ 独立。

④ P(红) = 1/2,P(A) = 1/13,P(红∩A) = 2/52 = 1/26 = 1/2 × 1/13 ✓ 独立。

点评 四对事件全部独立——这是故意设计的,为的是打破一个顽固的偏见:「花色与点数有关联,所以不独立。」花色与点数在扑克上是「两个正交的属性」,正如骰子的两枚、硬币的两面。③ 更微妙:第一枚是否偶数与「和是否奇数」独立,初看反直觉,其实「和的奇偶」只取决于两枚奇偶性的搭配方式,而第一枚的奇偶在两类搭配中出现的比例相同。这类「看似有关其实无关」的例子,是独立性判定题的主力。判定三步永远是:①算 P(A);②算 P(B);③算 P(A∩B) 与乘积比较;有真实背景(两枚骰子)时可直接引用背景。

三步验算:P(A)、P(B)、P(A∩B) 与乘积比较 题P(A)P(B) P(A∩B)P(A)P(B)判定 ① 骰子1/31/2 1/61/6独立 ② 两枚骰1/61/6 1/361/36独立 ③ 奇偶搭配1/21/2 1/41/4独立 ④ 牌色与 A1/21/13 1/261/26独立 「看着有关联」不等于「不独立」——独立性只能算出来
图 2-27 独立性判定的三步验算表:四对「看起来有关系」的事件,验算下来却全部独立。「花色与点数」「第一枚与和」这类正交结构,是独立性最常见的藏身处。
例题

第二章 概率的公理化与条件概率例9 两两独立而非相互独立:经典反例的构造

题目 ① 用 4 个等可能的样本点构造三个两两独立但不相互独立的事件;② 用「抛两枚硬币」构造同样的反例,并给出直观解释;③ 证明:若 A, B, C 两两独立,P(C) > 0,且 A∩B 与 C 独立,则三者相互独立。由此说明「两两独立」究竟差在哪一条。

解 ① 取 Ω = {ω1, ω2, ω3, ω4},各点概率 1/4,令 A = {ω1, ω2},B = {ω1, ω3},C = {ω1, ω4}。则三者概率均为 1/2,而 A∩B = A∩C = B∩C = {ω1} 概率均为 1/4,故两两独立;但 P(A∩B∩C) = 1/4 ≠ (1/2)3 = 1/8,故不相互独立。

② 抛两枚均匀硬币:A=第一枚正,B=第二枚正,C=两枚同面。A∩B = A∩C = B∩C = {正正} 概率均 1/4 = 1/2 × 1/2 ✓ 两两独立;而 P(A∩B∩C) = 1/4 ≠ 1/8 ✗。直观解释:C 是 A、B 的「逻辑后果」——知道第一枚与第二枚都为正,两枚相同就必然成立。C 虽与 A 单独独立、与 B 单独独立,却与「A 且 B」这个组合不独立。

③ 已知 P(A∩B∩C) = P(A∩B)P(C),对右端用 A, B 的独立性得 P(A∩B∩C) = P(A)P(B)P(C),这正是相互独立的第四条要求。∎

点评 「两两独立」缺的正是「整体独立」的那一条:它只保证「每两个之间互不给情报」,不保证「知道其中两个的状态之后,第三个还剩多少不确定性」。③ 把这个缺口精确补上了。记住反例的两个形态:四点形态(最抽象通用)与两枚硬币形态(最有画面感:C 是 A、B 的函数,三者信息有冗余)。n 个事件的相互独立需要 2n − n − 1 个等式,两两独立只覆盖 Cn2 个——缺口随 n 指数增长。

两两独立覆盖 3 个等式,相互独立需要 4 个 两两独立(3 个等式) P(A∩B) = P(A)P(B) ✓ P(A∩C) = P(A)P(C) ✓ P(B∩C) = P(B)P(C) ✓ P(A∩B∩C) = P(A)P(B)P(C) ✗ 相互独立(4 个等式) P(A∩B) = P(A)P(B) ✓ P(A∩C) = P(A)P(C) ✓ P(B∩C) = P(B)P(C) ✓ P(A∩B∩C) = P(A)P(B)P(C) ✓ 缺口:整体那一条 —— n 个事件缺 (2n​ − n − 1) − C(n,2) 条
图 2-28 两两独立与相互独立的等式缺口:三点事件上,两两独立覆盖前三条,第四节(整体乘积)恰是缺口所在。n 越大,缺口越大——这就是「相互独立」比「两两独立」强得多的算术原因。
例题

第二章 概率的公理化与条件概率例10 伯努利:射击命中指定次数的概率

题目 某射手每次命中率为 0.7,独立射击 4 次。求:① 恰好命中 2 次的概率;② 至少命中 1 次的概率;③ 至少命中 3 次的概率;④ 若改为射击 10 次,求全中的概率。

解 记 X 为命中次数,X ~ B(4, 0.7)。

① P(X=2) = C42 × 0.72 × 0.32 = 6 × 0.49 × 0.09 = 0.2646。  ② 走对立面:P(X≥1) = 1 − 0.34 = 1 − 0.0081 = 0.9919。

③ 尾和:P(X=3) = 4 × 0.73 × 0.3 = 0.4116,P(X=4) = 0.74 = 0.2401,故 P(X≥3) = 0.6517。

④ 10 次全中:P(X=10) = 0.710 ≈ 0.02825。

点评 四个小问恰好对应二项分布的四种典型问法:① 单点概率(直接代公式);② 「至少一次」(走对立面,一步到位);③ 「至少 k 次」(尾和,逐项相加);④ 全概率(幂)。②与③的对比最值得记:命中率高达 0.7,四次里至少中一次的机会是 99.19%——几乎必然;但「至少三次」只有 65.17%。「至少一次」和「几乎全中」之间的距离,比直觉想的远得多。两个检查点:二项公式的三个因子(组合数、命中幂、失手幂)一个都不能少;所有 k 的概率之和必须为 1(本题五项之和 0.0081 + 0.0756 + 0.2646 + 0.4116 + 0.2401 = 1 ✓)。

B(4, 0.7):四项之和为 1,峰在 k = 3 0.00810.0756 0.26460.41160.2401 0 中1234 至少 1 中:1 − 0.0081 = 0.9919 至少 3 中:0.4116+0.2401 = 0.6517
图 2-29 B(4, 0.7) 的五根概率柱:峰在 k = 3,五项之和恰为 1。「至少一次」用补运算(扣掉最左那根),「至少三次」用尾和(右两根相加)——两种手法都在这张图上一目了然。
例题

第二章 概率的公理化与条件概率例11 可靠性:三组件系统的成功概率

题目 三个独立元件,可靠度均为 p = 0.9。① 串联系统的可靠度;② 并联系统的可靠度;③ 2/3 表决系统的可靠度;④ 系统结构为「先并后串」:两个元件并联成一块,再与第三个元件串联,求可靠度;⑤ 要使串联系统的可靠度不低于 0.99,单元可靠度至少要多少?

解 ① 全活才通:R = p3 = 0.729。  ② 至少一个活:R = 1 − (1 − p)3 = 0.999。

③ 至少两个活(二项尾和,n = 3, k = 2):R = 3 × 0.81 × 0.1 + 0.729 = 0.972。

④ 由内到外化简:并联块 R并 = 1 − 0.12 = 0.99,再与第三个串联得 R = 0.99 × 0.9 = 0.891——对照①的 0.729,加一个备份就把系统从 72.9% 提到 89.1%。

⑤ 令 p3 ≥ 0.99,得 p ≥ 0.991/3 ≈ 0.99666,即单元可靠度必须提升到不低于 99.67%。

点评 四个小问构成可靠性工程的核心直觉:串联是「放大器」,把缺点放大—— 0.9 的单元串三个掉到 0.729,要维持 0.99 就得把单元推到 0.9967;并联是「压路机」,把失败压扁—— 0.1 的失效概率并联三个压到 0.001;表决是折中——三取二得 0.972,这正是航天与核电系统常用的表决逻辑。④ 的「先并后串」是真实系统的常见形态,算法要点是由内到外逐块等效,顺序不能倒。⑤ 的反向计算在工程上极常用:由目标反推单元指标,若有 n 个串联环节则需 p ≥ R目标1/n。

可靠度对照 0.729 0.999 0.972 0.891 串联并联 2/3 表决先并后串 p3​1−(1−p)3​ 3p2​(1−p)+p3​(1−(1−p)2​)·p 拓扑决定成败——可靠性是「结构问题」,不只是「元件问题」
图 2-30 四种结构在同一批元件(p = 0.9)下的可靠度对照:串联最差(0.729),并联最好(0.999),表决与混合结构介于其间。「先并后串」比纯串联好,却仍被那个单点串联环节压住——这解释了为什么关键系统要尽量消灭「单点串联」。
例题

第二章 概率的公理化与条件概率例12 综合:一张「条件概率四公式选用表」的完整填写

题目 本章的四个核心公式在解题时如何选用?为下列五道题各指定一个「主用公式」,并写出该题的第一步算式。(a) 已知某零件来自乙车间,求它是次品的概率;(b) 甲、乙两车间次品率已知,求全场随机取一件是次品的概率;(c) 已知取到的是次品,求它来自乙车间的概率;(d) 不放回连抽两张牌,求两张都是 A 的概率;(e) 已知检验为阳性,求受检者真正患病的概率。

解 列表如下。

条件概率四公式选用表

(a) 条件概率(定义):题面直接给出条件「来自乙车间」,要算 P(次品|乙)。第一步:把舞台缩到「乙车间产品」内部数次品占几分,或按定义算 P(次品∩乙)/P(乙)。

(b) 全概率公式:已知各车间次品率(似然)与产量占比(权重),要算总体次品率。第一步:写出完备事件组 B1, B2,列式 P(D) = ∑iP(Bi)P(D|Bi)。

(c) 贝叶斯公式:问「已知结果(次品),原因是谁」——这是反推。第一步:先按 (b) 算出 P(次品) 作分母,再取乙那条路径的贡献作分子。

(d) 乘法公式:「两张都是 A」=「第一张是 A」且「第二张也是 A」,两步依次发生且不放回。第一步:P(A1) = 4/52。

(e) 贝叶斯公式:与 (c) 同型——「已知阳性(结果),问是否真病(原因)」。第一步:写出两条路径 P(D)P(+|D) 与 P(D̅)P(+|D̅) 的乘积。

点评 判别口诀:看「已知」与「所求」各在条件概率的哪一侧。已知因、求果(或按类别给条件概率)⟹ 条件概率/全概率;已知果、求因 ⟹ 贝叶斯;求「同时」⟹ 乘法公式。还有一个更省事的分辨法:看题目给的是 P(A|B) 还是 P(B|A)——给前者求后者、或给后者求前者,中间就得走过贝叶斯这条桥。四公式不是四件工具,而是同一条逻辑链上的四个环节:定义 →(移项)乘法 →(分类求和)全概率 →(反解)贝叶斯。(c) 与 (e) 是同一道题的两个外衣,易错点(忽视先验权重)也完全一致。

四公式选用决策图:一道题,一条路 题面给的是哪一侧? 已知因求果求「同时」已知果求因 条件概率 / 全概率 (a) 条件 (b) 全概率 乘法公式 (d) 连抽两张 贝叶斯公式 (c) 次品来源 (e) 检验阳性 ① 全概率的分母 → 贝叶斯的分子:同一批乘积项,一个在分母、一个取一份 ② 乘法是「一条路径」,全概率是「所有路径之和」,贝叶斯是「一条 ÷ 所有」 ③ 判断标准:先找「完备事件组」,它同时是全概率的分母与贝叶斯的候选分子 ④ 别忘权重:贝叶斯的分母是加权和,不是算术平均
图 2-31 条件概率四公式选用决策图:从题面识别「已知在哪一侧」,即可落定公式;四个公式不是并列的四件工具,而是同一条链上的四个环节(定义 → 乘法 → 全概率 → 贝叶斯)。
习题

第二章 概率的公理化与条件概率习题课一 公理与基本性质

本课练「地基」——用三公理与六条性质做加减。所有题目都只有一招:把已知量往公式里代,再验算四块分区之和是否为 1。

练 1.1 若 P(A) = 0.5, P(B) = 0.4, P(A∩B) = 0.2,求 P(A∪B)、P(A̅∩B)、P(A̅∩B̅)。

答:P(A∪B) = 0.7;P(A̅∩B) = P(B)−P(A∩B) = 0.2;P(A̅∩B̅) = 1−0.7 = 0.3。验算:四块 0.3+0.2+0.2+0.3 = 1 ✓。

练 1.2 证明:P(A∪B∪C) ≤ P(A) + P(B) + P(C),并说明等号何时成立。

答:由容斥 P(A∪B∪C) = S1−S2+S3 ≤ S1,因为 S2 ≥ S3。等号当且仅当两两互斥。这个不等式叫次可加性(union bound),§2.16 的概率方法里用过它——它不需要独立性,永远能用。

练 1.3 某城市调查:有手机者 85%,有电脑者 60%,两者都有者 55%。求:① 至少有一种的概率;② 两者都没有的概率;③ 有手机而无电脑的概率。

答:① 0.85+0.60−0.55 = 0.90;② 0.10;③ 0.85−0.55 = 0.30。③ 是「有手机但不含都有」——减法公式的典型用法。别写成 0.85 × 0.45,那是把「不独立」当「独立」算了。

练 1.4 已知 P(A) = P(B) = 0.5。① 若 P(A∪B) = 0.8,求 P(A∩B);② 求 P(A∩B) 的取值上下界,并各举一例。

答:① 0.2。② 下界 max(0, 0.5+0.5−1) = 0(互斥,如掷硬币正反);上界 min(0.5, 0.5) = 0.5(A = B)。两个概率各为 1/2 的事件,交集可以是 0 到 1/2 之间的任何值——这就是 §2.12 的「关系谱系」。

练 1.5 已知 P(A) = 0.6, P(B) = 0.5。能否推断 P(A∪B) ≥ 0.6?并给出 P(A∪B) 的完整取值范围与取到两端的例子。

答:能,由单调性 P(A∪B) ≥ P(A) = 0.6。又 P(A∩B) ∈ [0.1, 0.5](下界因 0.6+0.5−1 = 0.1),故 P(A∪B) = 1.1 − P(A∩B) ∈ [0.6, 1.0]:下界在 B ⊆ A 时达到,上界在 P(A∩B) = 0.1 时达到。「和超过 1」意味着必然有重叠——这是判断交集下界的第一眼。

小结:本课的关键是「四块分区」思维。给两条信息能定四块中的几块、还差什么,看一眼图就明白。练 1.2 的次可加性单独记住——它在概率方法与极限定理中还要出场。

习题

第二章 概率的公理化与条件概率习题课二 加法与容斥

练 2.1 掷两枚骰子,求「至少一枚是 6」或「和为 8」的概率。

答:P(至少一枚 6) = 11/36,P(和 8) = 5/36,交集 (6,2), (2,6) 共 2 个。故 (11+5−2)/36 = 7/18。交集要逐点找,不要凭感觉。

练 2.2 某班 50 人:数学及格 40 人,语文及格 35 人,两科都及格 30 人。求:① 至少一科及格的人数;② 两科都不及格的人数;③ 数学及格而语文不及格的概率。

答:① 40+35−30 = 45 人;② 50−45 = 5 人;③ (40−30)/50 = 1/5。三个问法分别对应并、补、差——把容斥用全的标准题。

练 2.3 某小区订阅情况:订 A 的 45%,订 B 的 35%,订 C 的 25%;A∩B 为 15%,A∩C 为 10%,B∩C 为 8%,三者都订 5%。求:① 至少订一种的概率;② 只订一种的概率;③ 一种也不订的概率。

答:① 45+35+25−15−10−8+5 = 77%;② S1−2S2+3S3 = 105−66+15 = 54%;③ 23%。七区验算:仅 A=25、仅 B=17、仅 C=12,和 54 ✓ 与 ② 一致。

练 2.4 证明两事件容斥 P(A∪B) = P(A)+P(B)−P(A∩B) 可由三块互斥分区推出。

答:A∪B = (A−B) ∪ (A∩B) ∪ (B−A) 三块互斥,代入三块概率化简即得。这条证法的作用是把容斥「降级」为一次分区——容斥的精神就是用分区取代「重复计数」的直观。

练 2.5 某班 40 人参加三科竞赛,参加语文、数学、英语的人数分别为 20、18、15,两科兼报共 12 人次,三科兼报 3 人。求「至少参加一科」的人数,并与总人数对照。

答:20+18+15−12+3 = 44。超过总人数 40,矛盾数据——说明题给数字不可能同时成立。这道题的价值在于:容斥能用来查数据的自洽性。检验 |A∪B∪C| ≤ |Ω| 是每次做题的收尾动作。

容斥当「数据审查员」:算出的并不能超过总体 给定三科的报名人数与交叉数 代入容斥得 |A∪B∪C| = 44 但班级只有 40 人 ⟹ 矛盾 结论:数据不可能是真的;或某个数字抄错了 自查动作:每次算完容斥,回看是否 ≤ |Ω| 44/40
图 2-32 容斥公式的「数据审查」用途:算出的并超过总人数,说明题目数据自相矛盾。这不是解题出错,而是发现了一道「伪题」——而能发现伪题,恰恰说明公式已经用活了。

小结:容斥是加减账;每道题做完做两件事——七区清点对拍、总和不超过 1(或总人数)。这两条检查能拦下绝大多数错误。

习题

第二章 概率的公理化与条件概率习题课三 条件概率

练 3.1 掷两枚骰子,已知至少有一枚是 6,求两枚都是 6 的概率。

答:条件空间是「至少一枚 6」,共 36 − 25 = 11 个点,其中「都是 6」只有 1 个,故 P = 1/11。很多人答 1/6(把条件当成「第一枚是 6」)——错在没把条件空间数准。

练 3.2 某家庭有两个孩子(性别独立,各 1/2)。① 已知至少有一个女孩,求两个都是女孩的概率;② 已知老大是女孩,求两个都是女孩的概率。

答:样本空间 {男男, 男女, 女男, 女女} 各 1/4。① 「至少一女孩」排除「男男」,剩 3 个等可能点,其中「女女」1 个 ⟹ 1/3;② 「老大是女」剩 2 个点 ⟹ 1/2。这是全册最著名的「条件决定答案」例子。

练 3.3 从 1 到 10 中随机取一个整数。① 已知它是偶数,求它大于 6 的概率;② 已知它大于 6,求它是偶数的概率。

答:① 偶数 5 个,其中大于 6 的 {8,10} ⟹ 2/5;② 大于 6 的 {7,8,9,10} 中偶数占 2 个 ⟹ 1/2。①②不同,正是因为条件换了方向——P(A|B) ≠ P(B|A) 的直观演示。

练 3.4 一批产品 100 件,其中 90 件一等、10 件二等。不放回抽 2 件。已知第一件是一等品,求第二件也是一等品的概率;若第一件是二等品呢?

答:一等后剩 99 件、89 件一等 ⟹ 89/99;二等后剩 99 件、90 件一等 ⟹ 90/99 = 10/11。注意:运气差反而使第二次更有希望——不放回抽样的「补偿效应」。

练 3.5 某地区气象统计:下雨天占 20%,刮风天占 30%,既下雨又刮风的天占 10%。① 求「刮风天下雨」的概率;② 求「下雨天刮风」的概率。

答:① 0.10/0.30 = 1/3;② 0.10/0.20 = 1/2。同一组数据,方向变了答案就变——这是 §2.9 医学检验悖论的日常版:「刮风天下雨的机会」与「下雨天刮风的机会」不是一回事。

小结:条件概率题的九成错误都来自「条件空间数错」或「条件方向看反」。两个自查动作:①把条件写成 B 并明确 |B|;②问自己「题目问的是 P(A|B) 还是 P(B|A)」。

习题

第二章 概率的公理化与条件概率习题课四 乘法公式

练 4.1 袋中 4 白 3 黑,不放回取 3 只。① 求三只全是白球的概率;② 求恰有 2 白 1 黑的概率;③ 求「黑白交替出现」的概率。

答:① (4/7)(3/6)(2/5) = 4/35。② 按顺序连乘再乘排列数:3 × (4/7)(3/6)(3/5) = 18/35(用组合验算 C42C31/C73 = 18/35 ✓)。③ 交替序列只有黑白黑、白黑白两种:(3/7)(4/6)(2/5) + (4/7)(3/6)(3/5) = 2/7。② 与 ③ 的区别正是「是否计顺序」。

练 4.2 某产品需经两道工序,每道独立通过率分别为 0.95、0.9。① 两道都通过的概率;② 至少一道不通过的概率;③ 若第一道不通过则不能进入第二道,用「损耗分解」再算一遍。

答:① 0.95 × 0.9 = 0.855;② 0.145;③ P(第一道废) = 0.05、P(第二道废) = 0.95 × 0.1 = 0.095,合计 0.145 ✓。两句表述的差别,正是乘法公式的两种写法。

练 4.3 (抽签公平性再证)一副牌不放回连抽 3 张,求「第三张是 A」的概率。

答:按前两张的四种情况分类(AA、A非A、非AA、非A非A),各乘对应条件概率再求和,结果恰为 4/52 = 1/13。这就是抽签公平性:任何位置的边际分布都与第一张相同。两种手法——对称性(第一章)与全概率(这里)——都值得掌握。

练 4.4 某工厂先粗加工(合格率 0.9),合格件再做精加工(合格率 0.85)。① 求总合格率;② 若粗加工合格件中只有 0.8 被送去精加工,求最终精加工合格的数量占比。

答:① 0.9 × 0.85 = 0.765;② 0.9 × 0.8 × 0.85 = 0.612。提醒:乘法公式的每一步都要用「相对当前剩余量」的条件概率,而不是相对原始总量的比例。

练 4.5 某信号每经一个中继站衰减的概率为 0.1(各站独立),某链共 5 站。① 全程无损的概率;② 至少衰减一次的概率;③ 若要求全程无损率不低于 0.6,最多可设几站?

答:① 0.95 = 0.59049;② 0.40951;③ 需 0.9n ≥ 0.6,即 n ≤ ln 0.6/ln 0.9 ≈ 4.85,故最多 4 站。「取整方向」是工程题的关键——安全侧取整。

小结:乘法公式的实战口诀是「分子分母同步走」。看到「不放回」或「前一步已发生」就立刻改写分母;看到「独立」则可省略条件。练 4.3 的抽签公平性证明自己重写一遍。

习题

第二章 概率的公理化与条件概率习题课五 全概率公式

练 5.1 某保险公司统计:投保人分低风险(占 70%,年出险率 2%)与高风险(占 30%,年出险率 10%)。求投保人一年内出险的概率。

答:0.7 × 0.02 + 0.3 × 0.10 = 0.044。它不是 (0.02+0.10)/2 = 0.06——加权平均是按人群占比加权,不是平分。保险费率的精算基础正是这个加权值。

练 5.2 甲乙两条流水线生产同种零件,甲产量比乙多一倍,次品率分别为 1% 与 4%。① 求总次品率;② 若甲线停产只剩乙线,总次品率变为多少?

答:① 甲占 2/3、乙占 1/3,(2/3)(0.01)+(1/3)(0.04) = 0.02;② 变为 0.04。停掉「低次品率但高产量」的线反而更糟——这正是「产线调度对质量的影响」。

练 5.3 袋中 3 白 2 黑。先随机取 1 球记色放回,再放入同色的 1 球(波利亚罐第一步)。然后取第二球,求第二球是白球的概率。

答:第一次白(3/5)后罐中 4 白 2 黑,第二次白 4/6;第一次黑(2/5)后 3 白 3 黑,第二次白 3/6。故 P = (3/5)(4/6) + (2/5)(3/6) = 3/5。又是原概率!波利亚罐里「取到同色」的强化机制不改变下一球的边际概率——这个漂亮的不变量是传染病模型与「富者愈富」网络的数学起点。

练 5.4 某工厂三条产线,产量占比 40%、35%、25%,次品率 2%、3%、4%。① 求全厂次品率;② 若要降到 2.5% 以下,至少要让次品率最高的那条线降到多少(其余两条保持)?

答:① 0.4(0.02)+0.35(0.03)+0.25(0.04) = 0.0285;② 设第三线降到 x,需 0.0185 + 0.25x < 0.025,得 x < 0.026,即从 4% 压到 2.6% 以下。由目标反推单元指标,是质量控制最常用的算术。

练 5.5 (全概率的连续版)消息途经两个中继站,每站独立地以概率 0.1 把「0」错传成「1」或反之。① 求最终被正确接收的概率;② 若三个中继站呢?

答:① 错两次等于没错,故 0.92 + 0.12 = 0.82;② 需「错偶数次」:0.93 + 3 × 0.9 × 0.12 = 0.756(即 ((0.9+0.1)3 + (0.9−0.1)3)/2,二项展开的偶数项和)。可见中继越多、错误越不可避免。

小结:全概率公式的题眼是「找准完备事件组」。划分可以按「来源」(车间、产线)、按「第一步行事」(第一球颜色)、按「通道」(中继站)——只要互斥且穷尽即可。找到好的划分,题目就完成了一半。

习题

第二章 概率的公理化与条件概率习题课六 贝叶斯公式

本课专攻「由果推因」。所有题目都画千人格或两条路径,再动公式。

练 6.1 (练 5.1 续)某投保人一年内出了险,求他属于高风险人群的概率。

答:P(高|出险) = 0.030/0.044 = 15/22 ≈ 0.682。低风险群体虽出险率低,但人多(70%),故仍有 31.8% 的出险来自他们。规模与强度共同决定责任占比。

练 6.2 (练 5.4 续)随机取的零件是次品,求它来自第三产线的概率。

答:第三线贡献 0.010,总次品 0.0285,故 0.010/0.0285 ≈ 0.351。三条线分别是 28.1% / 36.8% / 35.1%——产量最少、次品率最高的那条线,责任占比几乎追平了产量最大的线。

练 6.3 (筛查场景)某病患病率 0.5%,检验灵敏度 98%,特异度 96%。① 求阳性者真患病的概率;② 若高危人群患病率为 10%,结论如何?

答:① P(D|+) = 0.0049/0.0447 ≈ 0.1096,约 11%;② = 0.098/0.134 ≈ 0.731,约 73%。同一检验、同一阳性,11% 与 73% 的差别全部来自先验。

练 6.4 (垃圾邮件)某邮箱中垃圾邮件占 40%。「中奖」一词:垃圾邮件中出现率 30%,正常邮件中出现率 2%。① 求邮件含「中奖」时是垃圾邮件的概率;② 若又发现关键词「限时」(垃圾/正常中出现率 25%/1%,两词条件独立),求两词俱现时的概率。

答:① = 0.12/0.132 ≈ 0.909;② 链式更新(把 ① 当新先验):= 0.2273/0.2282 ≈ 0.996。两个关键词就把判断推到 99.6%——朴素贝叶斯的威力就来自这种逐词累积。

练 6.5 (辨析)某医生坚持认为:「检验灵敏度 99%,所以阳性就是 99% 有病。」指出这句话的三处问题,并给出正确算法。

答:三处问题:①把 P(+|D) 当成 P(D|+)(方向反了);②完全忽略先验患病率(基数);③忽略假阳性率对分母的贡献。正确算法:P(D|+) = P(D)P(+|D) / [P(D)P(+|D) + P(D̅)P(+|D̅)]。当患病率 0.1% 时该值仅约 1.9%——灵敏度再高,也救不了一个极小的分母。

贝叶斯题的标准流程:两条路径 → 求和 → 取份额 ① 写出完备事件组 Bi​(来源、人群、原因) ② 对每条路径算 P(Bi​)·P(A|Bi​)(先验 × 似然) ③ 求和得 P(A)(=全概率公式,作分母) ④ 取所求那条路径的贡献 ÷ P(A) = 后验 自查:所有后验之和必须 = 1 陷阱:把先验权重当成 1/n(算术平均) 先写划分逐路相乘 总量汇总取份额
图 2-33 贝叶斯题的四步标准流程:定划分 → 逐路相乘 → 汇总总分母 → 取所求份额。每一步都可在千人格上核对,是「由果推因」类问题最稳的解题路径。

小结:贝叶斯公式本身只有一行——难的是「不忘记先验」。每次做完两个检查:所有后验之和是否为 1;结论是否被先验的规模「拉偏」得合理。

习题

第二章 概率的公理化与条件概率习题课七 独立性的判定

判定独立只有一条路:算三个概率,比一次乘积。有实际背景的可以直接引用,但必须说清「凭什么」。

练 7.1 掷两枚均匀骰子。A=第一枚出奇数,B=两枚之和为偶数。判断 A, B 是否独立。

答:P(A) = 1/2;和为偶数要求两枚同奇偶,共 9+9 = 18 种,P(B) = 1/2;A∩B=两枚皆奇,共 9 种,P = 9/36 = 1/4 = 1/2 × 1/2 ✓ 独立。

练 7.2 掷两枚骰子。A=至少一枚出 3,B=两枚之和为 7。判断是否独立。

答:P(A) = 11/36;和为 7 的 6 个点 {(1,6),…,(6,1)},P(B) = 1/6;A∩B=含 3 且和为 7,即 (3,4) 与 (4,3),P = 1/18。而 P(A)P(B) = 11/216 ≈ 0.0509 ≠ 1/18 ≈ 0.0556,不独立。差得不多,但确实不等——这类「近似相等」的陷阱正说明必须动笔。

练 7.3 已知 P(A) = 0.4, P(B) = 0.5。① 若 A, B 独立,求 P(A∪B);② 若互斥,求 P(A∪B);③ 若 P(A∪B) = 0.7,判断是否独立。

答:① 0.4+0.5−0.2 = 0.7;② 0.4+0.5 = 0.9;③ P(A∩B) = 0.2 = 0.4×0.5 ⟹ 独立。①与③同解不是巧合:独立时并的概率必为 0.7;而互斥的并是 0.9,比大小就能猜到关系。

练 7.4 某车间两台机器,故障率各 0.1,独立。① 两台都故障;② 至少一台故障;③ 一台都不故障。

答:① 0.1 × 0.1 = 0.01;② 1 − 0.92 = 1 − 0.81 = 0.19;③ 0.92 = 0.81。三种互斥情形「都障 / 恰一台障 / 都不障」为 0.01 / 0.18 / 0.81,合计恰好 1.00 ✓。常见错误是把「至少一台故障」(0.19)与「两台都故障」(0.01)相加——后者已含在前者里,重复计入会让总和超过 1。

练 7.5 从 1–20 中随机取一个数。A=能被 2 整除,B=能被 5 整除。判断独立性,并用「能被 10 整除」解释结论。

答:P(A) = 1/2, P(B) = 1/5,A∩B=能被 10 整除(10、20 两个),P = 1/10 = 1/2 × 1/5 ✓ 独立。原因是 2 与 5 互素:「能被 2 整除」与「能被 5 整除」在等可能整数上恰好正交——数论与概率的一个漂亮交汇点。

小结:判定独立性固定用三步流程。练 7.2 与 7.4 都埋了「差一点」的坑——概率题里没有「差不多」,只有相等或不等。

习题

第二章 概率的公理化与条件概率习题课八 独立与互斥辨析

本课专治一对「假朋友」。做题前先在草稿纸上写一行:互斥看交集是否为 0;独立看交集是否等于乘积。

练 8.1 判断下列说法的正误并说明理由。

① 若 P(A) > 0, P(B) > 0 且 A, B 互斥,则它们不独立;
② 若 A, B 独立,则它们不互斥;
③ 若 P(A) = 0,则 A 与任何事件既互斥又独立;
④ A 与 A̅ 一定互斥,也一定不独立(当 0 < P(A) < 1)。

答:① 正确(0 = P(A∩B) ≠ P(A)P(B) > 0)。② 基本正确,严格说需加前提 P(A)P(B) > 0,即「非零概率的独立事件必不互斥」。③ 正确:P(A∩B) ≤ P(A) = 0 = P(A)P(B),零概率事件是「既互斥又独立」的唯一可能。④ 正确:互斥显然(交集空);不独立因 P(A∩A̅) = 0 ≠ P(A)(1−P(A)) > 0。

练 8.2 某射手命中率 0.8。甲说:「两次射击至少中一次的命中率是 1.6。」乙说:「至少中一次 = 1 − 0.22 = 0.96。」谁对?甲错在哪一步?

答:乙对。甲把「独立」当「互斥」——两个概率相加只在互斥时成立。概率永远不超过 1,甲算出 1.6 就是当场报警的信号:见到 > 1 的概率,立刻回头检查是不是错用了加法。

练 8.3 已知 P(A) = 0.5, P(B) = 0.4。① 若独立,求 P(A|B);② 若互斥,求 P(A|B);③ 比较并解释。

答:① 独立 ⟹ P(A|B) = P(A) = 0.5;② 互斥 ⟹ 0/0.4 = 0;③ 前者「知道了也不改变」,后者「知道了就绝不可能」。独立与互斥在条件概率上一个不变、一个归零——这对比最能说明二者分属两个方向。

练 8.4 把「互斥」与「独立」作为两坐标轴,在下列情形各标一点:① 掷一枚骰子的「出 1」与「出 2」;② 掷两枚骰子的「第一枚 6」与「第二枚 6」;③ 掷一枚骰子的「出偶数」与「出 3 的倍数」;④ A 与 A̅。

答:① 互斥、不独立;② 不互斥、独立;③ 不互斥、独立(1/6 = 1/2 × 1/3);④ 互斥、不独立。四例中没有一个同时互斥又独立——与「非零概率事件不可能既互斥又独立」的结论一致。

练 8.5 某设备有主副两套系统,正常率分别 0.9、0.8,独立。① 至少一套正常;② 两套都正常;③ 已知副系统故障,主系统仍正常。

答:① 1 − 0.1 × 0.2 = 0.98;② 0.9 × 0.8 = 0.72;③ 由独立性仍是 0.9——独立性最实用的推论:某一个的状态不改变另一个的概率,所以条件概率可以「直接扔掉条件」。

「互斥」与「独立」:两个方向,四个象限 互斥 →独立 ↑ ① 出1 vs 出2(互斥) ② 两枚骰各出6(独立) ③ 偶 vs 3的倍(独立) ④ A 与 A̅(互斥) 左下:既不互斥也不独立 右上:既互斥又独立(仅零概率事件) 四个例题全部落在「互斥」与「独立」两类里,右上角空着 —— 这就是章末要记住的结论
图 2-34 「互斥—独立」二维坐标图:横轴是互斥程度,纵轴是独立程度。四个练习全部落在左下、左上、右下三区,右上(既互斥又独立)只有零概率事件才可能触及——这一片空白本身就是一条定理。

小结:「四例一空白」这张图记住。每当题目里出现「或」「都」二字,先在心里跑一遍这张图,再决定用加还是用乘。

习题

第二章 概率的公理化与条件概率习题课九 伯努利与二项初步

练 9.1 某投篮命中率 0.6,独立投 4 次。求:① 恰中 2 次;② 至少中 2 次;③ 一次都没中。

答:① C42(0.6)2(0.4)2 = 6 × 0.36 × 0.16 = 0.3456;② 1 − P(0) − P(1) = 1 − 0.44 − 4(0.6)(0.4)3 = 0.8208;③ 0.44 = 0.0256。「至少 k 次」用补法比逐项加更快。

练 9.2 一批产品次品率 5%,独立抽检 10 件。① 恰有 1 件次品;② 至少 1 件次品;③ 一件次品都没有。

答:① C101(0.05)(0.95)9 ≈ 0.3151;② 1 − 0.9510 ≈ 1 − 0.5987 = 0.4013;③ 0.9510 ≈ 0.5987。「10 件抽检」在 5% 次品率下只有四成机会发现问题,这就是许多抽检规范要抽到 30 件以上的原因。

练 9.3 某系统有 5 个独立子系统,每个正常率 0.95。求「至少 4 个正常」的概率。

答:C54(0.95)4(0.05) + (0.95)5 = 0.2036 + 0.7738 = 0.9774。若要求「全正常」则只有 0.7738——「至少 4 个」比「5 个全好」宽了一倍的容错空间,这正是冗余设计的价值。

练 9.4 抛一枚均匀硬币 6 次。① 恰好 3 次正面;② 至少 4 次正面;③ 比较①②并解释对称性。

答:① C63/26 = 20/64 = 0.3125;② (15+6+1)/64 = 22/64 = 0.34375;③ 由对称性 p = 0.5 时「恰 k 次」与「恰 6−k 次」概率相同,故「至少 4 次正面」=「至多 2 次正面」,互补关系可用来快速验算。

练 9.5 广告点击率 2%(每次展示独立)。连续展示 100 次,① 求一次点击都没有的概率;② 至少一次点击的概率;③ 若要求「至少一次点击」达 90%,需展示多少次?

答:① 0.98100 ≈ 0.1326;② 1 − 0.1326 ≈ 0.8674;③ 由 0.98n ≤ 0.1 得 n ≥ ln 0.1/ln 0.98 ≈ 114。「低概率事件的重复」是互联网广告与转化率优化的核心算术:2% 的点击率看似低,重复上百次后「至少被点一次」几乎必然。

小结:二项公式三板斧——选位置、算一种、乘起来。「独立重复 n 次、恰 k 次」套公式;「至少一次」走对立面 1 − (1−p)n。练 9.5 的「n 需多大」是逆向问题,它在第五章抽样与第六章样本量计算中会再次出现。

习题

第二章 概率的公理化与条件概率习题课十 系统可靠性

练 10.1 三个元件串联,可靠度 0.98, 0.97, 0.99。求系统可靠度。若把 0.97 那个换成两个 0.97 并联的块,系统可靠度变为多少?

答:原:0.98 × 0.97 × 0.99 ≈ 0.9411。改后:并联块 1 − 0.032 = 0.9991,再串:0.98 × 0.9991 × 0.99 ≈ 0.9693。加一个备份,把最弱环节从 0.97 提到 0.9991,系统整体提升约 3 个百分点——「补短板」是可靠性工程的第一原则。

练 10.2 某系统由 A、B 两块串联,A 本身是 3 个元件并联(每个 0.9),B 是单个元件(0.95)。① 求系统可靠度;② 若把 B 也换成 3 个 0.95 并联,可靠度变多少?

答:① (1 − 0.13) × 0.95 = 0.999 × 0.95 ≈ 0.9491;② 0.999 × (1 − 0.053) ≈ 0.9989。①的瓶颈在 B(0.95 拉低了 0.999),②把 B 也冗余起来系统才真正接近 0.999。只冗余一部分环节,其余环节就成了新的瓶颈。

练 10.3 (表决系统的价值)三个元件各 0.8。比较:① 全串联;② 2/3 表决;③ 全并联。

答:① 0.83 = 0.512;② 3(0.8)2(0.2) + 0.83 = 0.896;③ 1 − 0.23 = 0.992。元件只有 0.8 的情况下,拓扑选择能把可靠度从 51% 拉到 99%——这是本课最震撼的一组数字:工程上「能不能冗余」有时比「元件好不好」更关键。

练 10.4 (反推指标)某关键任务要求系统可靠度 ≥ 0.999。① 若采用 3 个同型元件串联,单元可靠度至少要多少?② 若采用 3 个同型元件并联,至少多少?③ 比较并说明工程含义。

答:① p ≥ 0.9991/3 ≈ 0.99967(万分之三的失效率);② 由 (1−p)3 ≤ 0.001 得 p ≥ 1 − 0.1 ≈ 0.9。③ 结论惊人:并联三个 0.9 的元件,就能达到串联三个 0.9997 元件的效果。工程含义——高可靠元件成本高昂时,用多个廉价元件冗余往往更经济(这也是消费级硬件做冗余阵列的经济学依据)。

练 10.5 (共同元件的陷阱)两个「并联块」实际共用一个电源(可靠度 0.99),每块自身可靠度 0.9。求系统可靠度(系统=电源串联「两个 0.9 并联」)。

答:电源与两块独立,可直接连乘:0.99 × (1 − 0.12) = 0.99 × 0.99 = 0.9801。要点在识别「共用元件」能否直接乘:此处电源与两块串联且彼此独立,可直接乘;但若两「块」共用某元件、且该元件又出现在块内,就不能各自独立化简,须按共用元件的状态分类,用全概率公式(补集更省事:R = P(共用元件好)·R好+P(共用元件坏)·R坏)来算。

小结:可靠性三件套——串 pn、并 1 − (1−p)n、表决尾和;再加一条铁律:先消除单点串联,再考虑局部冗余。由内到外逐块化简时,务必检查有没有共用元件。

习题

第二章 概率的公理化与条件概率习题课十一 综合训练

本课混合本章全部工具。每道题判断「主用哪个公式」,再动笔。

练 11.1 (全概率+贝叶斯)某产品由两条线生产,甲线占 70%、次品率 3%;乙线占 30%、次品率 6%。① 求总次品率;② 已知取到次品,求它来自甲线的概率;③ 若把甲线次品率降到 2%,总次品率变为多少?

答:① 0.7(0.03) + 0.3(0.06) = 0.039;② 0.021/0.039 = 7/13 ≈ 0.5385;③ 0.7(0.02) + 0.018 = 0.032。甲线次品率砍掉三分之一(3%→2%),总次品率只从 3.9% 降到 3.2%——改善的效果要被产量权重「打折」。

练 11.2 (独立+至少一个)三个独立报警器,发现火情的概率为 0.95, 0.9, 0.85。① 至少一个报警;② 恰好一个报警;③ 若要求至少一个报警率 ≥ 0.9999,第三个报警器至少要多少?

答:① 1 − 0.05 × 0.1 × 0.15 = 0.99925;② 0.01425 + 0.00675 + 0.00425 = 0.02525;③ 由 0.05 × 0.1 × (1−x) ≤ 0.0001 得 x ≥ 0.98。

练 11.3 (独立性判定+全概率)某测验 10 道独立判断题。完全不会的考生随机作答(每题对率 1/2),会做的每题对率 1。已知随机作答者占 20%。① 随机抽一考生第 1 题答对的概率;② 若某考生第 1 题答对,他属于「随机作答」的概率;③ 若他 5 题全对,判断其类型。

答:① 0.2(0.5) + 0.8(1) = 0.9;② = 0.1/0.9 = 1/9;③ 随机者 0.2 × 0.55 = 0.00625,会做者 0.8 × 1 = 0.8,故 P(随机|5 全对) = 0.00625/0.80625 ≈ 0.00775,不到 0.8%。连续答对是最强的证据——这就是贝叶斯在「能力评估」上的用法。

练 11.4 (容斥+可靠性)某数据中心有 3 条独立供电线路,各可用率 0.99。至少 2 条可用即满足需求。① 求满足需求的概率;② 若要求「至少 2 条可用」达 99.99%,单线可用率至少要多少?

答:① C32(0.99)2(0.01) + (0.99)3 = 0.999702;② 记 R(p) = 3p2 − 2p3,解 R(p) ≥ 0.9999 得 p ≥ 0.9942(p = 0.99 时只有 0.99970)。这是「2-out-of-3 冗余」的容量规划算例:把单线可用率从 99% 推到 99.42%,三线表决系统才能站上 99.99% 的门槛。

练 11.5 (综合辨析)判断下列推理是否正确,错的指出错在哪一步。

①「甲乙丙三人命中率各 0.9,所以三人至少一人命中率为 0.93」;
②「两事件互斥且概率分别为 0.6、0.5,所以它们独立」;
③「检验灵敏度 99%,故阳性者约 99% 患病」;
④「全概率公式的权重一律取 1/n」。

答:① 错。混淆「至少一个」与「全部」:至少一人命中 = 1 − 0.13 = 0.999;0.93 是「三人全中」。② 错。两个非零概率事件互斥 ⟹ 交集为 0 ≠ 乘积,必不独立(且 0.6+0.5 > 1,数据本身也不自洽)。③ 错。方向反了,且忽略先验与假阳性。④ 错。权重是各划分族的概率 P(Bi),只有等可能时才是 1/n。

小结:综合题用「一句话定位一个公式」——先标出题面信号词(至少、都、已知、按类分、由果推因),第二遍再落笔。练 11.5 的四条错误,正是本章反复强调的四个坑。

习题

第二章 概率的公理化与条件概率复盘:错题归档与三问自测

本页用来收束本章。本章做错的题抄在这里,按「错因」归档——同一个抽屉里的错题,往往背后是同一条没想通的概念。

错题三抽屉(概率版)

抽屉一:运算用错——加法用在非互斥事件上、乘法用在非独立事件上、看到「至少」不走对立面。症状:算出概率 > 1,或某类事件概率为负。药方:动笔前先问「我凭什么敢用这个运算」,并用「所有互斥情形之和 = 1」验算。

抽屉二:条件反了——把 P(A|B) 当成 P(B|A);把条件空间数错(例:「至少一枚 6」当作「第一枚 6」)。症状:答案「感觉上」差得离谱(如检验悖论)。药方:把条件写成 B 并数出 |B|;由果推因先画千人格。

抽屉三:权重忽略——全概率/贝叶斯里把加权平均当算术平均,或忘掉先验。症状:三车间「平均次品率」算成 2.33%(正确 1.9%)。药方:写全概率时把权重 P(Bi) 显式写出,别省。

三问自测(每章结束时问自己)

一问:公式从哪来? 能否不看书写出「三公理 → 基本性质 → 加法公式 → 容斥」的推导链?能否说明乘法公式如何由条件概率定义移项得到?
—— 检验标准:能说出「它从哪条长出来」,而不是「我背下了它」。

二问:什么时候用它? 给出一句话(「至少一个」「由果推因」「按类别分」),能否立刻报出对应公式?§2.18 的方法选用表闭卷能默出几条?
—— 检验标准:看到关键词,公式自动跳出来。

三问:怎么验算? 做完题,手上有几个独立检查手段——「四块分区求和 = 1」「七区清点对拍」「并 ≤ 1」「不同方法算同一量」「量级是否离谱」?
—— 检验标准:至少能报出两条。

三问里最容易心虚的是第三问,恰恰它最重要——概率题的错误几乎不会当场暴露,全靠自查抓出来。

本章的三条核心记忆

① 公理化只做了一件事:把「概率是什么」悬置,只规定「概率必须满足什么」。三条公理看似贫瘠,却推出了全部定理。数学的力量常常来自「少规定」而不是「多规定」。

② 一个竖杠改变了什么:P(A|B) 让「信息」第一次成为数学对象。有了它,才有乘法公式、全概率、贝叶斯,才有从「算份数」到「做推理」的跃迁。

③ 直觉的两次崩塌与重建:第一次在赌桌(德·梅雷的两个赌局),靠「1 − (1−p)n」重建;第二次在诊室(医学检验悖论),靠贝叶斯公式重建。概率论的历史,就是直觉不断被修正、又被形式化重建的历史。

错题三抽屉 × 三问自测 抽屉一:运算用错 加用在不互斥上乘用在不独立上 症状:概率 > 1 或为负 抽屉二:条件反了 P(A|B) 误作 P(B|A)条件空间数错 症状:检验悖论类偏差 抽屉三:权重忽略 加权平均当算术平均忘掉先验 症状:平均次品率算高 一问:公式从哪来? → 能说出推导链(公理 → 性质 → 加法 → 容斥) 二问:什么时候用它?→ 看关键词报公式(至少 / 由果推因 / 按类分) 三问:怎么验算?  → 至少两条独立检查(分块求和 / 七区清点 / 量级) 错题归档不是为了「再看一遍答案」,而是为了看清自己落在哪个抽屉
图 2-35 错题三抽屉与三问自测:本章的错误几乎都能归进三个抽屉(运算用错、条件反了、权重忽略),而三问自测(从哪来、何时用、怎么验)是检验「真懂」的三把尺子。

下一站是综合站——知识图谱、思想卡、两道挑战、一个动态实验,以及章末测试与评讲。在本章的最后六页里,我们会把「信息如何重塑概率」这件事做一个漂亮的收束。

格物札记

第二章 概率的公理化与条件概率格物札记① 帕斯卡与费马的五封信:赌金分配问题的解决〔赌金〕

概率论的第一批论文,不在学术期刊上,而在两个法国人的私人通信里——话题是一场没赌完的赌局。

问题:赌到一半,钱怎么分

1654 年,骑士德·梅雷向帕斯卡(Blaise Pascal, 1623–1662)提出「赌金分配问题」(problem of points):两人各出赌注,先赢满若干局者胜。若赌局中断,甲已赢 a 局、乙已赢 b 局,赌金如何公平分配?赌金是对「未来」的下注,而未来尚未发生——凭什么分配一个还没兑现的东西?当时通行「按已赢局数比例分」,也有主张「领先者全拿」的,两者都能自圆其说,答案却相去甚远。

两套解法(1654)

费马的路(枚举未来):设想赌局继续,看最多还需 n 局分出胜负。这 n 局的每种胜负序列等可能,共 2n 种;数出「甲最终获胜」的占比,即甲应得的比例。

帕斯卡的路(倒推):设 P(a, b) 为「甲已赢 a 局、乙已赢 b 局时甲最终获胜的概率」,则

P(a, b) = 12 P(a+1, b) + 12 P(a, b+1)

边界:甲够数时 P = 1,乙够数时 P = 0。这是概率论史上第一个「条件期望递推」,也是杨辉三角(西方称帕斯卡三角)的一个应用。

经典算例:各出 32 枚金币,先赢 3 局者胜,中断时甲 2 胜、乙 1 胜

最多再赌 2 局,共 22 = 4 种等可能序列:甲甲、甲乙、乙甲、乙乙。只有「乙乙」能让乙翻盘,故甲获胜概率 = 3/4,赌金按 48 : 16 分配。这与「按 2 : 1 分」完全不同——赌金买的不是过去的战绩,而是未来的胜算。(若甲 2 胜、乙 0 胜:3 局共 8 种序列,甲至少赢一局的有 7 种,P(甲) = 7/8,分配 7 : 1。以上均设两人单局胜率相同;若不同,计数要换成加权计数,这正是乘法公式的用武之地。)

为什么重要:①它第一次让「未发生的事」进入数学——对尚未发生的现象赋予一个可计算的数值,这是概率论诞生的标志;②它第一次「平均地对待未来」——按已赢局数分是向后看,按胜算分是向前看,现代期权定价与保险费率精算用的都是后者;③它埋下期望与递推的种子——帕斯卡的递推式就是「条件期望」与「动态规划」的雏形,换个名字便叫「风险中性测度下的倒推定价」。帕斯卡为处理这类组合计数,同年写出《算术三角形论》——正是中文世界的「杨辉三角」。

赌金分配:甲 2 胜、乙 1 胜,先赢 3 局者胜 现状再赌 1 局再赌 1 局 甲2 : 乙1 甲胜 → 甲3 乙胜 → 2:2 甲胜 ⟹ 甲赢 乙胜 ⟹ 甲赢 甲胜 ⟹ 甲赢 乙胜 ⟹ 乙赢 ✓ 甲✓ 甲 ✓ 甲✓ 乙 4 条路径中甲赢 3 条 ⟹ P(甲) = 3/4 赌金按 3 : 1 分,不是按 2 : 1 分 赌金买未来, 不买战绩
图 2-36 赌金分配问题的博弈树:最多再赌 2 局即可分出胜负,4 条路径里甲赢 3 条,故甲得 3/4 的赌金。费马数路径、帕斯卡用递推,两种方法给出同一个 3 : 1——概率论的第一个「定理」是这样被确认的。
格物札记

第二章 概率的公理化与条件概率格物札记② 科尔莫戈罗夫与《概率论基础》:公理化运动的里程碑

从帕斯卡的 1654 年到科尔莫戈罗夫的 1933 年,隔了二百七十九年。这期间概率论积攒了大量定理与技巧,却始终有一块心病:它没有可靠的地基。

二百多年里,概率论在争什么

古典派(拉普拉斯,1812 年《分析概率论》):概率=有利情形 ÷ 全部等可能情形。漂亮,但「等可能」不成立就失效,且「等可能」本身往往要靠概率解释,逻辑绕回原处。

频率派(19 世纪末至 20 世纪初):概率=长程频率的极限。可「频率一定收敛」本身就是大数定律,证明它又需要先有概率——循环论证。

主观派:概率是信念度。回避了客观性问题,却让「同一事件对不同人有不同概率」成为常态,基础不稳。

三派各执一词、相互批评了整整一个世纪。有意思的是,他们用的公式却几乎完全相同——这暗示:分歧也许不在数学,而在哲学;若能把「公理」与「解释」分开,争论就可以搁置。

1933:三条公理

1929 年,苏联数学家科尔莫戈罗夫(Андрей Николаевич Колмогоров, 1903–1987)发表《概率论的一般测度论》;1933 年,专著《概率论基础》(Grundbegriffe der Wahrscheinlichkeitsrechnung)在德国出版。这本书薄得不像奠基之作,却只做了一件事:把概率定义为事件域上的一个测度,写下三条要求——非负、规范、可列可加。二百多年的争论就此搁置,已积累的定理几乎无损地搬进新框架。他明确说这三条公理并不解决「概率究竟是什么」,只是把概率论从哲学争论中解放出来——「不回答是什么,只规定必须满足什么」这一步退让,反而赢得了整个学科的地基。

为什么是「可列可加」而不是「有限可加」

这是看似技术性、实则决定命运的选择。若只要求有限可加,「抛硬币直到首次正面」这类试验(样本空间 {1, 2, 3, …})就无法处理——而几何分布恰是它最自然的模型。取「可列可加」,一举把离散与连续、有限与无限收进同一框架。配套的还有「事件域(σ-代数)」:不是所有子集都堪当事件(连续情形存在不可测集),但只要承认「事件族对可数运算封闭」,一切就能顺利运转。这两处看似繁琐的技术安排,正是公理化方案真正胜过古典定义的地方。

公理化之后:一场连锁反应:①测度论成了共同语言——概率=归一化测度,积分、极限、可测函数全部直接搬来用,四年后科尔莫戈罗夫与冯·诺依曼等把「条件期望」建立在测度论上,现代概率论的形式化就此完成;②随机过程顺势而起——布朗运动、马尔可夫链、鞅这些描述「随时间演变的随机性」的对象,只有在公理化地基上才能严格定义,后来成为物理学、金融数学、通信理论的主力工具;③应用的大门被撞开——正因不再纠缠「概率是什么」,频率派、贝叶斯派、精算师、量子物理学家可以共用同一套公式,今天机器学习里的每个概率模型,都还站在 1933 年那本小书的地基上。科尔莫戈罗夫 19 岁就构造出「处处不可微的连续函数」的简化反例,在湍流理论、动力系统、信息论、算法复杂性上都留下名字;《概率论基础》出版时,他只有 30 岁。

1933 年的一道分水岭:从「争执定义」到「规定规则」 之前(1654–1933):三派相争 古典派:等可能 ÷ 总情形 频率派:极限频率 主观派:信念度 争执焦点:概率「究竟是什么」 之后(1933—):公理 + 解释分离 三公理:非负 / 规范 / 可列可加 概率 = 事件域上的测度 解释各异,运算同一 争论搁置,定理照旧可用 留下的:拉普拉斯的全部结果、大数定律、中心极限定理、贝叶斯公式 —— 几乎无损地搬进新框架 被解放的:随机过程、金融数学、信息论、量子力学、机器学习
图 2-37 公理化的分水岭:1933 年之前,三派为「概率是什么」争执百年;之后,公理与解释被分开——数学只规定运算规则,哲学争论留在别处。这一「退让」换来了整个学科的地基,也换来了随后百年的应用爆炸。

两篇札记首尾呼应:一篇讲问题如何被提出(赌金分配),一篇讲学科如何被奠基(三条公理)。从「赌到一半怎么分钱」到「概率是一类测度」,人类走了二百七十九年——这条路上,每一块路标都是一个「把直觉变成可计算之物」的尝试。

综合站

第二章 概率的公理化与条件概率章小结:知识图谱与方法表

本章的二十二个知识点,串起来只有一条主线:把「概率」从「数份数」升级成「一套公理系统」,再让「信息」进入这套系统。

本章知识图谱(三层)

第一层 · 地基(§2.2–2.5):样本空间与事件域 → 三公理 → 六条基本性质 → 加法公式 → 容斥原理。产物:一套「算概率的代数」,不再依赖等可能。

第二层 · 信息(§2.6–2.10):条件概率 → 乘法公式 → 全概率 → 贝叶斯。产物:一条完整的推理链,由因推果与由果推因两端打通,医学检验悖论是它的试金石。

第三层 · 结构(§2.11–2.17):独立性(两两 ≠ 相互)→ 独立与互斥辨析 → 伯努利与二项 → 系统可靠性 → 概率方法 → 现代接口。产物:一个「建模工具箱」,现实问题被翻译成独立重复、串联并联、划分求和这些结构。

十个公式的一页速记

P(A|B) = P(A∩B)/P(B)(定义) P(∅) = 0;P(A̅) = 1−P(A);A ⊆ B ⟹ P(A) ≤ P(B);P(B−A) = P(B)−P(A∩B)(性质)
P(A∪B) = P(A)+P(B)−P(A∩B)(加法) P(A∪B∪C) = S1−S2+S3(容斥)
P(A1…An) = P(A1)P(A2|A1)…(乘法) P(A) = ∑iP(Bi)P(A|Bi)(全概率)
P(Bk|A) = P(Bk)P(A|Bk) / ∑iP(Bi)P(A|Bi)(贝叶斯)
P(A∩B) = P(A)P(B)(独立) P(X=k) = Cnkpk(1−p)n−k(二项)

背公式的三个层次:①记住(能默写);②理解(能推导);③会用(看题面能判定)。第三层才是真正的目标——本章所有例题与习题都在练它。

第二章知识图谱:地基 → 信息 → 结构 第一层 地基 样本空间 Ω、事件域 ℱ 三公理(非负/规范/可加) 基本性质(单调、减法) 加法公式与容斥原理 第二层 信息 条件概率 P(A|B) 乘法公式(链式分解) 全概率公式(由因推果) 贝叶斯公式(由果推因) 第三层 结构 独立性(两两 ≠ 相互) 独立 vs 互斥辨析 伯努利与二项概率 可靠性 / 概率方法 奠基:从「数份数」到「公理」 注入:一个竖杠改变世界 应用出口:医学检验 · 质量抽检 · 保险精算 · 系统可靠性 · 垃圾邮件 · 人工智能 下一章预告:给样本点贴数字标签 —— 随机变量与六大分布
图 2-38 第二章知识图谱:三层结构——地基(公理与代数)、信息(条件概率到贝叶斯)、结构(独立性、二项、可靠性、概率方法)。三层之间的箭头,就是本章的两条主线:奠基与注入信息。
综合站

第二章 概率的公理化与条件概率思想卡:信息——条件概率重塑的世界

本章真正的主角,是一个竖杠。写下来只要一瞬间,可它带来的变化,比本章所有公式加起来都更深。

思想卡 · 信息如何重塑概率

没有竖杠时:概率是事件的一个属性,是一个固定的数——P(A) = 0.5 就是 0.5,与谁知道、什么时候算无关。有竖杠之后:概率成了「相对于某套信息」的量,P(A) 与 P(A|B) 是同一件事的两个不同答案。于是「概率」从静态属性变成动态状态,可以被获取、传递、更新——这正是它能进入工程与人工智能的原因。

三个例子:①同一个检验、同一个阳性结果,在患病率 0.1% 的人群里只有 1.94% 的意义,在患病率 30% 的人群里有 89.46% 的意义——检验没变,变的是我们此前掌握的信息;②赌金分配问题说赌金的价值取决于未来胜算,换到金融里就是同一份资产对不同信息集的人有不同价值,信息差异直接表现为价格差异;③一次 A/B 测试的结果,在「本来就更可能有效」的方案上说服力更强,忽略先验往往高估证据,「显著性」从来不是绝对的,它依附于先验。

这张思想卡的三条要点

一:独立性 = 信息量为零。P(A|B) = P(A) 的意思是「知道 B 对 A 毫无帮助」。所以「独立」不是「没有关系」,而是「没有信息价值」。二:互斥是信息量的极端。P(A|B) = 0,知道一个发生,另一个就永远不可能。从「独立」到「互斥」,是「零信息」到「完全信息」的两个端点。三:贝叶斯更新是信息处理的规范程序。「先验 × 似然 →(归一化)→ 后验」不依赖哪一派解释,任何愿意把信念表示成概率、并接受证据修正的人,都会得到同一个后验。

深入一层:信息量有一个单位叫「比特」

如果一条信息能把 P(A) 从 0.5 推到 0.9,它携带多少信息?香农 1948 年的答案是 I = log2后验先验 = log20.90.5 ≈ 0.848(比特)。有了它,贝叶斯更新就能被精确度量——概率论回答「怎么更新」,信息论回答「更新了多少」。本册不展开信息论,但这个接口:第五章的抽样误差、第六章的假设检验都与它一脉相承。

一条竖杠带来的变化:概率从「属性」变成「状态」 独立P(A|B) = P(A) 信息量为零 一般关系0 < P(A|B) < 1 部分信息(正/负相关) 互斥P(A|B) = 0 完全信息 静态:P(A) 是一个固定的数 动态:P(A|B) 随掌握的信息而改写 —— 可更新、可传递、可累积 应用:诊断(先验决定阳性意义)· 金融(信息差异即价格差异)· A/B 测试(证据依附先验) 接口:香农 I = log2​(后验/先验),把「更新了多少」度量出来
图 2-39 信息量的谱:从「独立」(信息量为零,知道 B 对 A 毫无帮助)到「互斥」(完全信息,知道 B 就排除 A)。中间是各种程度的相关。这张谱解释了本章那句核心结论:概率不是对象的属性,而是信息状态的一部分。

把这张思想卡带走,本章的十个公式就不再是一堆需要背的算式,而是一条思想的不同侧面:如何在信息流动中,正确地改写概率。

综合站

第二章 概率的公理化与条件概率挑战一 全概率与贝叶斯公式的完整推导

本章的两个核心公式在最关键处都被「留了一手」——全概率公式直接用了划分的可加性,贝叶斯公式只做了「分子分母一除」。这一节的挑战是:把这两个公式从三公理出发完整地证一遍。

挑战目标

A:从三公理严格证明全概率公式;B:从条件概率的定义与全概率公式严格证明贝叶斯公式;C:证明「链式乘法公式」(n 个事件的版本);D:证明「若 A, B 独立,则 A 与 B̅ 也独立」,并说明这条性质为什么重要。

任务 A · 全概率公式的证明(条件:B1, …, Bn 两两互斥,∪iBi = Ω,P(Bi) > 0)

一(切分):由分配律与划分的定义,A = A ∩ Ω = A ∩ (∪iBi) = ∪i(A ∩ Bi)。二(互斥):若 i ≠ j,(A∩Bi) ∩ (A∩Bj) = A∩(Bi∩Bj) = ∅,故 A∩B1, …, A∩Bn 两两互斥。

三(有限可加):由性质 2(其本身由公理 3 补 ∅ 而得),

P(A) = ∑i=1n P(A ∩ Bi)

四(乘法公式):由 P(Bi) > 0 与条件概率定义 P(A∩Bi) = P(Bi)P(A|Bi),代入得

P(A) = ∑i=1n P(Bi) P(A|Bi) ∎

第四步是整条链上唯一「不是纯集合运算」的地方——它把「集合的份额」翻译成「先验 × 似然」。这解释了为什么全概率公式既像集合论的结果,又像概率论的结果。

任务 B · 贝叶斯公式的证明(设 P(A) > 0)

由条件概率定义 P(Bk|A) = P(Bk ∩ A)/P(A)。分子用乘法公式 P(Bk∩A) = P(Bk)P(A|Bk)(用了交换律),分母用任务 A 的 P(A) = ∑iP(Bi)P(A|Bi),两式相除即得

P(Bk|A) = P(Bk)P(A|Bk)∑iP(Bi)P(A|Bi) ∎

顺带得到一条自洽性:∑kP(Bk|A) = 1——所有后验之和为 1,因为它们的分子加起来恰好是分母。这正是那条「后验之和必为 1」验算的来源。

任务 C · 链式乘法公式(设 P(A1∩…∩An−1) > 0,对 n 归纳)

奠基(n = 2)即乘法公式本身。归纳步:设对 n−1 成立,令 C = A1∩…∩An−1(P(C) > 0),把 n 个事件的交分两步 P(A1∩…∩An) = P(C ∩ An) = P(C) P(An|C),再对 P(C) 用归纳假设,即得

P(A1)P(A2|A1)P(A3|A1A2)…P(An|A1…An−1) ∎

归纳能走通的原因:P(C) > 0 保证第二项的条件概率有定义。若某个中间事件概率为 0,链式分解就会在那一环断掉——这就是题面必须写明「P(A1∩…∩An−1) > 0」的原因。

任务 D · 独立性的「可继承」性质(若 A 与 B 独立,则 A 与 B̅ 独立)

把 A 按 B 切成两半(两块互斥):P(A) = P(A∩B) + P(A∩B̅),代入独立性并移项得

P(A∩B̅) = P(A) − P(A)P(B) = P(A)[1 − P(B)] = P(A)P(B̅) ∎

为什么重要:它让独立性可在「对立事件之间自由传递」,于是 A 与 B 独立立刻推出「至少一个」的补运算公式 P(A∪B) = 1 − P(A̅)P(B̅),§2.15 的并联可靠度 1 − (1−p)n 正是它的应用。反向提醒:这条性质不能从「两两独立」推到「相互独立」(§2.13 四点反例即证),两者地位完全不同,不能混淆。

推导链:三公理 → 性质 → 乘法 → 全概率 → 贝叶斯 三公理 基本性质 乘法公式 全概率 贝叶斯 补 ∅定义移项 切分+可加一除 任务 A:分配律 → 互斥性 → 有限可加 → 乘法公式 ⟹ 全概率公式 任务 B:分子用乘法、分母用全概率,相除 ⟹ 贝叶斯;顺带得 Σ后验 = 1 任务 C:对 n 归纳,用 P(C) > 0 保证每一步的条件概率有定义 任务 D:独立 ⟹ A 与 B̅ 独立 ⟹ 「至少一个」的补运算公式合法 全章十个公式,没有一个需要额外假设 —— 它们全部长在三条公理上
图 2-40 四公式的推导链:三公理经「补 ∅」得有限可加,经「定义移项」得乘法公式,经「切分 + 可加」得全概率,最后「一除」得贝叶斯。全章十个公式没有一个需要额外假设——这是公理化方案最有力的展示。
综合站

第二章 概率的公理化与条件概率挑战二 「两两独立而不相互独立」的反例库

§2.13 给了一个四点反例。这一节把它扩成一个「反例库」——四个构造,四种视角,供今后随时调用。

反例一 · 四点形态(最简、最通用)

Ω = {ω1, ω2, ω3, ω4},各点概率 1/4,取 A = {ω1, ω2},B = {ω1, ω3},C = {ω1, ω4}。两两交集均为 {ω1}(概率 1/4 = 1/2 × 1/2),三交仍是 1/4 ≠ 1/8。优点:结构最干净,任何需要反例的证明都能直接引用。秘诀是让三个事件都「挤」在同一个样本点上,而这个点占的比例恰好等于各自概率的平方。

反例二 · 两枚硬币(最有画面感)

抛两枚均匀硬币:A=第一枚正,B=第二枚正,C=两枚同面。两两独立成立(每对交集都是 {正正},概率 1/4);三交 = {正正},概率 1/4 ≠ 1/8。直观:C 是 A、B 的「逻辑后果」——当某个事件是另外两个的函数时,三者之间的信息必然冗余:C 与单独一个独立,与两个合起来却绝不独立。

反例三 · 抽样形态(贴近应用)

袋中有 4 个球,编号 1–4,随机取 1 个,定义 A = {1, 2}, B = {1, 3}, C = {1, 4}——与反例一本质相同,只换成「取球」的实物语言。同一结构的不同外衣,是反例库的价值所在:它让人更容易在应用题里识别出同样的骨架。

反例四 · 构造法:从「想要的性质」反推

想造一个两两独立而非相互独立的例子,可以「倒着来」。目标:P(A)=P(B)=P(C)=p,两两交集 = p2,但三交 = p2 ≠ p3。做法:取公共样本点 ω0 令 P(ω0) = p2,再给每个事件配一块「独占区」,比例各 p − p2,则 P(A) = p2 + (p − p2) = p。只要剩余份额 1 − p2 − 3(p − p2) 非负(取 p = 1/2 时恰为 0,正对应四点形态),构造就成功。这就是「三点 + 三块独占区」的通用模板:三个事件只在一点上共享,其余部分彼此不碰。掌握它,任何需要「两两独立但整体不独立」的场合都能随手造一个——比记住具体的四点例子有用得多。

反例库:四个构造,同一条模板 ① 四点形态 最简通用 ② 两枚硬币 C 是 A、B 的函数 ③ 抽样形态 换外衣,同结构 ④ 构造模板 公共点 ω0​:p2​ 三块独占区:p − p2​ 余量 ≥ 0 即可 共同算子:三点共享一个 ω0​;把「半份额」当公共交点,两两乘积关系自动成立 缺口所在:整体乘积 P(A)P(B)P(C) = p3​ 与三交 p2​ 不等的差额 p2​(1 − p) 记住模板比记住例子有用:三点共享 + 三块独占 = 反例生成器
图 2-41 反例库的四个构造:四点形态(最简)、两枚硬币形态(最有画面感)、抽样形态(贴近应用)、构造模板(可复用)。四者共用同一条算术结构——「三点共享一个 ω0,三块独占区彼此不碰」。
综合站

第二章 概率的公理化与条件概率实验:贝叶斯更新的动态演示——先验如何被证据改写

实验装置:两个罐子

桌上放两个外观完全相同的罐子:A 罐 70 红 30 蓝(红多),B 罐 30 红 70 蓝(蓝多)。实验者随机选了其中一个(事先不知道是哪个),然后有放回地抽 5 次,每次报出颜色。任务:根据抽出的颜色,判断他选的是哪个罐子。先验两罐外观相同,故初始 P(A) = P(B) = 1/2;似然:若罐子是 A,抽红概率 0.7、抽蓝 0.3,若罐子是 B 则反过来。

演算一:一次抽到红球,后验变多少

由贝叶斯公式 P(A|红) = 0.5 × 0.70.5 × 0.7 + 0.5 × 0.3 = 0.35/0.5 = 0.70。一次红球就把 P(A) 从 0.50 推到 0.70。关键操作:下一步若又抽到红球,不要回到 1/2 重新算,而应把 0.70 当作新的先验——这就是链式更新。

演算二:连续抽 5 次(红、红、红、红、蓝),逐次更新

把「上一次的后验」当作「这一次的先验」,依次代入贝叶斯公式:

第 1 次红:0.5000 → 0.7000

第 2 次红:0.7000 → 0.8448 (4958)

第 3 次红:0.8448 → 0.9270 (343370)

第 4 次红:0.9270 → 0.9674 (24012482)

第 5 次蓝:0.9674 → 0.9270 (343370)

观察三件事:①上推力递减——第一次红 +0.20,随后只加 +0.14、+0.08、+0.04,证据的边际效应递减;②一次反向证据能把成果部分退回——第 5 次蓝球使信念从 0.9674 退回 0.9270,恰好回到「第 3 次后」的位置:4 红 1 蓝与「3 红 0 蓝」在此模型下净差额相同;③顺序无关——换成「蓝红红红红」最终后验同样是 0.9270,因为似然连乘而乘法可交换。贝叶斯更新对证据顺序不敏感,这是它作为「信息累积机制」的基本要求。

演算三:用「批量法」验证链式更新

直接把 5 次结果当作一个整体证据,用二项似然算一次:P(4 红 1 蓝|A) = C54(0.7)4(0.3) = 0.36015,P(4 红 1 蓝|B) = C54(0.3)4(0.7) = 0.02835,故 P(A|数据) = 0.36015/0.3885 = 343/370 ≈ 0.9270——与逐次更新的结果完全一致 ✓。这就是贝叶斯方法最漂亮的一条性质:一步一步更新,与一次批量更新,结果相同。若把 5 次改成 10 次、20 次,后验会迅速贴近 0 或 1——证据越多,信念越尖锐。这正是「大数据」在贝叶斯框架下的意义:不是改变结论的形式,而是把后验分布压窄。

逐次更新:信念的阶梯(红红红红蓝) 0.5 起始红1​红2​ 红3​红4​蓝5​ 0.500.700.845 0.9270.9670.927 边际效应递减:+0.20 → +0.14 → +0.08 → +0.04 一次反向证据退回一步;顺序无关(乘法可交换) 4 红 1 蓝 = 3 红 0 蓝 (净差额相同 ⟹ 后验相同)
图 2-42 贝叶斯更新的阶梯曲线:每一次证据都把信念推高一点,但推力递减(+0.20 → +0.14 → +0.08 → +0.04);第 5 次的反向证据把信念退回一步,恰好退回与「3 红 0 蓝」相同的位置。后验只取决于证据的净差额,与出现顺序无关。

实验小结:贝叶斯更新是一门「把信念做成动态量」的技术,它有三个漂亮的性质——逐次与批量等价、顺序无关、证据越多后验越尖锐。这三条合起来,就是它能成为现代人工智能底层语言的原因。

综合站

第二章 概率的公理化与条件概率章测试与评讲

闭卷 30 分钟。过程写完整——本章的重点是「用哪个公式」,只写答案无法得分。

章测试(6 题)

1.(10 分)判断 P 是否为概率:Ω = {a, b, c},P({a}) = 0.5, P({b}) = 0.4, P({a,b,c}) = 1,P({c}) = 0.1。

2.(15 分)已知 P(A) = 0.5, P(B) = 0.6, P(A∪B) = 0.8。求 P(A∩B)、P(A|B)、P(A̅∩B̅),并判断独立性。

3.(15 分)某病患病率 2%,检验灵敏度 90%、特异度 95%。求阳性者真患病的概率。

4.(15 分)独立元件各可靠度 0.9,求 3 个串联、3 个并联、2/3 表决三种结构的系统可靠度。

5.(20 分)甲、乙两机器产同一产品,甲占 60%、次品率 2%;乙占 40%、次品率 5%。① 求总次品率;② 已知取到次品,求来自乙的概率。

6.(25 分)三个事件各概率 0.9。① 若三者相互独立,求「至少一个发生」与「恰好一个发生」的概率;② 若三者仅两两独立(整体不独立),上述两个答案是否仍然成立?说明理由。

答案与评分

1.(10 分)是概率。三条公理都满足:非负 ✓;0.5+0.4+0.1 = 1 ✓;三个单点互斥且可加 ✓。(只答「是」得 3 分,须列出三条验证才给满分。)

2.(15 分)P(A∩B) = 0.5+0.6−0.8 = 0.3(5 分);P(A|B) = 0.3/0.6 = 0.5(5 分);P(A̅∩B̅) = 1−0.8 = 0.2(3 分);0.5 × 0.6 = 0.3 = P(A∩B) ⟹ 独立(2 分)。这里 P(A|B) = P(A) = 0.5,正是独立性的标志。

3.(15 分)P(D|+) = 0.02 × 0.90.02 × 0.9 + 0.98 × 0.05 = 0.018/0.067 ≈ 0.2687,约 26.9%。(两条路径各 5 分,结果 5 分。只答「90%」得 0 分——这是本章最严重的概念错误。)

4.(15 分)串联 0.93 = 0.729;并联 1 − 0.13 = 0.999;2/3 表决 3(0.9)2(0.1) + 0.93 = 0.972(各 5 分)。

5.(20 分)① 0.6 × 0.02 + 0.4 × 0.05 = 0.012 + 0.020 = 0.032(10 分);② 0.020/0.032 = 0.625(10 分)。若①答 0.035(算术平均)、②答 0.5(按产量比例),各扣 8 分——这两个错误说明「权重」尚未真正掌握。

6.(25 分)① 至少一个 1 − 0.13 = 0.999(6 分);恰好一个 3 × 0.9 × 0.12 = 0.027(6 分)。② 两个答案都不保证成立,因二者都含三交项 t = P(A∩B∩C):至少一个 = 3p − 3p2 + t = 0.27 + t,恰好一个 = 3p − 6p2 + 3t = 3t − 0.72。而两两独立只确定两交(= p2 = 0.81),对 t 毫无约束;由 恰一个 ≥ 0 与 P(A∪B∪C) ≤ 1 得 0.72 ≤ t ≤ 0.73,于是恰好一个 ∈ [0, 0.03](变化达 100%),至少一个 ∈ [0.99, 1.00]。只有当 t = 0.729(相互独立)时才回到 0.027 与 0.999。(指出「含三交项 ⟹ 两两独立不足」得 7 分,给出范围得 6 分。)

一句话结论:凡涉及三交的量,两两独立都不足以确定它。这就是「相互独立 ≠ 两两独立」的实用意义——不只是逻辑上的严格性,而是「算出来的数字会差多少」的实质问题。

本章易错点复盘(按扣分位置排序)

① 方向反:把 P(+|D) 当作 P(D|+)(第 3 题);② 权重忘:全概率算成算术平均(第 5 题 ①),贝叶斯分子分母不匹配(第 5 题 ②);③ 条件混:两两独立 vs 相互独立分不清(第 6 题 ②);④ 验算缺:算完不检查「所有情形之和是否为 1」「概率是否 ≤ 1」。本章的分数分布有个规律:前四题满分的学生不少,但第 5、6 两题的满分率通常不到三成。前四题是「套公式」,后两题考的是「理解权重与独立性的层次」——而这恰恰是本章真正想教的东西。

本章到此收官。从赌桌上的两颗骰子出发,我们走过公理、性质、条件概率、全概率、贝叶斯、独立性、可靠性,最后落在人工智能的先验与后验上。下一章,样本点将被贴上数字标签——随机变量要登场了。

第三章

随机变量及其分布

给随机结果贴上数字标签:离散的分布列与连续的密度曲线就此登场。二项、泊松、几何、均匀、指数、正态——六张面孔,覆盖了从抽检到寿命、从稀有事件到钟形曲线的广阔疆域。
页型节奏:讲义×18 → 例题×12 → 习题×12 → 格物札记×2 → 综合站×6
讲义

第三章 随机变量及其分布3.1 导引:给随机结果贴上数字标签〔骰子〕

前两章我们反复问同一个问题:「某件事发生的概率是多少?」答案是一个数。这一章换一个更彻底的问法:把整个试验的全部可能性一口气说完,该怎么说?答案是给每个随机结果贴上数字标签,然后列出这些数字各自的概率——这张「标签—概率」对照表,叫分布。

为什么非要数字不可

「掷出红三点」是文字,「点数为 3」是数字。数字可以排序、求和、取平均、画成曲线——一句话,数字才能被数学加工。随机变量就是把「红三点」「抽到黑桃」这些五花八门的结果,统一翻译成实数轴上的点的翻译官。翻译完成之后,概率论才真正接上了微积分与代数的高速公路。

游戏依然是我们最好的老师。一颗骰子能长出离散的分布列,寿命试验能长出连续的密度曲线;赌桌上最早出现的二项分布,至今仍是质量抽检的日常工具。本章将认识六张「面孔」:

六张面孔:从骰子到钟形曲线 两点分布 B(1,p) 一次试验:成 / 不成 出身:赌一刀 二项分布 B(n,p) n 次独立重复的成功次数 出身:n 粒骰子里的六点数 泊松分布 P(λ) 稀有事件的计数 出身:普鲁士骑兵马踢伤亡 几何分布 Ge(p) 首次成功的等待次数 出身:掷到出六为止 均匀分布 U(a,b) 与指数 Exp(λ) 连续型:等可能与寿命 出身:轮盘指针与灯泡寿命 正态分布 N(μ,σ2​) 误差与测量之王 出身:棣莫弗的赌桌近似 离散(上排与几何)数得清,连续(下排)量得细——同一章里的两套语言
图 3-1 本章的六张面孔与它们的出身。每张卡片右下的一行:它们几乎全部诞生于赌桌、骰子与观察误差——游戏与测量,是概率论的两只摇篮。

本章的读法:先把离散(数得清)讲透——分布列、二项、泊松、几何;再把连续(量得细)讲透——密度、均匀、指数、正态。最后用「分布函数」一句话把两套语言缝合。每一节都从一道游戏或生活题出发。

讲义

第三章 随机变量及其分布3.2 随机变量的定义:从样本空间到实数轴

定义(随机变量)

设随机试验的样本空间为 Ω。若对每个样本点 ω ∈ Ω 都按某一规则指定一个实数 X(ω),则称 X = X(ω) 为随机变量。直观说:随机变量是一台「结果 → 数字」的翻译机。

「变量」二字容易误导:它不像方程里的未知数 x 那样可以解出来,而是试验前不知道会取哪个值、试验后才知道的量。我们能完整掌握的,是它取各种值的可能性——即它的分布。

同一个试验可以贴不同的标签。掷两粒骰子,至少有三种有用的贴法:

掷两粒骰子:一样试验,多种翻译 样本空间 Ω = {(i,j)} 36 个等可能结果 (3,5) 是其中一个 X = 两点之和 (3,5) ↦ 8 Y = 六点的个数 (3,5) ↦ 0 Z = 较大点数 (3,5) ↦ 5 W = 和是否>9 0 或 1 标签选得好,问题就解了一半:问「和大于 9」就用 X,问「六点多不多」就用 Y
图 3-2 同一试验、不同标签。W 只取 0 或 1,是最小的随机变量(两点分布);X 取 2 到 12,是本章开篇的老朋友。

约定与记号

随机变量用大写拉丁字母 X, Y, Z 表示;它们取到的具体值用小写 x, y, k 表示。事件 «X = k» 就是样本空间的子集 {ω : X(ω) = k},因此有概率 P(X = k)。大写是「机器」,小写是「产出」,这个大小写之别要一直保持。

判断一件事:凡能用「取某个值的概率」来提问的量,都是随机变量。明天最高气温、网页访客数、下一手牌的红桃张数——把它们写成 X,是我们给混沌世界建立账本的第一步。

讲义

第三章 随机变量及其分布3.3 离散型随机变量与分布列

若随机变量只可能取有限个或可列个值,就叫离散型随机变量。骰子的点数、牌局的红桃数、网页的访客数都是;气温可以是任意实数,就不算(它是第四章之后的主角之一——连续型)。

定义(分布列)

设离散型随机变量 X 的全部可能值为 x1, x2, …,称

P(X = xk) = pk, k = 1, 2, …

为 X 的分布列(概率分布)。它就是那张「标签—概率」对照表:每个可能值配上各自的概率。

例 掷一粒均匀骰子,X = 出现的点数。分布列只有六行:

X = xk123456
pk1/61/61/61/61/61/6

例 掷两粒均匀骰子,Y = 六点的个数。三行就够:

Y012来源
P(Y=y)25/3610/361/36(5/6)2, 2·(1/6)(5/6), (1/6)2
两粒骰子六点个数的分布:概率像货物一样分给每个值 25/36 ≈ 0.694 10/36 ≈ 0.278 1/36 ≈ 0.028 0 1 2 Y = 六点的个数(概率总量 = 25/36+10/36+1/36 = 1,一根柱子都不能少)
图 3-3 分布列的条形图。三根柱子分掉全部概率 1——「总量恰好为 1」是分布列的第一身份证。

分布列回答的是「整体画像」:拿一行,答一问(P(Y = 1));拿几行,答复合问(P(Y ≥ 1) = 10/36 + 1/36 = 11/36)。这一章之后,「求概率」的多数工作都变成了「查表与加行」。

讲义

第三章 随机变量及其分布3.4 分布列的性质与条形图

分布列的两条性质(充要条件)

一组数 {pk} 能充当某随机变量的分布列,当且仅当

① pk ≥ 0(每个概率非负); ② ∑kpk = 1(概率总量为一)

这是第二章公理的直译:各行互不相容(对应非负性与可加),全体可能值拼成全集 Ω(对应总量 1)。

它们立刻变成两件工具:

① 检查与「补行」

有人给出分布列 P(X=0) = 0.5, P(X=1) = 0.4, P(X=2) = 0.2——合计 1.1,超出 1,必是错的,不必问试验背景。又若 P(X=0) = 0.5, P(X=1) = 0.3,缺的那一行由总量补出:P(X=2) = 1 − 0.5 − 0.3 = 0.2。行数可以忘,总量不能忘。

② 待定系数

设 P(X=k) = c·(1/2)k(k = 1, 2, 3, …),求 c。由总量为 1:

c(1/2 + 1/4 + 1/8 + …) = c·1 = 1 ⟹ c = 1

这是一张真实存在的分布(几何分布的特例)。若把支集改成 k = 0, 1, 2, …,则首项变成 1,级数和为 2,须取 c = 1/2——支集的起点动了,系数就得跟着动。

两件工具:查总量、补缺行 非法:总量 0.5+0.4+0.2 = 1.1 > 1 柱子总高超过 1 —— 直接判死刑 补行:缺 0.2,由「总量 = 1」补出 浅色柱为补出的 P(X=2) = 0.2 分布列的第一身份证是总量 1;第二身份证是每行非负
图 3-4 性质的两用。考试与实务里最省时的检查:把已知的行全加起来,多了必错、缺了就补。

条形图读法与陷阱:比较概率看柱高,不看横坐标距离。横轴是「标签」而非「长度」——柱与柱之间的间隔没有数量意义,所以离散分布的条形图常把柱画粗、留缝画小,提示别把它当成密度曲线。

讲义

第三章 随机变量及其分布3.5 两点分布与二项分布再探

两点分布(0-1 分布,伯努利分布)

一次试验只有两个结果:成功(记 1,概率 p)与失败(记 0,概率 1−p)。X ~ B(1, p):

P(X=1) = p, P(X=0) = 1−p

它是所有分布的原子:掷一次骰子问「是否出六」(p = 1/6)、抽一张牌问「是否红桃」(p = 1/4)、检验一件产品问「是否次品」。

二项分布

n 次独立重复试验,每次成功概率均为 p,以 X 记成功次数,则

P(X=k) = Cnkpk(1−p)n−k, k = 0, 1, …, n

记作 X ~ B(n, p)。推导即第一章的老路:指定哪 k 次成功有 Cnk 种选法,每种选法的概率都是 pk(1−p)n−k。两点分布就是把 n 次试验拆成 n 个原子,二项分布把原子加总。

例 掷 10 粒均匀骰子,X = 出六的粒数,则 X ~ B(10, 1/6)。逐行算出:

k012345≥6
P(X=k)0.16150.32300.29070.15500.05430.01300.0024
B(10, 1/6):掷 10 粒骰子,出六的粒数 .162 .323 .291 .155 .054 .013 01 23 45 67 峰在 k = 1:平均而言 10 粒里约 10×(1/6) ≈ 1.67 粒出六(峰位置并不总等于平均,但常在它附近)
图 3-5 二项分布的第一幅标准像:右偏的单峰。p 越小,峰越靠左、尾巴越偏右——这个形状记忆会在 §3.6 与 §3.8 反复兑现。

两步自查:① 是否 n 次独立、每次成功概率不变?(不放回抽样会破坏独立性——那是超几何的地盘,§3.9)② 问的是「次数」还是「等待」?问次数用二项,问「第几次才首次成功」用几何。选型对了,公式只是收尾。

讲义

第三章 随机变量及其分布3.6 二项分布的形态:最可能成功次数

拿到一个二项分布,人们最常问的第一句话是:「最可能出现几次成功?」赌徒问它(几粒骰子最可能出几个六),质检员问它(一批货最可能几个次品)。答案有一把现成的尺子。

二项分布的最可能值(众数)

设 X ~ B(n, p),令 m = ⌊(n+1)p⌋(向下取整):

若 (n+1)p 不是整数,则 P(X=m) 唯一最大; 若 (n+1)p 恰为整数,则 X=m 与 X=m−1 并列最大

道理藏在一行比值里:相邻两项之比 P(X=k+1)/P(X=k) = ((n−k)/(k+1))·p/(1−p)。比值 > 1 就爬坡,< 1 就下坡,爬到转折处便是峰;这个比值恰在 k < (n+1)p−1 时大于 1,转折点即为 (n+1)p 附近。

例 1(对称) 抛 5 次硬币,正面数 X ~ B(5, 1/2)。(n+1)p = 3 是整数,故 k = 2 与 k = 3 并列最可能(各 0.3125)——对称分布出双峰,正是「对称」的签名。

例 2(右偏) 掷 12 粒骰子数六点,X ~ B(12, 1/3)。(n+1)p = 13/3 ≈ 4.33,取整得 m = 4:最可能恰出 4 个六(0.2384),其右邻 5 只有 0.1908——峰右立刻下坡,左邻 3 却只低一点,故分布右偏。

三种形态:对称、右偏、近对称——由 p 与 n 共同决定 B(5, 1/2) 双峰并列 B(12, 1/3) 峰在 4,右偏 B(10, 1/2) 近对称单峰 (n+1)p 整数 ⟹ 双峰并列;否则 ⌊(n+1)p⌋ 处独峰
图 3-6 二项分布的三种形态。峰的位置由 (n+1)p 定,形状的偏斜由 p 离 0.5 的远近定。

一条实用推论:问「至少 m 次」这类累积概率时,用对立事件补一刀常省一半计算(如 P(X ≥ 4) = 1 − P(X ≤ 3))。峰附近的几行概率大、尾部行小,先加尾部再取对立,是二项计算的标准省力动作。

讲义

第三章 随机变量及其分布3.7 泊松分布:稀有事件的数学模型

有些计数试验既说不清 n,也说不清 p:一页书有几个印刷错误、一个电话台一分钟接几次呼叫、一条马路一天出几起事故。它们的特点是——机会均等地散布在时间或空间里,且单独发生的机会很小。给这类「稀有事件计数」准备的正是一张新面孔。

定义(泊松分布)

若随机变量 X 取值 0, 1, 2, …,且

P(X=k) = λke−λk!, k = 0, 1, 2, …

(λ > 0 为常数),称 X 服从参数为 λ 的泊松分布,记 X ~ P(λ)。λ 是单位时间(或单位面积)里的平均发生次数——它一出现,整个分布就定了。

k012345
P(X=k), λ=10.36790.36790.18390.06130.01530.0031
P(X=k), λ=40.01830.07330.14650.19540.19540.1563

历史注脚 1898 年,俄国统计学家博尔特凯维奇出版《小数定律》,整理了普鲁士军队 1875–1894 年间 14 个军团的被马踢死人数记录:每年、每军团死亡 0, 1, 2, … 人的次数,与 λ = 0.61 的泊松分布吻合得惊人——「被马踢死」正是一桩低概率、大量重复、彼此独立的事件。这是泊松分布最早也最著名的实战。

泊松分布:λ 越大,峰越靠右、越展宽 λ = 1 λ = 4 .368 .195 λ = 1 时 0 与 1 并列最可能;λ = 4 时峰移到 3–4——「平均几次」直接决定峰在哪
图 3-7 泊松分布的两幅标准像。横轴是事件次数,纵轴是概率。λ 每增大,整座「概率山」向右平移并铺开。

泊松分布的第二身份证:逐行概率可用上一行递推——P(X=k+1) = λP(X=k)/(k+1),手算一列概率不必反复算阶乘。λ < 1 时 0 与 1 并列最可能(λ=1)或 0 独大;λ 越大峰越靠右。

讲义

第三章 随机变量及其分布3.8 泊松定理:二项分布的极限

泊松分布不是从天上掉下来的,它是二项分布在「n 大、p 小、乘积 np 适中」时的极限形态。这条通道由法国数学家泊松在 1837 年打通,故称泊松定理。

泊松定理

设 λ = nnpn 为固定常数(nn → ∞ 时 pn → 0),则对每个固定的 k,

Cnkpnk(1−pn)n−k → λke−λk!

一句话:大量独立、各次概率很小的「原子试验」加在一起,成功次数就服从泊松分布。这解释了 §3.7 的经验——稀有事件计数天然是泊松的。

数值对照 取 λ = 3,看二项分布如何一步步「变成」泊松分布:

kB(100, 0.03)P(3)B(1000, 0.003)P(3)
00.04760.04980.04960.0498
10.14710.14940.14910.1494
20.22520.22400.22420.2240
30.22750.22400.22440.2240
40.17060.16800.16830.1680

n 从 100 涨到 1000,二项与泊松的差距已缩到第四位小数——近似不是粗糙,而是另一张精确地图。

泊松定理:n 大、p 小、np 适中 ⟹ 二项 ≈ 泊松 B(n, p) n 大、p 小、np = λ 适中 P(λ), λ = np 只需一个参数 λ 应用场景 抽检次品 / 呼叫 / 事故 / 印错 推导骨架(k 固定):C(n,k)p^k → λ^k/k!,(1−p)n−k​ → e−λ​; 前者由 n(n−1)…(n−k+1)/n^k → 1,后者由 (1−λ/n)^n → e−λ​
图 3-8 泊松定理的通道。重要极限 (1+x/n)n → ex 在这里登场——概率论与微积分在此握手。

经验法则:当 n ≥ 20 且 p ≤ 0.05(或 n ≥ 100 且 np ≤ 10)时,用 P(np) 近似 B(n,p) 的误差已在第三位小数量级。这是「小概率事件在大量重复中的总账」的专用工具。

讲义

第三章 随机变量及其分布3.9 几何分布与超几何分布

二项分布问「n 次里成功几次」;换一个问法——「要掷几次才第一次出六?」——就得到另一种分布;再换——「不放回地抽,抽到几个次品?」——又是一种。一条骰子线,长出两张新面孔。

几何分布

独立重复试验每次成功概率 p,以 X 记首次成功出现在第几次:

P(X=k) = (1−p)k−1p, k = 1, 2, …

前 k−1 次全败、第 k 次成功,概率逐行按公比 1−p 衰减。无记忆性是它的签名:

P(X>m+n | X>m) = P(X>n)

已等了 m 次没成,再等的分布与从头等完全一样——骰子没有记性,赌徒的「该出六了」是幻觉。

超几何分布

总体 N 件含 K 件次品,不放回抽 n 件,次品数 X:

P(X=k) = CKkCN−Kn−kCNn

不放回破坏了独立性,二项分布不再适用;当 N 很大时放回与不放回差别变小,超几何退向二项 B(n, K/N)。

对照放回 / 独立不放回差异
N=100, K=5, n=10,P(X=0)二项 0.5987超几何 0.5838不放回略低——第一次抽走好件后,好件变稀
同上,P(X=1)二项 0.3151超几何 0.3394不放回略高

选型三问:①问次数还是问等待?(二项 / 几何)②放回还是不放回?(二项 / 超几何)③是否大量+稀有?(泊松近似)。这三问覆盖本章离散分布的全部选型——先选题型,再动公式。

几何分布 Ge(1/6):第一次掷出六出现在第几次 .167 .139 .116 .096 12 34 56 78 … 每格×5/6 严格递减、无峰:概率最大的永远是「第 1 次」——骰子不会等
图 3-9 几何分布的标准像:从 p 出发逐格乘 1−p 的等比衰减。「等越久越该出」是错觉,每一行都只由 p 决定。
讲义

第三章 随机变量及其分布3.10 随机变量的分布函数:统一的描述语言

分布列只服务离散型。能不能找到一种对离散、连续都通用的描述?答案是分布函数——它的地位相当于数学里的「公倍数」:把两类随机变量放进同一套语言。

定义(分布函数)

设 X 为随机变量,x 为任意实数,称

F(x) = P(X ≤ x), −∞ < x < +∞

为 X 的分布函数(累积分布函数,CDF)。它是「累积到 x 为止的概率总量」。

分布函数的三条基本性质

① 单调不减:x1 < x2 ⟹ F(x1) ≤ F(x2)(累积只会越攒越多);

② 边界:0 ≤ F(x) ≤ 1,且 F(−∞) = 0、F(+∞) = 1;

③ 区间概率公式:P(a < X ≤ b) = F(b) − F(a)。左闭右开是它的标准读法。

例 掷两粒骰子,Y = 六点的个数(§3.3)。分布列三行,分布函数是一段阶梯:

xx < 00 ≤ x < 11 ≤ x < 2x ≥ 2
F(x)025/3635/361
离散型的分布函数=上升的阶梯:每个可能值处跳一级,跳高=该值概率 25/36 35/36 1 0 0 1 2 跳高 = P(Y=2) 跳高 = 10/36 跳高 = 25/36 实心点=该值计入 F;空心点=不计入——左闭右开的记号就画在这里
图 3-10 Y 的分布函数:阶梯只在可能值处跳,跳高恰是分布列对应行的概率。分布列 ⇄ 阶梯跳高,两种语言可以互译。

为什么偏爱 ≤ 而不是 <?因为离散型里 P(X < k) = 1 − P(X ≥ k)、P(X ≤ k) 与 P(X < k) 差一整行——分布函数把「含不含端点」的会计责任固定下来,区间公式才不会出错。算区间概率时,先化为左闭右开,再代入 F。

讲义

第三章 随机变量及其分布3.11 连续型随机变量与概率密度

掷骰子的结果数得清;可是「一盏灯能亮多少小时」「轮盘指针停在哪个角度」,可能值铺满一整段区间——连续型随机变量。它的可能值有无穷多个、且不可列,分布列这种「逐行记账」立刻失效,需要换一件工具:概率密度。

定义(概率密度函数)

若存在函数 f(x) ≥ 0,使对任意区间 (a, b] 有

P(a < X ≤ b) = ∫baf(x)dx

且 ∫+∞−∞f(x)dx = 1,则称 X 为连续型随机变量,f(x) 为其概率密度函数。两条性质恰是分布列两条性质的「积分版」:非负 + 总量 1。

密度的正确读法:f(x) 本身不是概率,它是概率的「浓度」。真正一句话是——

概率=曲线下的面积

P(a < X ≤ b) 等于 f(x) 在 [a, b] 下方的面积。由此立刻得到一个惊人与重要的推论:

P(X = c) = ∫ccf(x)dx = 0 (单点概率恒为零)

零概率 ≠ 不可能!指针恰好停在 90.000…° 不是不可能,只是「量不出这么细」——连续世界里,任何精确值的概率都是 0,有意义的问题永远是「落在某段区间」。这也是连续型只用 ≤ 或 < 都无所谓的理由。

连续型:概率不是柱高,而是曲线下的面积 f(x) 面积=P(a<X≤b) a b 单点 c:一条线段,面积 0 总面积恒为 1 问「恰等于 90°」没有答案,问「落在 88°–92°」才有答案——连续世界的提问纪律
图 3-11 密度与面积。柱状图里概率是柱高;密度曲线里概率是面积——这是离散与连续在图像上的根本区别。

两个等价身份:由微积分基本定理,F(x) = ∫x−∞f(t)dt,且在 f 的连续点处 F′(x) = f(x)——密度是分布函数的导数。离散的「跳台阶」,连续地「爬斜坡」,分布函数仍是统一语言(§3.10 的承诺兑现了)。

讲义

第三章 随机变量及其分布3.12 均匀分布:最朴素的连续分布

定义(均匀分布)

若 X 只在区间 [a, b] 上取值,且密度

f(x) = 1b−a(a ≤ x ≤ b),其他处为 0

则称 X ~ U(a, b)。密度是一块平顶矩形:高 × 宽 = 1/(b−a) × (b−a) = 1,总量自动对账。区间内任何等长的小段概率相等——「等可能」从有限个样本点推广到了一整段实数。

例 轮盘的指针停下后,指示的角度 X ~ U(0, 360)(单位:度)。

① 指针停在 80°–95° 的概率:P = 15/360 = 1/24——只看长度,与位置无关;

② 恰停在 90°:概率 0;③ 停在 180° 以内:1/2。

第一章的会面问题(等可能到达时刻)与布丰投针(角度等可能)其实早已在用均匀分布——当时我们没有说出它的名字。

U(a,b):平顶矩形,概率=长度 ÷ 全长 等长等概率 高 = 1/(b−a) a b f(x) 指针停角 ~ U(0,360) P(80°<X<95°) = 15/360 = 1/24:位置无关,只数长度
图 3-12 均匀分布:密度的平顶 + 轮盘的物理原型。绿色小块与任何等宽小块概率相同。

均匀分布的一个反直觉应用:用「随机数」积分

想在 [0,1] 上估计 ∫10g(x)dx?把均匀随机数撒进去求 g 的平均值即可——平均值的极限恰是积分。第一章的蒙特卡洛求 π 是它在二维的翻版;今天几乎所有金融模拟与游戏引擎的随机事件,底层都是一台 U(0,1) 发生器。

查错点:均匀分布的「均匀」只谈区间长度。「在 [0,10] 上取值」若不说明区间,密度没法写——先问支集,再写密度,是连续型计算的第一纪律。

讲义

第三章 随机变量及其分布3.13 指数分布:等待时间的模型

定义(指数分布)

若 X 的密度为

f(x) = λe−λx(x ≥ 0),其他处为 0(λ > 0)

则称 X 服从参数 λ 的指数分布,记 X ~ Exp(λ)。它专管等待时间:元件寿命、下次电话的间隔、公交车到达的间隔。λ 是单位时间的平均发生率,与泊松分布的 λ 是同一句话——泊松数「发生几次」,指数量「隔多久」,一对搭档。

生存函数(寿命超过 t 的概率)最好算也最好用:

P(T > t) = ∫+∞tλe−λxdx = e−λt

例 某元件寿命(千小时)T ~ Exp(λ), λ = 0.1。① 活过 1 万小时:P(T>10) = e−1 ≈ 0.368;② 活过 2 万小时:e−2 ≈ 0.135——每翻一倍,生存率开一次平方(0.3682 ≈ 0.135);③ 中位寿命 t = 10·ln2 ≈ 6.93 千小时:一半元件死在这之前。

无记忆性

P(T > s+t | T > s) = e−λ(s+t)e−λs = e−λt = P(T > t)

已用 s 小时没坏,剩余寿命的分布与全新品完全相同。这当然不真符合机械磨损——却是「突发型失效」(电子元件、保险事故)的合理近似,也是指数分布被叫做「永远年轻分布」的原因。几何分布是它的离散版亲戚:两条无记忆性,一脉相承。

Exp(λ):从「断崖式出发」到「长尾缓落」 起点高 λ = 0.1 长尾:e−λt​ 缓降 面积=P(0<T≤t) 0 t P(T>10)=e-1​≈0.368(千小时单位);无记忆性:旧品与新品同分布
图 3-13 指数密度:在 0 处最高、随后长尾衰减。阴影面积即「活不过 t」的概率;它的补 e−λt 是最常被引用的生存公式。

选型一句话:数次数找泊松,量间隔找指数。两者共享同一个 λ,是「同一枚硬币的两面」——这个联系在第四章期望中方差公式里还会再见。

讲义

第三章 随机变量及其分布3.14 正态分布(一):钟形曲线的诞生

定义(正态分布)

若 X 的密度为

f(x) = 1√(2π)σe−(x−μ)2/(2σ2),−∞ < x < +∞

(μ 任意实数,σ > 0),称 X ~ N(μ, σ2)。曲线关于 x = μ 对称,μ 是钟的位置,σ 是钟的胖瘦;两参数一定,曲线唯一确定。

出身 1733 年棣莫弗在研究「掷 3600 次硬币正面数」的二项概率时,为了算 C36001800(1/2)3600 这类天文数字,推导出一条对称钟形曲线作近似——正态曲线最早是二项分布的算命先生(札记①详述)。后来高斯在误差理论中把它推上王座:测量误差的分布。

68–95–99.7 法则:钟形曲线的三段概率 μ μ−σ μ+σ μ−2σ μ+2σ μ−3σ μ+3σ 68.3% 95.4% 99.7% f(x) 峰在 μ,对称展开
图 3-14 正态分布的标准像与「三段口诀」:±1σ 内约 68%,±2σ 内约 95%,±3σ 内约 99.7%——离均值越远越罕见,而「3σ 之外」几乎只剩千分之三。

为什么正态无处不在(预告)

因为「很多微小的独立因素相加」的结果都长成钟形:身高是上百个基因与营养因素的叠加,测量误差是无数微扰的叠加,一次考试的得分是许多题目得分的叠加。把它说成定理,就是第四章的中心极限定理——正态分布是「加出来的分布」。

读图纪律:先看 μ(钟立在哪),再看 σ(钟铺多宽)。σ 越大曲线越矮胖——但总面积恒为 1,矮胖与高瘦只是同一份概率的不同摊法。

讲义

第三章 随机变量及其分布3.15 正态分布(二):标准化与查表计算

正态分布是一个双参数家族,逐个造表不现实。妙处在于:所有正态曲线都是同一座钟的平移与缩放,只需给标准的那一座造表。

标准化

若 X ~ N(μ, σ2),则

Z = X−μσ ~ N(0, 1)

Z 表示「离均值有几个标准差」,其分布函数记 Φ(z),已制成标准正态表。任何正态概率都化成 Φ 的查表问题:

P(a < X ≤ b) = Φ(b−μσ) − Φ(a−μσ)

三个必背数值:Φ(1) = 0.8413、Φ(1.96) = 0.9750、Φ(1.645) = 0.9500;配合对称性 Φ(−z) = 1 − Φ(z),可覆盖绝大多数考题与实务。

例 1 成年男性身高 X ~ N(170, 62)(cm)。求 P(164 < X < 176)。

解 标准化:(164−170)/6 = −1,(176−170)/6 = 1,故 P = Φ(1) − Φ(−1) = 0.8413 − 0.1587 = 0.6826——正是 68 法则的兑现。

例 2 求 P(X > 182):z = 2,P = 1 − Φ(2) = 0.0228——约 2.3%,即 44 人里约 1 人高于 182 cm。

任何正态问题:先标准化,再查同一张表 X ~ N(170, 62​) 问 P(164<X<176) Z = (X−μ)/σ z = (164−170)/6 = −1 查 Φ 表 Φ(1)−Φ(−1) = 0.6826 具体的钟 离均值几个 σ 标准钟 N(0,1) 例 2:P(X>182):z=2 ⟹ 1−Φ(2) = 0.0228;例 3:前 10% 分位 z=1.28 ⟹ 83.5 cm
图 3-15 标准化的三步流水线:减 μ、除 σ、查 Φ。全部正态家族共用一张表——这是把无穷张表压缩成一张的漂亮工程。

反向也有用(已知概率求分位点):「成绩前 10% 评 A」,X ~ N(72, 92),由 Φ(z) = 0.90 反查 z ≈ 1.28,分数线 72 + 9×1.28 ≈ 83.5。正态化 + 查表 + 反解,是这一节的三板斧,也是第六章置信区间的地基。

讲义

第三章 随机变量及其分布3.16 随机变量函数的分布

实际中常问:已知 X 的分布,那么 Y = g(X)(如 Y = X2、Y = 2X+1)服从什么分布?这是「分布的加工车间」:原料是 X 的分布,机器是函数 g,产品是 Y 的分布。

分布函数法(通用机器)

第一步把关于 Y 的事件翻译回关于 X 的事件,第二步用 X 的已知分布计算:

FY(y) = P(Y ≤ y) = P(g(X) ≤ y) = P(X ∈ {x : g(x) ≤ y})

离散型逐点翻译;连续型翻译成积分区间,再对 y 求导得密度。

例 1(离散) X 的分布列为 P(X=−1)=0.2, P(X=0)=0.5, P(X=1)=0.3,Y = X2。Y 取值 0 与 1,且「多个 x 挤到同一个 y」要概率相加:P(Y=0) = 0.5,P(Y=1) = P(X=−1) + P(X=1) = 0.5。

例 2(连续) X ~ U(0, 2),Y = X2。对 0 ≤ y ≤ 4:

FY(y) = P(X2 ≤ y) = P(0 < X ≤ √y) = √y2, fY(y) = F′(y) = 14√y

均匀分布经过平方后,密度不再平——函数会重塑形状,这正是「分布的加工」的含义。

Y = g(X):分布的加工车间 原料:X 的分布 U(0,2):平顶 机器:g(x) = x2​ 翻译事件:{X2​≤y} = {X≤√y} 产品:Y 的分布 f(y)=1/(4√y):尖峰长尾 核心动作:把「Y ≤ y」翻译回「X 落在哪个集合」——翻译对了,剩下的都是已学过的计算
图 3-16 分布的加工车间。注意例 1 的「多对一」(−1 与 1 挤成 Y=1,概率相加)与例 2 的「形状重塑」。

两个易错点:① 翻译不等式时若 g 非单调(如平方),要分段取并集,别急着开方;② 连续型求出 FY 后,最后一步求导得密度常被忘掉——题目问密度时记得收尾。线性函数 Y = aX+b 有速记:Y 与 X 同型,参数平移伸缩(正态进、正态出,下一章要用)。

讲义

第三章 随机变量及其分布3.17 现代接口:正态分布在自然与社会中的普遍性〔直觉⇄理论〕

离开赌桌,正态曲线统治着更大的疆域。直觉说「偏差五花八门」;理论回答:只要偏差是许多微小独立因素的总和,分布必趋近钟形。下面四个场景,各做一次「直觉 ⇄ 理论」的对读。

场景量的来源为何正态(理论)直觉易犯的错
人体测量身高、血压基因+营养+发育的独立微因素叠加「平均人」存在——其实均值两侧各一半人
工业公差零件直径机床、材料、温度的微小波动叠加「卡在公差线上才报废」——3σ 外即几乎必废
教育测量考试总分许多题目得分之和(中心极限定理)「满分该常见」——离均值 2σ 外只剩 2.3%
金融收益日收益率大量交易者微小决策叠加(近似)「崩盘不可能」——真实收益比正态更厚尾,极端事件更多

第四行是诚实的注脚:正态是一阶近似,金融与地震等「厚尾」现象在尾部偏离正态——2008 年的金融危机,部分根源正是模型把厚尾当成了正态尾。会用分布,也要知道分布的边界。

直觉 ⇄ 理论:同一现象的两种说法 直觉(赌桌经验) 「运气有惯性,输多了该赢了」 「极端事件罕见,但说不清多罕见」 ——定性而含糊 理论(分布语言) 「各次独立:P = p 不变(几何分布)」 「±3σ 外概率 0.3%:可算、可设计」 ——定量且可检验 直觉提出好问题,分布语言给出精确答案;两者对读,才既不迷信直觉也不盲从公式
图 3-17 本册的方法论一景:直觉负责提出方向(如「等太久该出了」),分布负责纠错(无记忆性:不该出)与定量(差多少、多久一次)。

对读演练:质量抽检的完整语言

一条产线次品率 2%。直觉:「抽 100 件大概 2 件次品。」理论:次数 X ~ B(100, 0.02) ≈ P(2),可算出 P(X ≥ 5) ≈ 0.053——「100 件里出现 5 件以上次品」大约每 19 批发生 1 次。于是质检规则可以设计:见 5 件次品就停线检修,误报率约 5%——把直觉的「大概」升级成可签字负责的数字,这正是统计推断(第六章)的入口。

本节的三句收束:① 叠加生正态(中心极限定理的地基);② 尾部有例外(模型要知边界);③ 分布语言的价值=把「大概」变成「可设计」。

讲义

第三章 随机变量及其分布3.18 本章总结与方法表

一张表收拢全章:六张面孔、两套语言、一台翻译机。

分布记号 / 参数分布列或密度典型场景关键性质
两点B(1,p)p, 1−p一次成败分布的原子
二项B(n,p)Cnkpk(1−p)n−k放回抽检、n 粒骰子众数 ⌊(n+1)p⌋
泊松P(λ)λke−λ/k!呼叫、事故、马踢二项的 n 大 p 小极限
几何Ge(p)(1−p)k−1p首次成功的等待无记忆性
超几何H(N,K,n)CKkCN−Kn−k/CNn不放回抽检N 大退向二项
均匀U(a,b)1/(b−a)轮盘、随机数概率=长度比
指数Exp(λ)λe−λx寿命、间隔无记忆性;与泊松配对
正态N(μ,σ2)(1/(√(2π)σ))e−(x−μ)2/(2σ2)身高、误差、总分标准化;68–95–99.7
第三章知识图谱:一台翻译机、两套语言、八张面孔 随机变量:结果 ↦ 数字 离散:分布列 连续:密度 f(x) 分布函数 F(x) 二项 / 两点 / 几何 泊松(n大p小) 超几何(不放回) 均匀 / 指数 / 正态 选型三问:次数 or 等待?放回 or 不放回?大量+稀有?——先选题型,再动公式
图 3-18 第三章知识图谱。分布函数居中,向左译成分布列、向右译成密度;下排是八张面孔与它们的「出身门牌」。

下章预告:分布回答「取什么值、各多大可能」,但人脑要的是一个数——「平均多少、稳不稳」。期望与方差(第四章)就是给分布称重与量胖瘦;而大数定律与中心极限定理,将把本章的钟形曲线变成统计学的大宪章。

例题

第三章 随机变量及其分布例1 分布列:由试验结果构造离散分布

题目 同时掷两粒均匀骰子,X = 两点之和。① 写出 X 的全部可能值;② 求分布列;③ 验证总量为 1;④ 求 P(X ≥ 10) 与 P(2 ≤ X ≤ 5)。

解 ① 每粒 1–6 点,和的范围 2 ~ 12,共 11 个可能值。

② 样本空间 36 点等可能。数出每个和的有利点数(第一章的「和分布」账本):

k23456789101112
有利点数12345654321
P(X=k)1/362/363/364/365/366/365/364/363/362/361/36

③ 总量:2×(1+2+3+4+5)/36 + 6/36 = 30/36 + 6/36 = 1 ✓。分布关于 k = 7 对称——两粒骰子可互换,(3,4) 与 (4,3) 同居一行,对称是「无差别标签」的签名。

④ P(X ≥ 10) = (3+2+1)/36 = 16;P(2 ≤ X ≤ 5) = (1+2+3+4)/36 = 518。

点评 构造分布列的标准三步:列可能值 → 数有利点(或用独立性计算)→ 验证总量 1。第 ③ 步不是仪式:若合计 ≠ 1,说明数行时漏了或重了,它是最便宜的纠错器。

例题

第三章 随机变量及其分布例2 分布函数:由分布列求 F(x) 并作图

题目 掷两粒骰子,Y = 六点的个数,分布列为 25/36, 10/36, 1/36(取值 0,1,2)。① 求 F(x) 的分段表达式;② 求 P(0.5 < Y ≤ 1.5) 与 P(Y < 1);③ 指出 F 在哪些点跳、各跳多高。

解 ① 累积(攒概率):

F(x) = 0,x < 0;25/36,0 ≤ x < 1;35/36,1 ≤ x < 2;1,x ≥ 2

② P(0.5 < Y ≤ 1.5) = F(1.5) − F(0.5) = 35/36 − 25/36 = 10/36——区间里只含可能值 1,正是它的概率。但 P(Y < 1) = 25/36(区间内只剩可能值 0),不能误写成 F(1) − F(0) = 10/36——左端点 0 是闭的,被 F(1)−F(0) 多扣了一行。离散型里端点含不含是真金白银的差别,先化成可能值求和最稳妥。

③ 在 x = 0, 1, 2 处各跳一级,跳高依次 25/36, 10/36, 1/36——跳高就是分布列。

点评 离散型使用 F 的两条纪律:区间公式只对「左开右闭」直接成立(P(a < X ≤ b) = F(b) − F(a));遇到 P(X < b) 或含端点的其它形式,先改写成可能值求和,再谈 F。「端点含不含」在离散型是真金白银的差别。

例题

第三章 随机变量及其分布例3 二项分布:次品抽检的概率计算

题目 某车间次品率 5%,从中有放回地抽检 20 件(或生产线很长,抽 20 件近似独立)。X = 次品数。① 判断 X 的分布;② 求 P(X = 0), P(X = 1);③ 求「至少 2 件次品」的概率;④ 求最可能次品数。

解 ① 每件是否次品是一次两点试验,20 次相互独立、每次 p = 0.05,故 X ~ B(20, 0.05)。

② P(X=0) = 0.9520 ≈ 0.3585;P(X=1) = C201·0.05·0.9519 ≈ 0.3774。

③ 用对立事件:

P(X ≥ 2) = 1 − 0.3585 − 0.3774 ≈ 0.2642

④ (n+1)p = 21 × 0.05 = 1.05 非整数,众数 ⌊1.05⌋ = 1:最可能恰有 1 件次品。

点评 ③ 是质检日常:抽 20 件「见次就报警」的规则,误报率就是 0.2642——四分之一。想压低误报只能加大样本或改判据,这个量化权衡(第六章假设检验)从本题就可见雏形。另注意「至少」型概率几乎总要走对立面:直接把 P(X=2)+…+P(X=20) 加 19 项是自讨苦吃。

例题

第三章 随机变量及其分布例4 泊松近似:电话交换台的呼叫数

题目 某交换台每分钟接到呼叫数 X ~ P(4)。① 求 P(X=0), P(X=2);② 求「一分钟内至少 5 次呼叫」的概率;③ 一天内(1440 分钟)按此频率,约有多少分钟会出现「至少 5 次呼叫」?

解 ① 逐行用 P(X=k) = 4ke−4/k!(e−4 ≈ 0.0183):

P(X=0) = e−4 ≈ 0.0183; P(X=2) = 16e−4/2 ≈ 0.1465

② 累积到底更省力:P(X ≤ 4) = e−4(1 + 4 + 8 + 32/3 + 32/3) ≈ 0.6288,故

P(X ≥ 5) = 1 − 0.6288 ≈ 0.3712

③ 1440 × 0.3712 ≈ 534 分钟——一天里约 9 小时处于「忙碌状态」(每分钟至少 5 次呼叫)。排班与扩容的依据,就是这样一张分布表。

点评 泊松计算的三个省钱动作:背 e−λ、用递推 P(k+1) = λP(k)/(k+1)、「至少」走对立。本题若从二项出发(把一分钟切成 600 个 0.1 秒、每个至多一呼),参数 n=600, p=1/150,np = 4——泊松正是它的极限形态。

例题

第三章 随机变量及其分布例5 几何分布:首次成功等待次数的概率

题目 反复掷一粒均匀骰子直到出六为止,X = 所用次数。① 求 P(X=3);② 求「前 6 次都不出六」的概率;③ 已知前 4 次未出六,求「再掷 2 次内出六」的概率,并说明它等于无条件值。

解 ① X ~ Ge(1/6):P(X=3) = (5/6)2·(1/6) = 25/216 ≈ 0.1157。

② P(X > 6) = (5/6)6 ≈ 0.3349——「掷 6 次连一次六都没有」约三分之一,并不稀奇。

③ 无记忆性:条件 «X > 4» 之下,

P(X ≤ 6 | X > 4) = 1 − P(X > 6 | X > 4) = 1 − (5/6)2 = 11/36 ≈ 0.3056

而从头算「2 次内出六」:1 − (5/6)2 = 11/36——完全相同。骰子不记得已经白掷了几次。

点评 ③ 就是赌徒谬误的数学处刑:「连输 4 把,该回本了」在几何分布里精确地等于「重新开局」。无记忆性把「运气惯性」彻底清零。另外注意 ② 的快速算法:P(X > k) = (1−p)k 是几何分布的「生存公式」,与指数分布的 e−λt 血缘相同。

例题

第三章 随机变量及其分布例6 超几何:不放回抽检中的次品数

题目 100 件产品含 5 件次品,不放回地抽 10 件,X = 抽到的次品数。① 写出 X 的分布;② 求 P(X=2) 与 P(X ≥ 1);③ 与二项近似 B(10, 0.05) 对照,说明差异方向。

解 ① X 服从超几何分布:

P(X=k) = C5kC9510−k / C10010,k = 0,1,…,5

② P(X=2) = C52C958/C10010 ≈ 0.0702;

P(X ≥ 1) = 1 − C9510/C10010 ≈ 1 − 0.5838 = 0.4162

③ 对照:B(10, 0.05) 给 P(X=0) = 0.5987、P(X=1) = 0.3151;超几何为 0.5838、0.3394。不放回使 0 件次品更难、恰 1 件更容易——第一次抽走好件后,剩下的好件变稀,次品的「相对浓度」升高。二项是乐观的近似,超几何是诚实的账本。

点评 选型判据一句话:「不放回」三个字一出现,独立就没了——二项让位于超几何。但只要总体比样本大得多(实务上 N ≥ 10n),两者差距进入第三位小数,二项近似即告合法。这正是「生产线上抽检用二项、小仓库里抽检用超几何」的行业惯例的来源。

例题

第三章 随机变量及其分布例7 密度函数:由密度求常数与概率

题目 设连续型随机变量 X 的密度为 f(x) = cx2(0 ≤ x ≤ 3),其他处为 0。① 求 c;② 求 P(1 < X < 2);③ 求分布函数 F(x)。

解 ① 总量为 1 定常数:

∫30cx2dx = c·x33│03 = 9c = 1 ⟹ c = 19

② 积分区间上的面积:

P(1 < X < 2) = ∫21x29dx = 8−127 = 727 ≈ 0.259

③ 分段累积:F(x) = 0(x < 0);x3/27(0 ≤ x ≤ 3);1(x > 3)。验证:F(3) = 27/27 = 1 ✓,且 F′(x) = x2/9 = f(x) ✓。

点评 连续型计算的固定套路:「总量 1 定常数 → 区间积分得概率 → 累积得 F → 求导验密度」。第 ③ 步的两处 ✓(边界值与导数回收)是免费的自动验算,交卷前必做。

例题

第三章 随机变量及其分布例8 均匀分布:区间上等可能取值的概率

题目 某路公交每 10 分钟一班,乘客对发车时刻一无所知(等可能到达),候车时间 W ~ U(0, 10)(分钟)。① 求「等不超过 3 分钟」的概率;② 求「等 4 到 7 分钟」的概率;③ 求「至少等 8 分钟」的概率;④ 若等 5 分钟以上可退票,求退票概率。

解 均匀分布的概率=长度比,三问都是减法:

① P(W ≤ 3) = 310; ② P(4 ≤ W ≤ 7) = 310; ③ P(W ≥ 8) = 210 = 15; ④ P(W > 5) = 12

注意 ① 与 ② 答案相同:等长即等概率,与位置无关——这是均匀分布的全部性格。④ 的「一半」来自 5 恰是中点;若改「等 6 分钟以上可退」,退票概率立刻降到 0.4。

点评 本题是第一章「等车悖论」的分布语版本:直觉常以为「等越久车越快到」(条件概率在拉扯直觉),但均匀分布没有记忆——已等 6 分钟后,再等 3 分钟的概率仍是 0.3。连续型把这一课讲得更透:下一节指数分布将把这个「无记忆」变成一条定理。

例题

第三章 随机变量及其分布例9 指数分布:元件寿命超过某定值的概率

题目 某电子元件寿命(小时)T ~ Exp(λ), λ = 1/1000。① 求寿命超过 1000 小时的概率;② 求寿命超过 2000 小时的概率;③ 已知元件已无故障运行 1500 小时,求「再运行 500 小时以上」的概率;④ 求中位寿命。

解 ① 生存函数:P(T > 1000) = e−1 ≈ 0.368。

② P(T > 2000) = e−2 ≈ 0.135——恰是 ① 的平方(0.3682 ≈ 0.135):指数分布下时间翻倍,生存率开方。

③ 无记忆性:

P(T > 2000 | T > 1500) = e−2e−1.5 = e−0.5 ≈ 0.607

与全新元件「运行 500 小时以上」的概率 e−0.5 完全一样——用旧不如新品,也绝不比新品差(突发失效型的理想化)。

④ 中位寿命:e−λt = 1/2 ⟹ t = 1000·ln2 ≈ 693 小时。

点评 指数分布的实战问法几乎都走「生存函数 e−λt」而不直接积密度——先背这条公式,能省一半步骤。③ 是它的招牌:保修策略若按「运行满 X 小时」设计,指数模型下旧品与新品同一张表,这在更换策略(第六章)里会被反复引用。

例题

第三章 随机变量及其分布例10 正态标准化:把一般正态化为标准正态

题目 某次考试成绩 X ~ N(72, 92)。① 求 P(63 < X < 81);② 求 P(X > 90);③ 求 P(X < 60);④ 求对称区间使 P(|X−72| < d) = 0.95。

解 统一走三步流水线:减 μ、除 σ、查 Φ。

① z1 = (63−72)/9 = −1,z2 = (81−72)/9 = 1:P = Φ(1) − Φ(−1) = 0.8413 − 0.1587 = 0.6826。

② z = (90−72)/9 = 2:P = 1 − Φ(2) = 1 − 0.9772 = 0.0228——90 分以上的「学霸」约 2.3%。

③ z = (60−72)/9 = −4/3 ≈ −1.33:P = Φ(−1.33) = 1 − Φ(1.33) ≈ 1 − 0.9082 = 0.0918。

④ 反向用表:Φ(d/9) − Φ(−d/9) = 0.95 即 Φ(d/9) = 0.975,反查 d/9 = 1.96,得 d ≈ 17.6。

点评 ④ 的 1.96 是全书最常用的一个数——「95% 区间」的半宽系数,第六章置信区间的主角,此处先混个脸熟。另注意 ③:分数线下 9% 而直觉常猜 5%(60 比 72 低 12 分,12/9 ≈ 1.33 个标准差,比「2 个标准差」近得多)。换算成 z 再说话,是和正态打交道的唯一安全姿势。

例题

第三章 随机变量及其分布例11 查表计算:已知概率求分位点

题目 继续例 10 的考试模型 X ~ N(72, 92)。① 求成绩前 10% 的分数线;② 求成绩后 20% 的分数线;③ 求中间 50% 学生所在的分数区间;④ 把 84 分与 78 分换算成 z 分数并比较谁的相对位次更高。

解 ① P(X > x) = 0.10 即 Φ(z) = 0.90,反查 z ≈ 1.28,分数线 72 + 9×1.28 ≈ 83.5。

② Φ(z) = 0.20 ⟹ z = −Φ−1(0.80) ≈ −0.84(由对称性),分数线 72 − 9×0.84 ≈ 64.4。

③ 中间 50%:两侧各留 25%,Φ(z) = 0.75 ⟹ z ≈ 0.674,区间 [72 − 6.1, 72 + 6.1] ≈ [65.9, 78.1]。

④ 84 分:z = (84−72)/9 ≈ 1.33;78 分:z = 2/3 ≈ 0.67。1.33 > 0.67,84 分的位次更靠前——z 分数把「不同均值的卷子」拉到同一条尺上,这正是标准化考试(如 T 分数、标准九)的原理。

点评 ①③④ 都是「反查」:由概率找 z,再由 x = μ + σz 回到分数。常用反查值:0.90 ↔ 1.28、0.95 ↔ 1.645、0.975 ↔ 1.96、0.75 ↔ 0.674——四个数建议记牢,第六章将用它们搭建置信区间与检验临界值。

例题

第三章 随机变量及其分布例12 综合:一张「常见分布选用与对照表」的完整填写

题目 为下列六个场景各选一个分布,写出记号与参数,并算出指定概率。① 郑骰 12 次出六的次数(求恰 4 次);② 不放回抽 10 件(100 件含 5 次品)见次品数(求 ≥1);③ 反复掷骰首次出六(求第 3 次才出);④ 轮盘指针停角(求 80°–95°);⑤ 元件寿命(λ=1/1000,求超 1000 小时);⑥ 成年身高 N(170, 62)(求 164–176)。

解 逐题选型 → 参数 → 计算:

场景选型记号计算答案
① 次数(独立)二项B(12, 1/6)C124(1/6)4(5/6)80.2384
② 次数(不放回)超几何H(100,5,10)1 − C9510/C100100.4162
③ 等待首次几何Ge(1/6)(5/6)2(1/6)0.1157
④ 区间等可能均匀U(0,360)15/3600.0417
⑤ 生存时间指数Exp(0.001)e−10.3679
⑥ 叠加测量正态N(170,36)Φ(1)−Φ(−1)0.6826

六种选型互不越界:次数看独立性(①②)、等待看首次(③)、区间看均匀(④)、寿命看指数(⑤)、叠加看正态(⑥)。

点评 这张表就是本章的「总索引」。实务里 90% 的建模错误不是算错,而是选错:把不放回当独立(② 错成二项 0.4013,偏高)、把等待当次数(③ 错成二项单行)。选型三问(次数 or 等待?放回 or 不放回?大量+稀有?)在每题动笔前先默答一遍。

习题

第三章 随机变量及其分布习题课一 随机变量与分布列

本课练「贴标签与记账」:把试验结果写成 X,把分布列列全、查对、补齐。

练 1.1 掷一粒均匀骰子,X = 点数。求 P(X ≥ 4)、P(2 ≤ X ≤ 5)、P(X 为偶数)。

答:1/2、2/3、1/2。三问都是「查行相加」——分布列一旦列全,求概率退化成加法。

练 1.2 掷三枚均匀硬币,X = 正面数。① 列出分布列;② 求 P(X 为奇数);③ 说明分布为何对称。

答:① P = 1/8, 3/8, 3/8, 1/8(k = 0,1,2,3)——即 B(3, 1/2)。② (3+1)/8 = 1/2。③ 逐枚翻转(正 ↔ 反)是样本空间的一一对应,且保持概率;k 与 3−k 互换——对称性是「结构」而非巧合。

练 1.3 下列三组数,哪些能当分布列?
甲:0.2, 0.3, 0.4, 0.1;乙:0.2, −0.1, 0.5, 0.4;丙:0.3, 0.3, 0.3(三个值)。

答:甲 能(全非负、和为 1);乙 不能(出现负概率);丙 不能(和为 0.9 ≠ 1)。两条性质缺一不可——这是「分布列身份证」的直接检验。

练 1.4 设 P(X=k) = c·(4−k)/6,k = 1, 2, 3。① 求 c;② 求 P(X ≥ 2)。

答:① c(3+2+1)/6 = c = 1;② (2+1)/6 = 1/2。分布为 1/2, 1/3, 1/6——递减的分布,最可能值在支集左端。

练 1.5 掷两粒骰子,Y = 较大点数。① 证明 P(Y=k) = (2k−1)/36;② 验证总量为 1。

答:① 较大点数 ≤ k 的对数是 k2(两粒都 ≤ k),故恰等于 k 的为 k2 − (k−1)2 = 2k−1 个。② ∑(2k−1) = 1+3+…+11 = 36 ✓(前 6 个奇数之和)。「累积差分」是数分布列的一把万能钥匙。

小结:分布列三件套——列全、验证、补缺。练 1.5 的累积差分(先数 ≤ k,再做差)记牢,下一课它将直接给出分布函数。

习题

第三章 随机变量及其分布习题课二 分布函数

练 2.1 X 取 0, 1, 2,概率 0.2, 0.5, 0.3。① 写出 F(x);② 求 P(0 < X ≤ 1.5) 与 P(X ≥ 1.5)。

答:① 阶梯 0.2 → 0.7 → 1(跳点 0, 1, 2)。② P(0 < X ≤ 1.5) = F(1.5) − F(0) = 0.5;P(X ≥ 1.5) = 1 − F(1) = 0.3(区间内只剩可能值 2)。区间端点先对齐可能值,再动 F。

练 2.2 已知 F(x) = 0(x < −1);0.3(−1 ≤ x < 0);0.5(0 ≤ x < 2);1(x ≥ 2)。还原分布列。

答:跳点读分布——在 −1 跳 0.3、在 0 跳 0.2、在 2 跳 0.5,故 P(X=−1)=0.3, P(X=0)=0.2, P(X=2)=0.5。分布列与阶梯互为「逐行/逐跳」翻译。

练 2.3 用练 2.2 的 F 求 P(X < 0) 与 P(X ≤ 0),并说明两者为何不同。

答:P(X < 0) = P(X=−1) = 0.3;P(X ≤ 0) = F(0) = 0.5。差的那 0.2 是「恰落在 0」——离散型里 «<» 与 «≤» 隔着一行真概率。

练 2.4 连续型 F(x) = x2/25(0 ≤ x ≤ 5)。① 求密度 f(x);② 求 P(2 < X < 4);③ 求 P(X=3)。

答:① f = F′ = 2x/25(其余为 0);② (16−4)/25 = 0.48;③ 0——连续型单点概率恒为零,问概率必问区间。

小结:F 是统一语言——离散读「跳高」,连续读「斜率」。区间公式 P(a<X≤b) = F(b)−F(a) 只在左开右闭时免检,其余形式先化为可能值/积分再说。

习题

第三章 随机变量及其分布习题课三 两点与二项分布

练 3.1 抛 10 次均匀硬币,X = 正面数。求 P(X=5),并求最可能值。

答:C105/210 = 252/1024 ≈ 0.2461;(n+1)p = 5.5 非整数,众数 ⌊5.5⌋ = 5——最可能恰好一半。

练 3.2 某系统 15 个模块,每个独立故障率 0.1。X = 故障数。① 求 P(X=0) 与 P(X ≥ 1);② 求 P(X=1)。

答:X ~ B(15, 0.1)。① 0.915 ≈ 0.2059;1 − 0.2059 ≈ 0.7941——「15 个模块全没事」不到两成,冗余设计的理由就在这行数字。② 15×0.1×0.914 ≈ 0.3432,最可能值(众数 ⌊1.6⌋ = 1)。

练 3.3 掷 9 粒骰子数六点。X ~ B(9, 1/6)。① 求众数;② 求 P(X ≥ 1);③ 说明 ② 与「掷 9 次至少一次六」是同一句话。

答:① (n+1)p = 10/6 ≈ 1.67,众数 1。② 1 − (5/6)9 ≈ 0.8062。③ 是——「9 粒同时掷」与「1 粒掷 9 次」在独立假设下同分布,二项分布把两者缝合。

练 3.4 抛 7 次硬币,正面数的最可能值有几个?各是多少概率?

答:(n+1)p = 4 为整数,k = 3 与 k = 4 并列最大,各 C73/27 = 35/128 ≈ 0.2734——对称双峰是 (n+1)p 取整规则的「特例条款」。

练 3.5 掷 4 次骰子至少出一次六,与掷 6 次至少出一次六,哪个更可能?差多少?

答:1 − (5/6)4 ≈ 0.5177;1 − (5/6)6 ≈ 0.6651。6 次高约 15 个百分点。「至少一次」永远走对立面——这句口诀第一章立、本章用、终身带。

小结:二项四件套——选型(独立+定 p)、单行(组合公式)、累积(对立事件)、众数((n+1)p 规则)。

习题

第三章 随机变量及其分布习题课四 泊松分布与泊松定理

练 4.1 X ~ P(2)。求 P(X ≤ 1) 与 P(X=3)。

答:P(0) = e−2 ≈ 0.1353,P(1) = 2e−2 ≈ 0.2707,故 P(X ≤ 1) = 3e−2 ≈ 0.4060;P(3) = 23e−2/6 ≈ 0.1804。

练 4.2 某网页每屏平均 0.5 个错字(泊松)。① 随机一屏无错字的概率?② 有至少一个错字的概率?

答:X ~ P(0.5):① e−0.5 ≈ 0.6065;② 1 − 0.6065 ≈ 0.3935。λ < 1 时「零事件」反而是最可能结局——稀有事件的常态。

练 4.3 200 个焊点、每个独立缺陷率 0.01。用二项算 P(X=0),再用泊松 λ = 2 近似,比较。

答:二项 0.99200 ≈ 0.1340;泊松 e−2 ≈ 0.1353。第三位小数才开始分离——n = 200, p = 0.01 已在泊松定理的「舒适区」。

练 4.4 某路口周均 3 起小事故(泊松)。① 某周零事故的概率?② 至少一起?③ 连续两周都零事故?

答:① e−3 ≈ 0.0498;② 0.9502;③ 由周间独立,0.04982 ≈ 0.0025——两连续零事故周是千分之二的稀罕事,出现了值得查天气。

练 4.5 X ~ P(3)。从 P(0) = 0.0498 出发用递推算 P(1), P(2), P(3)。

答:P(1) = 3×0.0498/1 ≈ 0.1494;P(2) = 3×0.1494/2 ≈ 0.2240;P(3) = 3×0.2240/3 ≈ 0.2240。递推式 P(k+1) = λP(k)/(k+1) 一步一个乘除,手算泊松列的标准姿势。

小结:泊松三招——背 e−λ、用递推、「至少」走对立。判断何时启用:大量、独立、各次概率小。

习题

第三章 随机变量及其分布习题课五 几何与超几何

练 5.1 反复掷骰子至出六,X = 次数。求 P(X=5) 与 P(X > 4)。

答:(5/6)4(1/6) ≈ 0.0804;(5/6)4 ≈ 0.4823——「前四次颗粒无收」近半数,出六远比直觉以为的难。

练 5.2 已知前 3 次未出六,求「还要再掷 5 次以上才出六」的概率,并与无条件值对照。

答:P(X > 8 | X > 3) = P(X > 5) = (5/6)5 ≈ 0.4019,与从头数完全一致——无记忆性。已白掷的三次在概率上「不存在」。

练 5.3 20 件产品含 3 件次品,不放回抽 5 件。X = 次品数。求 P(X=0), P(X=1), P(X ≥ 1)。

答:C175/C205 ≈ 0.3991;3C174/C205 ≈ 0.4605;1 − 0.3991 ≈ 0.6009。不放回抽检,六成会见到次品。

练 5.4 把练 5.3 误用二项 B(5, 0.15) 算 P(X=0),误差多大?为什么方向偏高?

答:0.855 ≈ 0.4437,比真值 0.3991 高约 0.045——放回视角把「抽走好件后次品变浓」的机制抹掉了,故高估「全好」的概率。小总体 + 不放回,二项近似不可用。

练 5.5 2000 件含 100 件次品,不放回抽 10 件。算 P(X=0) 并与二项 B(10, 0.05) 对照。

答:超几何 C190010/C200010 ≈ 0.5980;二项 0.9510 ≈ 0.5987——第四位小数才分家。总体 ≥ 10 倍样本时放回与否几乎无差,二项近似合法。

小结:几何管「等待首次」(无记忆),超几何管「不放回计数」(逐件变浓)。选型问一句「放不放回」、一句「数次数还是等首次」,两条路就分清了。

习题

第三章 随机变量及其分布习题课六 密度与连续分布

练 6.1 f(x) = 2x(0 ≤ x ≤ 1),其他为 0。① 验证它是密度;② 求 P(0.25 < X < 0.5);③ 求 F(x)。

答:① ∫102xdx = 1 ✓。② 0.52 − 0.252 = 3/16 ≈ 0.1875。③ F(x) = x2(0 ≤ x ≤ 1)。注意 f(0.75) = 1.5 > f(0.25) = 0.5:右侧更「浓」,概率质量偏向大值——密度不平,等长区间概率不等。

练 6.2 f(x) = ce−x(x ≥ 0)。① 求 c;② 求 P(X > 2)。

答:① c = 1(∫∞0e−xdx = 1)——就是 λ = 1 的指数分布。② e−2 ≈ 0.1353,直接用生存函数。

练 6.3 某设备无故障时间 F(t) = 1 − e−t/5(t ≥ 0,单位:年)。① 写出 λ;② 求中位寿命;③ 求 P(T > 10)。

答:① λ = 1/5(每年 0.2 次故障);② 5·ln2 ≈ 3.47 年;③ e−2 ≈ 0.1353。「1 − e−λt」一眼识别指数——认出 λ,三问一步一个答案。

练 6.4 X ~ U(0, 1)。比较 P(X=0.5) 与 P(0 < X < 1),并解释「零概率事件」。

答:前者 0,后者 1。连续世界里「恰是 0.5」测不出这么细,概率为 0 却并非不可能——有意义的提问是区间。

练 6.5 密度 f(x) 关于 0 对称(偶函数),已知 P(X > 2) = 0.2。求 P(−2 < X < 2) 与 P(|X| > 2)。

答:对称给 P(X < −2) = 0.2,故 P(−2 < X < 2) = 1 − 0.4 = 0.6,P(|X| > 2) = 0.4。对称性是免费的第二把算尺——正态一节还要靠它省一半查表。

小结:连续型的三个动作——验总量、积区间、识类型。认出均匀 / 指数 / 正态的「脸」,就直接套其专属公式,不必每次从定义积分。

习题

第三章 随机变量及其分布习题课七 均匀分布

练 7.1 X ~ U(0, 2)。求 P(X < 0.5)、P(0.5 < X < 1.5)、P(X > 1.8)。

答:长度比:0.5/2 = 0.25;1/2 = 0.5;0.2/2 = 0.1。只量长度,不看位置。

练 7.2 地铁每 15 分钟一班,乘客随机到站,候车 W ~ U(0, 15)。① 求「等不超过 5 分钟」;② 求「恰好等 5 分钟」;③ 求平均意义上「等超过一半班距」的概率。

答:① 1/3;② 0(连续型单点);③ P(W > 7.5) = 1/2。「恰好等 5 分钟」不是不可能,是量不出——连续世界的提问纪律再次登场。

练 7.3 某随机数发生器在 [0.75, 1] 上输出均匀值。写出密度并求 P(X > 0.9)。

答:f(x) = 1/0.25 = 4(该区间内);P(X > 0.9) = 0.1/0.25 = 0.4。先问支集再写密度——区间短了,密度就高,总量仍是 1。

练 7.4 甲乙两人约定 60 分钟内会面,先到者等 15 分钟。用均匀分布重解第一章的会面问题。

答:到达时刻 (X, Y) ~ U([0,60]2),会面条件 |X−Y| ≤ 15。正方形面积 3600,带状面积 3600 − 452 = 1575,故 P = 1575/3600 = 7/16——与第一章的几何法殊途同归。「二维均匀」=面积比,均匀分布是第一章几何概型的正式户口。

小结:均匀分布的全部计算是长度比(或面积比)。它是蒙特卡洛方法的引擎、会面问题的户口,也是一切「随机数」的源头形态。

习题

第三章 随机变量及其分布习题课八 指数分布

练 8.1 设备无故障时间(月)T ~ Exp(1/50)。求 P(T > 50) 与 P(T > 25)。

答:e−1 ≈ 0.3679;e−0.5 ≈ 0.6065。时间减半,生存率开方——指数家族的统一节拍。

练 8.2 λ = 0.02(每小时故障率)。求中位寿命,并解释它的含义。

答:ln2/0.02 = 34.7 小时——一半设备活不过它。中位与「平均 1/λ = 50 小时」不等(分布右偏,均值被长尾拉大),报指标先问清是中位还是均值。

练 8.3 设备已无故障运行 30 小时(λ = 0.02)。求「再运行 30 小时以上」的概率,并与全新设备的同问对照。

答:P(T > 60 | T > 30) = e−1.2/e−0.6 = e−0.6 ≈ 0.5488,与全新设备 e−0.6 相同——无记忆性:旧品「忘掉」了自己的年龄。

练 8.4 呼叫中心电话按泊松流到达,每小时平均 2 通。求两通电话间隔超过 0.5 小时的概率。

答:间隔 T ~ Exp(2):P(T > 0.5) = e−1 ≈ 0.3679。泊松数「几次」,指数量「隔多久」,λ 同源——一对搭档,一枚硬币两面。

小结:指数三式——生存 e−λt、中位 ln2/λ、无记忆。见到「寿命 / 等待 / 间隔」三个词,先想它。

习题

第三章 随机变量及其分布习题课九 正态分布与标准化

练 9.1 智力测验分数 X ~ N(100, 152)。求 P(85 < X < 115)、P(X > 130)、P(X < 70)。

答:z = ±1:0.6826;z = 2:0.0228;z = (70−100)/15 = −2:0.0228。先换 z,再背三数(0.8413 / 0.9772 / 0.9987)。

练 9.2 对任意 X ~ N(μ, σ2),证明 P(X > μ + 2σ) = 0.0228 与 μ、σ 的具体值无关。

答:标准化 z = 2 恒成立,概率只依赖 z——标准化把「所有正态」压成「一个标准正态」,这正是 68–95–99.7 法则对任何 μ、σ 都成立的原因。

练 9.3 零件直径 X ~ N(10, 0.12)(mm),公差 ±0.2。① 求合格率;② 若公差收紧到 ±0.15,合格率降到多少?

答:① |z| ≤ 2:95.45%;② |z| ≤ 1.5:2Φ(1.5)−1 = 0.8664,即 86.64%。公差每收紧 0.5σ,废品率大约翻一倍——质量工程里「过程能力」的第一课。

练 9.4 甲在均值 70、标准差 10 的考试得 90;乙在均值 75、标准差 15 的考试得 85。谁的相对位次更高?

答:z甲 = 2,z乙 = 10/15 ≈ 0.67——甲显著更高。跨卷面比较一律用 z 分数,原始分在说谎。

小结:正态三步流水线减 μ、除 σ、查 Φ;反向流水线查 z、乘 σ、加 μ。正反两向都熟,正态就通了。

习题

第三章 随机变量及其分布习题课十 查表与分位数

练 10.1 X ~ N(50, 82)。求「前 5%」的分数线。

答:Φ(z) = 0.95 ⟹ z = 1.645,分数线 50 + 8×1.645 ≈ 63.2。

练 10.2 X ~ N(72, 92)。求中间 80% 的分数区间。

答:两侧各留 10%,z = 1.282,区间 [72 − 11.5, 72 + 11.5] ≈ [60.5, 83.5]。「中间 C%」反查 z(C% + 一侧余量),是分位题的通用开场。

练 10.3 X ~ N(100, 152)。求「前 1%」的分数线,并与「前 5%」比较说明尾部为何陡。

答:z = 2.326,分数线 100 + 15×2.326 ≈ 134.9。5% 线在 124.7、1% 线在 134.9——概率去掉最后 4%,分数要再涨 10 分:钟形尾部陡得符合直觉却常被低估。

练 10.4 Z ~ N(0,1)。求 c 使 P(Z > c) = 0.975。

答:Φ(c) = 0.025,由对称性 c = −1.96。右尾概率超过一半时,分位点必在负半轴——对称性一步到位。

小结:四个常用反查值请入脑:0.90 ↔ 1.282、0.95 ↔ 1.645、0.975 ↔ 1.960、0.99 ↔ 2.326(另有 0.75 ↔ 0.674)。第六章的置信区间与检验临界值,全部踩在这几个数上。

习题

第三章 随机变量及其分布习题课十一 随机变量函数的分布

练 11.1 X ~ U(0, 1),Y = 2X + 1。求 Y 的分布与 P(Y < 2)。

答:Y ~ U(1, 3)(线性变换把均匀映成均匀,区间随 x ↦ 2x+1 平移伸缩);P(Y < 2) = P(X < 0.5) = 0.5。

练 11.2 X ~ U(0, 2),Y = X2。求 P(Y ≤ 3) 与 Y 的密度。

答:P(Y ≤ 3) = P(X ≤ √3) = √3/2 ≈ 0.8660;FY(y) = √y/2,求导 fY(y) = 1/(4√y)(0 < y < 4)。平方把平顶压成尖峰——函数重塑形状。

练 11.3 X 取 −2, −1, 1, 3,概率 0.2, 0.3, 0.3, 0.2。Y = |X|。列 Y 的分布列。

答:Y 取 1, 2, 3:P(1) = 0.3 + 0.3 = 0.6(−1 与 1 挤成一行),P(2) = 0.2,P(3) = 0.2。多对一必须把概率相加——这是函数分布的第一戒律。

练 11.4 X ~ N(μ, σ2)。证明 Y = (X−μ)/σ ~ N(0, 1)。

答:线性变换只做平移与缩放:P(Y ≤ z) = P(X ≤ μ + σz) = Φ(z),恰是标准正态的分布函数。正态进、正态出——线性家族封闭,这是正态在统计里称王的便利之一。

小结:函数分布的两条路——离散「逐点翻译、概率相加」;连续「事件翻译、求导收尾」。线性变换有速记(同型、参数平移伸缩),非线性函数靠分布函数法稳扎稳打。

习题

第三章 随机变量及其分布复盘:错题归档与三问自测

把本章 11 节习题课的错题按「病根」归档——错法通常只有三种,对症才补得进。

病根典型症状本章对应练习药方
选型错不放回当独立、等待当次数练 5.4、例 12选型三问(次数/等待、放回/不放回、大量+稀有)
记账错分布列总量 ≠ 1、区间端点含混练 1.3、2.1、2.3总量必验;端点先对齐可能值
查表错忘标准化、忘对称性练 9.1、10.4先减 μ 除 σ;右尾过半翻负号

三问自测 合上书回答,答不上即回对应小节:

① 「分布列、密度、分布函数」三者中,谁是统一语言?另两者如何译入?(§3.10:分布函数;离散读跳高、连续读斜率。)

② 六张面孔各管什么场景?各一句话说出「出身门牌」。(§3.18 方法表:次数、稀有计数、等待、不放回、等可能、寿命、叠加。)

③ 「至少」型概率的标准动作是什么?(走对立事件;配泊松/二项的累积表,几乎总是省一半计算。)

复盘判据:本章学成了,应当能在一分钟内为任何一个新场景「点名」分布、写出记号、说出下一步公式——说不出名字的,回 §3.18 的图谱再看一遍。

格物札记

第三章 随机变量及其分布格物札记① 棣莫弗与正态曲线:从二项近似到钟形分布

正态曲线的诞生地不在观测台,而在赌桌。1733 年,流亡伦敦的法国数学家亚伯拉罕·棣莫弗(Abraham de Moivre,1667–1754)在论文《二项级数求和的逼近方法》里研究一个老问题:掷 3600 次均匀硬币,正面数恰好为 1800 的概率是多少?

这是二项分布的中央项 C36001800(1/2)3600 ≈ 0.0133——分子分母都是天文数字,直接算毫无希望(他与友人斯特灵一道打磨出的阶乘近似公式正是为此服务)。棣莫弗的洞见是:不去算每一项,而是证明「项随位置的变化」服从一条光滑曲线 y ∝ e−x2/(2n)——把离散的柱状图换成一条可以积分的连续曲线。这条曲线,就是正态密度。

他给出的可不止一条曲线

棣莫弗用这条曲线算出了「概率质量集中在何处」:中央 ±1 个标准差内约占 68%——本章 §3.14 的三段口诀,1733 年已在他的手稿里成型。他还明确了用途的边界:这条近似在远离中心的尾部会失真,用它回答「偏离中心多远」要小心。两个半世纪后金融模型重蹈的覆辙,棣莫弗在第一页就已圈出。

曲线随后的履历同样值得玩味:拉普拉斯把它用作一般误差的近似;高斯在处理小行星轨道的观测误差时证明——在最小二乘的意义下,误差服从这条曲线时估计最合理,「高斯曲线」「误差律」之名由此而来;统计学家皮尔逊则执意改称「正态」,提醒人们它并非唯一律法,只是一种常态形态。一个赌桌近似,最终成为测量、生物学、教育与社会统计的通用语言。

延伸对读:棣莫弗的《机会论》(The Doctrine of Chances,1718)是概率论第一部英文专著,他本人的一生却困顿曲折——传说是他在临终前计算自己每天多睡一刻钟、终将死于何日(此说虽近轶闻,却与他「用曲线给随机画像」的一生相称)。〔骰子〕

格物札记

第三章 随机变量及其分布格物札记② 泊松与「小数定律」:稀有事件背后的秩序

泊松定理(§3.8)在教科书里是一条极限;在历史上,它先是一份军队伤亡报告。1898 年,圣彼得堡的统计学家拉迪斯劳斯·博尔特凯维奇(Ladislaus Bortkiewicz,1868–1931)出版小册子《小数定律》,整理了普鲁士军队 1875–1894 年间 14 个军团共 280 个军团年的被马踢死记录,死亡总数 196 人——平均每军团年 λ = 0.7 人。

以 P(0.7) 算出各死亡档的期望军团年数,与实际对照:

年死亡人数0123≥4
实际军团年数1449132112
泊松期望(λ=0.7)139.097.334.17.91.6

五档对照,最大偏差不过 6 个军团年——一条来自法国数学讲义的公式,稳稳落在普鲁士马厩的账本上。书中另一个著名例子是自杀率:普鲁士 14 年间儿童自杀共 8 起、分散在 280 个军团年的等价尺度上,「单独一档几乎为零、总量上却必然出现」的稀有事件结构一目了然。

「小数定律」这个名字在提醒什么

人们熟知大数定律(第四章):重复多了,频率稳定于概率。博尔特凯维奇的洞察恰恰相反:在「单独机会极小 × 重复机会极多」的场合,即便均值小到不足 1,泊松分布也能精确预言「稀有事件如何分布」——0 档最多、1 档次之、2 档骤减,任何一档的份额都可事前算出。直觉在这类场合毫无抓手(谁也「感觉」不到 144 对 139 的差别),而泊松公式给出了签字负责的数字。

今天它无处不在:呼叫中心的排班、网站的瞬时并发、核衰变的计数、 DNA 测序的错读数、疫情的输入病例——凡「大量独立单元 × 小概率事件」,都是这份 1898 年小册子的后代。泊松本人(1781–1840)生前更以弹性力学与热传导闻名,这条分布只是他众多成果中的一件小行李;让它名垂青史的,是一群马。

延伸对读:现代的对应读物可看任何一本运筹学教材中的「排队论」一节——M/M/1 排队模型的两个基石假设,正是泊松到达与指数间隔。〔骰子〕

综合站

第三章 随机变量及其分布章小结:知识图谱与方法表

一张图收拢全章:中央是翻译机(随机变量),左右两翼是两套语言,底部是选型三问的路标。

第三章知识图谱:一台翻译机、两套语言、八张面孔 随机试验 Ω 随机变量 X(ω) 离散:分布列 分布函数 F(x) 连续:密度 f(x) 两点/二项/几何 泊松(n大p小) 超几何(不放回) 均匀/指数/正态 选型三问:次数 or 等待?放回 or 不放回?大量 + 稀有?
图 3-19 综合图谱。向下是语言(分布列 / F / 密度),向下再一层是面孔(八个分布)——任何一道题,先定位语言,再点名面孔,最后套公式。
要问的问题本章答案出处
结果怎么变成数字?随机变量 X(ω)§3.2
怎么完整画像?分布列(离散)/ 密度(连续)/ F(x)(通用)§3.3–3.4, 3.10–3.11
计数类用什么分布?二项(独立)、超几何(不放回)、泊松(大量+稀有)§3.5–3.9
等待类用什么分布?几何(次数)、指数(时间)——均无记忆§3.9, 3.13
叠加与误差呢?正态:标准化后查 Φ 表§3.14–3.15
分布被加工后呢?分布函数法:翻译事件、求导收尾§3.16
综合站

第三章 随机变量及其分布思想卡:分布——随机现象的完整画像

本章只增加了一个动词:把「某事件的概率」升级成「全部结果的概率」。

第一、二章的每一次提问都是一问一答:这个事件概率多少?本章开始,我们一次问尽:所有可能值各占多少?这张完整账本就是分布。它带来三个质变——

① 从点到面:有了分布,「任意事件」的概率都成了查表加行,新问题不再需要新推导;

② 从具体到家族:二项、泊松、几何……同一结构反复出现,认出一个,全世界的同类问题一起解锁;

③ 从概率到运算:分布是「可加工的数学对象」——可以相加(第四章的期望)、可以变换(§3.16)、可以逼近彼此(泊松定理、正态近似)。

直觉 ⇄ 理论的三次交手

① 「等越久越该出了」——几何与指数的无记忆性回答:不该,过去的等待不改变未来的分布(练 5.2、8.3);

② 「一百件里一件次品没有,很正常吧」——泊松/二项回答:λ = 2 时全好只有 13.5%,「零事件」常常不是常态(练 4.3);

③ 「极端分数、极端身高不该出现」——正态回答:2σ 外合计约 4.6%,一百人里四五个,比直觉以为的常见得多(练 9.1)。

留一个问题给下一章:分布画完了像,可人们开口问的仍是「平均多少?稳不稳?」——把整张分布压成一个数,是第四章〈数字特征与极限定理〉要做的压缩术;而压得是否「无损」,将由方差来作证。

综合站

第三章 随机变量及其分布挑战一 泊松定理的完整证明

命题 设 n → ∞ 时 npn = λ 保持不变(故 pn = λ/n → 0)。则对每个固定非负整数 k:

Cnk(λ/n)k(1−λ/n)n−k → λke−λk!

证明 把左端拆成四个因子,逐一取极限。

第一因子(组合数与 nk 之比):

Cnk/·(1/nk) 部分:n(n−1)…(n−k+1)k!·1nk = 1k!·∏j=0k−1(1 − jn) → 1k!

(k 固定,每个因子 1 − j/n → 1,有限乘积可逐项取极限。)

第二因子((λ/n)k 剩余部分):λk 原样保留,恰凑出分子 λk。

第三因子(主项):

(1 − λ/n)n → e−λ

(重要极限 (1 + x/n)n → ex 取 x = −λ。)

第四因子(尾巴可弃):0 ≤ 1 − (1−λ/n)−k 的修正极小——准确地说 (1−λ/n)−k → 1,因为 k 固定而底数 → 1。

四因子相乘:1k!·λk·e−λ·1 = λke−λ/k! ∎

评注 三个技术要点值得逐条记住:①「k 固定」——若 k 随 n 增长(如 k ≈ λ 附近虽然允许,但 k ∝ n 不行),证明处处失效;② 有限乘积逐项取极限是合法的,无穷乘积则须另证;③ 重要极限 (1+x/n)n → ex 是全部秘密所在——e 这个常数在概率论的第一次登场,就是替「大量小概率」收账。

综合站

第三章 随机变量及其分布挑战二 正态密度积分为 1 的证明

命题 ∫+∞−∞e−x2/2dx = √(2π),从而正态密度 (1/(√(2π)σ))e−(x−μ)2/(2σ2) 在全实轴上积分为 1。

证明(泊松的极坐标技巧,1812) 一维积分积不动,就升到二维再降回来。记待求值为 I,考虑平方:

I2 = ∫∫ e−(x2+y2)/2dxdy

换成极坐标 x = r cos θ, y = r sin θ,面积元 dxdy = r drdθ,被积函数只含 r:

I2 = ∫2π0∫+∞0e−r2/2r drdθ = 2π ∫+∞0re−r2/2dr

内层积分有原函数(凑微分 d(e−r2/2) = −re−r2/2dr):

∫+∞0re−r2/2dr = [−e−r2/2]0+∞ = 1

故 I2 = 2π,而 I > 0,取正根得 I = √(2π) ∎

换元收尾 对一般参数,令 t = (x−μ)/σ(单调,dx = σdt):

∫+∞−∞1√(2π)σe−(x−μ)2/(2σ2)dx = 1√(2π)∫+∞−∞e−t2/2dt = 1 ✓

评注 ① 极坐标里多出的那个 r 是全证明的灵魂——它把「积不出」的一维积分变成「积得出」的二维积分,这是数学里「升维降维」思想的教科书级示范;② 本题同时证明了标准化公式的合法性:任何 μ、σ 的正态密度都是合法密度(总量 1);③ 顺带一提,∫e−x2dx 没有初等原函数——「积不出原函数却积得出定积分」,这一课将在复分析与含参积分里反复重现。

综合站

第三章 随机变量及其分布实验:用模拟观察二项分布向泊松、向正态的收敛

两条收敛通道贯穿本章:二项 → 泊松(n 大、p 小);二项 → 正态(p 适中、n 大,第四章详述)。本实验用程序把两条通道各跑一遍,亲眼看分布如何「变形」。

# 实验:二项分布的两条收敛通道(伪代码,任何语言可跑)
def binom_pmf(n, p, k):
    return C(n, k) * p**k * (1-p)**(n-k)

# 通道一:向泊松收敛(np = λ = 3 固定)
for (n, p) in [(30, 0.1), (100, 0.03), (1000, 0.003)]:
    pmf = [binom_pmf(n, p, k) for k in range(0, 9)]
    # 与 P(3) 的最大绝对偏差(k = 0..8):
    #   n=30   -> 0.0120
    #   n=100  -> 0.0034
    #   n=1000 -> 0.0003   (每十倍 n,偏差缩小约十倍)

# 通道二:向正态靠拢(p = 0.5 固定,n 增大)
for n in [10, 50, 100]:
    pmf = [binom_pmf(n, 0.5, k) for k in range(n+1)]
    # 画条形图:峰越来越「圆」,两侧越来越对称地铺开
    # n=100 时 P(45≤X≤55) = 0.7287
    # 正态近似 Φ(1.1)−Φ(−1.1) = 0.7287 —— 四位小数一致
通道一(λ=3)P(X=0)P(X=2)P(X=4)
二项 B(30, 0.1)0.04240.22770.1771
二项 B(100, 0.03)0.04760.22520.1706
泊松 P(3)0.04980.22400.1680

观察点 ① 通道一里,固定 λ = np 是关键——若同时增大 n 而不减小 p,分布不会走向泊松;② 通道二里 p = 0.5 的对称性让正态近似格外精准;p 偏离 0.5 越远,同样的 n 需要的修正越大(第 ④ 步);③ 蒙特卡洛模拟(撒 10 万次样本画直方图)应给出与解析列第三位小数一致的结果——模拟与公式互为对账,这是第六章统计方法的预演。

两条通道的终点站名字不同:左通「稀有事件的法律」(泊松),右通「统计学的大宪章」(正态)。下一章我们将看到,右边的通道其实对一切独立同分布的和都敞开——那就是中心极限定理。

综合站

第三章 随机变量及其分布章测试与评讲

闭卷 30 分钟。先点名分布、再动公式——本章按「选型 1 分、计算 2 分」给分,选错型不得分。

章测试(6 题)

1.(10 分)离散型随机变量 X 的分布列为 P(X=k) = c(2/3)k(k = 0, 1, 2, …)。① 求 c;② 求 P(X ≥ 2)。

2.(15 分)掷两粒骰子,X = 较大点数。① 求 P(X=4);② 求 F(3.5)。

3.(15 分)某保险公司发现一年内保单出险次数 X ~ P(0.8)。① 求不出险的概率;② 求出险至少 2 次的概率。

4.(15 分)100 件产品含 10 件次品,不放回抽 5 件。① 写出次品数 X 的分布;② 求 P(X=1)。

5.(20 分)元件寿命(小时)T ~ Exp(1/2000)。① 求寿命超过 2000 小时的概率;② 已知已运行 3000 小时,求再运行 1000 小时以上的概率;③ 求中位寿命。

6.(25 分)学生身高 X ~ N(170, 82)(cm)。① 求 P(162 < X < 178);② 求身高超过 186 cm 的比例;③ 若按「中间 90%」划定正常范围,求该范围。

答案与评分

1.(10 分)① 等比级数 c/(1−2/3) = 3c = 1 ⟹ c = 1/3(5 分);② P(X ≥ 2) = (2/3)2 = 4/9(5 分)——几何型求尾和直接用公比,不必逐项加。

2.(15 分)① (k2−(k−1)2)/36 = 7/36 ≈ 0.1944(8 分);② P(X ≤ 3) = (1+3+5)/36 = 1/4(7 分)——累积差分再求和。

3.(15 分)① e−0.8 ≈ 0.4493(7 分);② 1 − 0.4493 − 0.8e−0.8 = 1 − 0.4493 − 0.3595 ≈ 0.1912(8 分)。只答「至少一次 0.5507」未扣住「至少 2 次」者扣 6 分。

4.(15 分)① P(X=k) = C10kC905−k/C1005,k = 0,…,5(7 分);② C101C904/C1005 ≈ 0.3394(8 分)。用二项 B(5, 0.1) 得 0.3281 者扣 5 分——不放回。

5.(20 分)① e−1 ≈ 0.3679(6 分);② 由无记忆性 P(T > 4000 | T > 3000) = e−0.5 ≈ 0.6065(8 分,答 e−2 者即误用 ① 的时刻);③ 2000·ln2 ≈ 1386 小时(6 分)。

6.(25 分)① z = ±1:Φ(1)−Φ(−1) = 0.6826(8 分);② z = 2:1 − 0.9772 = 0.0228(8 分);③ Φ(z) = 0.95 ⟹ z = 1.645,范围 [170 − 13.2, 170 + 13.2] ≈ [156.8, 183.2] cm(9 分)。

一句话结论:第 4、5 两题是本章的分水岭。第 4 题考「放不放回」的选型,第 5 题考「无记忆性」的活用——两处都错的,回 §3.9 与 §3.13;只有一处错的,把对应例题(例 6、例 9)重做一遍即可。全部答对的,直接读 §3.17 的四行对读表,那里是本章通向第六章的桥。

第四章

数字特征与极限定理

用一个数概括随机:期望是重心,方差是离散。当无数随机相加,奇迹发生了——频率稳定于概率(大数定律),和趋向钟形(中心极限定理)。这是概率论献给统计学最重的礼物。
页型节奏:讲义×18 → 例题×12 → 习题×12 → 格物札记×2 → 综合站×6
讲义

第四章 数字特征与极限定理4.1 导引:用一个数概括随机〔骰子〕

第三章我们把随机变量讲透了:离散型有分布列,连续型有密度曲线。可一旦要拿它去做判断,立刻会发现分布太「胖」了——一张分布表十几个数,一条密度曲线一整段函数。赌桌上的行家从不问「点数的分布是什么」,他只问一句:这局玩下来,我平均能赚多少?

这一章要干的事,就是给分布称重:用一两个数把它概括掉。头一个数叫数学期望,说的是随机变量的「重心」;第二个数叫方差,说的是它的「离散程度」。有了这两个数,随机才第一次变得可以比较、可以定价。

先看一个反直觉的现象

标准骰子的点数是 1 到 6,它们的算术平均是 (1 + 2 + 3 + 4 + 5 + 6)/6 = 3.5。可骰子永远不会掷出 3.5 点!

这一下点破了两件大事:其一,期望不是「会发生的结果」,而是「长期平均的结果」——掷一万次,总和除以一万会稳定地落在 3.5 附近,尽管每一次都落在整数上;其二,期望允许是非整数、甚至是取不到的值,它是分布的一个属性,不是某次试验的输出。赌场给游戏定价、保险公司收保费、工厂定抽检方案,用的都是这同一个数。

六种点数一样重,「重心」落在 3.5 123 456 支点 = 3.5(重心) 左边 1+2+3 与右边 4+5+6 对支点的力矩恰好相等——这正是「期望」的力学原型
图 4-1 骰子分布的重心。六柱等高,即六个点等概率;把概率当作「重量」挂在数轴上,平衡点恰好落在 3.5——一个永远掷不出的数。期望的全部反直觉,都藏在这张图里。

本章的路:先定义期望(§4.2)、学它的性质(§4.3–4.5)、认识常见分布的期望;再照同样的办法定义方差(§4.6–4.8);然后用期望去回答赌桌上的问题(§4.9)。后半程是全章的高潮——当无数个随机量相加,会浮出两条惊人的规律:频率稳定于概率(大数定律)与和趋向钟形(中心极限定理)。它们是统计学赖以立身的基石。

讲义

第四章 数字特征与极限定理4.2 数学期望的定义:加权平均的真义

定义(离散型期望)

设离散型随机变量 X 的分布列为 P(X = xk) = pk(k = 1, 2, …)。若级数 ∑ xkpk 绝对收敛,则称它的和为 X 的数学期望(简称期望或均值),记作 E(X):

E(X) = x1p1 + x2p2 + ⋯ + xnpn = ∑k xkpk

公式的样子很像算术平均,但每个值都按它出现的概率加了权重——所以叫加权平均。这正是它比算术平均更「聪明」的地方:出现得多的值,话语权就大。掷骰子时六个数各占 1/6,权重相等,期望退化成算术平均 3.5;可若骰子被做了手脚,6 点的概率升到 1/2,期望立刻被拉高到 4——玩家吃亏还是占便宜,一个数就看得清清楚楚。

权重不等时,重心偏向「话语权大」的那一边 0.20.30.5 123 重心 E(X) = 1×0.2 + 2×0.3 + 3×0.5 = 2.3 支点不在正中(2),而被最重的那一柱(3)拽向了右方
图 4-2 加权平均的几何直觉。xk 是「挂点位置」,pk 是「挂重」,整体平衡点即 E(X)。

连续型照搬同一思想,把求和换成积分(概率密度充当「连续分布的重量密度」):

E(X) = ∫+∞−∞ x f(x) dx

一个提醒:期望只由分布决定,而不依赖随机变量叫什么名字。若 X 与 Y 同分布,则 E(X) = E(Y)。也正因如此,两个分布形状差得远、均值却可能完全一样——这正是下一节要补上「方差」的动机。

讲义

第四章 数字特征与极限定理4.3 期望的性质与线性性

期望最好用的一条性质,是线性性。它由两条简单的规则组成,先把常数拿出来、再把和拆开:

性质(线性性)

① 常数:E(c) = c(退化随机变量的期望就是它本身)。

② 数乘与平移:E(aX + b) = aE(X) + b。

③ 可加性:E(X + Y) = E(X) + E(Y),对任意两个随机变量都成立,不要求独立。

把 ②③ 合起来,就是一般形式 E(aX + bY + c) = aE(X) + bE(Y) + c。

第 ③ 条是整册书里最省钱的一条定理:它免去了「先求 X + Y 的分布、再算期望」这道苦工。两粒骰子的和 X1 + X2 有 11 个可能值,逐个算概率又长又容易错;而线性性只说一句:E(X1 + X2) = 3.5 + 3.5 = 7,一句话完事。

线性性:不必知道 X 与 Y 的关系,期望照样相加 X:什么分布都行 E(X) = 3.5 + Y:与 X 是否独立? E(Y) = 3.5 (随意) = E(X+Y) = 7 答案是确定的 「独立」只影响方差(§4.7),不影响期望 两骰子和有 11 个可能值,逐个算概率又长又易错;线性性一行给出 7 推论:n 个骰子的点数之和,期望恒为 3.5n——与它们怎样相关无关
图 4-3 线性性的「免检」条款。X 与 Y 可以相互纠缠、可以毫不相干,E(X+Y) = E(X) + E(Y) 一律成立。独立性与相关性,是方差才关心的事。

还有一个常用的推广值得记下:期望与求和号可以交换次序。即对任意随机变量 X1, …, Xn,

E(X1 + X2 + ⋯ + Xn) = E(X1) + E(X2) + ⋯ + E(Xn)

不要小看这一行。「把随机量拆成若干个简单的指示变量之和」,是概率论里最常用的解题武器——它能让「配对问题」「成功次数」「篮子里的球」这类看似复杂的期望,变成几行加法。§4.5 算二项期望、例2 算信封配对,用的都是它。

讲义

第四章 数字特征与极限定理4.4 随机变量函数的期望

下一个常见问题:已知 X 的分布,要算 X2、eX、1/X 这类「X 的函数」的期望。最朴素的办法是先求这个新随机变量的分布——但那往往很麻烦。下面的定理说:完全可以跳过这一步。

定理(无意识统计学家公式)

设 X 为离散型随机变量,分布列 P(X = xk) = pk,g 为任一函数(只要期望存在),则

E(g(X)) = ∑k g(xk) pk

连续型同形:E(g(X)) = ∫+∞−∞ g(x) f(x) dx。

也就是说:把 g 作用在取值上,概率原封不动。原因并不神秘——既然 X 取 x 的概率是 p,那么 g(X) 取 g(x) 的概率自然也是 p(除非不同的 x 被 g 送到同一个值,那时把概率合并即可,加权求和的答案不变)。

算 E(g(X)):只需把 g 作用在取值上,概率不动 X 的取值 / 概率 g(X) = X2​ 的取值 / 同一概率 x=1 p=1/2 x=2 p=1/3 x=3 p=1/6 1 p=1/2 4 p=1/3 9 p=1/6 E(X2​) = 1×(1/2) + 4×(1/3) + 9×(1/6) = 1/2 + 4/3 + 3/2 = 10/3 全程不需要求出 X2​ 的分布列——这正是它被称为「无意识」的原因
图 4-4 函数期望的流程图。左右两列的概率一一对应,中间只是把每个取值送进 g;加权求和因此可以「在左边就完成」。

一条必须记住的不等式

E(g(X)) 与 g(E(X)) 是两回事。以上图为例:E(X2) = 10/3 ≈ 3.333,而 (E(X))2 = (5/3)2 = 25/9 ≈ 2.778,两者不等。一般地,当 g 是凸函数时有 E(g(X)) ≥ g(E(X))(詹森不等式)。「先变换再平均」与「先平均再变换」不可交换——这是初学者最常踩的坑之一。

顺带一提,刚算出的 E(X2) 马上就有大用:下一节算方差要用到公式 Var(X) = E(X2) − (E(X))2。先把 E(X2) 学会,方差就不远了。

讲义

第四章 数字特征与极限定理4.5 常见分布的期望

有了定义与性质,就可以给第三章那六张「面孔」逐一标出重心了。记住它们不算本事,能随手推出一两条才是关键——因为推的过程中用到的技巧,将反复出现在后面的例题里。

分布记号期望 E(X)一句话来历
两点分布B(1, p)p成功记 1、失败记 0
二项分布B(n, p)npn 个指示变量相加
泊松分布P(λ)λ级数 ∑kλk/k! 求和
几何分布Ge(p)1/p成功概率越小,等得越久
超几何分布H(N, K, n)nK/N抽样比例 × 总体成功数
均匀分布U(a, b)(a + b)/2对称 ⇒ 重心在正中
指数分布Exp(λ)1/λ平均等待时间
正态分布N(μ, σ2)μ对称 ⇒ 重心在 μ

表格里最值得琢磨的是对称性原理:只要分布关于某个中心对称,期望就等于那个中心——均匀分布、正态分布两条都是这么来的,几乎不用算积分。

对称分布的重心必在对称轴上 012 3456 对称轴 x = 3,也是 E(X) 左右两侧「重量矩」互相抵消 ⇒ 重心只能落在对称轴上,无需任何计算
图 4-5 对称性原理。这是判断期望最快的一条捷径:先看分布对称不对称,对称则期望 = 对称中心。

两条推导的要点先放在这里,细节留给例题:二项期望用指示变量——把「n 次中成功多少次」拆成 n 个各取 0/1 的小变量之和,期望相加即得 np;泊松期望用级数——∑k·λk/k! = λ∑λk−1/(k−1)! = λ·eλ,再乘上 e−λ 恰好留下 λ。

讲义

第四章 数字特征与极限定理4.6 方差与标准差:离散程度的度量

期望只告诉我们分布在数轴上的「重心」,对「胖瘦」一无所知。看下面两个赌局:

两个同均值、不同风险的骰子

甲骰子:只出 3 点或 4 点,各占一半,期望 3.5。

乙骰子:标准骰子,1 到 6 各占 1/6,期望也是 3.5。

两人的平均收益一模一样,可玩起来的感觉天差地别:甲几乎每次都落在 3 或 4 附近,乙却可能连着掷出 1 点。期望相同、风险迥异——要描述这种差别,就得再添一个数。

自然的想法是量「离重心有多远」。可惜 E(X − μ) 恒等于 0(正负偏差互相抵消,这正是「重心」的含义),于是改用它平方后的平均,这就是方差。

定义(方差与标准差)

设 μ = E(X),称 E[(X − μ)2] 为 X 的方差,记作 Var(X) 或 D(X);它的算术平方根 σ = √Var(X) 称为标准差。

Var(X) = E[(X − E(X))2] = E(X2) − (E(X))2

右边那个等号是最常用的计算式(展开平方即得),它把「先求重心再算偏差平方」换成了「只算两个矩」。用乙骰子验算一遍:E(X2) = 91/6,(E(X))2 = 49/4,故

Var(X) = 91/6 − 49/4 = 182/12 − 147/12 = 35/12 ≈ 2.917, σ = √(35/12) ≈ 1.708

而甲骰子(只在 3、4 两点)的方差是 0.5×(3 − 3.5)2 + 0.5×(4 − 3.5)2 = 0.25——不到乙的十分之一。方差小,说明结果贴着均值走,风险低;方差大,说明大起大落。为什么还要开平方得到标准差?因为 (X − μ)2 的单位是「平方元」「平方点」,而 σ 与 X 同量纲,能直接和原数据比大小。

均值都是 3.5:左图瘦(方差小),右图胖(方差大) 34 甲骰子:Var = 0.25,σ = 0.5 123 456 乙骰子:Var = 2.917,σ = 1.708 红色虚线是重心(两图相同);柱子的「铺开宽度」就是方差——越宽越不可预测
图 4-6 期望相同而方差不同。赌场乐意玩乙式游戏:它对庄家最有利的从来不是均值,而是方差与规则的配合。

一句话概括本节的哲学:期望回答「平均赚多少」,方差回答「波动有多大」。投资人要同时看收益与风险,医生要同时看疗效与副作用,质检要同时看尺寸均值与一致性——两个数,缺一不可。

讲义

第四章 数字特征与极限定理4.7 方差的性质与计算技巧

方差的性质和期望很像,但有两处关键差别:常数加到哪儿都不影响方差,而系数是「平方」着出来的。

性质

① Var(c) = 0——常数毫无波动。

② Var(aX + b) = a2 Var(X)——平移 b 不改变胖瘦,伸缩 a 把波动按 |a| 放大、平方后进方差。

③ Var(X + Y) = Var(X) + Var(Y) + 2Cov(X, Y);若 X, Y 相互独立,则 Var(X + Y) = Var(X) + Var(Y)。

④ Var(X) = E(X2) − (E(X))2 ≥ 0,等号当且仅当 X 几乎处处取常数。

②③ 与期望的对照:期望里 E(aX + b) = aE(X) + b 的 b 会跟着走,方差里却被「抹掉」了;期望的线性无条件成立,方差的「可加」却只在独立时才对。这个区别重要到值得单独划线:期望对万事万物都可加,方差只对独立者才可加。

算方差的两条路:定义式与计算式 路线一(定义式) 先求重心 μ = E(X) 再逐个算「偏差平方」 最后加权平均 E[(X−μ)2​] 路线二(计算式)★ 分别算 E(X2​) 与 E(X) 直接作差 Var = E(X2​) − (E(X))2​ 骰子验算:91/6 − 49/4 = 35/12 ≈ 2.917(两路同值) 经验:取值少、数值整齐时用路线一;取值多或已算过矩时用路线二
图 4-7 两条等价路线。理论上一样,实战里选择取决于「哪个中间量已经算过」。第三章的分布函数、本章的 E(X2),都是这样被反复复用的。

方差还有一个常被忽略的用途——它是「把随机变量标准化」的分母。令 Z = (X − μ)/σ,由性质 ② 立得 E(Z) = 0、Var(Z) = 1。这个 Z 叫标准化变量,它是 §4.16 中心极限定理的主角,也是第五章做推断时查表用的那把「万能尺」。

两骰子之和的方差现在可以一句话给出:Var(X1 + X2) = 35/12 + 35/12 = 35/6 ≈ 5.833(两骰子独立)。这正是「掷得多、波动按 √n 增长」的雏形:n 个骰子之和的方差是 35n/12,标准差是 √(35n/12)——标准差的增长比 n 慢,这是大数定律能成立的深层原因:n 倍数据摊薄到 √n 倍的波动上。

讲义

第四章 数字特征与极限定理4.8 常见分布的方差

用同一套脾气(尤其 ②③ 两条),就可以把第三章六张面孔的方差逐个标出来。表——若把这张表与 §4.5 的期望表并排贴在一起,就得到了一本册子里最实用的「两列速查卡」。

分布记号期望 E(X)方差 Var(X)
两点分布B(1, p)pp(1 − p)
二项分布B(n, p)npnp(1 − p)
泊松分布P(λ)λλ
几何分布Ge(p)1/p(1 − p)/p2
均匀分布U(a, b)(a + b)/2(b − a)2/12
指数分布Exp(λ)1/λ1/λ2
正态分布N(μ, σ2)μσ2

表里有三处值得停一停:其一,泊松分布的期望与方差都等于 λ——均值即方差,这是泊松最独特的签名,也是实际数据「检验是否真服从泊松」的常用抓手(若样本方差远大于均值,说明数据「过度分散」,多半不是泊松)。其二,均匀分布的方差只与区间长度 b − a 有关,长度翻倍、方差翻四倍。其三,正态的两个参数 μ、σ2 就是它的期望与方差,参数即数字特征——这是正态之所以好用的根本原因。

均匀分布:区间越宽,方差越大(Var = 长度2​/12) 长度 1,Var = 1/12 ≈ 0.083 长度 2,Var = 4/12 ≈ 0.333 长度 4,Var = 16/12 ≈ 1.333 三条矩形都是均匀密度(高度相等),差异只在「铺开的宽度」——宽度平移到方差上要平方 直观记忆:均匀分布把「不确定」平均分摊在一段区间上,区间越长越难猜
图 4-8 均匀分布方差的几何含义。(b−a)2/12 里的 1/12 来自积分,是「均匀铺开」留下的固定系数。

本册不要求背下整张表,但要求会用两条性质现场推导:二项方差由 n 个独立指示变量相加得 np(1−p);指数与正态由积分或对称性得到。§4.8 与例6 会把这两条路走一遍。

讲义

第四章 数字特征与极限定理4.9 期望与赌局:公平游戏如何判定〔赌金〕

回到本册的老朋友——赌桌。有了期望,「这游戏公不公平」终于成了一个可以计算的判据。

公平游戏判据

设玩家在一局中的净收益为 X(赢为正、输为负)。则:

E(X) = 0 ⇒ 公平游戏;E(X) < 0 ⇒ 偏向庄家;E(X) > 0 ⇒ 偏向玩家。

赌场里的每条规则,本质上都是在给 E(X) 悄悄加上一个负数。

最干净的例子是轮盘。欧式轮盘有 37 个格子(0 到 36)。押一个号码,命中赔 35 倍、未中赔光 1 元本钱,于是

E(X) = 35 × (1/37) − 1 × (36/37) = (35 − 36)/37 = −1/37 ≈ −0.027

每押 1 元,长期平均亏约 2.7 分。美式轮盘多了一个「00」格(共 38 格),赔付还是 35 倍:

E(X) = 35 × (1/38) − 1 × (37/38) = −2/38 = −1/19 ≈ −0.053

庄家优势几乎翻倍——多出来的那一格,就是赌场当年最成功的一次「产品设计」。而所谓「公平」的赔率该是多少?解 a × (1/37) = 1 × (36/37) 得 a = 36:赔 36 倍才公平,赌场只给 35 倍,差的那 1 倍就是它的利润。

押 1 元的命运:37 种等可能,36 种输、1 种赢 36/37 的命运:输掉 1 元 1/37:赢 35 元 期望 = (1/37)×(+35) + (36/37)×(−1) = −1/37 ≈ −0.027 元 −1 +35 ↑ 支点贴着 −1 赢面虽大(+35),但只有 1/37 的机会;输面虽小(−1),却押上了 36/37 的份量 这就是「庄家优势」:不需要作弊,只要让期望稍微偏负,时间就站在赌场一边
图 4-9 轮盘赌局的期望分解。右下角那句是本册反复要说的道理:期望略微为负 + 重复次数足够多 = 稳定亏损(大数定律,§4.12)。

同样的算法可以照搬到许多「不公平但合法」的场景:彩票(2 元一注、中奖概率 1/100、奖金 100 元,则 E = 100×0.01 − 2 = −1 元,每注平均亏 1 元);保险(投保人付出确定的小额保费,换来「大病大赔」的随机赔付,对保险公司而言 E(赔付) < 保费 才是可持续的,而投保人买的是「消除方差」而不是「提高期望」)。

一个深刻的反例留作思考:圣彼得堡悖论。游戏规则是反复抛硬币,直到第一次出现正面为止;若第 k 次才出现正面,奖金为 2k 元。它的期望是 ∑ 2k × (1/2)k = 1 + 1 + 1 + ⋯ = +∞!数学上「值得花任意多的钱去玩」,现实中却没人肯出 20 元——因为期望无穷,但中大奖的概率小到几乎不发生,方差是无穷的。它提醒我们:只看期望做决策是有漏洞的。「期望 + 方差(+ 风险偏好)」才是完整的判断框架,这正是本节的落脚点。

讲义

第四章 数字特征与极限定理4.10 协方差与相关系数

两个随机变量之间常有牵连:身高与体重、气温与冰淇淋销量、骰子甲与骰子乙(若同掷一次)。要度量这种「同起同落」的程度,先看一个自然的量——偏差之积的期望。

定义(协方差与相关系数)

称 Cov(X, Y) = E[(X − E(X))(Y − E(Y))] 为 X, Y 的协方差;化简得

Cov(X, Y) = E(XY) − E(X)E(Y)

称 ρ = Cov(X, Y)/(σXσY) 为相关系数,其中 σX, σY 是两者的标准差。

凭什么用「偏差之积」?看符号:当 X 偏高时 Y 也偏高,两个偏差同号、乘积为正;一个偏高一个偏低则乘积为负。同向的趋势会被积为正数、反向的趋势会被积为负数,平均下来正好反映「同起同落」的强度。若正负倾向势均力敌,协方差为 0,就说不相关。

以 (E(X), E(Y)) 为中心分四象限,看散点落在哪里 X → ↑ Y 象限一:+ × + = + 象限三:− × − = + 象限四:+ × − = − 象限二:− × + = − Cov 的三种情形 Cov > 0:同起同落(图一、三占优) Cov < 0:此消彼长(图二、四占优) Cov = 0:正负相抵 ⇒ 不相关 ρ ∈ [−1, 1]:把 Cov「无量纲化」 协方差带单位(元·点…),大小依赖量纲;相关系数把它压进 [−1,1],可跨问题比较 ρ = ±1 ⇔ Y 与 X 严格线性(含反向)
图 4-10 协方差的符号来源。散点围绕重心分布,落在「一三象限」(同号)的多,协方差就正;落在「二四象限」(异号)的多,协方差就负。

三条性质要记牢:Cov(X, X) = Var(X)(协方差是方差的推广);Cov(aX, bY) = ab·Cov(X, Y)(双线性);若 X, Y 独立,则 Cov(X, Y) = 0(从而 ρ = 0)。

一个必须分清的方向

独立 ⇒ 不相关(ρ = 0),但反过来不成立:不相关未必独立。经典反例——令 X 在 [−1, 1] 上均匀取值,Y = X2。则 E(XY) = E(X3) = 0 = E(X)E(Y),故 ρ = 0;可 Y 完全由 X 决定,两者当然是「不独立」的。相关系数为 0 只意味着「没有线性关系」,不意味着「毫无关系」——这是统计学里最容易误用的一个概念。

本节与 §4.7 性质 ③ 是配套的:正因为有协方差这个「补丁」,Var(X + Y) 的完整公式才能写成 Var(X) + Var(Y) + 2Cov(X, Y)。一个关于期望的「可加性」,到了方差这里就分裂成三项——这也是概率论从「线性」走向「二次型」的第一步。

讲义

第四章 数字特征与极限定理4.11 矩与矩母函数初览

期望与方差其实是一族数的前两位成员。把「X 的幂的期望」统称为矩,分布的形状就被一层层地描述出来了。

定义(原点矩与中心矩)

k 阶原点矩:μk′ = E(Xk);k 阶中心矩:μk = E[(X − E(X))k](k = 1, 2, …)。

对照一下:一阶原点矩就是期望 μ1′ = E(X);二阶中心矩就是方差 μ2 = Var(X)。更妙的是,一阶中心矩恒为 0——这不正是「重心」的定义吗?

更高阶的矩各管一件事:三阶中心矩(标准化后称偏度)刻画分布左右是否对称,四阶中心矩(标准化后称峰度)刻画尖峰厚尾的程度。正态分布的偏度为 0、峰度有固定基准值——「离正态有多远」,就是用这些矩来量的。

一列矩,一层层把分布的形状画出来 一阶原点矩 E(X):位置(重心) 二阶中心矩 Var:胖瘦(分散) 三阶中心矩 偏度:左右对称? 四阶中心矩 峰度:尖峰与厚尾 矩母函数 M(t) = E(etX​) 把「全部矩」打包成一函数 M′(0) = E(X),M″(0) = E(X2​),… 逐阶导数逐阶抛出矩 泊松 P(λ):M(t) = exp(λ(et​ − 1)) ⇒ M′(0) = λ、M″(0) = λ + λ2​ ⇒ Var = λ 一个函数 M(t) 顶得上一整列矩——这就是「母函数」这个名字的来历
图 4-11 矩的层级。低阶矩管形状的粗略轮廓,高阶矩管精细细节;矩母函数则是把整列矩一次打包的「生成器」。

矩母函数 M(t) = E(etX) 的威力在于「求导即得矩」:用 etX 的泰勒展开展开并逐项取期望,便得 M(t) = 1 + E(X)t + E(X2)t2/2! + ⋯,于是 M′(0) = E(X)、M″(0) = E(X2)。以泊松为例:M(t) = eλ(et−1),求导两次代 t = 0 得 M′(0) = λ、M″(0) = λ + λ2,故 Var = λ + λ2 − λ2 = λ——与 §4.8 那条「均值即方差」的签名完全吻合。

矩母函数还有一个隐藏好处:它可以证明两个随机变量同分布(同一邻域内矩母函数相同 ⇒ 分布相同),这在后续课程里是识别分布类型的利器。本节只要求会算泊松与二项两个,其余留给将来。

讲义

第四章 数字特征与极限定理4.12 大数定律(一):伯努利大数定律

本章后半程进入真正的高潮。前面所有的数字特征(期望、方差、矩),都是为了给这两条定律服务——大数定律与中心极限定理。

先说一个现代人习以为常、当年却是重大发现的事实:抛一千次硬币,正面出现的比例会稳定在 1/2 附近。这件事为什么「应该」发生?一次抛掷完全随机,可一千次平均起来,随机性竟被抹平了。

定理(伯努利大数定律,1713)

设 n 次独立重复试验中某事件 A 发生 k 次,每次试验中 P(A) = p。则对任意 ε > 0:

P( | k/n − p | ≥ ε ) → 0 (n → ∞)

即:频率 k/n 依概率收敛于概率 p。

这条定理出自雅各布·伯努利(Jacob Bernoulli,1654–1705)的遗著《推测术》(Ars Conjectandi,1713 年出版)。他为它取名「黄金定理」,并写道:「即使最笨的人,只要肯数得足够多,也能凭经验确定事件的概率,其精度不逊于先验演绎。」这句话在当时是革命性的——它第一次给了「用频率估计概率」一个数学上的合法身份。

抛硬币频率:起初剧烈摆动,越多越贴近 1/2 p = 0.5 0.68 0.50 0.39 头几次:摆得厉害 几百次后:贴近 0.5 再也离不开 注意:不是「越抛越准」而是「摆动的幅度越来越小」——收敛的是幅度,不是误差的偶然性
图 4-12 频率的收敛(示意图)。曲线来自一次真实模拟的走势:前期大幅摇摆,后期被「钉」在 1/2 附近。注意它的收敛方式是「依概率」——不是「必然」,而是「偏离的概率趋于 0」。

定理的措辞是「依概率收敛」,不是「必然收敛」。差别很微妙:它并不保证「从某一次以后永远靠近 p」,只保证「跑得远的可能性越来越小」。理论上仍存在一条永远不收敛的极端样本路径——只不过它的概率是 0。这正是概率论的语言:允许例外,但要求例外的概率可以任意小。

这条定理的实际分量在于:它把「概率」这个抽象概念与「频率」这个可测量联系了起来。统计学能靠抽样说话,物理实验能靠重复定论,模拟计算(蒙特卡洛)能靠随机数求解——依据都是它。§4.15 会专门展开这层意义。

讲义

第四章 数字特征与极限定理4.13 大数定律(二):切比雪夫不等式

伯努利大数定律说「频率会稳定」,但要证明它、还要估计「稳定得多快」,需要一个工具:用方差给偏离概率设上限。这个工具就是切比雪夫不等式,它在整个统计学里被反复使用。

定理(切比雪夫不等式)

设随机变量 X 的期望为 μ、方差为 σ2,则对任意 ε > 0:

P( | X − μ | ≥ ε ) ≤ σ2 / ε2

取 ε = kσ(k > 0),得更常用的形式:P( | X − μ | ≥ kσ ) ≤ 1/k2。

证明(离散型;连续型把求和换成积分,一字不改):设 X 取值 xk、概率 pk。把求和拆成「远离 μ 的」与「靠近 μ 的」两部分,只在远离的那部分动手:

σ2 = ∑k (xk − μ)2pk ≥ ∑|xk−μ|≥ε (xk − μ)2pk ≥ ε2 ∑|xk−μ|≥ε pk = ε2·P(|X − μ| ≥ ε)

第一个「≥」是因为丢掉了非负项,第二个「≥」是因为在求和范围内 (xk − μ)2 ≥ ε2。移项即得。证法的精髓是「只留远项、只增不减」——这是概率不等式证明的通用套路。

尾部面积之和 ≤ σ2​/ε2​:无论什么分布都成立 μ μ − ε μ + ε 左尾 右尾 两侧阴影面积之和 ≤ σ2​/ε2​ (ε 越大,允许的尾部越小——所以「偏离远」必然是「小概率」)
图 4-13 切比雪夫不等式的几何含义。它对任何分布都成立(不要求正态、不要求对称),代价是界通常很松——「能保证不出事」,但未必「卡得很紧」。

代入数值体会一下松紧:若 μ = 50, σ = 5,则 P(|X − 50| ≥ 15) = P(|X − μ| ≥ 3σ) ≤ 1/9 ≈ 0.111。而若 X 恰是正态分布,同一事件的实际概率仅约 0.003——切比雪夫的界宽松了三十多倍。可它的可贵正在于「不挑食」:正态、均匀、二项、甚至从没见过的分布,它一律管用。

最后给出它怎样证明大数定律(这是本节的伏笔):对独立同分布的 X1, …, Xn,样本均值 ȳ = (1/n)∑Xi 的期望是 μ、方差是 σ2/n。代入切比雪夫:P(|ȳ − μ| ≥ ε) ≤ σ2/(nε2) → 0。看,随着 n 增大,右边被「n」压向 0——大数定律的全部秘密,就是方差被样本量除小了。

讲义

第四章 数字特征与极限定理4.14 大数定律(三):辛钦大数定律

上一节的证明有个前提:方差必须存在。可有些分布(如柯西分布)连期望都不存在,方差更无从谈起。能不能放宽?能——辛钦大数定律把这扇门推得更开。

定理(辛钦大数定律)

设 X1, X2, … 独立同分布,且期望 μ = E(X1) 存在,则对任意 ε > 0:

P( | (1/n)∑i=1n Xi − μ | ≥ ε ) → 0 (n → ∞)

即:样本均值依概率收敛于总体期望。

三个大数定律的关系可以用一句话理清:伯努利是最早的特例(两点分布),切比雪夫要求方差存在,辛钦只要求期望存在。条件一个比一个弱,结论都是「平均稳定」。从强到弱排下来:

名称对随机变量的要求需要什么结论
伯努利大数定律两点分布(0/1 独立重复)只需 p频率 → p
切比雪夫大数定律独立、方差一致有界需要 方差均值 → μ
辛钦大数定律独立同分布只需 期望存在均值 → μ
条件由强到弱:能管的分布越来越广 伯努利:只管两点分布 切比雪夫:独立 + 方差有界(比伯努利宽,但仍需方差) 辛钦:独立同分布 + 期望存在(最宽,柯西分布除外) 条件↓ 柯西分布:E(X) 不存在 ⇒ 连辛钦也管不住——它的样本均值永不收敛 「平均稳定」不是无条件的:它必须以「期望存在」为前提
图 4-14 三大数定律的条件对比。结论相同,前提逐步放宽——这是数学定理演进的标准模式:不断削弱假设,守住结论。

柯西分布值得单独看一眼:它的密度是 f(x) = 1/[π(1 + x2)],图形像个对称的钟形(比正态更「厚尾」)。它的期望是 ∫x/(π(1+x2)) dx,两端的贡献各为无穷大、正负无法抵消,积分为「不存在」。因此它的样本均值会不停地在数轴上跳跃,永不收敛——「大数定律人人适用」是错觉,它是一张有条款的合同。

关于大数定律,最容易混淆的是两类「定律」:大数定律说的是「平均趋于 期望」(收敛到常数,位置问题);中心极限定理说的是「偏差的分布趋于正态」(波动形状问题)。下一节先收束前者,§4.16 再展开后者。

讲义

第四章 数字特征与极限定理4.15 大数定律的意义:频率稳定于概率

三个大数定律合起来说了一件事:大量重复的「平均」会抹掉随机性,露出底下的常数。这句话的分量,要看它在三个层面上改变了什么。

意义一:给「频率估计概率」发一张合法证书

概率是什么?公理派说「它满足三条公理」,而已收的 §4.12 说「它就是频率的极限」。两种说法靠大数定律焊接在一起:因为频率依概率收敛于概率,所以我们可以用观测频率去估计那个看不见的 p。保险公司算车险费率、工厂算次品率、民调推断支持度,用的全是这条证书。没有它,统计学就没有立足点。

重复次数的对数轴:无论起点多偏,最终都汇入 1/2 0.50 10 100 1000 两条虚线是「允许的偏离幅度」(与 1/√n 同阶),它随次数增加而合拢——扇形关闭,频率被关进窄带
图 4-15 重复次数与摆动幅度。三条实线是三次不同的模拟,起点各异;次数越多,它们越挤向同一条水平线——收敛的对象是范围,而非某条曲线的具体走向。

意义二:澄清「赌徒谬误」

既然「长期频率 = 1/2」,那么连出 5 次正面后,是不是「该出反面了」?不是。大数定律说的是「未来大量的抛掷会把比例拉回来」,而拉回来的方式是「后面的次数足够多」,不是「硬币欠一个反面」。前面那 5 次已经完全记账,后续每一次仍是独立的 1/2。把「频率会平衡」误读成「个体有补偿义务」,就是赌徒谬误——赌场里最昂贵的误会。

意义三:催生了蒙特卡洛方法

反过来想:既然频率能逼近概率,那么可以用随机试验去算确定性问题。要估一个不规则图形的面积?把它丢进一个方形框里随机撒点,数一数落在图形内的比例,乘以框面积即可——撒得越多越准,精度约以 1/√n 的速度改进。这就是蒙特卡洛方法(20 世纪 40 年代由冯·诺依曼等人在计算机上发扬光大),它的合法性完全来自大数定律。今天它被用来算核反应、定价金融衍生品、模拟气候——一个问题越难精确求解,就越适合用随机去攻克。

本章的下一节要换一个角度看同一批数据:大数定律说「样本均值趋于 μ」,但它没说「样本均值偏离 μ 的距离本身服从什么规律」。当「偏离」被放大 √n 倍后,它会呈现一个普适的形状——正态分布。这就是中心极限定理,概率论献给统计学最重的礼物。

讲义

第四章 数字特征与极限定理4.16 中心极限定理(一):独立同分布情形

大数定律说「样本均值趋于 μ」,但它没说偏离 μ 的距离服从什么规律。中心极限定理补上这一块拼图,而且答案出人意料地普适。

定理(中心极限定理,独立同分布情形 / 林德伯格–莱维)

设 X1, X2, … 独立同分布,E(Xi) = μ,Var(Xi) = σ2 ∈ (0, ∞)。记 Sn = X1 + ⋯ + Xn,则对任意实数 x:

P( (Sn − nμ)/(σ√n) ≤ x ) → Φ(x) (n → ∞)

其中 Φ 是标准正态分布 N(0, 1) 的分布函数。等价地:当 n 充分大时,Sn 近似服从 N(nμ, nσ2)。

定理的分量在于「不论原来是什么分布」。均匀、指数、伯努利、甚至形状奇怪的偏态分布——只要独立同分布、方差有限,它们的和就都会「长」成钟形。正态分布之所以无处不在,不是因为它本身多么特殊,而是因为它是「大量独立随机叠加」的必然归宿。这个结论一半是数学,一半是世界观。

同一个均匀分布的 n 个独立之和:从矩形 → 三角 → 钟形 n = 1(均匀) n = 2(三角) n = 3(近钟形) n = 10(标准钟形) 注意:每个小分布都只取正值的均匀块,可和的形状却越来越对称、越来越「钟」 这就是「中心极限」四个字的含义——无论起点如何,中心处总会浮现同一条曲线
图 4-16 中心极限定理的直观。正态分布是随机叠加的「吸引子」:加得越多,越像它。

这条定理的历史线索也要记一笔:棣莫弗(1733)先在二项分布(掷硬币)这一特例上发现了钟形近似;拉普拉斯把它推广到更一般的场合;直到 20 世纪初的林德伯格与莱维,才给出「独立同分布 + 方差有限」这个既宽又干净的现代形式。跨度近两百年——从赌桌的一个近似,长成了概率论的中枢定理。

它的历史前身(二项分布的钟形近似)叫棣莫弗–拉普拉斯定理,是 CLT 最重要的特例,也是下一节 §4.17 的应用主力。大数定律与 CLT 的分工再确认一次:前者管「均值落在哪里」(位置),后者管「偏离的分布形态」(形状)。

讲义

第四章 数字特征与极限定理4.17 中心极限定理(二):应用与正态近似

CLT 最有价值的用途,是把难算的二项概率变成一次查表。当 n 大时,B(n, p) 近似服从 N(np, np(1−p))(因为二项正是 n 个两点分布的独立和)。

使用口诀(连续性修正)

二项是离散的、正态是连续的,直接等价会丢掉「半格的宽度」。正确做法是把整数 k 膨胀成区间 [k − 0.5, k + 0.5],这叫连续性修正。例如 P(X ≤ 55) 近似为 P(Y ≤ 55.5),P(45 ≤ X ≤ 55) 近似为 P(44.5 ≤ Y ≤ 55.5)。

经验条件:np ≥ 5 且 n(1 − p) ≥ 5 时近似可用。

用掷 100 次硬币(X ~ B(100, 0.5),μ = 50, σ = 5)检验一下三个数:

方法计算结果
精确计算∑k=4555 C100k(1/2)1000.7287
正态近似(无修正)Φ((55−50)/5) − Φ((45−50)/5) = Φ(1) − Φ(−1)0.6827
正态近似(带修正)Φ(1.1) − Φ(−1.1)0.7287

看第二行与第三行:加不加那半格,误差从 0.046 缩到 0.0001——连续性修正不是可选的礼节,而是让近似从「能用」变成「好用」的关键一步。

B(100, 0.5) 的柱与 N(50, 52​) 的曲线:离散柱顶几乎落在曲线上 正态曲线 N(50, 52​) 45 50 55 柱宽 1 对应曲线下的「一格面积」——把柱顶连起来,就是连续性修正为何是「半格」的原因
图 4-17 二项柱状图与正态密度曲线的吻合。每根柱的面积(而非高度)才是概率——这正是连续性修正要用「半格」的道理。

正态近似的应用场景极广,随手举三个:① 民意调查的误差——样本量 n = 1000 时支持率的抽样误差约 ±1.96×√(0.25/1000) ≈ ±3.1%,这条「±3%」正是新闻里常听到的那个数;② 质量抽检——一批产品次品率 p = 0.02,抽出 500 件,落点分布近似正态,可据此设接收/拒收线;③ 工程误差——测量误差是许多微小独立扰动之和,CLT 说明了「误差为何总是正态」。

顺带记住「3σ 原则」

对正态分布,P(|μ − X| ≤ σ) ≈ 0.6827、≤ 2σ 约 0.9545、≤ 3σ 约 0.9973。也就是说:脱离均值 3 个标准差以上的结果,一千次里不到三次。工业质量控制把它当作「异常报警线」,统计学用它判断一个观测值是否「太过离奇」(这正是第六章假设检验的思想雏形)。

一个提醒:CLT 是渐近结论(n → ∞)。实际用的时候,n 要「足够大」——而「多大算够」取决于原分布有多偏。越对称的原分布,收敛越快;严重偏态(如指数分布)往往需要几十甚至上百个才够像样。这条经验在第六章的区间估计里会变成一条具体门槛。

讲义

第四章 数字特征与极限定理4.18 本章总结与方法表

本章从「用一个数概括随机」出发,走完了概率论最核心的一段路:数字特征 → 大数定律 → 中心极限定理。三条线索的脉络如下。

第四章知识图谱:两个数字特征,两条极限定理 期望 E(X) 重心、可加性、赌局定价 方差 Var(X) 离散度、独立才可加 协方差 / 相关系数 线性关联、不相关≠独立 切比雪夫不等式 P(|X−μ| ≥ ε) ≤ σ2​/ε2​ 唯一不挑分布的工具,大数定律的引擎 大数定律:均值 → μ(位置) 中心极限定理:偏差 → 正态(形态)
图 4-18 本章知识图谱。上半是「数字特征」,下半是「极限定理」;中间的切比雪夫不等式是连接两层的枢纽。

下面这张表把全章要会用的公式集中起来,建议贴在书桌上:

主题公式关键提醒
期望定义E(X) = ∑xkpk / ∫xf(x)dx加权平均,允许取不到的值
线性性E(aX+bY+c) = aE(X)+bE(Y)+c无条件成立,不需独立
函数期望E(g(X)) = ∑g(xk)pkE(g(X)) ≠ g(E(X))
方差Var = E(X2) − (E(X))2计算式的首选
方差的伸缩Var(aX+b) = a2Var(X)平移不影响,伸缩要平方
方差的可加Var(X+Y) = Var(X)+Var(Y)+2Cov独立才可加
协方差Cov = E(XY) − E(X)E(Y)独立 ⇒ Cov = 0,反之不然
切比雪夫P(|X−μ| ≥ kσ) ≤ 1/k2不挑分布,但界较松
正态近似B(n,p) ≈ N(np, np(1−p))记得连续性修正 ±0.5

最后回望全章的一以贯之:「一个数概括随机」的努力,最终催生了两条定律。期望让我们能给赌局定价,方差让我们能度量风险;而当无数随机相加,大数定律保证「平均会稳定」,中心极限定理保证「波动会像钟」。第五章将带着这两件武器进入统计世界——从一堆真实数据出发,用样本去推断那个看不见的总体。

例题

第四章 数字特征与极限定理例1 期望计算:离散型随机变量的期望

题目 掷两粒均匀骰子,X = 两点之和。① 用期望的定义直接算出 E(X);② 再用线性性验证。

解 ① 第三章已数出分布列(每行是「和 k 出现的有利点数」):

k23456789101112
概率1/362/363/364/365/366/365/364/363/362/361/36

按定义加权求和(分子已把每个 k 乘上它的有利点数):

E(X) = (2×1 + 3×2 + 4×3 + 5×4 + 6×5 + 7×6 + 8×5 + 9×4 + 10×3 + 11×2 + 12×1)/36 = 252/36 = 7

② 设两粒骰子分别为 X1, X2,则 E(X1) = E(X2) = 3.5,由线性性立刻得到 E(X) = 3.5 + 3.5 = 7。

点评 两条路同一个答案(252/36 = 7),但代价悬殊:定义法要列全分布、乘 11 次、加 11 次;线性性只要一句「骰子均值 3.5」。

更重要的是,线性性不要求两粒骰子独立。若把规则改成「第二粒必须不小于第一粒」,和分布完全变了,可 E(X1 + X2) = 7 依旧不变——这就是图 4-3 那句「免检条款」的具体印证。

例题

第四章 数字特征与极限定理例2 期望线性性:不独立也能拆分的求和

题目 4 封信随机装入 4 个已写好地址的信封(每封信等可能地落进任一信封)。设 X 为「地址与信正好配对」的信数。① 写出 X 的分布列并求 E(X);② 用指示变量求 E(X),并推广到 n 封信。

解 ① 总装法是 4! = 24 种,等可能。数「恰有 k 封配对」的装法数(错排数的老账本):

配对数 k01234
装法数98601
概率9/248/246/2401/24

值得留意:恰有 3 封配对是不可能的(前 3 封都对,第 4 封自然也对,那它就是 4 封全对)。按定义:

E(X) = (0×9 + 1×8 + 2×6 + 3×0 + 4×1)/24 = 24/24 = 1

② 指示变量法:令 Ii = 1(第 i 封信装对),否则为 0,则 X = I1 + I2 + I3 + I4。第 i 封信等可能地落进 4 个信封,只有 1 个是对的,故 P(Ii = 1) = 1/4,于是

E(X) = E(I1) + E(I2) + E(I3) + E(I4) = 4 × (1/4) = 1

推广:n 封信时每封配对概率都是 1/n,故 E(X) = n × (1/n) = 1。

点评 「不论多少封信,平均恰有 1 封配对」——这个结论近乎奇迹,可两条路给出的答案完全一致(1)。更妙的是,重复装信第 n 种情形,

直接数的代价:n = 100 时分布列有 101 项,还要算错排数;指示变量法的代价:一行加法。

注意 Ii 之间并不独立(第一封对了,第二封对的可能性会变),但期望照样相加——这正是线性性「无条件成立」的威力。「拆分 + 指示变量」是期望题的第一号武器,例4、例7 还会用到。

例题

第四章 数字特征与极限定理例3 函数期望:E(X2) 与 E(1/X) 的计算

题目 设 X 的分布列为 P(1) = 1/2, P(2) = 1/3, P(3) = 1/6。求 E(X)、E(X2)、E(1/X),并比较 E(1/X) 与 1/E(X)。

解 把每个取值送进相应的 g,概率原封不动:

E(X) = 1×(1/2) + 2×(1/3) + 3×(1/6) = 1/2 + 2/3 + 1/2 = 5/3

E(X2) = 12×(1/2) + 22×(1/3) + 32×(1/6) = 1/2 + 4/3 + 3/2 = 10/3

E(1/X) = (1/1)×(1/2) + (1/2)×(1/3) + (1/3)×(1/6) = 1/2 + 1/6 + 1/18 = 9/18 + 3/18 + 1/18 = 13/18 ≈ 0.722

而 1/E(X) = 1/(5/3) = 3/5 = 0.6。两者不相等:13/18 ≈ 0.722 > 0.6。

点评 三处要点。

其一,E(X2) 不要写成 (E(X))2:本例中 E(X2) = 10/3 ≈ 3.333,而 (E(X))2 = (5/3)2 = 25/9 ≈ 2.778。两者之差 10/3 − 25/9 = 30/9 − 25/9 = 5/9 ≈ 0.556 正是方差。

其二,1/x 是凸函数,故 E(1/X) ≥ 1/E(X)(詹森不等式)。直觉:倒数会「放大」小值的影响,而小值(这里是 1)恰好权重最大(1/2),于是整体被抬高。

其三,验算小技巧:把三条算式写成「取值 × 概率」的两列表,逐列相加,能有效防止漏项。13/18 这种不好约的分数,结果通常反而是对的。

例题

第四章 数字特征与极限定理例4 二项分布期望:直接法与指示变量法

题目 设 X ~ B(n, p)。① 用求和定义(直接法)证明 E(X) = np;② 用指示变量法再证一次;③ 求 B(10, 0.3) 的期望。

解 ① 直接法。E(X) = ∑k=0n k·Cnkpkqn−k(记 q = 1 − p)。k = 0 项为零,从 k = 1 开始;用组合恒等式 k·Cnk = n·Cn−1k−1:

E(X) = np ∑k=1n Cn−1k−1pk−1q(n−1)−(k−1) = np(p + q)n−1 = np

最后一步用了二项式定理与 p + q = 1。

② 指示变量法。把「n 次试验中的成功次数」拆开:令 Ii 表示第 i 次是否成功(成功取 1、失败取 0),则 X = I1 + ⋯ + In,且 E(Ii) = p。于是

E(X) = E(I1) + ⋯ + E(In) = np

③ n = 10, p = 0.3:E(X) = 10 × 0.3 = 3。

点评 两种证法各有品格:直接法展示了「组合恒等式 + 二项式定理」的经典配合,是分析技巧;指示变量法揭示了这个期望为何如此简单——它本就是 n 个 p 相加,是结构洞察。

为什么要两种都会?因为直接法能处理「加权求和」类的变体(如算 E(X2)),指示变量法则能一击解决「计数型」难题(回头重看例2)。方法有各自的射程,识题比记公式重要。

例题

第四章 数字特征与极限定理例5 方差计算:由定义与公式两条路

题目 掷一粒均匀骰子,X = 点数。① 用定义算 Var(X);② 用计算式 Var = E(X2) − (E(X))2 验算;③ 推广到 n 粒独立骰子之和。

解 已知 μ = E(X) = 3.5。① 定义式要先算每个取值到重心的距离,再平方、再取平均:

点数 x123456
偏差 x − 3.5−2.5−1.5−0.50.51.52.5
偏差平方6.252.250.250.252.256.25

Var(X) = (6.25 + 2.25 + 0.25 + 0.25 + 2.25 + 6.25)/6 = 17.5/6 = 35/12 ≈ 2.917

② 计算式:E(X2) = (1 + 4 + 9 + 16 + 25 + 36)/6 = 91/6,(E(X))2 = 12.25 = 49/4:

Var(X) = 91/6 − 49/4 = 182/12 − 147/12 = 35/12

③ n 粒独立骰子之和 Sn:由「独立才可加」,Var(Sn) = n × 35/12 = 35n/12;标准差 σn = √(35n/12)。

点评 两条路殊途同归(17.5/6 = 35/12),但适用场合不同。

定义式的启示:方差是「偏差平方的平均」,它的单位是平方(这里「平方点」),所以最后要开方才回到「点」。

计算式的效率:只需两个矩,不必逐个算偏差。当取值很多(如二项 n = 100)时,定义式要算 101 个偏差平方,计算式只要两个数。

推广式的意义:σn = √(35n/12) 是「√n 律」的雏形——掷 100 粒骰子,和的标准差只比掷 1 粒大 10 倍,而取值范围却大了 100 倍。相对波动被极大压缩,这正是大数定律的算术根源。

例题

第四章 数字特征与极限定理例6 常见分布方差:泊松、均匀、指数

题目 求下列分布的方差:① 泊松 P(3);② 均匀 U(1, 5);③ 指数 Exp(2)。并指出各自「期望与方差的特殊关系」。

解 ① 泊松 P(λ) 的标准结论是 Var = λ。这里 λ = 3,故 E(X) = 3, Var(X) = 3——期望与方差相等,这是泊松的签名。

② 均匀 U(a, b):先算二阶矩

E(X2) = ∫ba x2/(b − a) dx = (b3 − a3)/(3(b − a)) = (b2 + ab + a2)/3

减去均值平方 ((a+b)/2)2,化简得 Var = (b − a)2/12。取 a = 1, b = 5:E = 3,Var = 42/12 = 16/12 = 4/3 ≈ 1.333。

③ 指数 Exp(λ):E(X) = 1/λ,E(X2) = 2/λ2,故 Var = 2/λ2 − 1/λ2 = 1/λ2。取 λ = 2:E = 0.5, Var = 0.25,标准差同为 σ = 0.5。

分布E(X)Var(X)特殊关系
泊松 P(3)33均值 = 方差
均匀 U(1,5)34/3只由区间长决定
指数 Exp(2)0.50.25标准差 = 均值

点评 三处「巧合」其实都是签名:泊松的「E = Var」是识别它的指纹(方差远大于均值 ⇒ 数据「过度分散」,多半不是泊松);均匀的「只看区间长」说明位置平移不影响形状;指数的「标准差 = 均值」是「无记忆性」写在数字上的印记。

计算提醒:E(X2) 的积分很容易漏掉 1/(b−a) 这个归一化因子——均匀分布的密度必须带上它才对。

例题

第四章 数字特征与极限定理例7 赌局分析:彩票与轮盘的期望收益

题目 用期望给三个赌局定价:① 某彩票 2 元一注,中奖得 100 元、概率 1/100,其余不中,求每注期望净收益;② 欧洲轮盘押一个号码(37 格,命中赔 35 倍、未中赔掉 1 元本钱),求期望净收益;③ 掷骰子出 6 点赢 a 元、否则输 1 元,要使它公平,a 应为多少?

解 一律以「净收益」X 为准(赢为正、输为负)。

① 中奖时净赚 100 − 2 = 98 元,未中时净亏 2 元:

E(X) = 98 × (1/100) + (−2) × (99/100) = 0.98 − 1.98 = −1 元

② 命中赚 35 元、未中亏 1 元:E(X) = 35 × (1/37) − 1 × (36/37) = (35 − 36)/37 = −1/37 ≈ −0.027 元。

③ 出 6 的概率 1/6,不出的概率 5/6:

E(X) = a × (1/6) − 1 × (5/6) = 0 ⇒ a = 5

即赔率应为 5 : 1 才公平。

赌局期望净收益(元/注)谁占便宜
彩票(2 元,中 100 概率 1%)−1.000发行方(玩家亏一半本金)
欧洲轮盘押单号−1/37 ≈ −0.027赌场(优势 2.7%)
掷骰出 6 赢 5 赔 10公平

点评 三个数摆在一起,赌场的商业模式就透明了:它从不指望某一局赢,只指望每条规则都带一个微小的负期望。轮盘 2.7% 的优势看似不起眼,但配合大数定律(重复足够多次),亏损就近乎确定。

彩票的期望更是触目惊心(亏掉一半本金)——它卖的不是「期望」,而是「暴富的可能性」与「几天的期待感」。用期望理解风险,不等于用期望否定一切:买彩票买的是方差(极小概率的巨奖),这与买保险买的是「消除方差」正好相反。例7 与 §4.9 的圣彼得堡悖论合起来看,就是一个完整的「风险观」。

例题

第四章 数字特征与极限定理例8 协方差:由联合分布计算协方差

题目 设 (X, Y) 的联合分布为 P(0,0) = 0.2, P(1,0) = 0.3, P(0,1) = 0.1, P(1,1) = 0.4。① 求 Cov(X, Y);② 判断 X 与 Y 是否独立;③ 求 Var(X + Y) 并解释它比 Var(X) + Var(Y) 大还是小。

解 ① 先分别求边缘与乘积矩:

Y = 0Y = 1行和 = P(X)
X = 00.20.10.3
X = 10.30.40.7
列和 = P(Y)0.50.51.0

E(X) = 0×0.3 + 1×0.7 = 0.7, E(Y) = 0×0.5 + 1×0.5 = 0.5

XY 只有 X = Y = 1 时非零,故 E(XY) = 1×1×0.4 = 0.4。于是

Cov(X, Y) = E(XY) − E(X)E(Y) = 0.4 − 0.7×0.5 = 0.4 − 0.35 = 0.05

② 查一格便知:P(X=1, Y=1) = 0.4,而 P(X=1)P(Y=1) = 0.7×0.5 = 0.35。两者不等 ⇒ 不独立(且 0.4 > 0.35,说明「同取 1」比独立时更常发生,正相关)。

③ Var(X) = E(X2) − 0.49 = 0.7 − 0.49 = 0.21,Var(Y) = 0.5 − 0.25 = 0.25。故

Var(X + Y) = 0.21 + 0.25 + 2×0.05 = 0.56 > Var(X) + Var(Y) = 0.46

点评 ③ 是本节最该记住的一课:因为 Cov > 0(正相关),X + Y 的波动比「各自波动之和」更大——两个「同上同下」的量相加,峰值会被叠加、波动被放大。

反过来的情形同样重要:若 Cov < 0(此消彼长),则 Var(X + Y) < Var(X) + Var(Y)。这正是「不要把鸡蛋放在同一个篮子里」的数学表述——负相关资产相加能降低总风险,是投资组合理论的第一块基石。

计算提醒:E(XY) 不是「E(X)E(Y)」,也不是把两个边缘分别算完再乘——必须回到联合分布上加权求和。

例题

第四章 数字特征与极限定理例9 相关系数:线性相关程度的度量

题目 ① 接例8,求 X 与 Y 的相关系数 ρ;② 举一例说明「ρ = 0 但两者不独立」。

解 ① 由例8,Cov = 0.05,Var(X) = 0.21,Var(Y) = 0.25,故

ρ = 0.05 / (√0.21 × √0.25) = 0.05 / (0.4583 × 0.5) = 0.05 / 0.2291 ≈ 0.218

精确值 ρ = 1/√21 ≈ 0.2182。它是一个不大不小的正相关:X 偏大时 Y 也倾向偏大,但远非严格线性(ρ 离 1 还很远)。

② 取 X 在 [−1, 1] 上均匀分布,令 Y = X2。先算三个矩:由对称性 E(X) = 0、E(X3) = 0(奇函数在对称区间上积分为 0),E(Y) = E(X2) = 1/3。于是

Cov(X, Y) = E(XY) − E(X)E(Y) = E(X3) − 0 = 0 ⇒ ρ = 0

可 Y 完全由 X 决定(知道 X 就唯一确定 Y),两者显然不独立。

点评 ② 是统计学中最经典的「陷阱题」,值得反复玩味:ρ = 0 只说明「没有线性关系」,而这里的 Y = X2 是一条漂亮的抛物线关系——它太「弯」了,弯到正负两侧的线性贡献互相抵消,于是线性指标读数为 0。

三句口诀收尾:独立 ⇒ 不相关;不相关 ⇏ 独立;ρ = ±1 ⇔ 严格线性。

现实提醒:数据分析里看到 ρ ≈ 0 千万别说「两者无关」——只能说「没发现线性关联」。要发现抛物线、周期性这类关系,得靠画散点图(第五章会专门做这件事)。

例题

第四章 数字特征与极限定理例10 切比雪夫不等式:估计尾部概率

题目 设随机变量 X 满足 E(X) = 50、Var(X) = 25。① 用切比雪夫不等式估计 P(|X − 50| ≥ 15);② 若已知 X ~ N(50, 25),求该概率的实际值,并与①比较;③ 用切比雪夫估计 P(|X − 50| ≥ 12.5)。

解 ① 标准差 σ = √25 = 5,15 = 3σ,即 k = 3:

P(|X − 50| ≥ 15) = P(|X − μ| ≥ 3σ) ≤ 1/32 = 1/9 ≈ 0.111

② 正态分布下,(X − 50)/5 ~ N(0,1),故该事件等价于 |Z| ≥ 3:

P(|Z| ≥ 3) = 2(1 − Φ(3)) = 2 × 0.00135 ≈ 0.0027

比较:切比雪夫的界 0.111 是实际值 0.0027 的约 41 倍——界很松,但它对任何分布都成立。

③ 12.5 = 2.5σ,k = 2.5:P ≤ 1/2.52 = 1/6.25 = 0.16。

k切比雪夫上界 1/k2正态实际值宽松倍数
20.2500.0455约 5.5 倍
2.50.1600.0124约 13 倍
30.1110.0027约 41 倍

点评 表格说明了切比雪夫的「性格」:k 越大、分布越「规矩」(如正态),界就越松。这不是缺点,而是代价——它买的是「不挑分布」这条极其难得的普适性。

它真正的用武之地在证定理(上一节用它证明大数定律)与做保守估计(不知道分布形状时,它能给一个绝不会错的结论)。「界松但永远成立」胜过「精确但只会正态」,这在工程安全、可靠性设计里是常态。

另一点:本题②里 |Z| ≥ 3 的概率约 0.0027(即「3σ 原则」),它是第六章判断「异常值」的第一把尺子。

例题

第四章 数字特征与极限定理例11 中心极限定理:用正态近似二项分布

题目 掷 100 次均匀硬币,X = 正面次数。① 写出 X 的分布与 μ, σ;② 用正态近似(不带连续性修正)求 P(45 ≤ X ≤ 55);③ 带上连续性修正再算一次;④ 与精确值比较,说明修正的作用。

解 ① X ~ B(100, 0.5),μ = np = 50,σ = √(npq) = √(100×0.5×0.5) = √25 = 5。

② 直接标准化:(X − 50)/5,端点 45 ↦ −1、55 ↦ 1:

P(45 ≤ X ≤ 55) ≈ Φ(1) − Φ(−1) = 0.8413 − 0.1587 = 0.6827

③ 把整数膨胀为区间:P(45 ≤ X ≤ 55) ≈ P(44.5 ≤ Y ≤ 55.5),端点变为 (44.5 − 50)/5 = −1.1、(55.5 − 50)/5 = 1.1:

P ≈ Φ(1.1) − Φ(−1.1) = 0.8643 − 0.1357 = 0.7287

④ 精确值 ∑k=4555 C100k(1/2)100 ≈ 0.7287。

方法结果与精确值之差
精确计算0.7287—
正态近似(无修正)0.68270.046
正态近似(带修正)0.7287< 0.001

点评 ④ 的对比是全题的灵魂:不加那「半格」,误差 0.046(相对误差约 6%);加上半格,误差降到千分之一以下——代价只是把 45、55 各向外挪 0.5。

为什么是 0.5?因为离散概率 P(X=k) 对应的是连续曲线下 [k − 0.5, k + 0.5] 那一格的面积(回看图 4-17:柱顶连线正是曲线)。区间类概率要把两端各补半格,才能和面积对齐。

使用条件再强调一遍:np ≥ 5 且 n(1 − p) ≥ 5。本题 np = 50,远够用。

例题

第四章 数字特征与极限定理例12 综合:一张「期望方差速算表」的完整填写

题目 利用本章公式,填出下表中各分布的期望与方差(参数已在第一列给出具体值),并说明每处用的是哪条性质。

解 逐个填写(括号内注明依据):

分布(具体参数)E(X)Var(X)依据
两点 B(1, 0.4)0.40.24p、p(1−p)
二项 B(10, 0.3)32.1np、np(1−p)
泊松 P(2.5)2.52.5两者都是 λ
几何 Ge(0.25)4121/p、(1−p)/p2
均匀 U(2, 8)53(a+b)/2、(b−a)2/12
指数 Exp(0.5)241/λ、1/λ2
正态 N(10, 4)104参数即数字特征

两处验算过程:几何 Ge(0.25)——E = 1/0.25 = 4,Var = (1 − 0.25)/0.252 = 0.75/0.0625 = 12;均匀 U(2,8)——E = (2 + 8)/2 = 5,Var = (8 − 2)2/12 = 36/12 = 3。

点评 这张表是本章的「期末速查卡」,建议亲手默写三遍。填写时注意三个易错点:

① 正态 N(10, 4) 的第二个数是方差不是标准差——写方差就是 4,要标准差才开方得 2。中文教材两种记号都常见,考试务必看清题目定义。

② 几何分布的方差 (1−p)/p2 常被误记成 1/p2:p = 0.25 时前者 12、后者 16,差得很远。

③ 泊松 E = Var = λ 是最省事也最容易被怀疑的一条——它没有算错。

最后回望一章:从「用一个数概括随机」到「用两个数」,再到「无数个随机相加会怎样」——本章的每一个工具,都将在第五章的抽样与第六章的推断中被反复调用。

习题

第四章 数字特征与极限定理习题课一 期望的定义

本课练「加权平均」的手感:给分布,能算出重心;给重心,能反推分布的性质。

练 1.1 掷一粒均匀骰子,X = 点数。用定义(不抄结论)算出 E(X),并说明它为什么不是「最可能出现的点数」。

答:E(X) = (1+2+3+4+5+6)/6 = 21/6 = 3.5。最可能出现的点数每个都是 1/6(六个并列),而 3.5 根本取不到——「最可能值」与「平均值」是两回事,骰子正是最好的反例。

练 1.2 设 P(X = k) = k/10(k = 1, 2, 3, 4)。① 先验证它是合法的分布列;② 求 E(X)。

答:① 概率依次 0.1, 0.2, 0.3, 0.4,全非负、和为 1 ✓。② E(X) = 1×0.1 + 2×0.2 + 3×0.3 + 4×0.4 = 0.1+0.4+0.9+1.6 = 3。也可写成 ∑k2/10 = 30/10 = 3——先验证再计算是标准次序。

练 1.3 设 P(X=0) = 0.3, P(X=1) = 0.5, P(X=2) = 0.2。求 E(X) 与 E(X − 1)。

答:E(X) = 0×0.3 + 1×0.5 + 2×0.2 = 0.9;E(X − 1) = E(X) − 1 = −0.1。注意 E(X−1) ≠ E(X)−E(X)——这里的 1 是常数,不是 E(X)。

练 1.4 设 X ~ U(0, 1)(在 [0,1] 上均匀)。用积分求 E(X)。

答:E(X) = ∫10 x·1 dx = x2/2 |01 = 1/2。离散的加权平均换成「密度作重量」的积分,重心落在区间正中——对称即中点。

练 1.5 袋中 3 红 2 白,随机摸 1 个。令 X = 1(摸红)、0(摸白),求 E(X),并解释它的含义。

答:E(X) = 1×(3/5) + 0×(2/5) = 0.6。含义:「摸到红球」这件事的平均发生次数 = 摸到红球的概率。0/1 型变量(指示变量)的期望就是它的概率——这条在例2、例4 里是主力。

练 1.6 某游戏掷一粒骰子,点数即收益(元)。① 求期望收益;② 若入场费 3 元,平均每局净赚或净亏多少?

答:① 3.5 元。② 净收益 E = 3.5 − 3 = +0.5 元——玩家占便宜,这种游戏庄家绝不会开。

小结:期望=按概率加权的平均。它可以是取不到的值(3.5)、可以小于所有取值(0.6),这两条反直觉之处,恰恰是它「性质比数值更重要」的理由。

习题

第四章 数字特征与极限定理习题课二 期望的性质

本课专门练线性性。反复提醒自己:期望可加不挑条件。

练 2.1 已知 E(X) = 4,求 E(3X + 2) 与 E(−X)。

答:E(3X+2) = 3×4 + 2 = 14;E(−X) = −4。常数项照搬、系数照乘——这就是「线性」二字。

练 2.2 已知 E(X) = 2, E(Y) = 3,求 E(X + Y) 与 E(2X − 3Y + 1)。需要 X, Y 独立吗?

答:E(X+Y) = 5;E(2X−3Y+1) = 4 − 9 + 1 = −4。不需要独立——这是期望线性性与方差可加性最大的区别。

练 2.3 掷两粒骰子,S = 点数之和。用线性性求 E(S),并说明为什么不必先求 S 的分布。

答:E(S) = 3.5 + 3.5 = 7。若先求分布,要列 11 个概率再乘加;线性性把两步并成一步。「和的期望 = 期望的和」是本册最常用的一句话。

练 2.4 掷 n 粒骰子,Sn = 点数之和。求 E(Sn);若 n = 20,得多少?

答:E(Sn) = 3.5n;n = 20 时为 70。这不需要知道和分布的任何一个概率——线性性对任意多个变量都成立。

练 2.5 一张 5 道单选题的卷子,每题 4 个选项。小明全部随机乱猜,X = 答对题数。求 E(X)。

答:令 Ii 表示第 i 题是否答对,则 P(Ii=1) = 1/4(盲猜对四分之一)、X = ∑Ii,故 E(X) = 5×(1/4) = 1.25。注意各题不独立也不影响(判断题之间毫无关系,但线性性照样管用)。

练 2.6 证明:E(X − E(X)) = 0。E(X − 5) = 0 对吗?

答:E(X − E(X)) = E(X) − E(X) = 0 ✓。而 E(X−5) = E(X) − 5,只有 E(X)=5 时才为 0。「围绕自己的重心取偏差,平均必为 0」——这正是重心之所以叫重心的定义性质。

小结:E(aX+bY+c) = aE(X)+bE(Y)+c,无条件成立。把「计数」拆成 0/1 变量之和(练 2.5),是这套性质最锋利的用法。

习题

第四章 数字特征与极限定理习题课三 随机变量函数的期望

本课练「无意识统计学家公式」:E(g(X)) = ∑g(xk)pk。

练 3.1 设 P(X=1) = 0.2, P(X=2) = 0.5, P(X=3) = 0.3。求 E(X) 与 E(X2)。

答:E(X) = 0.2 + 1.0 + 0.9 = 2.1;E(X2) = 0.2 + 2.0 + 2.7 = 4.9。两者之差 4.9 − 2.12 = 0.49 就是方差(下一课用)。

练 3.2 承接练 3.1,用两种方法求 E(2X + 1):① 用线性性;② 用函数期望公式。验证答案一致。

答:① 2E(X) + 1 = 2×2.1 + 1 = 5.2。② (2×1+1)×0.2 + (2×2+1)×0.5 + (2×3+1)×0.3 = 0.6 + 2.5 + 2.1 = 5.2 ✓。线性函数两条路必通——若算出来不同,一定是错了。

练 3.3 掷一粒均匀骰子,求 E(X2),并与 (E(X))2 比较。

答:E(X2) = (1+4+9+16+25+36)/6 = 91/6 ≈ 15.167,而 (E(X))2 = 3.52 = 12.25。E(X2) > (E(X))2 恒成立(方差非负),差额就是 35/12。

练 3.4 承接练 3.1,求 E(1/X),并与 1/E(X) 比较大小、解释原因。

答:E(1/X) = 1×0.2 + (1/2)×0.5 + (1/3)×0.3 = 0.2 + 0.25 + 0.1 = 0.55;1/E(X) = 1/2.1 ≈ 0.476,故 E(1/X) > 1/E(X)。原因:1/x 是凸函数(詹森不等式),且倒数会放大小值的影响。

练 3.5 设 X ~ U(0, 1),求 E(X2) 与 E(X3)。

答:E(X2) = ∫10 x2dx = 1/3;E(X3) = ∫10 x3dx = 1/4。一般地 E(Xk) = 1/(k+1)——均匀分布的各阶矩都很「乖」。

练 3.6 判断题:E(X2) = (E(X))2;E(1/X) = 1/E(X);E(√X) = √(E(X))。哪些恒成立?

答:一个都不恒成立。前两者分别有 ≥ 与 ≥ 的关系(凸函数),第三者方向相反(√ 是凹函数,E(√X) ≤ √(E(X)))。「先变换」与「先平均」不可交换——这是本章最重要的警示。

小结:函数期望公式让不必求 g(X) 的分布。但要牢记:算 E(g(X)) 时把 g 作用在取值上,概率不动。

习题

第四章 数字特征与极限定理习题课四 常见分布的期望

本课把 §4.5 的表练成条件反射:看到分布记号,立刻报出期望。

练 4.1 X ~ B(20, 0.4),求 E(X)。

答:E(X) = np = 20×0.4 = 8。也可理解为「做 20 次、每次成功概率 0.4」——成功次数的平均正是 8。

练 4.2 X ~ P(3.5),求 E(X)。泊松的期望与方差是什么关系?

答:E(X) = λ = 3.5,且 Var(X) = λ = 3.5——均值等于方差是泊松的签名,本课后面会反复用它。

练 4.3 X ~ Ge(0.2)(每次成功概率 0.2,直到成功为止的次数)。求 E(X),并解释它。

答:E(X) = 1/p = 1/0.2 = 5。含义:成功概率 1/5 的事,平均要试 5 次才成功一次——「掷到 6 点平均要 6 次」正是它的特例。

练 4.4 X ~ U(3, 9),求 E(X)。

答:E(X) = (3 + 9)/2 = 6。区间中点即期望——对称性原理,连积分都不用做。

练 4.5 X ~ Exp(0.4),求 E(X)。若 X 表示某元件的寿命(千小时),平均寿命是多少?

答:E(X) = 1/λ = 1/0.4 = 2.5(千小时),即平均 2500 小时。指数分布的 λ 越大、寿命越短——λ 是「失效率」。

练 4.6 X ~ N(70, 100),求 E(X) 与 σ。

答:E(X) = μ = 70;σ = √100 = 10。注意第二个参数 100 是方差不是标准差——本题最常见的丢分点。

练 4.7 从 50 件产品(其中 10 件次品)中不放回地抽 5 件,令 X = 抽到的次品数(超几何分布 H(50, 10, 5))。求 E(X)。

答:E(X) = n·K/N = 5 × 10/50 = 1。也可用指示变量理解:每件被抽中的概率是 5/50 = 1/10,10 件次品共贡献 10 × 1/10 = 1。不放回不影响期望的可加性(再次印证线性性的无条件)。

小结:七条期望公式一表打尽。最容易被忘记的是超几何 nK/N 与几何 1/p,这两条建议连同「泊松 E=Var」一起刻在脑子里。

习题

第四章 数字特征与极限定理习题课五 方差的定义与性质

本课练「波动」的两条脾气:平移不改变,伸缩要平方。

练 5.1 掷一粒均匀骰子,求 Var(X)。

答:Var = E(X2) − (E(X))2 = 91/6 − 49/4 = 182/12 − 147/12 = 35/12 ≈ 2.917,σ = √(35/12) ≈ 1.708。

练 5.2 设 P(X=1) = 0.2, P(X=2) = 0.5, P(X=3) = 0.3,求 Var(X)。

答:由练 3.1 得 E(X) = 2.1、E(X2) = 4.9,故 Var = 4.9 − 2.12 = 4.9 − 4.41 = 0.49,σ = 0.7。先算两个矩、再作差,比逐个算偏差平方快得多。

练 5.3 已知 Var(X) = 2,求 Var(3X + 2)、Var(2 − X)、Var(−X)。

答:Var(3X+2) = 9×2 = 18;Var(2−X) = (−1)2×2 = 2;Var(−X) = 2。平移项(+2、2−)一律不影响方差;负号也被平方抹掉。

练 5.4 掷两粒独立骰子,S = 点数之和。求 Var(S)。

答:Var(S) = 35/12 + 35/12 = 35/6 ≈ 5.833。若两骰子不独立,这条就不能用——必须先算协方差(下一课)。

练 5.5 掷 n 粒独立骰子,求和的方差与标准差。当 n = 12 时各为多少?

答:Var = 35n/12,σ = √(35n/12)。n = 12 时 Var = 35、σ = √35 ≈ 5.916。方差随 n 线性增长、标准差只按 √n 增长——这就是「平均更稳」的算术来源。

练 5.6 判断题:Var(2X) = 2Var(X);Var(X + Y) = Var(X) + Var(Y);Var(X − Y) = Var(X) − Var(Y)。哪些对?

答:全错。① 应为 4Var(X);② 只在独立时成立(一般要加 2Cov);③ 应为 Var(X) + Var(Y) − 2Cov,独立时就是 Var(X) + Var(Y)。方差遇减号不减、遇乘号要平方。

小结:方差的四条性质——常数为 0、平移不动、伸缩平方、独立可加。四条都能从定义直接推出,忘掉时不妨现推一遍。

习题

第四章 数字特征与极限定理习题课六 常见分布的方差

本课与习题课四成对:期望表配方差表,一起背下来。

练 6.1 X ~ B(20, 0.4),求 Var(X) 与 σ。

答:Var = np(1−p) = 20×0.4×0.6 = 4.8,σ = √4.8 ≈ 2.191。记住 (1−p) 这个因子的存在——它常被漏掉。

练 6.2 X ~ P(3.5),求 Var(X)。

答:Var = λ = 3.5。泊松「均值 = 方差」是它的指纹:做数据拟合时,样本方差远大于样本均值就说明「过度分散」,多半不该用泊松。

练 6.3 X ~ Ge(0.2),求 Var(X)。

答:Var = (1−p)/p2 = 0.8/0.04 = 20。注意与「1/p2 = 25」的区别——几何分布的方差大得惊人,等待类问题的波动天生剧烈。

练 6.4 X ~ U(3, 9),求 Var(X)。

答:Var = (b−a)2/12 = (9−3)2/12 = 36/12 = 3,σ = √3 ≈ 1.732。区间长 6、标准差不到 2——均匀分布把不确定「摊平」了。

练 6.5 X ~ Exp(0.4),求 Var(X)。σ 与 E(X) 有什么关系?

答:Var = 1/λ2 = 1/0.16 = 6.25,σ = 2.5——与 E(X) = 2.5 恰好相等。这是指数分布的名片(等待类分布里只有它如此)。

练 6.6 X ~ N(70, 100),求 Var(X)。

答:Var = σ2 = 100(题目第二个参数直接就是方差),σ = 10。正态的参数与数字特征一一对应,这也是它写作 N(μ, σ2) 的原因。

练 6.7 设 E(X) = μ, Var(X) = σ2,令 Z = (X − μ)/σ。证明 E(Z) = 0、Var(Z) = 1。

答:E(Z) = (E(X) − μ)/σ = 0;Var(Z) = Var(X)/σ2 = 1(用伸缩性质 Var(aX+b) = a2Var(X),a = 1/σ)。这就是「标准化」——把任何分布挪到 0 处、压成单位胖瘦,中心极限定理里的 (Sn − nμ)/(σ√n) 用的正是这一手。

小结:期望表 + 方差表 = 本册最实用的两页。特别注意三条「签名」:泊松 E = Var、指数 σ = E、正态「参数即特征」。下一课进入赌局与协方差。

习题

第四章 数字特征与极限定理习题课七 期望与赌局

本课用期望给各种「游戏」定价:算出期望,就知道谁占便宜。

练 7.1 掷一粒骰子,出 6 点赢 4 元,否则输 1 元。求每局期望净收益,并判断是否公平。

答:E = 4×(1/6) − 1×(5/6) = (4 − 5)/6 = −1/6 ≈ −0.167 元。偏向庄家——每局平均亏 0.167 元。

练 7.2 接练 7.1,若要让游戏公平,出 6 应赢多少?

答:令 a/6 − 5/6 = 0,得 a = 5 元,即赔率 5:1。公平赔率 = 不利概率/有利概率,这是所有公平赌局的定价公式。

练 7.3 欧洲轮盘有 0–36 共 37 格,押一个号码命中赔 35 倍。求期望净收益(押 1 元)。

答:E = 35×(1/37) − 1×(36/37) = −1/37 ≈ −0.027 元。赌场优势 2.7%——赔 35 倍而非公平的 36 倍,差的那一倍就是利润。

练 7.4 某彩票 2 元一注,中奖得 100 元、概率 1/100。求期望净收益。

答:中奖净赚 98 元、不中净亏 2 元:E = 98×0.01 − 2×0.99 = 0.98 − 1.98 = −1 元。每买一注平均亏掉一半本金——彩票的抽取比例比轮盘狠得多。

练 7.5 某保险产品:一年内出险赔付 10000 元、出险概率 0.002,保费 30 元。求保险公司每单的期望利润。

答:E(赔付) = 10000×0.002 = 20 元,故期望利润 = 30 − 20 = 10 元。保险公司赚的是「把随机赔付换成确定保费」的服务费——投保人花钱买的是「消除方差」。

练 7.6 1000 张奖券中有 1 张可中 500 元,售价 1 元。求买一张的期望净收益。

答:E = 500×(1/1000) − 1 = 0.5 − 1 = −0.5 元。花 1 元买 0.5 元的期望——「期望亏损」与「中奖的期待感」是两笔不同的账,这就是彩票长期存在的心理学理由。

小结:公平 ⇔ E(净收益) = 0。凡是庄家长期经营的游戏,期望必为负;负多少,就是它的「税率」(彩票 > 轮盘 > 保险)。

习题

第四章 数字特征与极限定理习题课八 协方差与相关系数

本课练「同起同落」的度量。准备好纸笔,联合分布的算账要一笔一笔来。

练 8.1 设 (X, Y) 的联合分布为 P(0,0) = 0.1, P(1,0) = 0.2, P(0,1) = 0.4, P(1,1) = 0.3。求 Cov(X, Y)。

答:边缘 E(X) = 0.2 + 0.3 = 0.5、E(Y) = 0.4 + 0.3 = 0.7;E(XY) = 1×1×0.3 = 0.3。故 Cov = 0.3 − 0.5×0.7 = 0.3 − 0.35 = −0.05。负协方差:X 大时 Y 反而倾向小。

练 8.2 接练 8.1,已知 Var(X) = 0.25、Var(Y) = 0.21,求相关系数 ρ。

答:ρ = −0.05/(√0.25 × √0.21) = −0.05/(0.5 × 0.4583) = −0.05/0.2291 ≈ −0.218(精确值 −1/√21)。ρ 在 [−1,1] 内,无量纲——所以不同问题之间可以比较强弱。

练 8.3 接练 8.1、8.2,求 Var(X + Y) 与 Var(X − Y)。

答:Var(X+Y) = 0.25 + 0.21 + 2×(−0.05) = 0.36;Var(X−Y) = 0.25 + 0.21 − 2×(−0.05) = 0.56。因 Cov < 0,相加的波动被压小、相减的波动被放大——这与「独立时两者相等」形成鲜明对照。

练 8.4 若 X, Y 独立,Cov(X, Y) 等于多少?反过来成立吗?

答:独立时 E(XY) = E(X)E(Y),故 Cov = 0。反过来不成立:例9 的 Y = X2(X 在 [−1,1] 均匀)就满足 Cov = 0 却明显不独立。

练 8.5 判断题:ρ = 0 说明两变量毫无关系;ρ = 0.9 说明 X 是 Y 的原因。分别说明为什么错。

答:① ρ = 0 只说明没有线性关系,完全可能有强烈的非线性关系(抛物线、周期)。② ρ 只度量同向变动,与因果无关——夏天冰淇淋销量与溺水人数高度正相关,但两者都由「气温」驱动。相关不等于因果,这是统计学第一戒律。

练 8.6 设 Y = 2X + 3,求 ρ。再设 Y = −X,求 ρ。

答:两者的 ρ 分别是 +1 与 −1——严格线性(含反向)时相关系数取到边界。ρ = ±1 与「严格线性」是等价的,这是相关系数的极端情形。

小结:协方差量方向、相关系数量强度。算 Cov 只认一条:E(XY) − E(X)E(Y),其中 E(XY) 必须回到联合分布上算。

习题

第四章 数字特征与极限定理习题课九 切比雪夫不等式

本课练「不挑分布的界」:有期望方差,就能给偏离概率设上限。

练 9.1 设 E(X) = 20, Var(X) = 9。用切比雪夫估计 P(|X − 20| ≥ 9)。

答:σ = 3,9 = 3σ,k = 3:P ≤ 1/32 = 1/9 ≈ 0.111。

练 9.2 设 E(X) = 100, σ = 10。用切比雪夫估计 P(|X − 100| ≥ 30)。

答:30 = 3σ,k = 3:P ≤ 1/9 ≈ 0.111。注意本题只给了 σ 没给 σ2 的数值——直接按倍数算即可,不必求出方差。

练 9.3 设 X1, …, X100 独立同分布,E(Xi) = μ, Var(Xi) = 4。用切比雪夫估计 P(|ȳ − μ| ≥ 0.5),其中 ȳ 是样本均值。

答:Var(ȳ) = 4/100 = 0.04,故 P ≤ 0.04/0.52 = 0.04/0.25 = 0.16。关键在于先把「样本均值的方差」算成 σ2/n,再代入不等式——这是所有这类题的固定第一步。

练 9.4 若上题还知道 Xi 服从正态,P(|ȳ − μ| ≥ 0.5) 的实际值约为多少?与 0.16 比较。

答:ȳ ~ N(μ, 0.04),σȳ = 0.2,0.5 = 2.5σȳ,故实际值 = 2(1 − Φ(2.5)) ≈ 0.0124。切比雪夫的界 0.16 松了约 13 倍——「不挑分布」的代价就是「不够精准」。

练 9.5 切比雪夫能对任意分布使用,代价是什么?它最适合什么场合?

答:代价是界松(尤其对正态)、且需要方差存在。最适合:① 证明定理(大数定律);② 分布未知时的保守估计(工程可靠性、风险上限)。「宁可保守也不出错」正是它的价值定位。

小结:切比雪夫三步走——算方差(或样本均值的方差)→ 数清偏离是几倍 σ → 取 1/k2。它是下一课大数定律的直接引擎。

习题

第四章 数字特征与极限定理习题课十 大数定律

本课把大数定律「用起来」:算收敛速度、辨真伪说法。

练 10.1 抛一枚均匀硬币 10000 次。用切比雪夫估计「频率偏离 0.5 达到 0.05 以上」的概率上界。

答:频率 ȳ 的方差为 0.25/10000 = 0.000025,故 P(|ȳ − 0.5| ≥ 0.05) ≤ 0.000025/0.0025 = 0.01。也就是说,偏差超过 5% 的机会不到 1%——样本量一上万,频率就非常「听话」。

练 10.2 同样用切比雪夫,只抛 100 次,同一事件(偏离 ≥ 0.05)的概率上界是多少?说明了什么?

答:Var(ȳ) = 0.25/100 = 0.0025,P ≤ 0.0025/0.0025 = 1——上界为 1,毫无信息量。样本太小,切比雪夫帮不上忙;要它给力,必须有足够大的 n。

练 10.3 判断:辛钦大数定律要求「独立同分布且方差存在」。对吗?

答:不对。辛钦只要求独立同分布 + 期望存在(方差可以不存在)。要求方差的是切比雪夫型大数定律——条件的强弱不要混淆。

练 10.4 赌徒说:「已经连出 8 次正面,按大数定律,下次该出反面了。」指出错误。

答:典型的赌徒谬误。大数定律说的是「未来大量的抛掷会让总频率趋于 0.5」,方式是靠后面的次数足够多去「稀释」前面的偏差,而不是回头补偿。每次抛掷仍独立、仍是 1/2。硬币不记得历史。

练 10.5 大数定律与中心极限定理各回答什么问题?一句话区分。

答:大数定律管「位置」——样本均值趋向 μ(收敛到哪里);中心极限定理管「形状」——偏离的分布趋向正态(怎么分布)。前者说「会靠近」,后者说「靠近的方式有多随机」。

练 10.6 蒙特卡洛方法向一个正方形内随机撒点估计内切圆面积,撒点越多越准。依据是哪条定律?

答:依据是伯努利大数定律——频率(落在圆内的比例)依概率收敛于概率(面积比),而面积比 × 正方形面积正是圆面积。这就是「用随机算确定」的合法性来源。

小结:大数定律把「频率」与「概率」焊在一起,是统计学的基石。牢牢记住它的措辞:依概率收敛——允许例外,但例外的概率可任意小。

习题

第四章 数字特征与极限定理习题课十一 中心极限定理与综合

本课是本章的收官,练正态近似的完整流程与判断题。

练 11.1 设 X ~ B(200, 0.4)。① 求 μ, σ;② 用带连续性修正的正态近似求 P(X ≥ 90)。

答:① μ = 200×0.4 = 80,σ = √(200×0.4×0.6) = √48 ≈ 6.928。② 修正为 P(X ≥ 89.5):z = (89.5 − 80)/6.928 = 1.371,故 P ≈ 1 − Φ(1.371) ≈ 0.085(精确值 0.0857,吻合极好)。

练 11.2 上题若不做连续性修正(直接用 P(X ≥ 90)),结果如何?差多少?

答:z = (90 − 80)/6.928 = 1.443,P ≈ 1 − Φ(1.443) ≈ 0.0745。与精确值 0.0857 相差 0.011(相对误差 13%)——把 90 落到 89.5 上,误差就降到千分之几。半格之差的威力,本例再次印证。

练 11.3 设 X1, …, X48 独立同分布 U(0, 1),S = ∑Xi。求 E(S)、Var(S),并说明 S 近似服从什么分布。

答:E(Xi) = 1/2, Var(Xi) = 1/12,故 E(S) = 48/2 = 24、Var(S) = 48/12 = 4(σ = 2)。由 CLT,S 近似服从 N(24, 4)——48 个「矩形」叠加,已经很像钟形了。

练 11.4 判断下列能否直接用 CLT 的正态近似:① B(5, 0.5);② B(100, 0.02);③ 柯西分布的独立和。

答:① 不能——n 太小、离对称钟形还远(np = 2.5 < 5)。② 不能——虽 n 大但 np = 2 < 5,严重右偏,应改用泊松近似。③ 不能——柯西分布连期望、方差都不存在,CLT 的前提不满足。「独立同分布」和「方差有限」两个条件缺一不可。

练 11.5 对正态分布,P(|μ − X| ≤ 3σ) 约为多少?这条「3σ 原则」有什么用处?

答:约 0.9973,即一千次中不到三次超出 3σ。用途:工业质量控制的「异常报警线」;统计学判断离群值的第一把尺子(第六章假设检验的雏形)。

练 11.6 一句话总结本章:从「一个数」到「两条定律」,中间的关键是什么?

答:关键两步——用期望与方差把分布「压成两个数」;再用切比雪夫不等式把「方差被 n 除小」这件事变成收敛的保证。于是大数定律成立,CLT 再把残余的随机性描绘成正态。数字特征是输入,两条极限定理是输出。

小结:正态近似的完整流程——算 μ、σ → 连续性修正(±0.5)→ 标准化 → 查 Φ 表。全章到此,概率论的两根支柱已立在眼前。

习题

第四章 数字特征与极限定理复盘:错题归档与三问自测

本章的题目分三类,先归档,再自测。自己的错题,把每一道归入下面的抽屉。

抽屉一:算法型错误(最常见)

典型症状——期望里漏掉某个取值、E(X2) 写成 (E(X))2、方差公式漏了 (1−p)、正态近似忘了连续性修正。对策:把所有公式写在一张「速查卡」上(§4.8 表格 + 图 4-18),做题时对照,犯错立刻标记。这类错误靠熟练度消灭。

抽屉二:概念型错误(最危险)

典型症状——以为 E(X2) = (E(X))2、以为「不相关 = 独立」、以为「方差可加不需要独立」、把赌徒谬误当成大数定律。对策:把本章的三处「不可交换/不可逆」写成三行贴在书桌前:E(g(X)) ≠ g(E(X));独立 ⇒ 不相关(反之不然);独立才可加方差。

抽屉三:建模型错误(最隐蔽)

典型症状——该用指示变量的硬算分布、该用线性性的去列全分布、该做连续性修正的当成连续型。对策:每道应用题先问「它是不是若干个简单量之和」(是 → 线性性/指示变量);「它是不是离散整数」(是 → 想修正);「我需要的是位置还是波动」(位置 → 期望;波动 → 方差)。

三问自测(合上书,逐个回答,答不出就回去翻):

自测一 E(X) = 5, Var(X) = 4,求 E(2X + 3) 与 Var(2X + 3)。

答:E = 13、Var = 16。常数 3 进期望不进方差,系数 2 在方差里要平方(22×4 = 16)。

自测二 为什么 E(X + Y) = E(X) + E(Y) 不需要独立,而 Var(X + Y) = Var(X) + Var(Y) 需要?

答:因为方差的可加式里多出一项 2Cov(X, Y)。期望是「一次型」(线性泛函),协方差项自动消失;方差是「二次型」,交叉项留了下来。独立使 Cov = 0,交叉项才消失。

自测三 大数定律与中心极限定理,一句话各是什么?

答:大数定律——样本均值依概率收敛于期望 μ(位置问题);中心极限定理——标准化后的和在分布上收敛于 N(0,1)(形态问题)。前者说「会靠拢」,后者说「靠拢时的随机有多大、长什么样」。

全章收官。带着三个数(期望、方差、协方差)与两条定律走进第五章——那将是「从数据出发」的统计篇,而它们正是全部统计推断的计算引擎。偶然之中确有秩序,而秩序就藏在这几个数里。

格物札记

第四章 数字特征与极限定理格物札记① 惠更斯与「期望值」:一封信里的价值判断〔赌金〕

「期望」这个概念如今写在每一本概率书的第一章,可它的出生证明只有薄薄几十页——1657 年,一位 28 岁的荷兰人写下《论赌博中的推理》(De ratiociniis in ludo aleae),这是历史上第一部概率论专著。作者是克里斯蒂安·惠更斯(Christiaan Huygens,1629–1695)——而这个名字,在物理学里通常与摆钟、土星光环和「惠更斯原理」连在一起。

事情的起因是 1654 年帕斯卡与费马的那场著名通信(本册第二章讲过的「分赌金问题」)。两人用书信解决了一批难题,却没有立刻发表。1656 年惠更斯旅居巴黎时听说了这件事,便自己动手,把其中的思想整理成一套可以传授的规则——第二年,这份手稿作为他老师范·斯霍滕(van Schooten)《数学练习》的附录出版。

惠更斯做的最重要的一件事:给「价值」下定义

他没有停留在「算某个事件的概率」,而是问了一个更实用的问题:一个「尚未发生的结果」,现在值多少钱?他的答案是——把每一种可能的收益乘上它发生的概率,再全部加起来,这个和就是该项「机会」的价值。

这就是期望(他用的拉丁词是 expectatio)最早的定义。它比帕斯卡、费马的解法更进了一步:他们算的是「我赢的机会有多大」,惠更斯算的是「这份机会该值几枚金币」。从「概率」到「期望」,中间隔着的正是从认识论到决策论的那一步。

惠更斯由此立下一条判据,至今未变:在公平的赌局里,每位参与者所持机会的期望值必须相等。这既是「公平」的定义,也是给赌注定价的公式——本书 §4.9 里那句「公平赔率 = 不利概率 / 有利概率」,正是这条命题在骰子上的特例。

《论赌博中的推理》的影响延续了近一个世纪。雅各布·伯努利的《推测术》(1713)第一部分就是对惠更斯这本书的逐条注解;棣莫弗的《机会论》(1718)同样从这里出发。可以说,18 世纪所有概率论著作,都站在惠更斯这几十页的肩膀上。

延伸对读:惠更斯的《论赌博中的推理》有中译本收入《概率论经典文献选》一类文集;另可读伊恩·哈金(Ian Hacking)《概率的突现》(The Emergence of Probability)第三章——它专门讨论「期望」这一概念的哲学意味:把一个未来的不确定性折算成当下的等价物,这究竟是一种怎样的思维革命。〔赌金〕

格物札记

第四章 数字特征与极限定理格物札记② 中心极限定理的百年:从棣莫弗到林德伯格–莱维

奇怪的事:本章最重要的定理,名字里却没有它的发现者。「中心极限定理」(central limit theorem)这个叫法是 1920 年才由匈牙利数学家波利亚(George Pólya)拟定的,而它的内容已经在数学里酝酿了近两百年。

故事仍然从赌桌开始。1733 年,棣莫弗在《二项级数求和的逼近方法》里解决了一个掷硬币问题,并画出那条钟形曲线——这是正态密度的第一次亮相,比高尔顿、皮尔逊的统计时代早了一个半世纪(本册第三章札记①已详述)。他证的是二项分布这一特例。

真正的推广来自 1812 年拉普拉斯的《概率的分析理论》。他不仅把结论推到了一般情形,还发明了「用均值与二阶矩来刻画误差分布」的整套工具——今天统计推断里的「极大似然」「最小二乘」,都能在书中找到雏形。拉普拉斯的雄心是「用概率统一一切不确定现象」,而中心极限定理是这套体系的枢纽。

「严格化」的一百年

19 世纪的证明都带着「近似」「略去高阶项」的模糊。真正的转折是 1901 年李雅普诺夫(Lyapunov)把特征函数引入概率论——用傅里叶变换把「和的分布」变成「特征函数的乘积」,再在频域上做极限,一举给出第一个严格且普适的证明。这是一次方法论革命:概率论自此与傅里叶分析接轨。

1922 年林德伯格(Lindeberg)给出了一个更宽的条件(允许不同分布,只要没有单个变量占主导),莱维(Lévy)在 1925 年用特征函数把独立同分布的情形彻底理清——这就是今天教科书里的「林德伯格–莱维定理」。1935 年费勒(Feller)进一步证明:林德伯格条件不仅是充分的,也是必要的。至此,这条定理被完整地钉在了「独立、无单项主导、方差有限」这三根桩上。

为什么叫「中心」极限定理?一种解释是:它处于概率论的中心位置——几乎所有的极限问题都要以它为参照。另一种说法更贴切:它所描述的正是分布「中心部分」的极限形状(因为极端尾部需要更精细的条件才能控制)。两种说法都对。

延伸对读:费勒《概率论及其应用》第二卷第八章,是这条定理最经典的教科书叙述;想读历史可看斯塔尔(Stephen Stigler)《统计学的历史》第九章「中心的发现」——书中特别指出,正态分布之所以成为统计学的通用语言,不是因为自然界的偏爱,而是因为中心极限定理这条数学事实的必然结果。〔骰子〕

综合站

第四章 数字特征与极限定理章小结:知识图谱与方法表

一张图收拢全章:从「分布」走向「两个数字」,再从「两个数字」走向「两条极限定律」。

第四章路线:从两个数字到两条定律 期望 E(X):位置 方差 Var:波动 协方差:关联 切比雪夫不等式 P(|X − μ| ≥ ε) ≤ σ2​/ε2​ (不挑分布) 大数定律:均值 → μ(位置) 中心极限定理:偏差 → N(0,1) 应用:赌局定价 · 保险精算 · 质量控制 · 民调误差 · 蒙特卡洛 · 风险度量
图 4-19 本章路线图。上两层是「压缩」(把分布压成数字),下两层是「释放」(把数字展开成定律)——压缩得越紧,释放出的结论越有力。
要解决的问题该用哪件工具出处
平均收益/长期水平是多少?期望 E(X)§4.2
几个随机量的和怎么算平均?线性性(无需独立)§4.3
算 X2、1/X 的平均?函数期望公式§4.4
波动/风险有多大?方差、标准差§4.6–4.8
这游戏公不公平?期望是否为零§4.9
两个量是否同起同落?协方差 / 相关系数§4.10
分布未知,想给偏离设上限?切比雪夫不等式§4.13
为什么频率能估计概率?大数定律§4.12–4.15
大量求和,如何估计概率?中心极限定理 + 连续性修正§4.16–4.17
综合站

第四章 数字特征与极限定理思想卡:期望——随机世界的重心

本章只增加了一个动词:把「分布」压成「数字」。

第三章结束时,我们已经能给随机结果画出完整的像(分布)。可画像是无损的,也是臃肿的——它能回答一切问题,却让人无从下手。本章做的事,是找到最少的一组数字,尽量不丢失关键信息。第一个数(期望)管「落在哪里」,第二个数(方差)管「散得多开」,第三个数(协方差)管「彼此是否同行」。三个数一到手,分布的主要性格就被概括了。

同一重心,两种性格:位置由 μ 定,胖瘦由 σ 定 共同的 μ 大方差 小方差 两条曲线重心相同(同一条对称轴),可风险完全不同——这正是「期望 + 方差」必须成对出现的原因 决策者要的从来不是一个数,而是「水平」与「不确定性」两条信息
图 4-20 期望与方差的分工。前者回答「值多少」,后者回答「靠不靠得住」——只报一个数的结论,几乎总是可疑的。

期望的三种身份

作为「重心」:分布挂在数轴上的平衡点,力学直觉的直接翻译。作为「权重」:给游戏定价的等价物——惠更斯 1657 年给出的「机会的价值」。作为「极限」:大数定律说,样本均值终将收敛到它;它因此不再只是一个账面上的数,而是一个可以被「测出来」的物理量。

三种身份合起来,就是期望在概率世界里的位置:它是离散的随机与确定的算术之间,唯一那座桥。

留一个问题给第五章:既然大数定律保证「样本均值趋于期望」,那么现实中我们手里只有一份样本(而不是无穷多份),凭什么相信它离期望不远?这个问题将被「抽样分布」接手——届时中心极限定理会变成一把真正的尺子,量出「样本能有多可信」。

综合站

第四章 数字特征与极限定理挑战一 切比雪夫不等式的完整证明

命题(切比雪夫不等式) 设随机变量 X 的期望为 μ、方差为 σ2(存在)。则对任意 ε > 0:

P( | X − μ | ≥ ε ) ≤ σ2/ε2

证明(连续型) 设 X 的密度为 f(x)。由方差定义展开:

σ2 = ∫+∞−∞ (x − μ)2f(x) dx

把积分区间按「离 μ 是远是近」拆成两段:|x − μ| < ε 与 |x − μ| ≥ ε。被积函数非负,丢掉「近段」的积分只会让结果变小:

σ2 ≥ ∫|x−μ|≥ε (x − μ)2f(x) dx

在剩下的积分范围里恒有 (x − μ)2 ≥ ε2,把 ε2 提出来(同样只会让结果变小):

σ2 ≥ ε2 ∫|x−μ|≥ε f(x) dx = ε2·P(|X − μ| ≥ ε)

两边同除以 ε2,即得 P(|X − μ| ≥ ε) ≤ σ2/ε2。∎

离散型照搬:把 ∫ 换成 ∑、把 f(x)dx 换成 pk,上面每一步一字不改。事实上,只要有期望与方差,无论分布是离散、连续还是混合,证明都一样成立。

证明的两步:σ2​ ≥ 远段积分 ≥ ε2​·P(远) 整个积分的值 σ2​(近段 + 远段) ≥ 只留远段 丢掉非负的近段 ≥ ε2​ 提出 ε2​ · P(远) 于是 σ2​ ≥ ε2​·P(远) ⇒ P(远) ≤ σ2​/ε2​ 「只留远项、只增不减」——概率不等式证明的通用套路,两次放缩方向一致才成立 注意两次「≥」都靠被积函数非负:这是方差定义里「平方」带来的礼物 换 ε = kσ 即得常用形式 P(|X−μ| ≥ kσ) ≤ 1/k2​
图 4-21 证明的结构。两处放缩之所以安全,全靠「(x−μ)2」非负——如果改成 |x−μ|(绝对值),同样的证明就崩了。

顺带完成大数定律的证明:设 X1, …, Xn 独立同分布、E(Xi) = μ、Var(Xi) = σ2。样本均值 ȳ 满足 E(ȳ) = μ(线性性)、Var(ȳ) = σ2/n(独立可加)。代入不等式:

P(| ȳ − μ | ≥ ε) ≤ σ2/(nε2) → 0 (n → ∞)

右边被 n 压向 0,故 ȳ 依概率收敛于 μ。∎ ——大数定律的全部机体,就是「方差被 n 除小」这一件事。

综合站

第四章 数字特征与极限定理挑战二 指示变量法:用线性性巧解复杂期望

武器 若 X 可写成若干「0/1 变量」之和 X = I1 + ⋯ + In,则

E(X) = ∑i P(Ii = 1)

而 Ii 之间是否独立、是否相关,一律不管——这是线性性免费赠给我们的权力。

问题一:非空盒子数。把 n 个球独立地、随机地放入 n 个盒子(每个球等可能地选一个盒子)。求「非空盒子数」的期望。

解 对第 j 个盒子设指示变量 Ij = 1(该盒非空),则非空盒数 X = I1 + ⋯ + In。先算「它是空盒」的概率更省事:球 k 不进第 j 盒的概率是 1 − 1/n,n 个球独立,故

P(第 j 盒为空) = (1 − 1/n)n ⇒ E(Ij) = 1 − (1 − 1/n)n

于是 E(X) = n[1 − (1 − 1/n)n]。

n51020100n → ∞
非空盒数期望3.3626.51312.83063.397n(1 − 1/e) ≈ 0.632n
占比0.6720.6510.6420.6340.632

表格最右列给出了漂亮的极限:无论 n 多大,平均只有约 63.2% 的盒子被占到——常数 1 − 1/e ≈ 0.632 又一次出现(第三章的泊松近似里也见过它)。

问题二:碰撞对数。同样地放球,求「落在同一盒子中的球对」的期望。

解 对每一对球 (i, j) 设 Jij = 1(它们同盒)。两球同盒的概率是 1/n(球 i 落在哪无所谓,只要球 j 跟上),共有 Cn2 对,故

E(碰撞对数) = Cn2 × (1/n) = n(n − 1)/2 ÷ n = (n − 1)/2

取 n = 10:期望 4.5 对碰撞。这个结论在哈希表设计里相当实用——它说明「随机散列时平均会有多少冲突」。

点评 两个问题的共同套路:① 把「计数」拆成 0/1 变量之和;② 只算每个变量的概率(往往用「补事件」更快);③ 相加。

为什么这样可行?因为期望的线性性无条件成立——Ij 之间明显不独立(一个盒子空了,别的盒子更容易非空),可期望照样拆开相加。这是本章最值得带走的一件工具:凡是题目里出现「有多少个……」的期望,先想指示变量。

综合站

第四章 数字特征与极限定理实验:用模拟观察样本均值向期望收敛(大数定律)

大数定律说「样本均值收敛于期望」。收敛得有多快?做一次模拟就知道了。方法:用计算机反复抛一枚均匀硬币,记录「正面出现的比例」,看它随抛掷次数如何变化。

抛掷次数 n10100100010000100000
正面频率 ȳ0.40000.52000.47200.49440.5015
偏离 |ȳ − 0.5|0.10000.02000.02800.00560.0015

表中的数字来自一次固定随机种子的模拟(可复现)。三点:① 偏离在大体上单调缩小(0.100 → 0.0015);② 缩小不是平滑的(n = 100 偏离 0.020,到 n = 1000 反而升到 0.028)——大数定律保证的是「趋势」,不是「每一步都更准」;③ 偏离的量级大致按 1/√n 缩小:0.5/√10000 = 0.005,与实测的 0.0056 同量级。

模拟的正面频率:偏离按 1/√n 的量级收拢 期望 0.5 101001000 104​105​ 纵轴:频率 横轴:抛掷次数(近似对数刻度) 曲线有起伏,但整体被「压」向 0.5——一次模拟的波动,正是下一章「抽样误差」要量化的对象
图 4-22 一次真实模拟的收敛轨迹。起点偏离大、终点几乎贴线;中间的起伏提醒我们:大数定律是概率陈述,不是逐次保证。

动手做 在 Python 里一行即可复现:

sum(random.random() < 0.5 for _ in range(100000)) / 100000

建议改一改:① 把 0.5 换成 0.3(期望变 0.3);② 换成掷骰子的平均点数(期望 3.5);③ 用 1/√n 预测「偏离一个标准差」的大小,与实测比对。

更推荐的一步:把「样本均值」看成随机变量——跑 1000 次独立的模拟,每次取 n = 100 的均值,画出这 1000 个均值的直方图。可以看到它近似一个钟形——这正是中心极限定理的画面:样本均值的「抽样分布」,下一章的主角。

综合站

第四章 数字特征与极限定理章测试与评讲

章测试(6 题,建议限时 40 分钟) ① 掷两粒独立骰子,X = 点数之积,求 E(X)。② 已知 E(X) = 3, Var(X) = 4,求 E(X2) 与 E(2X − 1)。③ X ~ B(50, 0.2),求 E, Var, σ。④ X, Y 独立,Var(X) = 3, Var(Y) = 5,求 Var(2X − 3Y)。⑤ E(X) = 10, Var(X) = 4,用切比雪夫估计 P(|X − 10| ≥ 6)。⑥ X ~ B(400, 0.5),用带修正的正态近似求 P(X ≥ 220)。

评讲 ① 独立时 E(X1X2) = E(X1)E(X2) = 3.5 × 3.5 = 12.25。(注意:乘积的期望在独立时才可拆,这是与「和的期望」不同的地方。)

② E(X2) = Var(X) + (E(X))2 = 4 + 9 = 13;E(2X − 1) = 2×3 − 1 = 5。

③ E = np = 10,Var = np(1−p) = 50×0.2×0.8 = 8,σ = √8 ≈ 2.828。

④ Var(2X − 3Y) = 22Var(X) + (−3)2Var(Y) = 4×3 + 9×5 = 57。独立才可直接相加;符号被平方抹掉。

⑤ σ = 2,6 = 3σ,故 P ≤ 1/9 ≈ 0.111。

⑥ μ = 200, σ = √100 = 10。修正为 P(X ≥ 219.5):z = 19.5/10 = 1.95,P ≈ 1 − Φ(1.95) = 0.0256(精确值 0.0255,几乎完全吻合)。

题号考点答案
①独立时的乘积期望12.25
②矩与线性性13;5
③二项的数字特征10;8;2.828
④方差的可加与平方57
⑤切比雪夫≤ 1/9 ≈ 0.111
⑥CLT + 连续性修正≈ 0.0256

全章到此收官。带着这三样东西走进第五章:一张速查卡(期望与方差)、一套武器(线性性 + 指示变量)、两条定律(大数定律与中心极限定理)。它们既是本章的总结,也是统计篇的全部计算引擎——从骰子到数据,路已经从随机的一侧铺到了推断的一侧。

第五章

数据的描述与抽样

统计篇从数据开始:均值、方差、箱线图把一堆数字读成故事;抽样把总体浓缩成样本。抽样的规律(抽样分布)是一座桥——它让样本得以言说总体。民意调查与质量控制是它的舞台。
页型节奏:讲义×18 → 例题×12 → 习题×12 → 格物札记×2 → 综合站×6
讲义

第五章 数据的描述与抽样5.1 导引:从数据中读出故事〔数据〕

前四章我们一直在做同一件事:已知分布,算概率。骰子六个面的概率各是多少、二项分布的期望是多少、一颗正态钟在 3σ 外还剩多少尾巴——都是「模型在前、结果在后」。可一旦走进真实世界,顺序往往反过来:手里只有一串数字,模型还不知道在哪里。

最早的一串「数据」,恰恰来自赌桌。十七世纪的赌徒为了判断某副牌出的次数是否均匀,会把整晚的牌局逐局记下来;到了十八世纪,伦敦的保险公司为了给年金定价,把教区里每一年的出生与死亡逐条登记。这些本来只是为了算账的记录,第一次让人们看清了一件惊人的事:单个事件无从预测,成批的事件却稳得出奇。掷一次骰子,没人知道是几点;掷一万次,每点的比例却几乎一样。数据里藏着规矩——统计学的全部工作,就是把这条规矩找出来。

从一颗骰子到一份数据

掷一枚标准骰子 600 次,逐次记下点数,就得到 600 个数。它们杂乱无章、毫无规律可言。可一旦把它们整理——数一数每个点数出现多少次——秩序立刻浮现:每面大约 100 次,比例逼近 1/6。

这里的 1/6 是理论给的,而 100/600 是数据给的。统计学的任务,就是让这两者对话:用数据去估计理论,也用理论去解释数据。

由这一对话,统计学分成两支。第一支叫描述统计:把一堆原始数据整理成频数表、画成图形、浓缩成几个数(均值、标准差)——它只关心「这堆数据本身说了什么」。第二支叫推断统计:从一堆数据出发,反过来对产生它们的那个更大的世界下判断——它关心「数据之外说了什么」,这也正是第六章的主题。

统计学的五站路:数据在前,判断在后 原始数据600 次掷骰 整理频数分布表 图形直方图·箱线图 数字概括均值·标准差 推断与决策由样本到总体 描述统计:把数据说清楚(本章 §5.2–5.14) 推断统计(第六章) 本章后三节(§5.15–5.17)将走进三个真实场景:民意调查、质量控制、数据科学
图 5-1 从数据到结论的五站路。前四站是「把数据说清楚」,第五站是「用数据下判断」。本章的主线,就是走完前四站并搭好通往第五站的桥——抽样分布。

本章路线:先用两条腿走路——总体与样本(§5.2)定下世界观,整理与概括(§5.3–5.7)把数据读透;再学抽样方法(§5.8–5.10),弄清数据是怎么来的、误差从哪儿来;最后进入全章的引擎——统计量与抽样分布(§5.11–5.14),它是样本得以言说总体的那条通道。§5.15–5.17 用三个真实场景收束。

讲义

第五章 数据的描述与抽样5.2 总体与样本:统计学的两个世界

统计学里有一对最基本的概念,几乎每个术语都建立在它上面:总体与样本。搞清这两个词,后面的路线就都是技术问题了。

四个定义

① 总体:研究对象的全体。这里说的「对象」不是物,而是我们要测量的那个数量指标的全部取值。例如「全校学生的身高」是一个总体,「每只灯泡的寿命」也是一个总体。

② 个体:总体中的每一个基本单位(一名学生、一只灯泡)。

③ 样本:从总体中按一定规则抽取的一部分个体组成的集合。样本中所含个体的数目 n 叫做样本容量。

④ 抽样:获取样本的过程。若总体中每个个体被抽到的机会均等、且抽取过程不由人的意志决定,就称随机抽样。

这里有一处最容易被忽略、却最关键的地方:我们真正关心的从来不是样本本身,而是总体。医生抽一管血,想知道的是全身的状况;工厂检测 100 只灯泡,想知道的是这一整批的合格率;民调访问 1000 人,想知道的是全国选民的心意。样本只是总体的一个缩影——它之所以有价值,全靠「缩影不失真」这一条假设支撑。

那为什么不干脆把总体全部查一遍呢?有些时候可以——全国人口普查就是全查,叫普查。但更多时候不行,原因有三条:

为什么必须抽样

① 破坏性检验:检测灯泡寿命要把灯点亮到烧坏,检测炮弹威力要把它打出去,检测面包的细菌总数要把面包吃掉——全查等于把总体消灭光。

② 成本与时间:普查动辄耗费巨资、耗时数年,而市场机会稍纵即逝。

③ 总体无限或难以触达:想了解一片森林里的树木平均高度、一个池塘里鱼的平均重量,既数不清也抓不完。

第三条有个漂亮的古老解法,至今仍在用:标记重捕法。从池塘里捞出 200 条鱼,做上标记放回;过些天再捞 200 条,若其中有 8 条带标记,就可以估计池塘里大约有 200 × 200 / 8 = 5000 条鱼。这正是「用样本推断总体」最朴素的雏形——逻辑与第六章的区间估计一模一样。

样本是总体的缩影:抽取方式决定了它像不像 总体:N = 10000 只灯泡(红点=次品) 随机抽取 样本:n = 10,次品 1 只 样本里的次品比例 1/10 未必等于总体的真比例——这就是抽样误差的来源
图 5-2 总体与样本。左边是我们真正想认识的世界,右边是我们实际能看到的窗口。统计学的全部技艺,都在于让这个窗口足够「像」。

注意:总体可以是有限的(这批 10000 只灯泡),也可以是无限的(「连续掷骰子得到的点数序列」)。无限总体无法普查,抽样是唯一出路——这正是它在概率论里出现得如此自然的原因。

讲义

第五章 数据的描述与抽样5.3 数据的整理:频数分布表与直方图

拿到 50 个数,第一件事不是算,而是排。原始数据之所以让人无从下手,是因为它把「值」与「出现次数」两重信息混在一起。整理的任务,就是把它们拆开、并且按值的大小排队。

一组术语

把数据按大小分成若干区间,每个区间叫一个组;区间的长度叫组距(记 Δ);每个组内数据的个数叫频数(记 ni);频数除以总数 n 得到频率 fi = ni/n。把各组频数依次累加,得到累积频数与累积频率。

各组上下端点的平均值叫组中值,它代表这一组数据的「代言人」。组距相等时,直方图的高度可以直接取频数;组距不等时必须改用频率密度 fi/Δ,否则图形的面积会骗人。

下面是一组真实感很强的数据:某班 50 名学生的测验成绩(满分 50)。最小值 30、最大值 50、极差 20。取组距 5,正好分成 5 组——这是个很自然的取法,因为组数一般控制在 5 到 12 之间:太少会抹掉形状,太多则只剩噪声。

分组组中值频数 ni频率 fi累积频率
[30, 35)32.540.080.08
[35, 40)37.5150.300.38
[40, 45)42.5190.380.76
[45, 50)47.5110.220.98
[50, 55]52.510.021.00

把这张表画成图,就是直方图:横轴是分组,纵轴取频率密度,每个矩形的面积恰好等于该组的频率,全部矩形面积之和为 1。这一条「面积=频率」是最要紧的性质,它让直方图可以直接和第三章的概率密度曲线对照——直方图就是密度的离散版本。

50 名学生成绩的直方图:中间高、两边低 0510 1520 41519 111 [30,35)[35,40)[40,45) [45,50)[50,55] 矩形面积=组频率;全部面积之和恰为 1,故形状可直接读作「密度的轮廓」
图 5-3 频数直方图。最高的一柱落在 40–45 分,两侧逐级下降,形状已经逼近第三章的正态钟——这正是「用直方图看分布形状」的意义。

把各组矩形上边中点依次连起来,得到频数折线;把它拉直成一圈的闭合多边形,就是人口金字塔、资源结构图里常见的多边形图。整理这一步看似琐碎,却是后面一切概括的前提。

讲义

第五章 数据的描述与抽样5.4 集中趋势:均值、中位数与众数

直方图给出了形状,但要拿去比较、去报告,还得浓缩成几个数。第一批要浓缩的,是数据的中心在哪里——这叫集中趋势。

三种集中趋势

① 均值(算术平均数):x = (x1 + x2 + ⋯ + xn)/n = (1/n)∑xi。它用上了每一个数据,是分布的重心——正是第四章讲的那个期望的样本版本。

② 中位数:把数据从小到大排成一列,位于正中间的那个数(偶数个时取中间两个的平均)。它把数据一分为二,各占一半。

③ 众数:出现次数最多的那个值。分类数据(如「最喜欢的球类」)用不了均值,却能用众数。

用上面那 50 个成绩来试:均值 x = 40.96,中位数 Me = 41——几乎重合。但要找众数就有意思了:38、40、41、42、44 各出现 4 次,没有唯一的众数。这不是数据的毛病,而是众数本来的脾气:它只适用于有明显峰值的场合。数据一「平」,众数就退化成一群。

三者的分工,可以这样记:均值看总量,中位数看位置,众数看典型。它们的差异在数据偏斜时最为暴露:当一个分布拖着长长的尾巴,均值会被那几根「长尾」拽着跑,而中位数岿然不动。左图就是最常见的右偏情形。

右偏分布:长尾把均值拽到了右边 众数 中位数 均值 高峰偏左 长尾拖向右 收入、房价、疾病潜伏期都是右偏——报告时若只给均值,往往高估了「典型水平」
图 5-4 右偏分布上的三个中心。众数在最左(山顶),中位数居中(把面积对半分),均值最右(被长尾拽走)。左偏时次序恰好反过来。

这个次序不是巧合,而是几何上的必然:中位数按面积平分,均值按力矩平衡。长尾上的点虽然少,却离得远,力矩大,于是均值被拉向尾巴那一侧。这正是「某市人均收入 8 万」常常令人错愕的原因——均值被少数高收入者抬高了,而中位数才更接近「一半人在什么水平之下」。

还有一条实用技巧:分组数据的近似均值用组中值代替各组真值,x ≈ (1/n)∑ x0i ni,其中 x0i 是第 i 组的组中值。用上面的频数表算:(32.5×4 + 37.5×15 + 42.5×19 + 47.5×11 + 52.5×1)/50 = 41.1,与真值 40.96 只差 0.14——这就是为什么整理成表之后,原始数据往往就可以归档了。

讲义

第五章 数据的描述与抽样5.5 离散程度:极差、平均偏差、方差与标准差

只知道「中心在哪里」远远不够。下面两组数据,均值都是 100:

甲:98, 99, 100, 101, 102, 99, 100, 101, 100, 100乙:95, 97, 99, 100, 101, 103, 105, 99, 100, 101

若只看均值,会以为两者一模一样。可它们是两台灌装机的抽检结果——甲机每瓶都在 100 克上下微动,乙机却能灌出 95 克和 105 克。一个数的中心,掩盖不了「离中心有多远」这件大事。描述这件事的量,叫离散程度。

四个度量

① 极差:R = max − min。最简单,但只看两端,中间全不管。

② 平均偏差:(1/n)∑|xi − x|。要先取绝对值,运算不便。

③ 方差:把偏差平方再平均。总体方差 σ2 = (1/n)∑(xi − μ)2;样本方差 s2 = (1/(n−1))∑(xi − x)2。

④ 标准差:方差开平方,σ 或 s,与原始数据同量纲,因此最常用来报告。

平方这一步是全部关键:它既消掉了正负号,又放大了离群点的影响——偏差 5 的平方是 25,偏差 1 的平方才 1,远处的大偏差因此获得压倒性的权重。这正是方差比平均偏差更受青睐的原因:它对「不稳定」格外敏感。

把两台机器算一遍(各自 n = 10):甲机标准差 s甲 = 1.15,乙机 s乙 = 2.83——差了一倍半还多。极差同样直观:甲 4,乙 10。报告里若只写「均值都是 100 克」,等于把这条最重要的信息删掉了。

同样的均值 100,波动却差了一倍半 95100105 甲机 100 ± 2.2 乙机 100 ± 5.4 横线段=均值左右各一个标准差(约含三分之二的数据);乙机几乎覆盖整个容差
图 5-5 同均值、异波动。线越长,数据越「散」。质量控制里,这条线一旦顶到规格限,就得停机检修——这正是 §5.16 的主题。

方差的两条运算性质(务必掌握)

① 平移不变:给每个数据同加一个常数 c,方差不变(整体搬家,散不散没变)。

② 缩放平方:给每个数据同乘 a,方差变为原来的 a2 倍,标准差变为原来的 |a| 倍。

合起来即 Var(aX + c) = a2 Var(X),与第四章的结论一致——因为样本方差本就是「随机变量的方差」在数据上的落地。

比较两组量纲不同的数据时,还要用变异系数 CV = s/x。同一台灌装机,灌 100 克时 s = 1 克,灌 5 克时 s = 0.3 克,谁的相对波动更大?CV 说是后者(0.06 对 0.01)。

讲义

第五章 数据的描述与抽样5.6 位置度量:分位数与箱线图

均值与标准差描述了「中心」与「散度」,但它们都是平均值式的概括:把全体揉成一个数。可有时我们关心的恰恰是位置——「超过多少分才算前 25%」「收入低于多少算低保」。这类问题由分位数回答。

分位数

把数据从小到大排好,第 p 分位数是这样一个数:它左边大约占全部数据的 100p%。常用的有几个:

· p = 0.25 下四分位数 Q1,p = 0.5 中位数 M,p = 0.75 上四分位数 Q3。

· Q3 − Q1 叫四分位距 IQR,是比标准差更「抗干扰」的散度度量。

· 把「最小值、Q1、中位数、Q3、最大值」五个数写在一起,叫五数概括。

把五数概括画成图,就是箱线图:一只箱子从 Q1 伸到 Q3(箱体高度即 IQR),箱中一道横线是中位数,两侧各伸出一条「须」到数据的两端。箱线图的最大好处,是能把多个组并排比较——一眼看出谁的中心更高、谁的波动更大。

它还自带一个识别异常值的规则,简单却极有效:超过 Q1 − 1.5 IQR 或 Q3 + 1.5 IQR 的数据,判为疑似异常值,用单独的点标出。下面这 12 个观测正好演示一遍:

12, 14, 15, 16, 16, 17, 18, 19, 20, 21, 22, 45

排序后 M = (17 + 18)/2 = 17.5;下半部分六个数 12, 14, 15, 16, 16, 17 的中位数是 Q1 = 15.5,上半部分六个数 18, 19, 20, 21, 22, 45 的中位数是 Q3 = 20.5。于是 IQR = 5,栅栏落在 15.5 − 7.5 = 8 与 20.5 + 7.5 = 28 上。45 远远越过了上栅栏——它被标出来了。

箱线图:五数概括一图看清,越出栅栏者判为异常 上栅栏 28 Q1​ M Q3​ 12 15.5 17.5 20.5 22 45 异常值 箱体=Q1​ 到 Q3​(高即 IQR=5);红线为中位数;两须伸到栅栏内的最远数据 12 与 22
图 5-6 箱线图。落在 28 之外的 45 被单独标出。注意判据是 «1.5 倍 IQR» 而不是 «3σ»——IQR 本身不受极端值影响,所以这条规则比 3σ 稳健得多。

分位数的口径不止一种:位置法取 p(n + 1),中位数二分法(上面用的)把数据从中位数处切开再各取中位数,软件还可能用插值法。三种口径给出的 Q1 略有差别(本例位置法给 15.5 与 20.75 之间的插值 15.5/20.75,二分法给 15.5/20.5),但结论不会变——写报告时注明用的是哪一种即可。

讲义

第五章 数据的描述与抽样5.7 数据的图形语言:茎叶图、散点图与热力图

图形之所以重要,是因为人眼对形状的识别远快于对数字的比较。同一条规律,写成 20 个数要读 10 秒,画成一张图只需 0.3 秒。这一节介绍三张最常用的图,它们分别回答「分布长什么样」「两个变量有什么关系」「很多变量彼此有多像」。

茎叶图是直方图的「原生态」版本:它既保留了形状,又保留了每一个原始数据,因此特别适合数据量不大的场合。把十位数当「茎」、个位数当「叶」,按行排列,右边的叶子依次排开,读起来就像横躺的直方图。20 名学生的成绩画出来是这样:

茎叶图:形状与原始数据压缩在一起 频数 茎 叶 136 64 567 89 8 2 5 7 0 2 4 5 5 8 0 1 3 4 6 8 0 2 5 8 · 7 这一行最密 · 上、下各自变稀 · 中位数落在 7|5 与 7|8 之间 =(75 + 78)/2 = 76.5 左密右疏的形状 说明成绩略偏左 「7|0 2 4 5 5 8」一行读作:70、72、74、75、75、78——一个数也没丢
图 5-7 茎叶图。它同时完成三件事:整理成频数结构、保留原始数值、呈现分布形状。样本量小(n ≲ 100)时,它比直方图更好用。

散点图回答另一个问题:两个变量之间有没有关系?把每对观测 (xi, yi) 画成一个点,点的走向就是答案。下面是 10 名学生的每周学习时间与测验成绩:

散点图:点的走向就是关系的方向与强弱 506070 8090 135 79 拟合直线:成绩 ≈ 4.01 × 小时 + 46.3 点几乎排成直线 相关系数 r = 0.994(越接近 ±1 越「成线」) 横轴:每周学习时间(小时)
图 5-8 散点图与拟合直线。r = 0.994 表示极强的正相关。第六章的回归分析,正是要给这条直线定出系数并检验它是否真的存在。

变量再多,散点图就画不下了(三维勉强、四维开始只能靠颜色)。此时常用热力图:把变量两两之间的相关系数排成一张方阵,用颜色深浅表示大小——深红代表强正相关、深蓝代表强负相关。一张热力图能同时传达几十个变量之间上百个关系,是数据探索阶段的「总览图」。

三张图的选择口诀:一个变量看形状(茎叶图、直方图、箱线图),两个变量看关系(散点图),多个变量看结构(热力图、相关矩阵)。

讲义

第五章 数据的描述与抽样5.8 简单随机抽样与抽样调查

前面几节讲的都是「拿到数据之后怎么办」。现在要追问一个更根本的问题:数据是怎么来的?这一问题的重要性远超多数人的想象——再精巧的计算也救不了一个有偏的样本。

简单随机抽样

设总体有 N 个个体,从中抽取 n 个。若每一种「取 n 个」的组合被抽到的机会都相同,就称这种抽样为简单随机抽样(无放回);若每次抽完放回再抽,则为有放回简单随机抽样,此时各次抽取相互独立。

按这个办法得到的样本,叫简单随机样本。它是一切抽样方法的标准与起点:其他方法(分层、系统、整群)都是在它不方便或不够精确时的改良。

实际操作要借助一张抽样框——总体中每个个体的清单(学号簿、客户名单、户籍册)。把清单上的每个个体编上号,再用随机数产生器、随机数表或抽签的方式挑出需要的号码,就得到了样本。看起来笨,但它保证了机会均等,而机会均等是一切推断合法性的根基。

反过来说,凡是破坏了「机会均等」的做法都会带来系统性偏差。1936 年美国总统选举是一堂最著名的反面课:《文学文摘》邮寄了 1000 万份问卷,回收 240 万份,据此预言兰登胜出;而盖洛普只用约 5 万个精心抽取的样本,就正确地预言了罗斯福连任。原因很简单——杂志的名单来自电话簿和汽车登记,能装电话、买汽车的人在当年普遍富裕,样本大是大,却偏了。抽样误差能靠增大样本量缩小,而偏差不会。

简单随机抽样:先有抽样框,再有随机号码 抽样框(N = 2500 名居民,此处示意 40 个编号) 01020304 050608 0910 111214 15161718 1920 212324 25262728 30 31323334 353738 3940 071322 2936 随机数表 / 随机数产生器挑出 5 个号码 → 样本 = {07, 13, 22, 29, 36} 每个编号被选中的概率完全相同(此处 5/40)——「机会均等」是推断合法性的根基
图 5-9 简单随机抽样的操作。抽样框给出「谁可以被抽到」,随机数给出「实际抽到谁」。名单不全(比如漏掉了无电话者)就会带来偏差,这是再大的样本量也补不回来的。

抽样的两条底线:随机性(谁被抽到由机会决定,不由调查员的方便决定)与代表性(样本的结构要能反映总体)。随机性靠机制保证,代表性靠抽样方法的设计——这就引出了下一节的三种改良方案。

讲义

第五章 数据的描述与抽样5.9 分层抽样、系统抽样与整群抽样

简单随机抽样是标准,但常常不是最方便的,也未必是最精确的。当总体内部本来就有明显的「块」时,顺着这些块来抽,往往又省力又准。

三种改良抽样

① 分层抽样:把总体按某个重要特征(年级、性别、收入档)分成若干层,使层内个体尽量相似、层间差异尽量大,然后在每一层内做简单随机抽样,最后合并。按比例分配时,第 i 层抽 ni = Ni × n/N 个。

② 系统抽样(等距抽样):把 N 个个体排好,抽取间隔 k = N/n,在头 k 个里随机取一个起点,然后每隔 k 个取一个。生产线上每隔 20 件抽 1 件,就是它。

③ 整群抽样:把总体分成若干「群」(学校里的班级、城市里的社区),随机抽取若干个群,把被抽中的群整群调查。省时省力,代价是精度稍低(同一群内的人往往相似)。

下面用一个具体例子比较。某高中有学生 2500 人:高一 1200 人、高二 800 人、高三 500 人。要抽取 250 人做问卷调查:

方法怎么抽样本分配优点注意
简单随机2500 人全员编号,抽 250 个不预设最标准、理论最干净需完整名单
分层(按比例)三个年级各自抽120 / 80 / 50各年级都有代表,精度更高需知道各层规模
系统(等距)按学号排序,间隔 k = 10 取 1每 10 人取 1操作最简单名单若有周期性会出偏
整群随机抽 10 个班,全班调查整班入选组织成本最低同班学生相似,精度较低

三种方法的取舍,本质上是精度与成本之间的权衡。分层抽样几乎总是优于简单随机(只要分层特征与所研究的量相关),代价是需要事先了解各层规模;系统抽样胜在实施,只要名单没有周期性;整群抽样胜在组织,尤其适合那些「个体分散、难以逐一接触」的调查。

四种抽样方式:同一片总体,四种取法 (a)简单随机 (b)分层抽样(三层各取) 散落各处,看似随意 每层都抽到,层内随机、层间均衡 (c)系统抽样(等距) (d)整群抽样(抽中整群) 从头一段起,每隔固定个数取一个 随机选中若干「群」,整群全查;此处抽中右群
图 5-10 四种抽样方式的对照。红点是被抽中的个体。分层讲「每层都有」,系统讲「等距」,整群讲「成群搬走」——成本与精度的三种不同妥协。

补充两条实战经验:① 分层时要选与研究变量相关的特征来分层(调查收入就按行业分层,调查身高就按性别分层),分错了反而白费力;② 系统抽样的名单如果恰好有周期(比如名单是按「一家两兄弟」交替排列的),等距抽取会系统性漏掉某一类人——这叫周期偏差。

讲义

第五章 数据的描述与抽样5.10 抽样误差与非抽样误差

只要用样本推断总体,就一定会出错。认清这些「错」从哪里来、能不能控制,是统计学最实用的本事之一。误差分两大类,性质截然不同。

两类误差

① 抽样误差(随机误差):由于只观察了一部分个体而产生的误差。它是随机的、不可避免的,但可以计算、也可以缩小——样本越大,它越小。

② 非抽样误差:抽样之外的一切误差。包括抽样框不全、问卷设计有歧义、被访者说谎、记录抄错、数据录入失误、无回答者与回答者系统性地不同……它不会因为样本变大而减小,有时反而随样本增大而增加(问卷发得越多,质量控制越难)。

对一个比例 p 的估计,抽样误差的度量是标准误(standard error):

SE = √( p(1 − p) / n )

这个公式里藏着两条极有用的结论。第一条:误差与 √n 成反比,而不是与 n 成反比——样本量翻四倍,误差才减半;要误差减到十分之一,需要一百倍的样本。第二条:当 p = 0.5 时误差最大,此时 p(1 − p) = 0.25 取到最大值,所以做样本量预算时一律按最坏情况 p = 0.5 估算。

比例 p样本量 n标准误 SE95% 误差半宽(1.96 SE)
0.524000.02498±4.90%
0.5210000.01580±3.10%
0.5025000.01000±1.96%
0.1010000.00949±1.86%

「样本量翻四倍、误差减半」这条规律,就是民调报告上那句「误差 ±3%」的来历——它通常对应 n ≈ 1000。而表里最后一行的对比更提醒我们:同样的 1000 个样本,估计「支持率 52%」时误差 ±3.1%,估计「某项罕见疾病患病率 10%」时误差只有 ±1.9%——因为 p 离 0.5 越远,误差越小。

「误差 ∝ 1/√n」:样本量翻四倍,误差只减一半 02%4% n = 400 → 2.50% n = 1000 → 1.58% n = 2500 → 1.00% 再往上加样本,误差几乎压不动了 10015003000 4500 横轴:样本量 n;纵轴:比例估计的标准误(取 p = 0.5 的最坏情况)
图 5-11 抽样误差随样本量递减。曲线急剧下降后迅速变平——这就是为什么民调做到 1000 人左右就够,而想再精确一倍要多花四倍的钱。

四类最常见的非抽样误差

① 抽样框误差:名单漏掉了某些人(无电话者、流动人口)。1936 年《文学文摘》就栽在这里。

② 无回答偏差:不回答问卷的人往往与回答的人不同(收入更高的更不愿透露收入)。补救办法是追访与加权调整。

③ 测量与记录误差:问卷有引导性措辞、仪器未校准、抄录串行。

④ 处理误差:编码、录入、计算环节的失误,包括统计方法用错。

一条总的原则:抽样误差用数学(大数定律与中心极限定理)来管,非抽样误差只能靠流程与制度来管。凡是看到「样本 100 万,误差 ±0.1%」这样的说法,都该先问一句:它是怎么抽的?问到谁了?没问到谁?

讲义

第五章 数据的描述与抽样5.11 统计量:样本均值与样本方差

已经走到本章最要紧的地方了。前面我们把数据读透,也搞清了它是怎么来的;现在要问的是:怎样用样本里的那几个数,去说总体的事?用来「说话」的那几个数,就叫统计量。

统计量

设 X1, X2, …, Xn 是从总体中抽取的样本,T = g(X1, …, Xn) 是样本的一个函数。若 g 中不含任何未知参数,则称 T 为一个统计量。常用的有:

· 样本均值:X = (1/n)∑Xi (描述「中心」)

· 样本方差:S2 = (1/(n − 1))∑(Xi − X)2 (描述「离散」)

· 样本标准差 S、样本比例 p = k/n、样本 k 阶原点矩 (1/n)∑Xik。

定义里的那句「不含未知参数」很要紧。如果写成 (X1 − μ),其中 μ 是总体均值——μ 恰恰是我们想求的、未知的东西,那么它就不是统计量,因为它算不出来。统计量必须是「能算」的。

另一个关键点是:统计量本身也是随机变量。样本是随机抽出来的,换一批样本,X 就会跟着变——从这个班抽,平均分可能是 41.2;从那个班抽,可能是 39.8。既然它会随机变动,它就一定有分布。这个分布的名字叫抽样分布,下一节专门讲它。先看一个具体的算例。

例(预备) 从某批零件中抽 8 个测尺寸(单位 mm):

9.6, 10.2, 9.8, 10.4, 9.5, 10.1, 9.9, 10.3

则 x = (9.6 + 10.2 + 9.8 + 10.4 + 9.5 + 10.1 + 9.9 + 10.3)/8 = 79.8/8 = 9.975;

s2 = (0.3752 + 0.2252 + 0.1752 + 0.4252 + 0.4752 + 0.1252 + 0.0752 + 0.3252)/7 = 0.7548/7 ≈ 0.1079,

s = √0.1079 ≈ 0.328。这批零件的平均尺寸约为 9.98 mm,波动约 0.33 mm。

统计量:样本的「可计算的函数」 样本(随机) X1​, X2​, …, Xn​ 每次抽取都不一样 T = g(·) 统计量 统计量的值(随机) X̄, S2​, p̂ … 是一串「会变的数」 样本随机 ⇒ 统计量也是随机变量 ⇒ 它有自己的分布(抽样分布) 而「不含未知参数」这条要求,保证统计量一定算得出来——这是它能用来推断的前提
图 5-12 统计量的两重身份:它既是一个「算法」(g),又是一个随机变量。前者让它可算,后者让它可推断。

为什么样本方差除以 n − 1 而不是 n?因为 Xi 到 X 的距离总是偏小(数据自己决定了自己的中心,中心自然「追着」数据跑),除以 n 会系统性低估真实的方差。用 n − 1 恰好把这个偏差补回来——这一结论的证明是本章综合站的挑战一。

讲义

第五章 数据的描述与抽样5.12 抽样分布:统计量的规律

统计量 X 会随样本不同而变。可它变来变去也有规矩——把所有可能样本的 X 都收起来,就得到一个分布。这个分布叫抽样分布,它是样本通往总体的那座桥。

先看两个最基本的结论,它们把 X 的位置和散度都钉死了:

样本均值的期望与方差(对任意总体成立)

若 X1, …, Xn 是取自期望 μ、方差 σ2 的总体的简单随机样本,则

E(X) = μ,  Var(X) = σ2/n。

第一条说:样本均值的中心就是总体均值——不会系统性地偏大或偏小(这叫无偏性)。第二条说:样本量越大,样本均值越稳,而且稳定程度按 1/n 而不是 1/√n 的规律改善方差。

这两条都不需要知道总体的分布形状,非常实用。若再加上「总体是正态」这个条件,抽样分布就完全确定了:

正态总体的样本均值分布

若 X 服从正态分布 N(μ, σ2),则对任意样本量 n,

X ~ N(μ, σ2/n),即 (X − μ)/(σ/√n) ~ N(0, 1)。

也就是说样本均值仍然服从正态分布,只是方差缩小到了原来的 1/n。

这个方差缩小有多厉害?看一个具体的例子。设某种零件的尺寸服从 N(50, 102)(单位 mm)。单看一个零件,它落在 47 到 53 之间的概率只有 0.2358;可若取 25 个零件的平均值,X ~ N(50, 22),它落在 47 到 53 之间的概率涨到 0.8664;取 100 个时更是达到 0.9973。同样一个「±3 mm」的窗口,平均值几乎必然落在里面——这就是「多测几次取平均」能让结果变准的全部道理。

n 越大,样本均值的钟越窄越高(中心不变) μ = 50 单件的分布最宽 总体 X:σ = 10 X̄,n = 4:σ = 5 X̄,n = 25:σ = 2 三条曲线都以 50 为中心,但宽度按 1/√n 收缩——这是「平均」能提高精度的几何图像
图 5-13 总体分布与两种样本量的 X 抽样分布。中心不动、宽度收缩:这正是「多次测量取平均」的统计依据。

一个务实的技术细节:上面的结论默认总体是无限的,或抽样是有放回的(这时样本相互独立)。若从有限总体无放回抽样,Var(X) 要乘一个有限总体修正因子 (N − n)/(N − 1),它总小于 1。但抽样比 n/N 小于 5% 时,这个因子接近于 1,可以直接忽略——这就是民调里「抽 1000 人代表上亿人」在数学上说得通的原因。

讲义

第五章 数据的描述与抽样5.13 卡方分布、t 分布与 F 分布

正态分布已经就位,但要处理 S2(一个平方和)和「用 S 代替 σ」这类问题,还需要三位新朋友。它们都由正态分布「派生」出来,统称三大抽样分布。

三大分布的定义

① 卡方分布:设 Z1, …, Zk 相互独立且都服从 N(0, 1),则称 χ2 = Z12 + ⋯ + Zk2 服从自由度为 k 的卡方分布,记 χ2(k)。

② t 分布:设 Z ~ N(0, 1),U ~ χ2(k),且二者独立,则 t = Z/√(U/k) 服从自由度为 k 的 t 分布。

③ F 分布:设 U ~ χ2(k1)、V ~ χ2(k2) 独立,则 F = (U/k1)/(V/k2) 服从自由度为 (k1, k2) 的 F 分布。

三者的形状各有脾气。卡方分布只取正值,形状右偏;自由度 k 越大,偏斜越轻,最后趋于对称。t 分布关于 0 对称,但尾巴比标准正态更厚——因为分母上的 √(U/k) 有时会很小,让比值偶尔冲得很远;自由度越大,这个随机性越小,t 分布就越像正态,当 k > 45 时通常就可以直接当正态用了。F 分布也只取正值,且右偏得最厉害——它本质上是两个方差之比。

三大抽样分布的形状:卡方与 F 只取正值,t 对称而厚尾 χ2​ 分布(右偏) t 分布(厚尾) F 分布(强右偏) χ2​(2) χ2​(6) 正态 t(3) F(5,10) 虚线=对照曲线(χ2​(2) 与标准正态 N(0, 1));实线=目标分布 t(3) 与正态同高但两肩更「鼓」——那正是厚尾:极端值出现的概率被放大了
图 5-14 三大抽样分布。卡方与 F 定义在正半轴,t 对称。自由度越大,三者都越接近正态。
分布记号取值形状何时用
卡方χ2(k)> 0右偏,k 大转对称方差检验、拟合优度
tt(k)全实轴对称、厚尾均值检验(σ 未知)
FF(k1, k2)> 0强右偏两方差之比、方差分析

这三种分布不像正态那样有解析的分位数公式,所以要查表。查表的关键是分清「上侧分位数」:tα(k) 表示这样一个数,它右边的面积恰为 α。例如自由度为 15 时,t0.025(15) = 2.1314;自由度降到 5 时,同样的 α 对应 2.5706——自由度越小,需要走得越远才能切掉那 2.5% 的尾巴,这正是厚尾的直接体现。第六章的 t 检验、卡方检验都要反复用这些数。

记法小技巧:t 分布的分位数总比正态的对应值大(2.1314 > 1.9600),这个「多出来的余量」就是对 σ 未知的惩罚。样本量越小,惩罚越重(自由度 1 时 t0.025(1) = 12.7062,是正态的 6.5 倍)——所以小样本做检验必须用 t 而不能用 z。

讲义

第五章 数据的描述与抽样5.14 正态总体的抽样分布定理

把前两节的结论合在一起,就得到统计推断最核心的一块地基——正态总体的抽样分布定理。它说的是:只要总体是正态的,样本均值与样本方差就各自服从一个已知的分布,而且彼此独立。

抽样分布定理(正态总体)

设 X1, …, Xn 是取自正态总体 N(μ, σ2) 的简单随机样本,记样本均值 X、样本方差 S2,则

① X ~ N(μ, σ2/n);

② (n − 1)S2/σ2 ~ χ2(n − 1);

③ X 与 S2 相互独立;

④ 由此 (X − μ)/(S/√n) ~ t(n − 1)。

第 ② 条把「方差」这个量装进了卡方分布;第 ③ 条是很多人意想不到的——样本的「中心」与「散度」竟然互不相关(正态分布特有的性质);第 ④ 条最常用:它把未知的 σ 换成了可算的 S,代价是正态变成了 t 分布,自由度损失一个(因为算 S2 时用掉了 X 这个自由度)。

用一串数字把第 ① 条再验一遍。设某批产品强度 X ~ N(μ, σ2),抽样 n = 16,算得 x = 10.2,s = 0.5。若原假设是 μ = 10,那么统计量

t = (x − μ0)/(s/√n) = (10.2 − 10)/(0.5/4) = 1.6

而 t(15) 的 0.025 上侧分位数是 2.1314。1.6 落在「-2.1314 到 2.1314」这个接受域里,所以数据与 μ = 10 并不矛盾(双侧 p 值约 0.1304)。注意这里的逻辑:不是说「μ = 10 是对的」,而是说「若 μ = 10,出现手头这种数据的可能性并不算小」——这正是第六章假设检验的全部思想。

一座桥的三根桥墩:从总体到三个可用分布 正态总体 N(μ, σ2​) 简单随机样本 X1​, …, Xn​ iid ① X̄ ~ N(μ, σ2​/n) ② (n−1)S2​/σ2​ ~ χ2​(n−1) ③ (X̄−μ)/(S/√n) ~ t(n−1) ①② 还给出「X̄ 与 S2​ 独立」;③ 用了 S 代替 σ,于是正态让位给 t 分布(自由度 n−1)
图 5-15 抽样分布定理的三根桥墩。第六章的区间估计与假设检验,全部架在这三根墩子上。

总体不是正态时怎么办?中心极限定理来救场:只要 n 足够大(通常 30 以上),X 的分布就近似正态,①③ 两条依然可用。这就是第四章那条定理在本章的直接兑现——正是它让「对任意总体做推断」成为可能。

讲义

第五章 数据的描述与抽样5.15 应用场景一:民意调查与市场调研〔数据〕

把前十四节的工具装进一个真实场景,就得到统计学最广为人知的应用:民意调查。它的流程与本章的路线完全同构。

一次民调的六步

① 明确总体:是「全体选民」还是「本次选举的登记选民」?定义不同,结论完全不同。

② 建抽样框:用选民名册、电话簿,还是随机拨号?这一步决定了偏差的有无。

③ 抽取样本:一般采用分层(按地区、年龄、城乡分层)+多阶段抽样。

④ 设计问卷:措辞中立,选项互斥且穷尽,避免引导性提问。

⑤ 估计与算误差:由 p = k/n 估计支持率,标准误 √(p(1 − p)/n)。

⑥ 报告区间:给出「支持率 60%,误差 ±3%」,而不是只给一个光秃秃的 60%。

下表是同一时刻、同一个支持率(60%)下,不同样本量给出的区间——注意它们宽窄的差别全都落在样本量上:

调查样本量 n估计支持率标准误95% 区间(±1.96 SE)
A 大型民调100060%1.55%56.96% – 63.04%(±3.0%)
B 本册示例120060%1.41%57.23% – 62.77%(±2.8%)
C 小型民调40060%2.45%55.20% – 64.80%(±4.8%)
D 大幅多抽250058%0.99%56.07% – 59.93%(±1.9%)
E 街头快访10060%4.90%50.40% – 69.60%(±9.6%)

表里最后一行最有教育意义:只访 100 人,误差能到 ±9.6%——60% 的支持率与 50% 的支持率在这种样本量下根本区分不开。这也是为什么严肃民调的样本量总在 1000 上下:误差 ±3% 已经被看作「够用」,而要把它压到 ±1% 得抽一万多人,成本涨十倍,收益却很小(回忆图 5-11 那条迅速变平的曲线)。

同样是 60%,样本越小、区间越宽 50%55%60% 65%70% A n = 1000 B n = 1200 C n = 400 D n = 2500 E n = 100 ±3.0% ±2.8% ±4.8% ±1.9%(p̂ = 58%) ±9.6% 圆点=估计值,横线=95% 区间;E 组的区间几乎横跨整个图幅——数据太少,什么也说明不了
图 5-16 五次民调的支持率与 95% 区间。区间宽度只由样本量决定(与总体大小几乎无关),这就是「1000 人可代表上亿人」的量化表达。

市场调研里还有两个容易被忽视的坑:其一,「不知道/不回答」必须单独成一项,不能把它并进「反对」,否则会系统性抬高支持率;其二,样本量不能补救抽样框的缺陷——只走访智能手机用户,访 10 万人也仍然只代表智能手机用户。这正是 §5.10 那条原则:抽样误差用数学管,非抽样误差只能用流程管。

讲义

第五章 数据的描述与抽样5.16 应用场景二:质量控制与六西格玛〔数据〕

第二个真实场景来自工厂。流水线上每分钟都产出产品,谁也没法全检;但只要按固定的时间间隔抽一小批测一测,就能判断整条线是否「正常」。这套做法叫统计过程控制,它的核心工具只有一张图。

控制图(休哈特图)

每隔一段时间抽 n 件测一次,算出样本均值 X,把历次的 X 依次画在图上。由 §5.12 知 X ~ N(μ, σ2/n),于是:

· 中心线 CL = μ;控制上限 UCL = μ + 3σ/√n;控制下限 LCL = μ − 3σ/√n。

因为正态分布在 3σ 内的概率是 0.9973,所以过程正常时,点越出控制限的概率只有约 0.27%——一旦越限,就说明有「特殊原因」介入,必须停机排查。

这里有一条极重要的分辨:波动有两种。普通原因造成的波动是过程固有的,天天都在,改不掉(除非重新设计过程);特殊原因造成的波动是偶发的、可追查的(刀具磨损、原料批次变了、电压不稳)。控制图的全部意义,就是只对「特殊原因」报警,而对「普通原因」保持沉默——如果对普通波动也去调机器,只会越调越糟(这叫「过度干预」)。

与控制图配套的是过程能力指数,它衡量「过程天生的波动」与「规格允许的余地」之比:

Cp = (USL − LSL)/(6σ)

其中 USL、LSL 是规格上下限。分母取 6σ,是因为正态分布 99.73% 的取值落在 μ ± 3σ 内。设规格为 100 ± 3(即 USL = 103、LSL = 97):

过程标准差 σ能力指数 Cp越出规格的概率折合缺陷率
0.502.00约 0.0000006约 0.57 ppm
0.751.33约 0.000066约 66 ppm
1.001.000.0027约 2700 ppm
1.500.670.0455约 45500 ppm

表里 Cp = 1.00 那一行最值得记:它意味着「规格宽度=过程天生波动的 6 倍」,此时若过程中心恰好对准规格中心,缺陷率是 0.27%(2700 ppm)。工业上普遍要求 Cp ≥ 1.33,而六西格玛这个响亮的名字,说的正是把 Cp 做到 2.0——此时规格宽度相当于 12 个 σ,单侧余量 6σ,缺陷率降到十亿分之二(0.002 ppm)。考虑到过程中心还会长期漂移约 1.5σ,工程界沿用的经典指标是 3.4 ppm。

控制图:点落在限内是「正常」,越限就是报警 UCL = 103 CL = 100 LCL = 97 越限!停机排查 横轴:样本序号(每次抽 5 件);纵轴:样本均值 前 18 个点只体现普通原因的波动;第 19 点起连续越限,说明特殊原因已介入
图 5-17 控制图。3σ 控制限给出了「正常波动」的边界:P(正常时越限)≈ 0.0027。它是本章抽样分布知识在生产现场最直接的落地。

还有一类相关应用是验收抽检:从一批产品中抽 n 件,若其中不合格品数 ≤ c 则接收,否则拒收。n 与 c 的确定要同时控制「合格批被误拒」与「不合格批被误收」两种风险——这正是第六章两类错误的雏形。

讲义

第五章 数据的描述与抽样5.17 现代接口:大数据时代的数据科学〔直觉⇄理论〕

有人会说:现在数据这么便宜,还需要抽样吗?把所有数据都拿来算不就行了?这个想法一半对、一半很危险。

「全量数据」并没有取消本章的任何问题

① 「全部」往往只是「我们能记到的部分」。电商能拿到的是它的用户;社交平台能拿到的是它的活跃用户。谁没被记到,谁就被系统性地忽略了——这是抽样框误差的现代版。

② 数据是会漂移的。今天采到的分布,明天可能就变了(季节、政策、竞品)。用旧数据推将来,与用旧样本推总体,风险同源。

③ 「相关」淹没「因果」。变量一多,随手就能挖出几千个显著相关,其中绝大多数是巧合——这叫多重比较问题。

因此,数据科学不是经典统计的替代品,而是它的扩展:数据科学给出了更强的工程能力(采集、清洗、计算、部署),而经典统计给出了判断「这些结论能信几分」的标尺。置信区间、标准误、假设检验,直到今天仍然是数据决策的底层语言。

数据科学的新流程,站在经典统计的老地基上 数据获取问卷·埋点·日志 清洗与整理缺失·异常·对齐 探索性分析图表·分组·相关 建模与预测回归·分类·评估 沟通与决策报告·上线·迭代 共同的底座(本册第五、六章):抽样分布 · 标准误 · 置信区间 · 假设检验 · 因果推断 它回答的是流程里每一步都要问的那个问题:这个结论的可信度是多少? 数据变大,只会让「算得动」更容易;「信得过」仍需统计来判定
图 5-18 数据科学流程与经典统计底座。新流程负责把数据变成结论,老底座负责判断结论有多硬。

三个必须记住的现代陷阱

① 幸存者偏差:只统计「活下来的」,忘了「没活下来的」。二战中统计返航飞机的弹孔分布,差点得出「机翼最该加固」的结论——因为被打中要害的飞机根本飞不回来。

② 辛普森悖论:分组看时 A 组处处优于 B 组,合并起来看却反了——原因是两组的「权重」不同。若不按关键变量分层,就会得出相反结论(这正是 §5.9 分层抽样的意义所在)。

③ 多重比较:在 α = 0.05 下做 100 次独立检验,至少出现一次「假显著」的概率高达 1 − 0.95100 ≈ 0.994。挖得越多,挖到假货的概率越大。

从骰子到大数据,问题的形式变了,问题的内核没变:我们永远只能看到一部分,却要据此对整体下判断。区别只在于——三百年前面对的是一个骰子,今天面对的是几十亿条记录;而用来回答的办法,依旧是这一册讲的那些:整理、概括、抽样、以及抽样分布。

讲义

第五章 数据的描述与抽样5.18 本章总结与方法表

本章从「一堆数字」出发,走到「一座桥」。回顾一下这条路的六个驿站:

第五章知识图谱:从数据整理到抽样分布 第五章 数据的描述与抽样 ① 数据的整理 频数表 · 直方图 · 茎叶图 ② 数字概括 均值 / 中位数 / 众数 · 标准差 ③ 位置度量 分位数 · 箱线图 · 异常值 ④ 抽样方法 简单随机 · 分层 · 系统 · 整群 ⑤ 误差分析 抽样误差(标准误)· 非抽样误差 ⑥ 统计量与抽样分布 X̄ · S2​ · p̂ → χ2​ / t / F 定理 前三格=描述统计(把数据说清楚);后三格=抽样理论(让样本能言说总体)
图 5-19 第五章知识图谱。左三格是「读数据」,右三格是「用数据」。第六格是通往第六章的门。

把全章的工具整理成一张「想知道什么就用什么」的方法表——遇到实际问题时,先在这张表里定位,再回去查对应小节:

想回答的问题用什么图用什么数注意什么见
这堆数大致什么样直方图、茎叶图—组距选择会改变观感§5.3 §5.7
典型水平是多少点图、箱线图均值、中位数右偏时优先报中位数§5.4
波动大不大箱线图、误差棒标准差、IQR、CV量纲不同须用 CV§5.5 §5.6
有哪些异常个案箱线图1.5 IQR 栅栏判为异常≠判为错误§5.6
两个变量什么关系散点图、热力图相关系数 r相关不等于因果§5.7
数据该怎么抽抽样方案图抽样比 n/N随机性优先于便利§5.8 §5.9
这次调查能信几分误差曲线标准误、±1.96 SE非抽样误差不随 n 减小§5.10 §5.15
样本均值有多稳抽样分布图σ/√nn 大时可用正态近似§5.11 §5.12
σ 未知怎么办三大分布曲线t 分位数小样本必须用 t§5.13 §5.14
生产线是否正常控制图Cp、越限判据只对特殊原因报警§5.16

最后一句话把全章串起来:描述统计让我们看懂手里的数据,抽样理论让我们知道这份「看懂」离真相有多远。而下一章要做的,是把这个「有多远」变成一个可以计算的精确答案——点估计、区间估计与假设检验,全部从今天这座桥上出发。

例题

第五章 数据的描述与抽样例1 频数表与直方图:一组成绩数据的整理

题 某校 40 名学生参加数学测验(满分 100),成绩如下(按名册顺序抄录,未排序):

62, 65, 68, 70, 71, 73, 74, 75, 76, 77, 78, 78, 79, 80, 80, 81, 81, 82, 82, 83,

83, 84, 84, 85, 85, 86, 86, 87, 88, 88, 89, 90, 90, 91, 92, 93, 95, 96, 58, 99

试列出频数分布表,并画出直方图。

解 第一件事是找出最大值与最小值:min = 58,max = 99,极差 R = 41。取组距 Δ = 10,则组数 = 41/10 → 5 组,分组落在 55 到 105 之间。逐个数一遍,得到下表:

分组划记频数 ni频率 fi累积频率频率密度 fi/Δ
[55, 65)正20.0500.0500.0050
[65, 75)正一60.1500.2000.0150
[75, 85)正正正一160.4000.6000.0400
[85, 95)正正三130.3250.9250.0325
[95, 105)三30.0751.0000.0075

核对一下:2 + 6 + 16 + 13 + 3 = 40,与总数相符;频率之和恰为 1。按这张表作图,每一柱的高度取频数(组距相等,不必换算成密度):

40 名学生成绩的频数直方图(组距 10) 048 1216 2616 133 [55,65)[65,75)[75,85) [85,95)[95,105) 一峰居中、两侧递降,形状已接近正态钟——这正是「看形状」的价值
图 5-20 例1 的频数直方图。最高一柱在 [75, 85),两侧对称地降低,说明成绩分布接近单峰对称。

读图要点 ① 60% 的学生集中在 75–95 分(累积频率从 0.600 到 0.925);② [55, 65) 与 [95, 105) 两端的频数都很少(各 2 与 3),属于「少数派」;③ 若把组距改成 5,柱子会从 5 根变成 9 根,形状更细碎,但「中间高两边低」这个结论不会变——结论要能抵抗分组方式的变化,才算稳健。

做这一步时最常见的错误是组限重叠:写成 55–65、65–75,那么 65 分该算哪一组?正确写法是 [55, 65)(含左不含右),只在最后一组写成闭区间,这样每个数据都有唯一的归属。

例题

第五章 数据的描述与抽样例2 均值、中位数与众数:三种集中趋势的比较

题 仍用例1 的 40 个成绩,求均值、中位数与众数,并说明三者的适用场合。

解 均值:把 40 个数全部相加。

x = (62 + 65 + 68 + ⋯ + 96 + 58 + 99)/40 = 3264/40 = 81.6

中位数:先排序,n = 40 为偶数,取第 20 与第 21 个数的平均。排序后第 20、21 个分别是 82 与 83,故

Me = (82 + 83)/2 = 82.5

众数:逐个数次数,结果是这样——出现 2 次的值有 78、80、81、82、83、84、85、86、88、90 共 10 个,其余各出现 1 次或 3 次(58、99、95、96 各 1 次)。本组数据没有唯一的众数。

这个结果本身就是一堂课。众数是「最典型的那个值」,可是当数据被摊平、没有明显峰值时,「最典型」就分散成了一大片。成绩、身高这类连续量本来就在一个区间里均匀铺开,众数对它几乎无用;而众数真正的舞台是分类数据——「最喜欢的球类」中选足球的最多,那足球就是众数,这里没有均值什么事。

指标本组结果用上了哪些数据抗极端值吗什么时候最该用
均值 x81.6全部不抗(会被 58 与 99 拉动)数据对称、需要总量信息
中位数 Me82.5只与位置有关很抗数据偏斜、有极端值时
众数 Mo不唯一只看出现次数很抗分类数据、寻找「最典型」

注意均值 81.6 比中位数 82.5 略小——因为下端有个 58(比上端的 99 离中心更远,对均值的拉力更大)。这正是轻微左偏的信号:x < Me。

三种「中心」:谁能扛住极端值? 58 99 均值 81.6 中位数 82.5 把 58 与 99 这两个「远端」去掉,均值会抬到 82.4——中位数却纹丝不动(仍是 82.5) 「抗不抗极端值」就在这里看得最清楚
图 5-21 均值与中位数在同一组数据上的位置。两者相距 0.9 分,差距来自两端的极端值——中位数只看「数到一半」,因此对端点免疫。

报告数据时的一条实用规矩:对称分布报「均值 ± 标准差」,偏斜分布报「中位数(四分位数)」。比如论文里的存活时间写成「中位数 18 个月(IQR 9–30)」,就比「均值 22 个月」诚实得多——后者被少数活得久的病人抬高了。

例题

第五章 数据的描述与抽样例3 标准差:两组数据的波动比较

题 两名射手各射击 10 发,环数如下(满分 10):

甲:8, 9, 10, 8, 9, 10, 9, 8, 9, 10

乙:6, 7, 9, 10, 10, 9, 8, 10, 9, 12

(乙的第 10 发打出了 12 环——记分员笔误,但数据如实照抄。)试比较两人的水平与稳定性。

解 先算均值。

x甲 = (8 + 9 + 10 + 8 + 9 + 10 + 9 + 8 + 9 + 10)/10 = 90/10 = 9.0

x乙 = (6 + 7 + 9 + 10 + 10 + 9 + 8 + 10 + 9 + 12)/10 = 90/10 = 9.0

两人均值完全相同。若只看均值,会得出「势均力敌」的结论——这就是只看集中趋势的盲区。接着算标准差(作为样本,除以 n − 1 = 9):

射手各偏差 xi − x偏差平方和样本方差 s2样本标准差 s
甲−1, 0, 1, −1, 0, 1, 0, −1, 0, 166/9 ≈ 0.667≈ 0.816
乙−3, −2, 0, 1, 1, 0, −1, 1, 0, 32626/9 ≈ 2.889≈ 1.700

结论很清楚:两人的平均水平一样,但甲的稳定性远胜于乙(s甲 ≈ 0.82 对 s乙 ≈ 1.70)。其余三个度量也给出同样的判断:极差 2 对 6,平均偏差 0.6 对 1.2,变异系数 0.091 对 0.189——乙的每一项都约是甲的两倍。

值得特别指出:若按总体口径除以 n = 10,得 σ甲 ≈ 0.775、σ乙 ≈ 1.613,结论完全不变,只是数值略小。这说明两种口径的差别在结论层面无关紧要,但在数值上报出时必须说清用的是哪一种。

同均值、异波动:点的「聚散」一目了然 678 91011 甲 乙 均值 9 12 环(笔误) 甲的点挤在 8–10 之间(s ≈ 0.82);乙的点从 6 铺到 12(s ≈ 1.70) 两行点的「重心」都在 9,宽度却差一倍——这正是只报均值会漏掉的信息
图 5-22 例3 的两组射击。重复的值用上下叠放的点表示;虚线是共同的均值 9。

附带一问:那个 12 环的笔误该怎么处理?按 §5.6 的箱线图判据,乙的数据五数为 (6, 8, 9.5, 10, 12),IQR = 2,上栅栏 = 13——12 并未越界,不是统计意义上的异常值。这说明统计判据只能提示,不能代替对数据来源的核查:12 环本身在物理上不可能,应当回去查原始记录,而不能靠算法「自动剔除」。

例题

第五章 数据的描述与抽样例4 分位数:由数据求中位数与四分位数

题 仍用例1 的 40 个成绩,求它的五数概括与四分位距,并说明「前 25%」的分数线是多少。

解 排序后(第 1 到第 40 个数):

58, 62, 65, 68, 70, 71, 73, 74, 75, 76, 77, 78, 78, 79, 80, 80, 81, 81, 82, 82,

83, 83, 84, 84, 85, 85, 86, 86, 87, 88, 88, 89, 90, 90, 91, 92, 93, 95, 96, 99

中位数:n = 40 是偶数,取第 20、21 个数的平均,即 (82 + 83)/2 = 82.5。

下四分位数:把中位数切开,取下半段(前 20 个数:58 到 82)的中位数。下半段也是偶数个,取第 10、11 个——即 76 与 77——的平均:

Q1 = (76 + 77)/2 = 76.5

上四分位数:上半段(后 20 个数:83 到 99)的中位数,取第 10、11 个——即 88 与 88——的平均:

Q3 = 88 (IQR = Q3 − Q1 = 11.5)

于是五数概括为 (58, 76.5, 82.5, 88, 99)。至于「前 25% 的分数线」,答案正是 Q3 = 88——注意「前 25%」对应的是上四分位数而不是下四分位数,这是最容易搞反的一处。

五数概括:把 40 个数据切成四段,各占 25% Q1​ = 76.5 M = 82.5 Q3​ = 88 5899 最低的 25% 中间的 50% 最高的 25% 「成绩进入前 25%」=分数 ≥ Q3​ = 88 分;进入前 50% = 分数 ≥ M = 82.5 分
图 5-23 五数概括与四段的划分。注意刻度是「按序号等距」而非按数值等距,这样四段的高度才各占 25%。

一个必须交代的口径问题 分位数的算法不止一种。若改用位置法(把第 p(n + 1) 个位置上的数作为第 p 分位数,非整数时线性插值),则 Q1 落在第 0.25 × 41 = 10.25 位,介于 76 与 77 之间,得 76.25;Q3 落在第 30.75 位,介于 86 与 87 之间,得 86.75。与上面差了不少。

差别的根源在于:「第 25% 的那个位置」本身在偶数个数据里就是一件需要约定的事。因此学术写作有一条规矩——凡报分位数,必须注明所用算法(或直接注明软件名)。本册统一采用上面的「中位数二分法」,与大多数统计软件(Excel 的 QUARTILE.INC 除外)一致。结论层面的判断(谁高谁低、有没有异常值)在两种口径下几乎不会反转,这一点可以放心。

顺带算一下用 IQR 判据的情形:Q1 − 1.5 IQR = 76.5 − 17.25 = 59.25,Q3 + 1.5 IQR = 88 + 17.25 = 105.25。本组最小值 58 略低于 59.25,最大值 99 未越界——所以 58 分那个学生在统计上是「疑似异常值」,值得单独看一看是不是缺考或漏做了一道大题。

例题

第五章 数据的描述与抽样例5 箱线图:识别异常值

题 某仪器对同一标准件重复测量 20 次,读数如下(单位 mm):

41, 52, 55, 57, 58, 59, 60, 61, 62, 62, 63, 64, 65, 66, 68, 70, 72, 74, 76, 90

画出箱线图,并用 1.5 IQR 判据找出疑似异常值。

解 数据已排序,n = 20。

中位数取第 10、11 个(62 与 63)的平均:M = 62.5。
下半段(前 10 个)的中位数:第 5、6 个为 58 与 59 → Q1 = 58.5。
上半段(后 10 个)的中位数:第 5、6 个为 68 与 70 → Q3 = 69。

IQR = 69 − 58.5 = 10.5

栅栏位置:

下栅栏 = 58.5 − 1.5 × 10.5 = 42.75, 上栅栏 = 69 + 1.5 × 10.5 = 84.75

检查两端:最小的 41 < 42.75,越界;最大的 90 > 84.75,越界。所以有两个疑似异常值。两须则分别伸到栅栏内最远的数据:左须到 52,右须到 76。

例5 的箱线图:两个越界点被单独标出 下栅栏 42.75 上栅栏 84.75 Q1​ M Q3​ 415258.5 62.56976 90 箱体=Q1​ 到 Q3​(高即 IQR = 10.5);两须伸到栅栏内的最远数据 52 与 76
图 5-24 例5 的箱线图。注意 41 与 90 是用圈标出的「越界点」,而箱体本身只用到了中间的 50% 数据——这正是箱线图抗干扰的原因。

找出异常值之后做什么 三步走:① 先查来源——是录入错误、仪器漂移,还是真的发生了特殊事件?② 再查影响——去掉这两个点后,均值从 63.75 降到 62.4,标准差从 10.1 降到 6.4,影响不小;③ 最后才决定——若查明是错误,可修正或剔除并说明;若查明是真的(比如标准件本身有缺陷),则必须保留,因为它恰恰是发现问题的线索。

判为异常 ≠ 判为错误,更 ≠ 可以随便删。先剔掉「不好看」的点再报均值,是数据造假最常见的形式之一。规范做法是:把剔除前后的结果都报出来,并写明剔除理由。

例题

第五章 数据的描述与抽样例6 抽样方法:为一项调查选择合适方案

题 下面四项调查,各应采用哪种抽样方法?说明理由,并指出各自的注意点。

① 了解某市 8 万名中学生的近视率;

② 某饮料厂每小时灌装 12000 瓶,要抽检当班的瓶身密封性;

③ 某小区 1200 户居民对物业服务的满意度;

④ 全国流动人口的就业状况。

解 四项调查的共同点是「无法全查」,差别在于总体有没有可利用的内部结构、名单全不全、接触个体难不难。逐一分析:

调查推荐方法理由注意点
① 中学生近视率分层抽样(按年级 × 城乡)近视率随年级与城乡差别极大;分层可保证各层都有代表,精度更高需先掌握各层的真实人数,才能按比例分配
② 瓶身密封性系统抽样(每隔若干瓶取 1 瓶)流水线连续产出,名单就是生产顺序;等距抽取最省事、覆盖面最广若灌装机的缺陷有周期性(如每分钟一次),等距间隔不能与它同步
③ 小区满意度简单随机抽样(1200 户全员编号)住户名单完整、规模小、容易接触,标准方法最干净长期不在家的住户会造成无回答偏差,需追访或补抽
④ 全国流动人口分层 + 多阶段整群抽样无完整名单、个体高度分散;只能按行政区划逐级抽省、市、社区,最后在社区内抽样同一社区的人相似,需多抽一些社区来换取代表性

四项判断其实只用了三条提问:

选抽样方法的三问

① 有没有完整名单? 有 → 简单随机;没有 → 只能借行政区划或生产顺序做整群、系统抽样。

② 总体内部差异大不大? 差异大且知道分层变量 → 分层抽样能显著提高精度。

③ 个体好不好接触? 难接触 → 整群抽样省成本;好接触 → 直接简单随机。

四条路线:从「有没有名单」出发的判断树 有完整名单? 规模大不大? 有 简单随机 ③ 小区满意度 1200 户 系统抽样 ② 流水线每间隔取 1 瓶 无 整群 + 多阶段 ④ 流动人口:逐级抽区 任何情况下都可用 分层抽样 ① 中学生近视率:按年级 × 城乡分层 分层并不排斥其他方法——它总是「在每一层内」再配上简单随机或系统抽样
图 5-25 四项调查的抽样方案。判断的主线是「有没有名单」,其次是「内部差异大不大」与「个体好不好接触」。

无论选哪种方法,最后都要回答一个问题:这个样本的误差有多大?对比例估计,误差半宽约 1.96 √(p(1 − p)/n)。比如调查 ① 若抽 2000 名中学生,估计近视率 62%,则标准误 = √(0.62 × 0.38/2000) ≈ 0.0109,误差半宽约 ±2.1%——报告时就该写「近视率 62%(误差 ±2.1%)」,而不是只写一个 62%。

例题

第五章 数据的描述与抽样例7 抽样误差:估计比例的标准误

题 某民调机构访问 n = 1000 名选民,其中 520 人表示支持某方案。

① 估计支持率;② 求它的标准误与 95% 误差半宽;③ 若把样本量改为 400 与 1600,误差各是多少?④ 若要求误差不超过 ±2%,至少要访问多少人?

解 ① 样本比例

p = k/n = 520/1000 = 0.52

② 标准误用 §5.10 的公式(因 p 未知,用样本比例代替):

SE = √(p(1 − p)/n) = √(0.52 × 0.48/1000) = √0.0002496 ≈ 0.0158

95% 误差半宽 ≈ 1.96 × 0.0158 ≈ 0.031,即约 ±3.1%。于是可以报告:支持率 52%,误差 ±3.1%,即约 48.9% 到 55.1%。

③ 把三个样本量代进同一个公式:

样本量 n标准误 SE95% 误差半宽相对 n = 1000
4000.0250±4.90%误差是 1.58 倍
10000.0158±3.10%基准
16000.0125±2.45%误差是 0.79 倍

可以看出:样本量从 400 涨到 1000(涨 2.5 倍),误差只降到原来的 0.63 倍;再涨到 1600(再涨 1.6 倍),误差才降到 0.79 倍。这正是 1/√n 规律的具体面孔。

④ 反解样本量公式。要求 1.96 √(0.25/n) ≤ 0.02,取最坏情况 p = 0.5:

n ≥ 1.962 × 0.25/0.022 = 3.8416 × 0.25/0.0004 = 2401

所以要访问至少 2401 人。对照一下:n = 1600 时误差是 ±2.45%,还差一点;这也说明「误差从 ±3% 压到 ±2%」所花的代价,比从 ±4.9% 压到 ±3% 还要大。

同一个 52%,样本越大区间越窄 n = 400 n = 1000 n = 1600 ±4.90% ±3.10% ±2.45% 45%50% 55%60% 点估计 52%
图 5-26 例7 的三个置信区间。三条线共用同一个点估计 52%,宽度却随 n 而变——这正是「误差由样本量决定」的可视化。

一个常见的误解是「n = 1000 的误差 ±3% 意味着真实支持率有 95% 的概率落在 48.9% 到 55.1% 之间」。严格地说:真实支持率是一个固定的未知数,它不会「有概率」落在哪里;能谈概率的是「区间覆盖住真值」这件事——在反复抽样中,约 95% 的区间会盖住真值。这个细微但重要的区别,第六章讲置信区间的含义时还会展开。

例题

第五章 数据的描述与抽样例8 样本均值:由样本计算统计量

题 从一批零件中随机抽 8 件测尺寸(单位 mm),得

9.6, 10.2, 9.8, 10.4, 9.5, 10.1, 9.9, 10.3

求样本均值 x、样本方差 s2、样本标准差 s、样本二阶原点矩 a2、极差 R,并验证恒等式 Σ(xi − x)2 = Σxi2 − nx2。

解 先把两个和算出来。全部相加:

Σxi = 9.6 + 10.2 + 9.8 + 10.4 + 9.5 + 10.1 + 9.9 + 10.3 = 79.8

x = 79.8/8 = 9.975

再算平方和:

Σxi2 = 92.16 + 104.04 + 96.04 + 108.16 + 90.25 + 102.01 + 98.01 + 106.09 = 796.76

于是

a2 = 796.76/8 = 99.595

用恒等式求偏差平方和,比逐个算偏差再平方省事得多:

Σ(xi − x)2 = 796.76 − 8 × 9.9752 = 796.76 − 796.005 = 0.755

余下的统计量一并写出:

统计量符号计算结果
样本均值x79.8/89.975
样本方差s20.755/7≈ 0.1079
样本标准差s√0.1079≈ 0.3284
二阶原点矩a2796.76/899.595
极差R10.4 − 9.50.9

顺手核一下两条关系,确认口径没弄错:(n − 1)s2 = 7 × 0.1079 = 0.755 ✓(与偏差平方和相等);a2 − x2 = 99.595 − 99.5006 = 0.0944,乘 8/7 得 0.1079 ✓(这就是 s2 = (n/(n − 1))(a2 − x2))。

这道题真正要练的三件事

① 恒等式的用法:Σ(xi − x)2 = Σxi2 − nx2 让偏差平方和只需一次减法,避免了「先求 8 个偏差、再各自平方、再相加」的三轮运算。手算、编程、证明里都靠它。

② 两种口径的换算:s2 = (n/(n − 1))·(1/n)Σ(xi − x)2,样本方差永远是「总体式方差」放大约 n/(n − 1) 倍。

③ 统计量是算出来的,不是猜出来的:x 与 s 都只依赖样本,这正是 §5.11 定义里「不含未知参数」那句话的实操含义。

注意 s 与 σ 的分工:σ 是总体的标准差(未知、固定),s 是样本的标准差(已知、随机)。一切推断的任务,都是拿后者去猜前者——而猜得准不准,取决于抽样分布。

例题

第五章 数据的描述与抽样例9 抽样分布:正态总体下样本均值的分布

题 某种钢球的直径服从正态分布 X ~ N(50, 102)(单位 mm)。

① 若随机抽 1 个钢球,求直径落在 47 到 53 之间的概率;

② 若随机抽 25 个取平均,求平均直径落在 47 到 53 之间的概率;

③ 若抽 100 个,这个概率又是多少?并求平均值超过 53 的概率。

解 ① 单个钢球就是 X 本身。标准化:

P(47 < X < 53) = P(|(X − 50)/10| < 0.3) = P(|Z| < 0.3) ≈ 0.2358

② 由抽样分布定理第 ① 条,X ~ N(50, 102/25) = N(50, 22),标准差为 2。于是

P(47 < X < 53) = P(|(X − 50)/2| < 1.5) = P(|Z| < 1.5) ≈ 0.8664

③ 抽 100 个时 X ~ N(50, 12),标准差为 1:

P(47 < X < 53) = P(|Z| < 3) ≈ 0.9973, P(X > 53) = 1 − Φ(3) ≈ 0.0013

把三个答案放在一起,效果非常直观:

情形标准差P(47 < · < 53)P(· > 53)
单个钢球 X100.23580.3821
X,n = 2520.86640.0668
X,n = 10010.99730.0013
同一个「±3 mm」窗口,平均值的命中率完全不同 47 50 53 ±3 mm 窗口 n = 25:命中 0.8664 n = 100:命中 0.9973 绿色的钟明显「住」在窗口里——样本量越大,平均值越不可能跑偏
图 5-27 例9 的两种抽样分布。窗口固定,曲线越窄命中率越高——这就是「多次测量取平均」能提高精度的量化证据。

反过来用这个结论,就得到工程上常见的一条设计原则:若单件的标准差是 σ,而要求平均值与真值的差不超过 ε 的概率达到某个水平,就可以反解出需要的样本量。比如要求 P(|X − μ| ≤ 3) ≥ 0.95,即 1.96 σ/√n ≤ 3,代入 σ = 10 得 √n ≥ 6.53,n ≥ 43——抽 43 个就够,抽 100 个则更稳(0.9973)。

例题

第五章 数据的描述与抽样例10 t 分布:查表求临界值

题 设 T ~ t(15)。① 求 t0.025(15);② 求满足 P(|T| > c) = 0.05 的 c;③ 若改查标准正态表,同样的双侧 0.05 对应的 z 是多少?两者的比值说明什么?

解 ① 查 t 分布上侧分位数表,自由度 k = 15 行、上侧面积 α = 0.025 列,读得

t0.025(15) = 2.1314

它的含义是:T 落在 2.1314 右侧的概率恰是 0.025。② 由于 t 分布关于 0 对称,落在右侧 0.025 与落在左侧 0.025 是两件对称的事,合起来正是双侧 0.05:

P(|T| > 2.1314) = 0.05

所以 c = 2.1314。③ 标准正态的双侧 0.05 临界值是 z0.025 = 1.9600。两者的比值

2.1314/1.9600 ≈ 1.0874

差了 8.7%。这个多出来的余量就是对「用 S 代替 σ」的惩罚:S 本身在随机变动,有时偏小,此时比值 (X − μ)/(S/√n) 就会被放大,于是需要把临界值往外挪一点,才能保住 5% 的错误率。

自由度 kt0.05(k)t0.025(k)与 1.9600 之比
16.313812.70626.48
52.01502.57061.31
101.81252.22811.14
151.75312.13141.09
301.69732.04231.04
601.67062.00031.02
∞(正态)1.64491.96001.00

这张小表是一份「惩罚清单」:自由度越小,惩罚越重。自由度 1(只抽两三个样本)时,临界值要放到 12.7 才够,是正态的 6.5 倍;到了 60,差别只有 2%。这就是为什么实践中样本量小于 30 时必须用 t 表——用 z 会系统性地低估风险。

t(15) 与 N(0,1):临界值差 8.7%,尾面积差在肩上 −2.1314 2.1314 0 N(0,1):临界值 ±1.9600 t(15):临界值 ±2.1314 红色曲线在两侧「肩部」抬得更高——那多出来的面积,就是把临界值往外推的原因
图 5-28 例10 的 t 分布与正态对照。虚线为 t(15),实线为 t(15) 与正态的差别被放大在肩部。

查表的一个小陷阱:表头写的是「上侧面积 α」,不是「置信水平」。要查 95% 置信区间用的临界值,应找 α = 0.025(因为 0.05 要平分到两侧);要查 90% 的,找 α = 0.05。把这两个搞反,是初学者最常犯的错之一。

例题

第五章 数据的描述与抽样例11 应用:质量抽检的样本量设计

题 某厂要估计一批产品的不合格率 p,希望在 95% 置信水平下误差不超过 2%。

① 在完全没有先验信息时应抽多少件?② 若据历史数据知道 p 约在 5% 附近,可减到多少?③ 若把允许误差放宽到 3%,又需多少?④ 换成「估计平均重量」,已知 σ = 10 g,要求误差不超过 1 g,需抽多少?

解 核心只有一个公式:让 95% 误差半宽不超过给定值,即 1.96 √(p(1 − p)/n) ≤ E,反解出

n ≥ z0.0252 p(1 − p)/E2

① 无先验信息时取最坏情况 p = 0.5,此时 p(1 − p) = 0.25 达到最大值:

n ≥ 3.8416 × 0.25/0.0004 = 2401

② 若 p ≈ 0.05,则 p(1 − p) ≈ 0.0475,所需样本量骤减:

n ≥ 3.8416 × 0.0475/0.0004 ≈ 456.2 → 取 457

③ 允许误差放宽到 3% 时(仍取 p = 0.5):

n ≥ 3.8416 × 0.25/0.0009 ≈ 1067.1 → 取 1068

④ 估计均值时把 p(1 − p) 换成 σ2:n ≥ (z0.025 σ/E)2,代入得

n ≥ (1.96 × 10/1)2 = 19.62 ≈ 384.2 → 取 385

情形关键参数允许误差所需样本量
① 比例,无先验p = 0.5±2%2401
② 比例,p ≈ 0.05p(1 − p) = 0.0475±2%457
③ 比例,放宽误差p = 0.5±3%1068
④ 均值σ = 10 g±1 g385

四个数字放在一起,能读出三条经验:

样本量设计的三条经验

① 「不确定」最贵:不知道 p 就只能按 0.5 预算,这一项让样本量从 457 涨到 2401(5.25 倍)。有历史数据能省大钱。

② 精度是平方级的奢侈品:误差从 3% 缩到 2%(提高 1.5 倍),样本量要从 1068 涨到 2401(2.25 倍)。要再缩到 1%,得 9604 件。

③ 均值估计往往更省:因为 σ2 通常远小于 0.25,且测量本身比「回答是/否」携带更多信息。

实际工作中还会遇到两个约束:成本上限与破坏性检验的损耗。此时常用的做法是「先定预算,再报能达到的精度」——即固定 n 反解 E,而不是死守一个精度目标。把「能花多少钱」和「能知多准」这两件事明确地摆在决策桌上,本身就是统计思维的一部分。

例题

第五章 数据的描述与抽样例12 综合:一份「描述统计报告」的完整撰写

题 把例1–例6 对那 40 个成绩所做的分析,整理成一份完整的描述统计报告(含数据来源说明、图形、数字概括、结论与局限)。

解 下面是标准写法。注意其中每一句判断,都能追溯到前面某个具体的数或图。

一、数据来源 某校 40 名学生数学测验成绩(满分 100),随机抽取,抽样方式为按学号系统抽样(间隔 1,全员参与)。有效样本 40 份,无缺失。样本量 n = 40。

二、图形 见例1 图 5-20(直方图)。分布单峰、大致对称,最高一柱在 [75, 85),两侧逐级降低;两端各有一两个「拉远」的值(58 与 99)。

三、数字概括 

· 集中趋势:均值 x = 81.6,中位数 Me = 82.5(众数不唯一,故不报)。

· 离散程度:标准差 s ≈ 9.22(总体口径 σ ≈ 9.10),极差 R = 41,变异系数 CV = 9.22/81.6 ≈ 0.113。

· 位置度量:五数概括 (58, 76.5, 82.5, 88, 99),IQR = 11.5。

四、结论 ① 班级整体处于「良好」水平,中间 50% 的学生成绩在 76.5 到 88 之间;② 进入前 25% 的分数线是 88 分;③ 波动中等(CV ≈ 11%),无明显断层,说明教学效果较为均衡;④ 下限 58 分低于 Q1 − 1.5 IQR = 59.25,属疑似异常个案,建议单独了解情况(是否缺考、是否有特殊困难)。

五、局限 ① 样本来自一所学校,不能代表更大的范围;② 只有一次测验,无法反映趋势;③ 成绩是「一次测量」,本身含测量误差;④ 未按班级或性别分层,若各层差异大,合并统计会掩盖差异(辛普森悖论的风险)。

把这份报告与本章的路线图对照,会看到一条清晰的链条:

报告中的一句话依据的知识见
「单峰、大致对称」直方图读形状§5.3 §5.7
「x = 81.6,Me = 82.5」集中趋势与偏斜的判断§5.4
「s ≈ 9.22,CV ≈ 11%」离散程度与相对波动§5.5
「中间 50% 在 76.5–88」四分位数与 IQR§5.6
「58 分疑似异常」1.5 IQR 判据§5.6
「按学号系统抽样」抽样方法的选择§5.8 §5.9
「不能代表更大范围」抽样框与代表性§5.8 §5.10
「辛普森悖论的风险」分层与混杂§5.9 §5.17

规范描述统计报告的四条硬要求,可以当作模板背下来:① 写清数据怎么来的(谁、多少、怎么抽、有无缺失);② 图与数同时给(图看形状,数给精度);③ 报数时说明口径(n 还是 n − 1,哪种分位数);④ 结论后面必须跟局限。少任何一条,报告的可信度都会打折扣。

习题

第五章 数据的描述与抽样习题课一 数据的整理

本课练「把散沙攥成表」的手感:一组数进来,频数分布表出去。

练 1.1 某班 20 名学生一周课外阅读页数如下:

18, 21, 22, 25, 26, 26, 28, 30, 31, 33, 34, 35, 35, 36, 38, 39, 40, 42, 45, 47

取组距 Δ = 6、起点 18,列出频数分布表(含频率与累积频率)。

答:极差 R = 47 − 18 = 29,组数 = ⌈29/6⌉ = 5。逐组点数为 3, 4, 6, 4, 3:[18,24) 3(18,21,22)、[24,30) 4(25,26,26,28)、[30,36) 6(30,31,33,34,35,35)、[36,42) 4(36,38,39,40)、[42,48) 3(42,45,47)。频率依次 0.15, 0.20, 0.30, 0.20, 0.15,累积频率 0.15, 0.35, 0.65, 0.85, 1.00。频数与频率分别验和:3+4+6+4+3 = 20 ✓,频率之和 = 1 ✓。

练 1.2 承接练 1.1:① 阅读页数不超过 36 的人数占几成?② 阅读页数在 [30,36) 内的人最多,这一组是不是「众数组」?

答:① 不超过 36 即落在前三组,累积频率 = 0.15 + 0.20 + 0.30 = 0.65,即 65%(13 人)。② 是——频数最大的组 [30,36) 就是众数组。注意「众数组」说的是「组」,不是「数」:真正出现最多的数是 35(两次),而经频数表会给出整段区间。

练 1.3 同一组数据,若改取组距 Δ = 3,组数变成多少?这样分组有什么好处与坏处?

答:组数 = ⌈29/3⌉ = 10。好处是轮廓更细,能看见组距 6 时被抹平的起伏;坏处是每组人少,柱子高低像噪声(n 不大时尤其明显),且表更长。组数的经验法则是:组数 ≈ √n——本例 √20 ≈ 4.5,取 5 组正合适。

练 1.4 为什么画等距直方图时,柱高可以取频数;而组距不等时却必须换算成频率密度?

答:直方图的约定是面积 ∝ 频率。组距相等时,柱宽相同,面积与高成正比,于是高取频数或频率都行;组距不等时,宽窄不一,只有让高 = 频率 / 组距(频率密度),面积才仍与频率成比例。「看高度」与「看面积」是两回事,这是直方图最容易错的一处。

练 1.5 某频数表前四组频率依次为 0.12, 0.28, 0.34, 0.16,若共 5 组,求末组频率。

答:频率之和为 1,故末组 = 1 − (0.12+0.28+0.34+0.16) = 0.10。「频率和恒为 1」是把关的第一关卡——表算完先验它,能挡住大半抄录与点数错误。

小结:整理数据=定量到表。三步定骨架——定极差、定组距、定组数;一步做核对——频数和等于 n、频率和等于 1。

习题

第五章 数据的描述与抽样习题课二 集中趋势

本课练三种「中心」:均值、中位数、众数,以及它们的适用场合。

练 2.1 由下表(40 人)用组中值求均值:

分组组中值 xi频数 fifixi
[0,10)5420
[10,20)158120
[20,30)2512300
[30,40)3510350
[40,50)456270
合计—401060

答:x = 1060 / 40 = 26.5。分组数据的均值是「组中值代替真值」后的加权平均,与真均值略有出入,但组距不大时误差很小。

练 2.2 某课程总评:平时 20%、期中 30%、期末 50%。小李三项依次 60、70、80 分,求总评;再求三项权重相等的平均分。

答:加权 = 0.20×60 + 0.30×70 + 0.50×80 = 12 + 21 + 40 = 73;等权 = (60+70+80)/3 = 70。同一个 70、60、80,权重一改,答案差 3 分——均值从来不是「等权平均」的别名。

练 2.3 一组数:3, 5, 5, 6, 7, 7, 8, 9, 9, 11。求均值、中位数、众数。

答:和 = 70,均值 x = 7.0;中位数取第 5、6 个的均 = (7+7)/2 = 7;众数是 5、7、9 三个并列(各出现两次),众数可以不唯一,这是它常被误用的地方。

练 2.4 数据呈单峰、右偏时,三者的大小次序如何?左偏呢?

答:右偏:众数 < 中位数 < 均值(长尾把均值往右拽);左偏:均值 < 中位数 < 众数;对称:三者近似重合。这条经验不严格,却是读分布的极快判据——本册 §5.4 的右偏图正是如此。

练 2.5 承接练 2.3,若把最后一个数由 11 改为 100,均值与中位数各变多少?说明什么?

答:均值 = 159/10 = 15.9(猛涨 8.9),中位数 = (7+8)/2 = 7.5(只动 0.5)。中位数抗异常值,均值不抗——这就是收入分布、房价这类「长尾数据」常用中位数的理由。

练 2.6 判断:① 均值一定等于某个观测值;② 中位数一定等于某个观测值;③ 众数一定是整数。

答:全部错。① 未必(如 3,7 的均值为 5,取不到);② 奇数个数据时必等于中间那个,偶数个时可能是两数平均(如 7.5),故「不一定」;③ 无此约束(众数出现在连续数据分组里是一个区间)。

小结:均值用全部信息、怕异常;中位数只看位置、抗异常;众数只挑峰值、可并列。选哪个,取决于「要代表谁」。

习题

第五章 数据的描述与抽样习题课三 离散程度

本课练「波动的度量」:极差、方差、标准差,以及变换下的规律。

练 3.1 数据 2, 4, 6, 8, 10。求均值、总体方差与样本标准差。

答:均值 = 30/5 = 6。偏差 −4, −2, 0, 2, 4;平方和 = 16+4+0+4+16 = 40。总体方差 = 40/5 = 8;样本方差 s2 = 40/4 = 10,s = √10 ≈ 3.162。分母差 1,是本章最要紧的一处约定(§5.11 详述)。

练 3.2 两组数同均值:甲 8,9,10,11,12,乙 4,7,10,13,16。各自求 s,谁更稳?

答:甲偏差平方和 = 4+1+0+1+4 = 10,s甲 = √(10/4) = √2.5 ≈ 1.581;乙 = 36+9+0+9+36 = 90,s乙 = √(90/4) = √22.5 ≈ 4.743。甲稳得多(是乙的 1/3)。均值相同 ≠ 数据相同——这正是离散程度存在的理由。

练 3.3 用简化公式 s2 = (1/n)∑xi2 − x2 重算练 3.1 的总体方差。

答:∑xi2 = 4+16+36+64+100 = 220,220/5 = 44,x2 = 36,故方差 = 44 − 36 = 8 ✓。这条公式省去了先算偏差再平方的往返,是手算与计算器时代的主力。

练 3.4 摄氏温度转华氏:F = 1.8C + 32。若某地气温的标准差为 1.5 ℃,折算成华氏度后标准差是多少?均值又变多少?

答:sF = |1.8| × 1.5 = 2.7 ℉,而均值 F = 1.8C + 32(平移 32)。规律:Y = aX + b 时 sY = |a| sX——加常数不动波动,乘常数按比例放大,这正是除以标准差能「标准化」的道理。

练 3.5 甲组身高均值 100 cm、标准差 5 cm;乙组身高均值 20 cm、标准差 4 cm。哪组的相对波动更大?

答:变异系数 CV甲 = 5/100 = 0.05,CV乙 = 4/20 = 0.20。乙组相对波动大 4 倍。绝对标准差 5 > 4,但论「相对于自身水平」,乙远不如甲稳定——比波动必须比 CV,跨量纲、跨量级时尤其如此。

练 3.6 由习题课二的频数表(组中值 5,15,25,35,45,频数 4,8,12,10,6)求分组数据的标准差。

答:∑fixi2 = 100+1800+7500+12250+12150 = 33800,除以 40 得 845;减去 26.52 = 702.25 得 s2 ≈ 142.75,s ≈ 11.95。分组数据先算二阶原点矩、再减均值平方,可免去逐个求偏差的麻烦。

小结:极差看两头(粗,怕异常),方差看全体(细,含平方),标准差与数据同量纲(最好用)。记住三条律:平移不变、缩放同比、CV 可跨量纲比较。

习题

第五章 数据的描述与抽样习题课四 分位数与箱线图

本课练「位置型度量」:分位数、五数概括、四分位距与异常值判别。

练 4.1 数据(已排序,n = 15):12, 15, 17, 19, 20, 23, 25, 26, 28, 30, 32, 35, 38, 40, 44。求五数概括。

答:最小值 12、最大值 44;中位数取第 8 个 M = 26;下半(前 7 个)中位数 Q1 = 19;上半(后 7 个)中位数 Q3 = 35。五数概括即 (12, 19, 26, 35, 44)。中位数与四分位数都是「位置量」,与数值大小无关,只与次序有关。

练 4.2 用位置公式 ⌊(n+1)p⌋ 复核练 4.1 的三个分位数(p = 0.25, 0.5, 0.75)。

答:(15+1)×0.25 = 4 → 第 4 个数 19 ✓;16×0.5 = 8 → 第 8 个 26 ✓;16×0.75 = 12 → 第 12 个 35 ✓。位置为整数时直接取值,非整数时取相邻两数加权——本例恰全是整数,最省事。

练 4.3 数据(已排序,n = 12):5, 8, 9, 10, 11, 12, 13, 14, 15, 16, 18, 45。求五数概括与四分位距,并判断 45 是否为异常值。

答:中位数 = (12+13)/2 = 12.5;下半 5,8,9,10,11,12 的中位数 Q1 = (9+10)/2 = 9.5;上半 13,14,15,16,18,45 的中位数 Q3 = (15+16)/2 = 15.5。IQR = 15.5 − 9.5 = 6。栅栏 Q1 − 1.5·IQR = 0.5、Q3 + 1.5·IQR = 24.5。45 > 24.5,故 45 是异常值,箱线图上记作孤点。

练 4.4 一幅箱线图的中位数明显靠近盒子的左缘、右须远长于左须,说明数据什么形态?

答:右偏(正偏)。中位数偏左、右尾长,正是多数值挤在低端、少数大值拉长右尾的画像。箱线图不必看纵轴数值,只看五数的相对位置就能读出偏斜与离散——这正是它比直方图更「抗压缩」的优点。

练 4.5 某次考试公布「小明成绩位于 P90」。这话是什么意思?若同班有 50 人,小明大约排第几?

答:意思是约 90% 的考生成绩不高于他(他处于上游 10%)。50 人中 0.90×50 = 45,故约第 5 名(从高往低数)。注意 P90 说的不是「得 90 分」,而是「位置」——分位数永远读作位置,不读作分数。

练 4.6 判断:① 四分位距越大,数据越分散;② Q2 就是中位数;③ 箱线图能直接看出样本量。

答:① 对,IQR 覆盖中间一半数据,它越大中间越散;② 对,Q2 = M 是定义;③ 错,标准的箱线图不显示 n(除非另附「宽度 ∝ √n」的变体箱线图)。

小结:分位数读位置,IQR 量离散,1.5·IQR 栅栏筛异常。箱线图=五数的图形,一图看尽中位、离散、偏斜与离群。

习题

第五章 数据的描述与抽样习题课五 数据可视化

本课练「看图说话」:茎叶图、散点图各有所长,选错图等于白做。

练 5.1 某班 20 人测验得分:52, 53, 55, 58, 61, 63, 64, 64, 67, 68, 70, 71, 72, 75, 76, 79, 80, 83, 86, 91。作茎叶图(茎取十位)。

答:5 | 2 3 5 8;6 | 1 3 4 4 7 8;7 | 0 1 2 5 6 9;8 | 0 3 6;9 | 1。茎叶图把「排序+频数+原值」三件事合成一张图:叶子的疏密就是直方图,而每个数都还在,随时可取。

练 5.2 由练 5.1 的茎叶图读出:众数、极差、中位数,并说明哪一段最密。

答:众数 64(出现两次);极差 = 91 − 52 = 39;中位数取第 10、11 个 = (68+70)/2 = 69。最密的一段是茎 7(6 个数),说明成绩集中在 70 分上下。一眼看出「大部分人在哪」正是茎叶图的看家本领。

练 5.3 六组 (x, y):(1,2), (2,4), (3,5), (4,8), (5,7), (6,10)。作散点图,判断相关的方向与强弱。

答:x = 3.5,y = 6;∑dxdy = 26,∑dx2 = 17.5,∑dy2 = 42,故 r = 26/√(17.5×42) ≈ 0.959。强正相关:点近于一条上扬的直线,但不是严格共线(r 未到 1)。

练 5.4 承接练 5.3,求回归直线,并预测 x = 7 时的 y。

答:斜率 b = ∑dxdy / ∑dx2 = 26/17.5 ≈ 1.486,截距 a = y − bx = 6 − 1.486×3.5 = 0.8,故 y ≈ 0.8 + 1.486x。取 x = 7 得 y ≈ 11.2。回归线过点 (x, y),这是画线的第一个检查点。

练 5.5 下列各题该选哪种图?① 比较五个班级的平均分;② 看身高与体重的关联;③ 展示 100 个数的分布形态;④ 展示一周七天的销售额走势。

答:① 条形图(类别比较);② 散点图(两变量关联);③ 直方图或茎叶图(分布形态,n 不大时优先茎叶图,保留原值);④ 折线图(时间序列走势)。选图三问:比什么(类别/关系/分布/趋势)、几条变量、有无次序。

练 5.6 某市统计发现「冰淇淋销量」与「溺水人数」强正相关(r ≈ 0.9)。能否说「吃冰淇淋导致溺水」?

答:不能。二者有一个共同的幕后推手——气温:天热既让人多吃冰淇淋,也让人多去游泳。「相关不等于因果」,这类由第三变量带来的虚假关联叫「混杂」,识别它是数据素养的第一课。

小结:散点图管关系,茎叶图管分布,箱线图管位置,折线图管时间。图不是装饰,是推理的起点——先看图看清形状,再谈公式。

习题

第五章 数据的描述与抽样习题课六 简单随机抽样

本课练「怎么抽才算公平」:抽样框、随机化、样本量,以及三类常见偏倚。

练 6.1 要从某校 1000 名学生中抽 10 人做问卷。描述用随机数表的具体操作,并说明为什么它比「找 10 个熟人」可靠。

答:先把 1000 名学生编号 000–999(这就是抽样框),再从随机数表任一行任一处起,按三位一组顺序取数,落在 000–999 之间且未重复者入选,取满 10 个为止。关键是每个个体入选概率相等且独立;「找熟人」引入了调查者的偏好与熟悉度,样本已被系统性扭曲,无论算得多细都补不回来。

练 6.2 某工厂有 1000 件产品,要抽 50 件检验。若用系统抽样,抽样间隔是多少?操作如何?

答:间隔 k = N/n = 1000/50 = 20。先在 1–20 中随机取一个起点 r,此后每隔 20 件取一件(r, r+20, r+40, …)。系统抽样最大的隐患是「周期性」:若生产线每 20 件恰有一件来自同一模具、同一班次,样本就会被这台机器「包场」。

练 6.3 估计比例为 p 的总体,要求在 95% 置信下误差不超过 3%,至少需要多少样本?

答:用最保守的 p = 0.5,n ≥ (1.96/0.03)2 × 0.25 ≈ 1068。「误差减半、样本翻两番」——误差与 √n 成反比,故从 3% 缩到 1.5% 需约 4272 人。这是所有民意调查「千人上下」的由来。

练 6.4 1936 年《文学文摘》寄出 1000 万份问卷、收回 240 万份,却预测错了总统人选;同期盖洛普只用约 5 万人却预测正确。为什么?

答:问题不在样本量,在抽样框。《文学文摘》的名单来自电话簿、汽车登记与俱乐部名册——1936 年大萧条后,拥有电话与汽车的人明显偏向富裕阶层,样本系统性偏向一方;再加上「自愿回邮」使其更像一次「谁更有闲、更有情绪」的投票。盖洛普用配额抽样覆盖了各阶层、各族裔。「大样本」治不了「坏样本」——偏倚不会因 n 增大而消失。

练 6.5 某调查只在白天拨打家庭固定电话。这会引入什么偏倚?

答:覆盖偏倚 + 无应答偏倚。白天在家的多是老人、全职家长或待业者,上班族与学生被系统性漏掉;而如今许多家庭已不装固定电话,「抽样框」本身就不等于「目标总体」。抽样框与目标总体的不一致,是抽样的头号陷阱。

练 6.6 判断:① 样本越大结果一定越准;② 随机抽样能消除全部误差;③ 只要问卷回收率高,结果就可靠。

答:全部错。① 只在无偏前提下成立,偏倚样本越大越离谱(练 6.4);② 只能控制抽样误差,对非抽样误差(设计缺陷、测量错误、无应答)无能为力;③ 回收率高但样本本身有偏(如只在网上问卷),照样不可靠。

小结:抽样的三条命脉——抽样框要齐、随机化要真、样本量要够。三者缺一,后面算得再漂亮也只是给错误盖上精致的印章。

习题

第五章 数据的描述与抽样习题课七 分层与系统抽样

本课练「按结构抽」:分层讲比例,系统讲间隔,整群讲成组。

练 7.1 某校三个年级人数为 1200、800、500,共 2500 人。现要抽 250 人做调查,按比例分配各抽多少人?

答:抽样比 = 250/2500 = 0.10,于是 n1 = 1200×0.10 = 120,n2 = 80,n3 = 50,合计 250 ✓。比例分配的关键是「层内同质、层间异质」——分层把差异留在层与层之间,层内抽谁差别不大,于是估计更准。

练 7.2 有两个层各 1000 人,层内标准差分别为 10 与 20。若共抽 300 人,按「最优分配」(兼顾人数与波动)各抽多少?

答:最优分配正比于 Niσi,即 1000×10 = 10000 与 1000×20 = 20000,比 1∶2。故 n1 = 100、n2 = 200。波动大的层要多抽——它带来更多不确定的信息,理应多花样本。

练 7.3 某中学 60 个班、每班 30 人。若用整群抽样抽 20 个班,样本量是多少?样本量相同的情况下,整群抽样为什么通常不如简单随机抽样精确?

答:样本量 = 20 × 30 = 600 人。因为同班学生的回答彼此相似(同一个老师、同样的进度、相似的氛围),把一整班搬进来,等于用 20 个「独立信息」冒充 600 个,有效样本量远小于名义样本量。整群抽样胜在省事省钱,输在「信息重复」。

练 7.4 下列各情形该用哪种抽样?① 全国人口普查的后续抽查;② 流水线上每分钟抽一件产品;③ 调查某大学各专业学生的就业意向;④ 抽取一批货物中的 5 箱做质量检验。

答:① 分层(多阶段)抽样——按省、市、县层层分层;② 系统抽样——固定间隔、均匀覆盖全时段;③ 分层抽样——专业就是天然层,且层间差异大;④ 整群抽样——整箱提取,省去拆包清点的麻烦。

练 7.5 判断:① 分层抽样一定比简单随机抽样精确;② 系统抽样不需要抽样框;③ 整群抽样的群内越相似越好。

答:① 通常对,但不绝对——只有在分层变量与所研究的量相关时才更精确,若按无关变量分层,收益趋近于零;② 错,系统抽样同样需要一份总体清单,否则无法「每隔 k 个取一个」;③ 错,整整相反:群内越相似、群间越不同,整群抽样的效率越低。「群内同质」是整群抽样的软肋,「层内同质」却是分层抽样的利器——一字之差,效果颠倒。

练 7.6 为「本市中学生课外阅读时长」设计一份抽样方案,写出三层要素:抽样框、抽样方法、样本量。

答(示例):抽样框=全市中学生学籍库;方法=先按初高中、公办民办分为 4 层,层内按比例分配名额,再在各层用系统抽样落实;样本量=按估计比例、留 3% 误差,取约 1100 人,并按年级加权回推总体。一份方案能说清这三件事,就算站住了。

小结:分层=横着切(切出同质的层),系统=竖着量(等距覆盖),整群=整块搬(省事但不精)。选法先问一句:总体的「结构」长什么样?

习题

第五章 数据的描述与抽样习题课八 抽样误差

本课练「误差的两把尺」:标准误与样本量,以及有限总体的修正。

练 8.1 某调查抽 400 人,赞成率为 0.5。求标准误,并给出 95% 置信下的误差界限。

答:SE = √(0.5×0.5/400) = 0.5/20 = 0.025,故误差界限 = 1.96×0.025 = 0.049,即 ±4.9%。报告「支持率 50%,误差 ±4.9%」是标准写法——不写误差的调查结果,等于没写。

练 8.2 若已知赞成率约 0.3、样本量为 1000,求 95% 误差界限。

答:SE = √(0.3×0.7/1000) = √0.00021 ≈ 0.0145,误差 = 1.96×0.0145 ≈ ±2.84%。可见同一样本量下,p 越接近 0.5 误差越大(0.5×0.5 是 p(1−p) 的最大值),故 8.1 的 ±4.9% 比这里宽。

练 8.3 要把误差压到 ±2%(95% 置信),至少需要多少样本?

答:n ≥ 1.962×0.25 / 0.022 = 0.9604/0.0004 = 2401。记住两条对照:3% → 1068 人,2% → 2401 人;精度翻一倍,代价翻两番(因为误差 ∝ 1/√n)。

练 8.4 总体 N = 5000,样本 n = 500,抽样比例达 10%。有限总体校正系数是多少?对标准误影响几何?

答:系数 = √((N−n)/(N−1)) = √(4500/4999) ≈ 0.949,即标准误缩小约 5%。抽样比小于 5% 时可忽略这个系数(系数 ≈ 1);但抽样比很大、甚至接近全面调查时,它会把误差压向 0——毕竟抽完所有人,就不存在抽样误差了。

练 8.5 样本量由 400 增到 1600,误差界限如何变化?把误差从 4% 压到 2%,样本量要乘几倍?

答:样本量 ×4,标准误 ÷√4 = 2,误差界限减半(±4.9% → ±2.45%)。反之要让误差减半,样本量须乘 4。这就是「精度是最贵的商品」——每一分精度的提升,代价呈平方增长。

练 8.6 判断:① 抽样误差可以算出;② 非抽样误差也能用公式估计;③ 增大样本量能减小非抽样误差。

答:① 对——在随机抽样下它有确定的概率分布,可算、可控;② 错——问卷设计缺陷、测量错误、无应答、录入错误等没有统一的概率模型,只能靠制度与流程去防;③ 错——恰恰相反,样本越大,若流程有系统性偏差,错误的总量和影响范围越大。抽样误差是「随机」的病,可治;非抽样误差是「系统」的病,须防。

小结:抽样误差=z·√(p(1−p)/n)。它的三条性格:随 n 按平方根衰减、随 p 趋中而变大、总量有限时须打折。

习题

第五章 数据的描述与抽样习题课九 统计量与抽样分布

本课练「从样本到统计量,再到分布」:一座由样本通往总体的桥。

练 9.1 某零件长度 10 次测量值:9.8, 9.9, 10.0, 10.0, 10.1, 9.95, 10.05, 9.85, 10.2, 9.9。求样本均值与样本标准差。

答:和 = 99.75,x = 99.75/10 = 9.975。偏差平方和 ∑(xi−x)2 = 0.13125,故 s2 = 0.13125/9 ≈ 0.01458,s ≈ 0.1208。分母用 n−1 = 9——这是样本方差的标准写法。

练 9.2 设总体 X ~ N(50, 102),样本量 n = 25。求 x 的标准差,并求 P(48 ≤ x ≤ 52)。

答:σx = σ/√n = 10/5 = 2。标准化得 Z = (48−50)/2 = −1 与 +1,故概率 = 2Φ(1) − 1 = 0.6826。「±1σ 含 68%」这条经验,对样本均值同样成立,只是这里的 σ 换成了 σ/√n。

练 9.3 承接练 9.2,若样本量增到 n = 100,重求同一概率;说明样本量对「估计精度」的作用。

答:σx = 10/10 = 1,Z = ±2,概率 = 2Φ(2) − 1 = 0.9544。样本量从 25 增到 100,同一区间内的命中率由 68% 升到 95%——样本均值的「散布」被压缩到原来的一半。这就是「多测几次更准」的数学版本。

练 9.4 说出 x 与 S2 的期望与方差(已知总体均值 μ、方差 σ2)。

答:E(x) = μ,Var(x) = σ2/n;E(S2) = σ2。两条性质合起来说:样本均值无偏且随 n 收敛;样本方差无偏。前者是中心极限定理的立足点,后者是「除以 n−1」的理由(见本章挑战一)。

练 9.5 为什么说「抽样分布」是一座桥?一句话把它与「用样本推断总体」连起来。

答:因为它把「样本里能算出的量」与「总体里想知道的量」用概率关系绑在一起:知道 x 的分布,就能反过来判断它离 μ 有多远、这种偏差有多大可能。没有抽样分布,样本就只是一个孤零零的数;有了它,样本才开口说话。

练 9.6 判断:① 样本均值的期望等于总体均值,无论总体是什么分布;② 样本均值的分布一定是正态;③ S2 是 σ2 的无偏估计,所以 S 也是 σ 的无偏估计。

答:① 对(只要期望存在,无需正态);② 错——总体正态时才对;否则要靠中心极限定理在大样本下近似,或本身就是别的分布;③ 错——无偏性不能穿过函数:E(√X) ≠ √(E(X))(本章习题课三练 3.6 已见)。实际上 E(S) < σ,样本标准差系统性地偏小。

小结:统计量是样本的函数,抽样分布是统计量的分布。记住三个数:E(x) = μ、Var(x) = σ2/n、E(S2) = σ2。

习题

第五章 数据的描述与抽样习题课十 三大分布与查表

本课练「查表的手感」:χ2、t、F 三张表怎么读、读什么。

练 10.1 查 χ20.05(10) 与 χ20.95(10),并说明两个下标各表示什么。

答:χ20.05(10) = 18.307,χ20.95(10) = 3.940。下标表示曲线下右侧的面积(上侧概率):前者是「右尾 5% 的临界点」,后者是「右尾 95%」——后者其实在分布的左端,因 χ2 只取正值。两尾一夹,就是中间 90% 的范围。

练 10.2 查 t0.025(15),并与 z0.025 = 1.9600 比较,说明差别的原因。

答:t0.025(15) = 2.1314,比 1.96 大约 8.7%。原因:t 分布多了一层不确定性——它用样本标准差 S 代替了真值 σ,尾更厚,因此同样要圈 95% 的中间部分,就必须往外多让一点。自由度越大,t 越接近正态:t0.025(120) = 1.9799,已在 1.96 附近。

练 10.3 查 F0.025(9, 9) 与 F0.05(9, 9),说明两个自由度的含义。

答:F0.05(9,9) = 3.179,F0.025(9,9) = 4.026。两个自由度分别是分子的自由度与分母的自由度(顺序不可颠倒)。F 分布只取正值、右偏,常用于比较两个方差的大小——这正是第六章方差检验的主角。

练 10.4 设 n = 10 的正态样本给出 s2 = 1.5,若 σ2 = 1,统计量 (n−1)s2/σ2 取值多少?它在 χ2(9) 分布中算「大」吗?

答:取值 = 9 × 1.5 / 1 = 13.5。查表知 χ20.05(9) = 16.919,而 P(χ2(9) > 13.5) ≈ 0.141。大于 13.5 的情形还有 14% 的可能,属常见范围,不能据此判定 s2 偏大。「看着大」不等于「统计上大」——一切以概率说话。

练 10.5 为什么 χ2(9) 的自由度是 9 而不是 10?

答:因为 ∑(Xi−X)2 中的 10 个偏差被一个约束绑住:∑(Xi−X) = 0,只要知道其中 9 个,第 10 个自动确定。自由度=独立信息的条数=变量个数减去约束个数,这是「自由度」这个名字最直白的解释。

练 10.6 判断:① χ2 分布可以取负值;② t 分布关于 0 对称;③ F 分布的倒数仍服从 F 分布(自由度互换)。

答:① 错——χ2 是平方和,恒非负;② 对,t 分布以 0 为中心对称,故 t1−α = −tα;③ 对,若 F ~ F(m, n),则 1/F ~ F(n, m)——这条性质让下侧临界值可由上侧表反查,省掉半张表。

小结:卡方管平方和(恒正、右偏),t 管「用 S 代 σ」的均值(对称、尾厚),F 管两方差之比(恒正、右偏)。查表先看下标是上侧概率,再看自由度顺序。

习题

第五章 数据的描述与抽样习题课十一 应用综合

本课把本章的工具拧成一股绳,走完「数据 → 描述 → 抽样 → 结论」的全流程。

练 11.1 一次民调抽 1200 人,某候选人支持率 0.46。写出完整报告(点估计、标准误、95% 误差界限),并判断「支持率过半」的说法是否成立。

答:点估计 p = 0.46;SE = √(0.46×0.54/1200) ≈ 0.0144;误差界限 = 1.96×0.0144 ≈ ±2.8%,即 95% 置信区间 [43.2%, 48.8%]。区间完全落在 50% 以下,「过半」的说法不成立——但它离 50% 只有一步之遥,属「胶着」而非「稳输」。

练 11.2 某生产过程内径规格 10 ± 0.05 mm。连续抽检 20 件的均值 = 10.03、s = 0.02。问:① 过程是否「偏中心」?② 若带宽 ±3s,工序能力是否够?

答:① 规格中心是 10.00,样本均值 10.03 明显偏上,过程「跑偏」了——虽仍在规格内,但已吃掉大半余量。② 3s = 0.06,而上下规格各只有 0.05,带宽超出规格范围,工序能力不足(Cp = 0.10/(6×0.02) ≈ 0.83 < 1)。结论:先纠偏,再减小波动,否则迟早出界。

练 11.3 某品牌电池抽 16 只测续航:均值 8.4 h、样本标准差 0.6 h。① 写出续航均值的标准误;② 若厂家标称 8 h,样本是否提供「超标称」的证据(只看点估计)?

答:① SE = 0.6/√16 = 0.15 h。② 点估计 8.4 > 8,方向上支持「超过标称」;但是否显著要看 8.4 离 8 有几个标准误:(8.4−8)/0.15 = 2.67,这个数在第六章会叫「检验统计量」。本章先把尺子造好,下一章才用它作判决。

练 11.4 某班成绩的箱线图为:最小值 45、Q1 = 62、中位数 71、Q3 = 80、最大值 95。① 求 IQR 与上下栅栏;② 判断偏斜方向;③ 若某生得 100 分,是否异常?

答:① IQR = 80 − 62 = 18,栅栏 = 62 − 27 = 35 与 80 + 27 = 107。② 中位数 71 略偏左(左半宽 9、右半宽 9 相等,上下须长 17 与 15 相近),近似对称、略有左偏。③ 100 < 107,不构成异常值——「高分」未必「离群」,判据是栅栏,不是感觉。

练 11.5 判断:① 描述统计就是算均值方差;② 抽样调查的结论对「抽样框内的总体」成立;③ 一份好的统计报告应当给出误差与样本量。

答:① 错——描述统计包括表、图、集中与离散、位置与形状,算均值方差只是其中一小块;② 对,这是外推的边界——若抽样框漏掉了某类人,结论不得越界;③ 对,「数 + 误差 + 样本量」是统计结论的三件套,缺一件就无法判断可信度。

练 11.6 自选一个身边的实际问题,写出「用本章方法解决它」的四步方案。

答(示例:校内食堂满意度):① 定义与测量——把「满意度」定为 1–5 分的评分;② 抽样——以全体在校生为抽样框,按年级分层、比例分配,抽约 400 人;③ 描述——算均值、中位数、标准差,画直方图与箱线图看分年级差异;④ 报告——给出均值与 95% 误差界限,并说明结论的适用范围。四步走完,就完成了一次正规的统计调查。

小结:本章的全部工具服务于一句话——用有限的数据,说有限度的话。「有限度」三个字,就是标准误、误差界限与抽样框共同划出的边界。

习题

第五章 数据的描述与抽样复盘:错题归档与三问自测

一章练完,最后一步是「归档」:把错的地方按类型收好,把对的地方变成直觉。

一、错题归档表

错误类型典型错法正确做法
分母之误样本方差用 n 除样本方差用 n−1;总体方差用 n
分组之误组距不等却仍按频数作柱高组距不等时柱高取频率密度 fi/Δ
位置之误把 P90 读成「得 90 分」分位数读作「位置」,P90=约 90% 的人不高于它
偏斜之误不看形状就报均值右偏时中位数比均值更能代表「典型值」
抽样之误以为样本越大越准(不问抽样框)先问「框全不全」,再问「量够不够」
误差之误把 ±4.9% 当成「算错了 4.9%」它是随机波动的度量,不是错误
查表之误下标上侧概率搞反、自由度顺序颠倒下标=右尾面积;F 先分子后分母
外推之误把样本结论直接搬给全体结论只对抽样框内的总体、且带误差界限

二、三问自测

问 1 面对一堆数据,我先做什么?

答:先看,再算。一句话顺序是:排序 → 分组 → 画图 → 定量。图(直方图、箱线图、茎叶图)让看见分布的形状、异常与偏斜;看不见形状就算均值,等于闭着眼挑衣服。

问 2 一个数够不够描述一组数据?

答:永远不够。「中心 + 离散 + 形状 + 样本量」四件套齐了,才算描述完整。同一个均值 100,标准差可以是 1,也可以是 30——它们讲的是两个完全不同的世界。

问 3 样本的结论,凭什么能说到总体?

答:凭抽样分布这座桥。随机化让样本「无偏地代表」总体,抽样分布则给出「x 离 μ 会有多远」的概率规律。于是我们可以说:「在 95% 的重复抽样中,这样的区间会盖住真值。」能说这句话,统计就从描述走进了推断——这正是下一章的门槛。

本章到此收官。回望一眼来路:我们从「把数字排列整齐」开始,走到「用样本为总体作证」为止。下一章,我们把这座桥走完——估计与检验,等在前面。

格物札记

第五章 数据的描述与抽样格物札记① 凯特勒与「平均人」:统计学的社会科学转向〔数据〕

「均值」「标准差」这两个词今天人人会说,可它们最初并不是为赌桌造的,而是为一个国家的身体造的。把正态曲线从天文误差里请出来、安到人身上的,是一位比利时人——阿道夫·凯特勒(Adolphe Quetelet,1796–1874)。他没有做过一次掷骰子的实验,却为统计学劈开了一整片新大陆。

凯特勒本是天文学家,曾主持布鲁塞尔天文台。做天文测量的人都懂误差:同一个人反复量同一个角,读数围绕真值起伏,画出误差的分布,那条钟形曲线便浮出来。凯特勒的灵感来得很直接:既然天体的观测误差服从正态,那么人的身体、人的行为,是不是也服从?

1835 年:「平均人」的诞生

这一年,他出版《论人及其才能的发展,或社会物理学试论》(Sur l'homme et le développement de ses facultés, ou Essai de physique sociale)。书中他把大量士兵的身高、胸围、体重,以及出生、死亡、犯罪、婚姻的数字摆在一起,做了一件此前无人做过的事——把它们画成分布。

结果令他吃惊:人的身高、胸围竟然也近似服从正态分布,中间高、两头低,像一条安静的钟形曲线。于是他提出一个概念——「平均人」(l'homme moyen):一个社会中,各项身体与行为指标都取均值的那个人。凯特勒认为,个体千差万别,但作为一个整体,社会呈现出惊人的规律性;偏离均值者,则被视为「偏离常轨」。

凯特勒由此把统计学从「描述一组数字」提升为「发现社会规律的方法」。他的名言大致是:社会有它的「物理」——不是比喻意义上的,而是真的可以测量、可以计算的规律。

这套想法的影响极深远,也极有争议。深远之处:他把概率论与社会科学正式接了轨,统计学从此不再只是税册与账簿,而成了研究「人」的科学;1853 年他促成在布鲁塞尔召开第一届国际统计大会,把「如何统计」变成了各国共同的事。「社会物理学」(physique sociale)这个词,甚至启发了孔德——孔德后来用的「社会学」(sociologie)正是从这个词挤出来的。

争议之处同样重要。凯特勒的「平均人」暗含一个危险的推论:平均数不只是描述,还成了标准——偏离平均就被当作「反常」。19 世纪后期,这种思路被一些社会理论家推到了决定论的方向,把「犯罪率稳定」读成「个体无从选择」。后来的统计学家花了很久才把两件事分清楚:总体上的稳定规律,不等于个体没有自由;均值是一个描述量,不是一个道德标准。这一课,到今天都还没有完全部通过去。

延伸对读:斯塔尔(Stephen Stigler)《统计学的历史》中「凯特勒与平均人」一章,专讲这条曲线如何从天文走进社会;也可对照伊恩·哈金(Ian Hacking)《驯服偶然》(The Taming of Chance)前三章,看「规律」的观念怎样在 19 世纪被「发明」出来。〔数据〕

格物札记

第五章 数据的描述与抽样格物札记② 南丁格尔的玫瑰图:一张图如何拯救生命

提起弗洛伦斯·南丁格尔(Florence Nightingale,1820–1910),人们想到的通常是「提灯女神」——克里米亚战地医院里那位深夜巡房的护士。但她真正改变世界的,或许不是那盏灯,而是一叠图。她被后世统计学家称作「统计图形的女王」,是皇家统计学会的第一位女性会员;而帮她完成这一切的武器,正是本章讲的两件事:数据整理与用图表说理。

1854 年,克里米亚战争前线传来惊人消息:英军士兵在战地医院里的死亡率高得离谱。南丁格尔率护士团赴前线,很快就发现——倒下的人里,死于伤口的只是少数,绝大多数死于伤寒、霍乱、痢疾这类可以预防的疾病。问题不在战火,在于污秽的病房、堵塞的下水道与糟糕的通风。

1858 年:把整支军队的死因画成一张「玫瑰」

回国后,南丁格尔与统计学家威廉·法尔(William Farr)合作,把两年间的死亡数据整理成表,再画成一种极区图(极坐标图,后人称「玫瑰图」或「鸡冠图」):圆心是月份,扇形半径表示当月死亡人数,不同颜色表示不同死因。

这张图的力量在于——一眼就能看出,代表「可预防疾病」的那一大片蓝色,远远大过代表「战伤」的红色。数字若只以表格列出,要费很大力气才能比较;画成图,观者在一秒之内就被说服。这种「用面积讲道理」的设计,被称为统计图形史上最早、最有力的论证之一。

南丁格尔把这张图送到维多利亚女王与议员面前。它带来的直接后果,是军队医院卫生制度的改革与一项皇家委员会的成立——此后的战地死亡率大幅下降。她后来常说,自己真正的工作是「用统计说话」:没有数字,要求改革的呼吁只是恳求;有了数字与图,呼吁就变成了证据。

这件事与本册第五章的关系,值得再看一眼。她做的每一步,都是本章的动作:先定义要数什么(死因分类)、再整理成表(频数分布)、再转成图(视觉化)、最后据图作出判断(结论与建议)。她也极其克制地遵守了一条纪律——所有结论都注明数据来源与统计口径,绝不含糊。「让数据自己说话」,她是最早的实践者。

延伸对读:南丁格尔 1858 年提交的《军队卫生状况的调查报告》及其极区图,图版在网络上多有流传,值得与原数据对照着看一遍;另一条线可读《统计图形史》中关于「以图论证」的章节——它专门讨论:为什么同样一组数,画对了图,说服力会差出整整一个量级。〔数据〕

综合站

第五章 数据的描述与抽样章小结:知识图谱与方法表

本章是一条从「一堆数字」到「一句有分寸的结论」的路。把六件事串起来看,路就清楚了。

① 整理频数分布表(分组·划记·频率·累积频率)→ 直方图(面积 ∝ 频率)。先验两和:频数和=n,频率和=1。
② 集中均值(全信息、怕异常)、中位数(只看位置、抗异常)、众数(挑峰值、可并列)。关系:右偏时 众数 < 中位 < 均值。
③ 离散极差(粗)、方差与标准差(细、同量纲)、变异系数(跨量纲比较)。平移不变、缩放同比。
④ 位置与形状分位数、五数概括、IQR 与 1.5·IQR 栅栏筛异常;茎叶图、箱线图、散点图各司其职。
⑤ 抽样抽样框要齐、随机化要真、样本量要够。简单随机/分层/系统/整群,各有软肋与长处。
⑥ 抽样分布统计量的分布是「样本 → 总体」的桥。E(x) = μ,Var(x) = σ2/n;χ2、t、F 三张表。

方法表

方法/量公式或要点适用与警示
分组均值x = ∑fixi / ∑fi(xi 取组中值)组距不大时近似良好
样本标准差s = √(∑(xi−x)2 / (n−1))分母 n−1,不写 n
简化公式s2 = (1/n)∑xi2 − x2手算用;注意量纲的平方
变异系数CV = s / x跨量纲、跨量级比较波动
异常值判别落在 [Q1−1.5·IQR, Q3+1.5·IQR] 之外只标「可疑」,不下判决
比例的标准误SE = √(p(1−p)/n)p 取样本值;最保守取 0.5
样本量设计n ≥ zα/22 · 0.25 / e23% → 1068;2% → 2401
样本均值的分布E(x) = μ,Var(x) = σ2/n期望无需分布假设;正态性需条件
三大分布(n−1)S2/σ2 ~ χ2(n−1);(x−μ)/(S/√n) ~ t(n−1)正态总体下成立;查表看自由度

一句话总纲:描述统计负责「说清楚这堆数据」,推断统计负责「用样本说总体」;而两者之间的桥,是抽样分布。

综合站

第五章 数据的描述与抽样思想卡:样本——总体的缩影

一勺汤,怎样代表整锅汤?

厨房里有个老办法:想知道汤咸不咸,不必把整锅喝完,舀一勺尝尝即可。这勺汤之所以可信,是因为它和整锅汤的成分相同——只要搅拌得足够匀。

统计学的全部起点,就是这个朴素的类比。总体是整锅汤,样本是那一勺,随机抽样就是那根搅拌棒。没有搅拌,舀到的是表层;搅拌不匀,舀到的仍是偏的。「随机化」这三个字,就是统计学的那根搅拌棒。

但类比到此为止会误导人。汤是连续的、均质的,而人要复杂得多:每个个体都不同,样本与总体之间只存在概率意义上的相似,而不是物理意义上的相同。于是问题变成了:这种「相似」能精确到什么程度?——答案就是抽样分布。

缩影的三条保证

第一条:无偏。E(x) = μ——样本均值不会系统性地骗我们;它有时偏高、有时偏低,平均而言正正好。这条不依赖总体分布,只要期望存在。

第二条:可控。Var(x) = σ2/n——偏差的「散布」可以被计算、被设计。样本量一乘四,散布减半。统计之所以能作为一门工程,靠的正是这一条。

第三条:可知形。样本量足够大时,无论总体长什么样,x 的分布都趋向正态。这是中心极限定理——它把「缩影」的形状也一并告诉了我们。

把三条合起来读,就得到一句可以随时掏出的话:「样本是总体的缩影,但缩影是有误差的;而误差的大小,恰好是我们能算出来的。」这句话的前半句是信念,后半句是方法——统计学的位置,就站在信念与方法之间。

留一个反问给自己:如果样本不是随机得来的(比如只调查了愿意回答的人),上面三条还有哪一条成立?答案是:一条也不成立。随机化不是技术细节,而是全部保证的前提。

综合站

第五章 数据的描述与抽样挑战一 样本方差为何除以 n−1(无偏性的证明)

本章反复强调:算样本方差时分母用 n−1,不用 n。这不是「习惯」,而是一条可以被证明的定理。现在把它证完。

命题 设 X1, X2, …, Xn 是来自某总体的独立同分布样本,E(Xi) = μ,Var(Xi) = σ2。则样本方差 S2 = ∑(Xi − X)2 / (n − 1) 满足 E(S2) = σ2,即 S2 是 σ2 的无偏估计。

证明 关键是先把「围绕样本均值的偏差」改写为「围绕总体均值的偏差」。注意 Xi − X = (Xi − μ) − (X − μ),平方后求和:

∑(Xi − X)2 = ∑(Xi − μ)2 − 2(X − μ)∑(Xi − μ) + n(X − μ)2

而 ∑(Xi − μ) = n(X − μ),代入中间项得 −2n(X − μ)2,于是

∑(Xi − X)2 = ∑(Xi − μ)2 − n(X − μ)2

两边取期望。左起第一项:由独立性,E[∑(Xi − μ)2] = ∑σ2 = nσ2;第二项:E[n(X − μ)2] = n·Var(X) = n·(σ2/n) = σ2。故

E[∑(Xi − X)2] = nσ2 − σ2 = (n − 1)σ2

除以 n−1,即得 E(S2) = σ2。∎

为什么「除 n」会偏小?一句话说清

样本均值 X 是由样本自己算出来的,它天然离样本比离 μ 更近——因为 ∑(Xi − X)2 恰好是「围绕 X 的偏差平方和」,而 X 正是使这个和最小的那个点。用了一个约束(∑(Xi−X) = 0)就损失了一「份」独立信息,所以分母要减 1 补偿回来。

上面的推导给出了这个「损失」的精确大小:E[∑(Xi−X)2] = (n−1)σ2,比 nσ2 少了整整一个 σ2。若坚持除以 n,系统性偏低的比例恰为 (n−1)/n。

模拟验证(可复现,固定随机种子):取 n = 5、标准正态总体、重复 20 万次。除以 n−1 的样本方差均值约 1.0034(理论值 1);除以 n 的均值约 0.7990,与理论比值 4/5 = 0.8 吻合。数字与公式互相印证,这条定理就算真正落地了。

一句提醒:无偏性是对「重复抽样」说的——每一次抽样未必准,平均而言才准。把无偏读成「一定准」,是把期望当成了事实。

综合站

第五章 数据的描述与抽样挑战二 中心极限定理在抽样调查中的应用

第四章末尾我们证明了中心极限定理。它在本章有一个极其具体的用途:给「抽样调查的结论」装上误差刻度。现在把这条链条完整走一遍。

可用的结论(大样本) 设总体均值为 μ、方差为 σ2,样本量 n 充分大,则

(X − μ) / (σ/√n) 近似服从 N(0, 1)

因此 P(|X − μ| ≤ zα/2 · σ/√n) ≈ 1 − α。注意:这里不要求总体服从正态。

第一层应用:把点估计变成区间估计。民调中 σ 未知,但比例型变量的方差可由 p(1−p) 估出,于是「支持率 46%」应改写为「46% ± 2.8%」。这个「±」不是含糊其辞,而是用中心极限定理算出来的硬指标。

第二层应用:样本量设计——反过来用同一个定理。要让误差不超过 e,只需解不等式 zα/2·√(0.25/n) ≤ e,得 n ≥ zα/22·0.25/e2。这就是「误差 3% ⇒ 抽 1068 人」的来历:它不是经验数字,而是定理的直接推论。

第三层应用:近似地算出「极端情况」的概率。掷 30 粒骰子,和 S 的均值 = 30 × 3.5 = 105,标准差 = √(30 × 35/12) = √87.5 ≈ 9.354。用连续性修正求 P(S ≥ 120):

P(S ≥ 120) ≈ P(Z ≥ (119.5 − 105)/9.354) = P(Z ≥ 1.550) ≈ 0.061

即约 6%。若没有中心极限定理,这里要枚举 630 种情况——那是一个天文数字;有了它,一次查表就够了。这就是「极限定理」四个字的分量。

三条使用须知(最容易被忽略的地方)

① 样本量要「充分大」,但多大算大取决于总体有多偏。对称、无重尾的总体,n = 20 就已相当好;强偏态(如收入、理赔额)则可能需要几百以上。先画一张直方图,比背一个数字更靠谱。

② 独立性不能省。若样本来自同一个家庭、同一个班、同一条生产线,彼此相关,则 Var(X) = σ2/n 会低估真实方差,误差界限被算得太窄——「自信满满地错」是抽样调查最常见的翻车方式。

③ 它管的是抽样误差,不管非抽样误差。问卷设计有偏、无应答者特殊、抽样框不完整——这些都不在定理的射程之内。定理给出的是「随机」的账,不是「系统」的账。

一句话收束:中心极限定理把「不确定」变成了「可计算的量」。它的伟大不在于公式漂亮,而在于它把误差从一种「遗憾」变成了一种「指标」——从此,我们可以在不确定中作出有把握的决定。

综合站

第五章 数据的描述与抽样实验:用模拟展示抽样分布——从总体到样本均值

抽样分布是本章最抽象的概念,却也是最适合用计算机「看见」的概念。方法:把「抽样」这件事重复成千上万次,每次记下样本均值,再画这成千上万个均值的直方图——看到的,就是抽样分布。

取总体为一颗均匀骰子:μ = 3.5,σ2 = 35/12 ≈ 2.9167,σ ≈ 1.7078。每个样本量 n 重复 20000 次,结果如下(固定随机种子,可复现):

样本量 n理论标准误 σ/√n模拟标准差相对偏差模拟出的均值
11.70781.7067−0.1%3.5109
40.85390.8493−0.5%3.4930
90.56930.5743+0.9%3.4988
160.42700.4275+0.1%3.4993
360.28460.2829−0.6%3.4984

三件事值得逐条读出:① 模拟标准差与理论值 σ/√n 的偏差都在 1% 以内——公式是对的;② 所有模拟均值都极接近 3.5,且无系统性偏向——无偏性是对的;③ 标准差随 n 增大而缩小,但不是按 n 缩、而是按 √n 缩:n 从 1 涨到 36(36 倍),标准误只降到 1/6。

同一总体的抽样分布:n 越大,钟形越窄 总体均值 μ = 3.5(三条曲线共用同一中心) n = 1(即总体本身) n = 4:宽度减半 n = 16:再减半 曲线高度已按「面积=1」调整,故越窄者峰越高;三条曲线同中心、同面积、不同宽度
图 5-32 抽样分布随 n 的收窄。中心不动(无偏),宽度按 1/√n 收缩——本册第五章全部方法的图像总纲。

动手做 用 Python 复现这张表(无需任何统计库):

import random, statistics, math
random.seed(20260930)
for n in (1, 4, 9, 16, 36):
    ms = [statistics.mean(random.randint(1, 6) for _ in range(n))
          for _ in range(20000)]
    print(n, round(statistics.pstdev(ms), 4), round(math.sqrt(35/12/n), 4))

建议继续改三处:① 把骰子换成「有偏骰子」(六点概率加倍),看无偏性是否仍成立;② 把总体换成强偏态的分布(如指数分布),观察 n 多小才开始像正态;③ 令 n 固定而重复次数从 1000 增到 100000,看模拟标准差如何向理论值收敛。第三次改动最有意思——它本身就是大数定律的又一次现身。

综合站

第五章 数据的描述与抽样章测试与评讲

一、填空(每题 4 分)

1 总体均值 μ、方差 σ2,样本量 n。E(x) = __,Var(x) = __,E(S2) = __。

2 数据 2, 4, 4, 6, 9 的中位数为 __,样本标准差为 __(三位小数)。

答:1. μ、σ2/n、σ2(三者分别是无偏、可设计、无偏的根据)。2. 中位数 4;均值 5,偏差平方和 = 9+1+1+1+16 = 28,s = √(28/4) = √7 ≈ 2.646。

二、选择(每题 5 分)

3 变量明显右偏时,最能代表「典型水平」的是( )
(A)均值 (B)中位数 (C)最大值 (D)极差

4 其他条件不变,样本量由 100 增到 400,抽样误差( )
(A)不变 (B)减半 (C)变为 1/4 (D)增大

5 关于 t 分布,正确的说法是( )
(A)关于 0 对称,自由度越小尾部越厚 (B)只取正值 (C)自由度越小越接近正态 (D)期望随自由度变化

答:3. B——长尾把均值往右拽,中位数更「像典型值」。4. B——误差 ∝ 1/√n,√4 = 2。5. A。t 对称、取全域、期望恒为 0,自由度越大越接近正态。

三、计算(每题 12 分)

6 数据(已排序,n = 11):6, 9, 11, 13, 14, 17, 19, 22, 24, 27, 40。求五数概括与 IQR,并判断 40 是否为异常值。

答:中位数取第 6 个 M = 17;下半中位数 Q1 = 11,上半中位数 Q3 = 24。五数 = (6, 11, 17, 24, 40),IQR = 13,栅栏 = −8.5 与 43.5。40 < 43.5,不算异常值(n 小时栅栏偏宽,判据灵敏度随之下降)。

7 某工厂抽 100 件,平均长度 20.05 mm、样本标准差 0.30 mm。① 求样本均值的标准误;② 若要求比例估计误差不超过 4%(95% 置信),至少需多少样本?

答:① SE = 0.30/√100 = 0.03 mm,样本均值距规格中心 20.00 约 0.05/0.03 ≈ 1.67 个标准误,偏上但幅度有限。② n ≥ 1.962×0.25/0.042 = 601 人。

8 正态总体 σ = 12,抽 n = 36,求 P(|x − μ| ≤ 3)。

答:σx = 12/6 = 2,P = P(|Z| ≤ 1.5) = 2Φ(1.5) − 1 ≈ 0.8664。同一个「±3」,换了样本量含义就完全不同——故标准误必须与样本量一起报告。

四、简答(每题 10 分)

9 为什么样本方差的分母要用 n−1?从「信息」的角度作答。

答:∑(Xi−X)2 中的偏差被一条约束 ∑(Xi−X) = 0 绑住——知道 9 个,第 10 个就被唯一确定。独立偏差只有 n−1 个(自由度),故分母取 n−1;用 n 除会系统偏小,比例恰为 (n−1)/n。

10 「样本量大就一定准确」对吗?举一反例并说明理由。

答:不对。1936 年《文学文摘》收回 240 万份问卷仍预测失败,问题在抽样框偏向富裕阶层。样本量只能压缩抽样误差(∝ 1/√n),对非抽样误差与系统偏倚毫无作用;偏倚样本越大,只是把同一个错误数得更多、报得更自信。

评讲要旨:本章最易失分处有三——① 样本方差的分母(n−1);② 混淆标准差与标准误(前者量个体散布,后者量统计量的散布);③ 给结论时不报样本量与误差。盯住这三处,本章即过关。

第六章

统计推断:估计与检验

用样本推断总体:点估计给一个数,区间估计给一个范围,假设检验作一个判断。t 检验、卡方检验、回归分析连接起临床试验与 A/B 测试。全书在此收官——从骰子到数据,偶然中确有秩序。
页型节奏:讲义×18 → 例题×12 → 习题×12 → 格物札记×2 → 综合站×6
讲义

第六章 统计推断:估计与检验6.1 导引:用样本推断总体〔数据〕

第五章我们学会了把一堆数据说清楚:算出均值、画出直方图、报出标准差。可那始终是对数据本身说话。真正的野心在下一步——能不能绕过数据,直接对数据背后那个世界下判断?这正是统计推断(statistical inference)的全部内容。

这件事的历史比我们想的早。1662 年,伦敦一位做布料生意的商人约翰·格兰特(John Graunt)把教区每周公布的死亡登记表逐条整理,用一小部分教区的记录去推算整座城市的人口与死亡率,写成《死亡表观察》。他没有见过伦敦的每一个居民,却敢为这座城市的总人口报出一个数——这是人类第一次用可以数清的部分去说数不清的整体。一百多年后,拉普拉斯用巴黎等地的出生记录估计全法国人口约两千五百万,方法是把「局部出生率」当成「全国出生率」来用。这套动作,今天叫统计推断。

两类问题,两条道路

设总体分布里有一个我们不知道的常数,称为参数,记 θ(读作 theta)。统计推断要回答的,只有两种问法:

① 估计——θ 大约等于多少?(民调里「支持率大概是多少」)

② 检验——θ 是不是等于某个指定的值?(质检里「这批货的均值还是不是 250 克」)

问法不同,工具也不同。对应地,本章前半讲估计(点估计与区间估计),后半讲检验(假设检验与卡方检验)。

最朴素的一个模型,还是骰子与硬币。掷一枚硬币 100 次,出现 60 次正面。请问:这枚硬币正面朝上的概率 p 是多少?

直觉会说「六成吧」。可这句话里藏着两重含糊:第一,「六成」只是一个猜测,硬币的真值 p 可能恰好是 0.60,也可能只是这 100 次碰巧出了 60 次;第二,如果不满足于一个数,我们最多能把 p 圈到什么范围里?第一个问题给出一个点,第二个问题给出一个区间——这就是「点估计」与「区间估计」的分野。

由样本到总体:一次推断的全景 总体(看不见) 分布已知形状 参数 θ 未知 —— 这是我们想问的 —— 随机抽样 样本(看得见) X1​, X2​, …, X_n 共 n 个 算出统计量 x̄, S2​, p̂ 估计 检验 ① θ 大约是多少? 点估计:给一个数 区间估计:给一个范围 ② θ = θ0​ 成立吗? 假设检验:给一个是非判断 推断的底气全在「样本像不像总体」——第五章的抽样分布,正是这座桥 本章主线:点估计(6.2–6.5)→ 区间估计(6.6–6.8)→ 假设检验(6.9–6.13)→ 卡方与回归(6.14–6.16)→ 现代接口(6.17)
图 6-1 一次统计推断的全景。左边是看不见的总体,中间是看得见的样本,右边是我们要下的两种判断。桥墩是第五章留下的抽样分布。

本章路线:先解决「给一个数」(点估计,§6.2–6.5,含矩估计、最大似然与三条评价标准),再解决「给一个范围」(区间估计,§6.6–6.8),然后进入「给一个是非」(假设检验,§6.9–6.13),最后三节走出教科书——卡方检验的两个实用形态(§6.14–6.15)、回归初步(§6.16)与现代接口(§6.17)。

讲义

第六章 统计推断:估计与检验6.2 矩估计法:用样本矩替换总体矩

要猜一个未知参数,最省事的办法是:看它跟哪个「已知的模式」挂钩,就把那个模式用样本里的对应物顶上去。这个想法朴素得像一句常识,却是统计估计的第一种系统方法,称为矩估计法。

先分清两套「矩」。总体分布有它的矩:一阶原点矩就是期望 E(X),二阶中心矩就是方差 Var(X)。样本也有它的对应物:样本均值 X、样本二阶中心矩 B2 = (1/n)∑(Xi − X)2。既然样本是总体的缩影,那么「样本的矩」理应接近「总体的矩」。

矩估计法

设总体分布含 k 个未知参数 θ1, …, θk。令前 k 阶总体原点矩等于对应的样本原点矩,得到 k 个方程,解出 θ1, …, θk,所得的解就叫矩估计量。

只含一个参数时,一句话:把总体均值 E(X) 换成样本均值 X,解出参数。

看三个例子,就知道这套替换有多好用。

矩估计:一把尺子换一把尺子 总体矩(含未知参数) E(X) = g(θ) 例如 U(0,θ):E(X) = θ/2 样本矩(可算出) X̄ = (1/n)ΣXi​ 直接由数据算出,不含未知参数 令二者相等 E(X) = X̄ ⟹ g(θ) = X̄ ⟹ θ̂ = g−1​(X̄) U(0,θ) 得 θ̂ = 2X̄;指数分布得 λ̂ = 1/X̄
图 6-2 矩估计的替换思想。左边那支「尺子」刻着未知参数,右边那支用数据就能读出刻度;让它们刻度相同,参数就被反解出来了。

三个常用结果(推导见例 1)

① 均匀分布 U(0, θ):E(X) = θ/2,故 θ̂ = 2X。

② 指数分布 Exp(λ):E(X) = 1/λ,故 λ̂ = 1/X。

③ 正态分布 N(μ, σ2):两个参数,用前两阶矩。μ̂ = X,σ̂2 = B2 = (1/n)∑(Xi − X)2。

矩估计法有两个讨人喜欢的品格:一是几乎总能写出式子——只要矩存在,方程就立得起来,不必深究分布的全貌;二是计算简单——大多只是解一元一次或二次方程。但它也有短板:用上了哪些矩、丢掉了哪些信息,全凭我们随意。比如 U(0, θ) 的样本里最大的那个数 max(Xi) 明明透露了 θ 的下界信息,矩估计却对它视而不见。下一节的最大似然法,正是冲着「把数据里的信息榨干」而来。

讲义

第六章 统计推断:估计与检验6.3 最大似然估计:最可能的参数

换个角度问同一个问题。手里已经握着一批数据,这批数据是既成事实。那么:在所有的参数取值中,哪一个最可能产生出我手上这批数据?把「最可能」这个词认真对待,就得到统计学里最有威力的估计方法——最大似然估计(maximum likelihood estimation,常缩写为 MLE)。

提出它的人叫费希尔(R. A. Fisher)。1922 年,他在《理论统计学的数学基础》中系统写下了这套方法,并第一次把「估计」当成一门可以精确讨论的数学问题。费希尔一生几乎重塑了现代统计学——他后来还提出了显著性检验、方差分析,正是下半个世纪的统计语言。他本人是位遗传学家与优生学家,为了研究农田试验里「随机化」的作用,甚至发明了拉丁方设计。

似然函数与最大似然估计

设总体含参数 θ,样本取值为 x1, …, xn。把同一个密度(或概率)函数里 x 与 θ 的角色对调——数据固定不动,把 θ 看作自变量——得到的函数

L(θ) = ∏i=1n f(xi; θ)

叫做似然函数。使 L(θ) 取到最大值的那个 θ,就称为 θ 的最大似然估计,记 θ̂。

这里有一处关键的观念翻转,值得停下来想清楚:概率函数与似然函数是同一个表达式,讲的却是两件事。f(x; θ) 在 θ 已知时读作「出现数据 x 的概率有多大」;一旦数据已经落定,L(θ) 就读作「这组参数解释眼前数据的可信程度有多高」。前者问的是数据的可能,后者问的是参数的可信——同一个式子,换了一个方向读。

计算上有一处常用技巧:连乘难求导,而取对数能把乘积变成求和,且不改变峰值的位置(对数函数单调递增),所以实际都解对数似然方程:

ln L(θ) = ∑i=1n ln f(xi; θ) ⟹ d ln Ldθ = 0

似然函数:曲线的最高点就是「最可能的参数」 θ L 最高点 θ̂(最大似然估计) 参数偏小时,数据不像 参数偏大时,数据也不像 「曲线最高」=「这个参数值最能解释我手上的数据」
图 6-3 似然函数的形状。横轴是所有可能的参数值,纵轴是「这组参数解释数据的能力」。最高点对应的参数,就是最大似然估计。

三个经典结果(推导见例 2):① 伯努利试验成功 k 次/共 n 次,则 p̂ = k/n——「频率就是概率的估计」,原来可以从似然原理里严格推出来;② 正态 N(μ, σ2):μ̂ = X,σ̂2 = (1/n)∑(Xi − X)2(注意分母是 n 不是 n − 1);③ 均匀分布 U(0, θ):θ̂ = max(Xi),正是那个被矩估计丢掉的量。

讲义

第六章 统计推断:估计与检验6.4 估计量的评价标准(一):无偏性

现在手里有了两种办法,都能给出一个 θ̂。可估计量本身是随机变量——换一批样本,它会落到另一个数上。这就像用一把尺子量长度:我们真正在意的不是这一次量得准不准,而是这把尺子长期量下来,有没有系统性偏差。

于是评价估计量的第一条标准,就是看它「打靶」时瞄得正不正。

无偏估计

若 E(θ̂) = θ 对一切 θ 成立,就称 θ̂ 是 θ 的无偏估计量;否则称 E(θ̂) − θ 为它的偏差(bias)。

用一句话记住:无偏,就是「平均意义上瞄得正」——单次可以偏左偏右,反复使用却不会系统性偏离。

两个最重要的结论,第五章已经埋下伏笔,这里正式验收:

① X 是 μ 的无偏估计:由期望的线性性,E(X) = (1/n)∑E(Xi) = (1/n) · nμ = μ。

② S2 是 σ2 的无偏估计,而 B2 不是:E(S2) = σ2,而 E(B2) = n − 1n σ2(B2 即分母取 n 的那个量)。这解释了样本方差为什么除以 n − 1:分母小一点,恰好把「用 X 代替 μ 造成的缩小」补回来。

证明的关键只有一步,值得记住:∑(Xi − X)2 = ∑(Xi − μ)2 − n(X − μ)2。逐项取期望:第一项是 nσ2,第二项是 n · σ2/n = σ2,相减得 (n − 1)σ2。除以 n − 1 刚好得到 σ2,而除以 n 只剩 (n − 1)σ2/n——系统性偏小。二十万次的模拟(见习题课)会给出 S2 ≈ 1.0034 对 B2 ≈ 0.7990,与理论值 1 和 0.8 吻合得严丝合缝。

无偏与有偏:打靶的两种命运 无偏:弹着点围着靶心 E(θ̂) = θ 有偏:弹着点整体偏向右下 E(θ̂) ≠ θ(红点为真实参数)
图 6-4 无偏与有偏。左边的估计量长期使用会落在真值附近;右边的估计量无论打多少次,中心始终偏离靶心——偏差不会因「多打几枪」而消失。

有偏并不等于不好。最大似然给出的 σ̂2 有偏(偏小),却有一致性、有极小的渐近方差——在样本量不大时,统计学界常说「宁可要一个稍偏但更稳的估计」。评价估计量,从来不止一根尺子。

讲义

第六章 统计推断:估计与检验6.5 估计量的评价标准(二):有效性与一致性

无偏只解决了「瞄得正」。可靶心上的十环,还有大小之分——弹着点散得越紧,越可靠。这就引出第二条标准:有效性。

有效性

设 θ̂1 与 θ̂2 都是 θ 的无偏估计。若对一切 θ 都有 Var(θ̂1) ≤ Var(θ̂2),且至少有一个 θ 使不等号严格成立,就称 θ̂1 比 θ̂2 更有效。

两个都是无偏时,方差小的那个更好——因为它「更稳」。

最漂亮的一个对比,是把样本均值 X 与样本中位数 M 放上擂台。两者都能估计正态总体的 μ,都是无偏的,那谁更稳?

答案是 X,而且赢得很干净:Var(X) = σ2/n,而中位数的渐近方差是 πσ2/(2n)。两者之比为 π/2 ≈ 1.5708。也就是说,同一个估计精度,用中位数大约要多吃 57% 的数据。这正是「均值比中位数更有效」的数学根据。

但那句「渐近」——π/2 是 n 很大时的极限。模拟显示:n = 5 时比值约 1.42,n = 25 时约 1.56,n = 400 时才爬到 1.563,缓慢地趋向 1.5708。有效性是「长期账」,样本量小的时候账目未必算得清。

有效性:窄的更有效 M(中位数) X̄(均值) 同为无偏,方差小者更有效 Var(X̄)/Var(M) = 2/π,X̄ 胜 一致性:n 越大越集中 真值 θ n = 5 n = 25 n = 100 n → ∞ 时,分布收缩成一个点
图 6-5 有效性与一致性。左图两条曲线都对准真值,但绿线更窄,故更有效。右图同一个估计量在样本量增大时不断收窄,最终「缩」到真值上——这就是一致性。

一致性(相合性)

若当 n → ∞ 时,θ̂ 依概率收敛到 θ,即对任意 ε > 0 有

P(|θ̂n − θ| < ε) → 1

就称 θ̂ 是 θ 的一致估计量。通俗说:数据够多,估计就够准。这是估计量最低限度的「合格证」——一个连样本量无限大都不能收敛的估计量,几乎没有使用价值。

拿 U(0, θ) 的两个候选来验收:矩估计 2X,标准差 θ/√(3n);最大似然 max(Xi),标准差 θ/(n+1) 量级。模拟(θ = 1)给出:n = 100 时前者标准差 0.0576、后者 0.0099;n = 400 时降到 0.0290 与 0.0025。两个都一致(都在缩),但最大似然的收缩快近十倍——这再次印证了「似然把数据里的信息榨得更干」。

三条标准合起来,可以画成一句口诀:无偏管「正」,有效管「稳」,一致管「久」。而最大似然估计的迷人之处在于,它(在一定正则条件下)常常三者兼备——这正是它成为现代统计学默认选择的原因。第六章剩下的部分,都建立在这条估计的地基上。

讲义

第六章 统计推断:估计与检验6.6 区间估计的思想:置信区间的含义

点估计给出一个数,干净利落,却有个无法回避的尴尬:它几乎从不等于真值。说「p̂ = 0.60」,而硬币真值是 0.6000 的概率实际为零。既然单个数字天生靠不住,那就退一步——给一个范围,并说明这个范围的可靠程度。

民调早就这么做了:「支持率 46%,误差正负 3 个百分点」。这句话的意思不是「真值一定在 43% 到 49% 之间」(它可能在,也可能不在),而是「用这套方法反复调查,大约十次里有九次能把真值框住」。这种「带保证的范围」,就是置信区间。

置信区间与置信度

设 θ̂1, θ̂2 是由样本算出的两个统计量,且满足

P(θ̂1 < θ < θ̂2) = 1 − α

就称随机区间 (θ̂1, θ̂2) 是 θ 的置信度为 1 − α 的置信区间。常用 1 − α = 0.95(95% 置信区间)或 0.99。

关键:随机的是区间,不是参数。参数 θ 是固定不动的常数;每次都换一批样本,画出一个区间,这些区间有的框住 θ、有的没框住。1 − α 说的是「框住的次数占比」,不是「这一个区间正确的概率」。

这句话最容易被念错,值一个比喻:把真实参数想成一只停在树上的鸟,置信区间是我们每次抛出的一张网。网的大小(置信度)决定了投一百次能网住几次;可一旦某张网落定,鸟要么在里面要么不在里面,说「这张网有 95% 的概率套住鸟」就错位了——那是投网之前对这套动作的说法。实验页会真的抛 100 次网,数一数命中几次。

置信区间:一百次投网,命中多少次? 真值 θ 每条横线=一次抽样的置信区间(绿:框住真值;黄:没框住) 每 100 次约有 95 条绿线——这就是「置信度 95%」的全部含义
图 6-6 置信区间的正确读法。区间由样本算出,本身是随机的;真值固定不动。置信度说的是绿线出现的比例,不是某一条线对错的概率。

「置信度」常有三种同义的说法:置信水平、置信系数、可靠度;α 则叫显著性水平。90%/95%/99% 三档最常用,它们的临界值分别是 1.645、1.960、2.576——记住这三个数,等于记住了区间估计的钥匙。

讲义

第六章 统计推断:估计与检验6.7 正态总体均值的区间估计

置信区间的构造有一个统一套路:先找一个含参数的统计量,其分布已知;再把「这个统计量落在某范围内」翻译成「参数落在某范围内」。对正态总体的均值,这个统计量就是第五章的抽样分布定理给的那两个。

分两种情况,取决于总体标准差 σ 是否已知。这是全书最实用的一处分叉,务必辨清。

情形一:σ 已知(用的是 z,正态分布)

由 X − μσ/√n ~ N(0, 1),可得 μ 的 1 − α 置信区间

X ± zα/2 · σ√n

情形二:σ 未知(用的是 t,t 分布)

把 σ 换成 S,统计量 X − μS/√n 不再服从正态,而服从自由度 n − 1 的 t 分布,区间相应改为

X ± tα/2(n − 1) · S√n

两条式子形状一模一样,只换了一个字母:z 换成 t。这个替换的代价是 t 的尾巴比 z 厚,临界值更大,区间更宽——「因为 σ 也不知道,得多付一点保险费」。代价随自由度增大而迅速消失:t0.025(8) = 2.306,t0.025(24) = 2.064,而 z0.025 = 1.960;到 n > 45 后两者已相差无几。

同样的 95%,t 的区间更宽 实线=z(σ 已知);虚线=t(8)(σ 未知) 尾部更厚 同取中间 95%:z 要 ±1.960,t(8) 要 ±2.306——后者更宽 宽度差异随自由度上升迅速消失:t(24) = 2.064,t(120) = 1.980
图 6-7 z 与 t 的比较。t 分布尾部更厚,同置信度下需要更宽的区间来补偿「σ 也是猜的」这份额外的不确定。

区间宽度里藏着三个杠杆,值得单独拎出来看:① 置信度越高,区间越宽(95% 用 1.96,99% 要用 2.576);② 样本量越大,区间越窄(宽度正比于 1/√n,样本量翻四倍才能把宽度砍半);③ 数据越散(σ 越大),区间越宽。三者互相牵制,工程上要在「准、省、快」之间取舍——这正是例 5、例 6 与习题课五要反复练的手艺。

实战提醒:现实问题中 σ 极少已知,所以 t 区间才是日常主角;只有当 σ 来自长期稳定的大批历史数据(如生产线公差)时,才用 z 区间。

讲义

第六章 统计推断:估计与检验6.8 比率与方差的区间估计

均值之外,还有两个参数天天被问起:比率(支持率、合格率、点击率)与方差(精密度、稳定性、波动)。它们的区间估计各有各的办法。

先说比率。从总体中抽 n 个个体,其中具备某特征的记 k 个,则 p̂ = k/n。由中心极限定理,样本量大时 p̂ 近似正态,于是可得沃尔德区间(Wald interval):

p̂ ± zα/2 √(p̂(1 − p̂)n)

这条式子民调天天在用。它的一个重要推论是:误差约等于 1/√n。取 p̂ = 0.5(最坏情形),n = 1000 时的误差约 3.1%,n = 400 时约 4.9%。这也解释了为什么民调样本量总在 1000 上下——想把误差从 3% 压到 1%,样本量要从 1000 涨到近 10000,成本陡增而收益递减。

但沃尔德区间有个坏毛病:p̂ 靠近 0 或 1 时会失效(区间可能越出 [0, 1],也可能窄得离谱)。一个改进是威尔逊区间(Wilson score interval):

p̂ + z22n1 + z2/n ± z1 + z2/n√(p̂(1 − p̂)n + z24n2)

式子看着吓人,行为却很老实:它总会落在 (0, 1) 之内,小样本与极端比率下都比沃尔德可靠。数学软件与统计教材现在多推荐它。

再说方差。方差区间的构造要绕一条巧路。由第五章的正态抽样分布定理,

(n − 1)S2σ2 ~ χ2(n − 1)

把「χ2 落在两个临界值之间」这件事反解,就得到 σ2 的区间。注意这里的处理与均值不同:χ2 分布不对称,所以不能写成「± 某个数」的形式,必须左右各自算。

σ2 的 1 − α 置信区间

( (n − 1)S2χ2α/2(n − 1) , (n − 1)S2χ21−α/2(n − 1) )

分母上的两个临界值一右一左:上端用小分位(分母小、区间大),下端用大分位。千万别顺手写反。

卡方分布不对称,故方差的区间也不能「对称地开」 左尾 α/2 右尾 α/2 中间 1 − α 的概率区间(不对称) 把 χ2​ 的左右端点反解,就得到 σ2​ 的上下限 自由度 15 时:χ2​0​.975​ = 6.262、χ2​0​.025​ = 27.488——左短右长,一眼可辨
图 6-8 卡方分布的不对称性。因为两个尾巴不等长,方差区间必须左右分开算。这是它与均值区间最直观的差别。

翻个面看:区间还能当作决策的尺子。某厂要求零件长度的标准差不超过 0.5 mm,抽 16 件测得 s2 = 0.36,算得 σ2 的 95% 区间 (0.196, 0.862),即 σ ∈ (0.443, 0.929)。上限 0.929 明显越过了 0.5 这条线——虽未越过多少,但「不确定性还很大,16 件还不足以下结论」,这句话本身就极有价值。

讲义

第六章 统计推断:估计与检验6.9 假设检验的基本思想:小概率原理

现在换一种问法。不再问「参数是多少」,而是问「参数是不是等于某个指定的值」。质检员问的是「这批货的平均重量还是不是 250 克」,药检问的是「新药比安慰剂有效吗」——一句话,给一个判断:是,还是否。

作出判断的工具,是一条看似简单、实则精妙的原理。

小概率原理

小概率事件在一次试验中,实际上不会发生。

这不是数学定理,而是一条经验法则——它把「不可能」放宽成「几乎不可能」,从而让我们能对现实下判断:如果某件事在「假设成立」时出现的概率极小,而它偏偏出现了,那么我们就有理由怀疑那个假设出了问题。

整座假设检验的大厦,都架在这一条上。

把这条原理用起来,需要一套固定的台词。这套台词的每一句都有严格名字,务必分清「谁在主张、谁在推翻」。

假设检验的五个角色

① 原假设 H0:站在「受审」位置的假设,通常是「没有变化」「没有差别」「等于某个值」——例如 H0 : μ = 250。它默认成立,需要证据才能推翻。

② 备择假设 H1:与 H0 对立、且我们想证明的那个主张,如 H1 : μ ≠ 250(双侧)、H1 : μ > 250 或 H1 : μ < 250(单侧)。

③ 检验统计量:由样本算出、能衡量「样本与 H0 距离多远」的量,如 t = (X − μ0)/(S/√n)。

④ 拒绝域:统计量取值的「雷区」。落在里面就拒绝 H0,落在外面就不拒绝。

⑤ 显著性水平 α:拒绝域的大小,也就是「H0 明明成立、却被我们判为不成立」的概率上限。常取 0.05 或 0.01。

为什么把「无变化」放在受审位置?这里借用一句法律格言:疑罪从无。原假设相当于「被告无罪」,先假定它成立;只有证据足够强,才宣判有罪。这样做的代价是:可能放过真凶(H0 错了却没拒绝),但很少冤枉好人。这个取舍,正是下一节「两类错误」的主题。

拒绝域:统计量落进「雷区」,就推翻原假设 H0​ 成立时,统计量落在中间的可能性最大 临界值 临界值 拒绝域 (面积 α/2) 拒绝域 (面积 α/2) 「落进两尾」的概率只有 α=0.05——这么不走运的事,一次试验里不该发生 既然发生了,只好承认前提有误:拒绝 H0​
图 6-9 小概率原理与拒绝域。曲线是「H0 为真」时检验统计量的分布;两端的红色区域总和为 α。样本落进红区,就是「小概率事件发生了」。

做完检验,结论只能有两种说法,用词不能含糊:「拒绝 H0」,或「不拒绝 H0」。第二个绝不能说成「接受 H0」——证据不足,不等于证明为真;就像法院判「证据不足无罪释放」,并不等于宣判当事人清白。这个用词的讲究,是假设检验最容易被忽视、也最能体现功力的地方。

还有一种更常见的报告方式:不算临界值,直接算 p 值——在 H0 成立的前提下,出现「当前这么极端或更极端」的结果的概率。p 越小,越有理由拒绝。p < 0.05 常被说成「显著」。可 p 值不是「H0 为真的概率」,也不同于置信度——这个误解在科学界流传甚广,格物札记会专门算一笔账。

讲义

第六章 统计推断:估计与检验6.10 两类错误:弃真与取伪

审判总有误判,检验总有出错。假设检验只可能犯两种错,而且这两种错此消彼长——这是本章最有哲学意味的一节。

两类错误

第一类错误(弃真):H0 实际成立,我们却拒绝了它。概率记 α,即显著性水平。

第二类错误(取伪):H0 实际不成立,我们却未拒绝它。概率记 β。

称 1 − β 为检验的功效(power)——「真有问题时能查出来」的能力。

用一张对照表把四种结局排开,一目了然:

H0 实际成立H0 实际不成立
不拒绝 H0判断正确(1 − α)第二类错误(β):取伪
拒绝 H0第一类错误(α):弃真判断正确(功效 1 − β)

两者的性质截然不同。第一类错误的概率 α 由我们自己设定——想知道它多大,看检验方案就行。而第二类错误的概率 β 通常算不出来:因为 H1 是一大片区域(「μ ≠ 250」包含无穷多个值),得先指定真值具体是多少,才能算。这就是「功效分析」必须给定一个「值得检出」的具体效应的原因。

作个具体演算,让这两个概率落地。设检验 H0 : μ = 100,已知 σ = 10、n = 25,取拒绝域 X > 104。此时 SE = 2,临界点换算成 z = (104 − 100)/2 = 2.00,故 α = P(Z > 2.00) = 0.0228。

真实 μz 值β(取伪)功效 1 − β
103Φ((104−103)/2) = Φ(0.50)0.69150.3085
105Φ(−0.50)0.30850.6915
108Φ(−2.00)0.02280.9772

这张表把「功效」的脾气说透了:真值离 H0 越远,功效越高。当真实均值是 108 时,检验几乎必能揪出偏差(功效 0.977);可若真值只是 103——差 3,几乎没差多少——功效只有 0.31,八成机会会被漏掉。「查不出小差别」不是检验的缺陷,是它的本性。

同一个检验:α 与 β 此消彼长 H0​ 为真 H1​ 为真(真值在右) 临界点 c 绿影=β(取伪) 红影=α(弃真) 临界点右移 → α 变小、β 变大;左移则相反 唯一能同时压低两者的办法是增大样本量(曲线变窄,两个影子一起收缩)
图 6-10 两类错误的几何图形。缩小 α 只能靠移动临界点,代价是 β 立刻变大。要让两条影子同时变窄,只有增大样本量一条路。

三个因子决定功效的高低,可以当口诀用:① 差别越大,功效越高;② 样本量越大,功效越高;③ 数据波动(σ)越小,功效越高。反过来,若要求「在真实 μ = 105 时功效不低于 0.90」,可以反解出所需样本量——本例算得 n ≥ 35。这种「先定功效,再定样本量」的做法,是临床试验与 A/B 测试的标准开场动作,§6.17 会看到它怎么用。

选 α 就是选错的代价。药检宁可放宽 α(怕漏掉有效药),质检宁可收紧 α(怕误判整批货)。没有「最优」的 α,只有「代价相称」的 α。

讲义

第六章 统计推断:估计与检验6.11 正态总体均值的检验:t 检验

把上一节的原理装配成武器,最常用的一件叫 t 检验。它处理的问题极简单也极普遍:总体近似正态、σ 未知,样本均值离某个指定值 μ0 够不够远?

单样本 t 检验(检验 H0 : μ = μ0)

① 取检验统计量 t = X − μ0S/√n ~ t(n − 1)(H0 成立时)。

② 按备择假设定拒绝域(α 水平):

  双侧 H1 : μ ≠ μ0 → |t| > tα/2(n − 1)

  右侧 H1 : μ > μ0 → t > tα(n − 1)

  左侧 H1 : μ < μ0 → t < −tα(n − 1)

注意双侧与单侧的临界值不同:双侧用 tα/2(把 α 平摊到两个尾巴),单侧用 tα(全给一个尾巴)。用单侧还是双侧,必须由问题本身决定,不能事后挑选。如果只关心「是否偏离」(如零件尺寸偏差),用双侧;如果只关心「是否变大」(如药效是否更好),用单侧。临界值随手一挑,就会犯「数据窥探」的错。

让它上一次岗。某饮料厂标称每罐 250 mL,抽 16 罐测得 X = 249.2、S = 1.6。问这批是否偏轻?

立 H0 : μ = 250、H1 : μ ≠ 250(双侧,因为「偏轻」与「偏重」都算不合格)。算得 t = (249.2 − 250)/(1.6/4) = −2.000,自由度 15,而 t0.025(15) = 2.1314。因为 |−2.000| < 2.1314,落在拒绝域之外——不拒绝 H0。换成 p 值:p = 0.0639 > 0.05,同样不显著。

t 检验:样本统计量落在哪个位置? t = −2.000 −2.1314 +2.1314 两侧红区=拒绝域(各占 α/2=0.025) 样本落在绿区:p=0.0639,不拒绝 H0​ 若 x̄ 改为 248.6,则 t = −3.500,落入左尾,拒绝
图 6-11 t 检验的拒绝域。样本统计量离中心越远,越有理由怀疑原假设;本例 t = −2.000 刚好停在临界值内侧,成了一个「差一口气」的经典案例。

这个结果该怎么向厂长解释?「差 0.8 mL 不算证据不足,也不算证据充分。」不拒绝 H0 只是说「16 罐的数据还不足以判定灌装机跑偏」,不是「灌装机一定没偏」。若把样本量提到 64、其余不变,t 会变成 −4.00,那就稳稳拒绝了。同一个偏差,样本量不同,结论可以相反——这也是为什么报结论时必须带上样本量。

三点使用须知:① 总体须近似正态,或样本量较大(n ≥ 30,靠中心极限定理);② 数据须来自随机抽样;③ 若已知 σ,改用 z 检验(把 S 换成 σ、t 换成 z)。

讲义

第六章 统计推断:估计与检验6.12 正态总体方差的检验:卡方检验

均值管「准不准」,方差管「稳不稳」。很多场合后者比前者更要紧:轴承的直径可以略有公差,但批与批之间的波动必须压住,否则装配线会废掉。检验方差用的是第五章那位熟面孔——卡方分布。

单样本方差检验(检验 H0 : σ2 = σ02)

① 统计量 χ2 = (n − 1)S2σ02 ~ χ2(n − 1)(在 H0 成立且总体正态时)。

② 拒绝域(α 水平):

  双侧 χ2 > χ2α/2(n − 1) 或 χ2 < χ21−α/2(n − 1) (两端都要管)

  右侧(方差偏大) χ2 > χ2α(n − 1)

  左侧(方差偏小) χ2 < χ21−α(n − 1)

这里要留心一个易错点:卡方分布不对称,双侧检验的两个临界值不能写成「±同一个数」,必须查左、右两个分位数。这也是它与 t 检验在操作上最大的不同。

上例的延续:某零件长度要求标准差不超过 0.5 mm。抽 16 件,测得 S2 = 0.36,问波动是否超标?

立 H0 : σ2 = 0.25、H1 : σ2 ≠ 0.25(双侧)。统计量 χ2 = 15 × 0.36 / 0.25 = 21.600。自由度 15 的两个临界值是 χ20.975(15) = 6.262 与 χ20.025(15) = 27.488。6.262 < 21.600 < 27.488,不拒绝 H0——尚无证据说明波动超标。

卡方检验:两个尾巴不等长,故须查两个临界值 χ2​ = 21.600 6.262 27.488 样本统计量落在两临界值之间:不拒绝 H0​ 左侧尾巴长、右侧尾巴短——这是自由度 15 时卡方分布的真实形状 若 s2​ = 0.60,则 χ2​ = 36.0 > 27.488,落入右尾,拒绝(波动偏大)
图 6-12 方差检验的拒绝域。卡方分布右偏,两个临界值一左一右、数值悬殊,必须分别查表。

把两条检验并列一比,可以看清统计推断的一个通用逻辑:估计量与检验统计量是同一件事的两面。置信区间是「把参数的合理范围画出来」,假设检验是「看某个指定值是否落在那段范围里」。事实上,若 μ0 落在 μ 的 1 − α 置信区间内,那么 α 水平的双侧检验必然不拒绝 H0 : μ = μ0——区间估计与假设检验是一枚硬币的两面,这一点在 §6.17 讲 p 值时会再回来。

讲义

第六章 统计推断:估计与检验6.13 两个总体的比较检验

实践中最常见的问题不是「与某个标准比」,而是「两组比一比」:新工艺比旧工艺好吗?男生女生的平均分有差异吗?A 版与 B 版页面哪个转化率高?这类问题统称两个总体的比较检验。

先看均值。设两组独立样本,容量、均值、方差分别为 n1, X1, S12 与 n2, X2, S22。若两总体都近似正态、且方差相等(这是下面这条式子的前提),可用合并方差 Sp2:

Sp2 = (n1 − 1)S12 + (n2 − 1)S22n1 + n2 − 2, t = X1 − X2Sp√(1/n1 + 1/n2) ~ t(n1 + n2 − 2)

合并方差的做法是「按自由度加权平均」——样本大的那组说话分量更重。至于「方差是否相等」,可以先用 F 检验探一探:

F 检验(方差比)

检验 H0 : σ12 = σ22,统计量 F = S12/S22 ~ F(n1 − 1, n2 − 1)。两侧检验时右临界值取 Fα/2,左临界值由 1/Fα/2(两组自由度对调)得到。

若 F 落在两临界值外,说明方差不等,此时改用不假定等方差的 Welch 检验更稳妥。

但真正值得大书一笔的,是独立样本与配对样本的分野。看一个实测数据:8 名受试者服药前后的某项指标(同一人两次测量,天然配对):

受试者12345678
服药前124131118127135122129120
服药后123128119124132121128119
差值 d13−133111

按配对做:差值 d 的均值 d = 1.500,标准差 Sd = 1.4142,SE = 0.5000,故 t = 1.500/0.500 = 3.000,自由度 7。与 t0.025(7) = 2.3646 比较,拒绝 H0(p = 0.0199)——药有效。

若当作两组独立样本做(即忽略配对关系):合并方差 Sp2 = 27.9286,SE = 2.6424,t = 1.500/2.6424 = 0.568,自由度 14,t0.025(14) = 2.1448,不拒绝(p = 0.5792)——药效看不出来。

同一批数据,两种做法,两种结论 独立样本:个体差异淹没了效应 前 125.75 后 124.25 散点上下铺开达 17 个单位(118–135) t = 0.568 p = 0.5792 不显著 SE = 2.6424(大) 配对样本:每人与自己比,噪声抵消 每根竖线段=一人的前后差(短而齐) t = 3.000 p = 0.0199 显著 SE = 0.5000(小了 5.3 倍) 把干扰因素「配掉」,是提高检验功效最省钱的一招
图 6-13 配对与独立的对比。同一批数据:配对后差值整齐(SE 缩小 5.3 倍),检验立刻显著;不配对则被 118–135 的个体差异彻底淹没。

配对为什么这么有威力?因为它把「人与人之间的差异」从误差里剔除了。同一个人的前后测量共享了大量个体特征(体质、年龄、基础水平),相减之后这些因素自动抵消,剩下的只是纯粹的「处理效应」。凡能配对的场合,绝不轻易做成独立样本——这是实验设计的第一条经验。

比率的比较则另有一套:两组各抽 n1, n2,成功 k1, k2,用合并比率 p̂ = (k1 + k2)/(n1 + n2) 算 SE,再作 z 检验。这套式子就是 A/B 测试的引擎,§6.17 会完整跑一遍。

讲义

第六章 统计推断:估计与检验6.14 拟合优度检验:卡方检验的应用

方差的检验只用到卡方分布的一半威力。它还有一个更出彩的用途:检验一批「类别计数」是否符合某个理论模型。这门技术叫拟合优度检验(goodness-of-fit test),它回答的是最古老、也最迷人的那个问题——

这颗骰子,公平吗?

掷 120 次,六个面分别出现 15, 18, 22, 17, 24, 24 次。若骰子绝对公平,每面期望 E = 20 次。观测与期望的差距各自不大,可六个加起来,算不算「太巧」?

拟合优度检验(皮尔逊 χ2 检验)

把样本分成 k 个类,第 i 类的观测频数为 Oi、期望频数为 Ei(由理论模型算出)。统计量

χ2 = ∑i=1k (Oi − Ei)2Ei ~ χ2(k − 1)(H0 成立时)

其中 H0 是「数据符合该理论模型」。这里只有一条约束 ∑Oi = n,故自由度是类别数减一。

每个 Ei 都要求 ≥ 5(最好 ≥ 10);若过小,须把相邻类合并,自由度随之减少。

把数字代进去:

χ2 = (15−20)220 + (18−20)220 + ⋯ + (24−20)220 = 25 + 4 + 4 + 9 + 16 + 1620 = 3.700

自由度 5,临界值 χ20.05(5) = 11.0705。3.700 < 11.0705,不拒绝 H0,p = 0.5934。数据与「骰子公平」这个假设没有冲突——注意措辞:是「没有冲突」,不是「证明公平」。

观测频数与期望频数:差距有多「巧」? 期望 20 123 456 151822 172424 各柱与虚线(20)的差有正有负,χ2​ 把它们平方后求和 结果 3.700,远小于临界值 11.0705——没有理由说骰子不公
图 6-14 拟合优度检验的直观。柱子高高低低,是随机的正常抖动,还是骰子真的偏了?卡方统计量把六个偏差合成一个数,再与「随机抖动能有多大」的基准比较。

把两组数据放在一起,就能看出判据的灵敏度:

观测频数(1–6 点)χ2p 值结论(α = 0.05)
15, 18, 22, 17, 24, 243.7000.5934不拒绝,骰子可视为公平
8, 12, 18, 22, 28, 3221.2000.0007拒绝,骰子严重偏斜

第二组数据有明显的单调上升趋势(1 点最少、6 点最多),χ2 立刻飙到 21.2,把「碰巧」这个词彻底否掉。这正是卡方检验的用处:它不看单个偏差有多大,而看「所有偏差合起来,是否超过了纯随机能解释的范围」。

值得记住的历史一笔:1900 年,卡尔·皮尔逊(Karl Pearson)提出这个统计量,并给出了它的极限分布——这是现代统计学的开山之作之一。他当时的目的,恰恰是检验「转盘/骰子/纸牌是否公平」这类赌博问题。一百二十多年后,同一个统计量在检验遗传学比例(孟德尔定律)、市场问卷分布、软件随机数生成器——从赌桌出发的工具,最终长成了科学的通用尺子。

讲义

第六章 统计推断:估计与检验6.15 独立性检验:列联表分析

拟合优度检验问的是「一个变量符合某个理论吗」。把它稍作推广,就能回答另一个更常见的问题:两个变量之间,有关系吗?——性别与消费偏好有关吗?吸烟与患病有关吗?广告版式与点击率有关吗?

这类问题的数据通常排成一张**列联表**(contingency table):行表示第一个变量的分类,列表示第二个变量的分类,格子里是频数。

喜欢不喜欢行合计
男性382260
女性304070
列合计6862130

男性的喜欢比例 38/60 ≈ 0.633,女性 30/70 ≈ 0.429。差了 20 个百分点,看着像有关联。可这个差距会不会只是抽样的偶然?

检验的办法是:先假定两者无关(独立),算出「无关时每格应该有多少」,再看实际观测偏离它多远。独立时,格子的期望频数按乘法规则给出:

Eij = (第 i 行合计)×(第 j 列合计)总数 n

例如左上格 E11 = 60 × 68 / 130 = 31.38,而观测是 38——比期望多出不少。四格都算完,代进同一个 χ2 式子:

格子观测 O期望 E(O − E)2/E
男/喜欢3831.381.394
男/不喜欢2228.621.529
女/喜欢3036.621.195
女/不喜欢4033.381.311

χ2 = 1.394 + 1.529 + 1.195 + 1.311 = 5.430

独立性检验

对 r × c 列联表,检验 H0:「两变量相互独立」。统计量同上式,自由度为

(r − 1)(c − 1)

自由度之所以是「行数减一乘列数减一」,是因为行列合计都被固定住了:知道一部分格子的数,剩下的就被唯一决定。这里是 (2−1)(2−1) = 1。

查表:χ20.05(1) = 3.8415。5.430 > 3.8415,拒绝 H0(p = 0.0198):性别与偏好确有关联。

独立性检验:期望频数从哪来 男/喜欢(观测 38) 行合计 60 列合计 68 期望 = 行合计 × 列合计 ÷ 总数 E = 60 × 68 / 130 = 31.38 观测 38 比期望 31.38 多出 6.62——四格累加后 χ2​ = 5.430 3.8415 5.430 落在拒绝域内 → 拒绝独立假设
图 6-15 独立性检验的算法链。从行列合计出发算期望,再把四个格子的偏差合成一个统计量,最后与自由度 1 的临界值比较。

三点实战要诀:① 结论要写成「有关联」,不能写成「有因果」——列联表检验只说明「不独立」,因果要靠实验设计去建立;② 期望频数小于 5 的格子应合并,否则近似不准;③ 2 × 2 表在小样本下最好用 Yates 连续性校正,或直接改用精确检验。

一个经典陷阱:某研究发现「每天喝咖啡的人心脏病比例更低」,媒体立刻欢呼。可细看列联表——喝咖啡者更多是年轻人,而年轻人本来发病率就低。「有关联」的背后躲着一个未被控制的第三变量(混杂因素)。这类错误在医学与社会调查里屡见不鲜,也是「相关不等于因果」这句警告的统计学版。

讲义

第六章 统计推断:估计与检验6.16 回归分析初步:最小二乘与预测

上一节问的是「有没有关系」。可很多场合我们要的更多:关系长什么样?能不能用它做预测?——广告费投 7 万,销售额大概多少?气温升 1 度,用电量涨多少?这类问题的答案,是一条直线。

先把数据摊在坐标纸上。一组 n 对观测 (x1, y1), …, (xn, yn),若散点大致沿一条直线铺开,就用

ŷ = a + bx

去描述它。b 叫斜率(x 每增 1,y 平均变化多少),a 叫截距。问题只剩一个:哪条直线最好?

最小二乘准则

对每个数据点,记它与直线的竖直偏差为残差 ei = yi − ŷi。让残差平方和最小化:

Q(a, b) = ∑i=1n (yi − a − bxi)2 → min

之所以是「平方和」而不是「绝对值和」,一是平方可导、便于求极值,二是它按高斯的误差理论办事(这也正是「最小二乘法」的思想源头)。

把 Q 分别对 a, b 求偏导、令其为零,解出那两条著名的公式(证明见习题课十):

b = ∑(xi − x)(yi − y)∑(xi − x)2, a = y − bx

第二式的含义:回归直线必定穿过重心 (x, y)——这是一个每次都能拿来快速验算的好性质。

拿一组真实感很强的数据试试:6 个月的广告费(万元)与销售额(万元)。

x(广告)123456
y(销售)121517212226

算得 x = 3.5、y = 18.833、∑(xi−x)(yi−y) = 47.500、∑(xi−x)2 = 17.500,于是

b = 47.50017.500 = 2.7143, a = 18.833 − 2.7143 × 3.5 = 9.3333

故 ŷ = 9.3333 + 2.7143x。翻译成业务语言:每多投 1 万元广告,销售额平均增加约 2.71 万元。若下月投 7 万,预测 ŷ = 9.3333 + 2.7143 × 7 = 28.33 万元。

最小二乘:让所有竖直偏差的平方和最小 x y 重心 (3.5, 18.83) ŷ = 9.3333 + 2.7143x 绿虚线=残差(竖直偏差) 换个方向量偏差(水平距离),得到的会是另一条直线——最小二乘用的是竖直距离 因为回归的任务是「用 x 预测 y」,所以 y 方向的误差才是误差
图 6-16 最小二乘的几何。红线上下的蓝点是观测值,绿色竖线的长度就是残差;最小二乘挑出让这些竖线「平方和」最短的那条线。它必然穿过数据的重心。

怎么知道这条线靠不靠得住?两个指标:相关系数 r 与决定系数 R2。本例 r = 0.9927,R2 = r2 = 0.9854——销售额变动的 98.5% 可由广告费解释,拟合极好。若问斜率是否显著不为零,可作 t 检验:SE(b) = 0.1650,t = 2.7143/0.1650 = 16.45,自由度 4,远超 t0.025(4) = 2.7764——广告与销售额的关系确实存在。

三条使用警戒线:① 不要外推太远——用 1–6 万的数据去预测 100 万,直线未必还成立;② 高 R2 不等于因果,两个同时增长的量(如十年间的气温与 GDP)可以拟合得极好而毫无关系;③ 检查残差——若残差呈弯曲的弧形,说明真实关系不是直线,该换模型了。

讲义

第六章 统计推断:估计与检验6.17 现代接口:临床试验、A/B 测试与数据决策〔直觉⇄理论〕

本章的方法听起来像教科书里的古董,其实它们正日夜不停地跑在现代世界的底层。这一节走出教室,看三件事。

① 临床试验:把「显著」写进法规。一种新药要上市,必须证明显著优于安慰剂,而这套证明流程就是假设检验的工业放大版:随机化(受试者随机分组,消除选择偏倚)、双盲(医生与患者都不知分组,消除期望效应)、预先注册方案(在收集数据前就定好 H0、α、样本量与主要终点)。最后一条尤其关键——若允许先看数据再挑假设,p 值就失去了意义。药监部门普遍要求 p < 0.05(对多个终点则更严),这不是数学家定的规矩,而是几十起药物安全事件换来的教训。

② A/B 测试:把假设检验装进按钮。互联网公司改一次页面颜色,就让一半用户看 A 版、一半看 B 版,比一比转化率。这套「在线实验」的统计内核,正是一个两样本比率检验。看一个实际算例:

组别样本量转化数转化率
A(原版)100012012.0%
B(新版)100014514.5%

合并比率 p̂ = (120 + 145)/2000 = 0.1325,SE = √(0.1325 × 0.8675 × (1/1000 + 1/1000)) = 0.01516,于是

z = 0.145 − 0.1200.01516 = 1.649, p = 2(1 − Φ(1.649)) ≈ 0.0992

p = 0.0992 > 0.05,不显著。B 版看似「相对提升 20.8%」,实际上还不足以排除偶然。这不是失败,而是样本不足——把每组的样本量各加到 2000(比例不变),z 变成 2.332,p = 0.0197,结论立刻翻转为显著。「同样的差异,样本量决定结论」——这是本章最该带走的一句话。

同一提升幅度(12% → 14.5%):样本量决定成败 n = 1000/组 A 12.0% B 14.5% n = 2000/组 A 12.0% B 14.5% n = 4000/组 A 12.0% B 14.5% z = 1.649 p = 0.0992 不显著 z = 2.332 p = 0.0197 显著 z = 3.298 p = 0.0010 高度显著
图 6-17 样本量对结论的决定作用。三组的率差完全相同(2.5 个百分点),只因为样本量不同,p 值一路从 0.099 走到 0.001。判断一个「提升」是否可信,先问它有多大样本支撑。

③ 直觉 ⇄ 理论:三个必须纠正的直觉。

直觉一:「p = 0.03,所以 H0 为真的概率是 3%。」

错。p 值算的是 P(数据这么极端 | H0 为真)——在 H0 成立的前提下出现这种数据的概率。而我们想知道的是 P(H0 为真 | 数据)。两者是反着的条件概率,混淆它们是「检察官谬误」的统计版。若真想知道后者,得走贝叶斯的路(见格物札记①)。

直觉二:「不显著,就说明没差别。」

错。不拒绝 H0 只说明当前样本不足以证明有差别,可能是差别真不存在,也可能是样本太小、功效不够。「没有证据」与「证明没有」是两件事——正如「找不到黑天鹅」不等于「黑天鹅不存在」。

直觉三:「p < 0.05,所以这个发现很重要。」

错。统计显著(significant)不等于实际重要(important)。样本足够大时,任何微小的差别都会变得「显著」——某新药让血压平均降 0.1 mmHg,一万人试验后 p 可以小于 0.001,可临床上毫无意义。报告结论时,必须同时给出「效应有多大」(效应量)与「误差有多大」(置信区间),光给一个 p 值是残缺的报告。

正因为这三个误区,统计界近年掀起了一场「超越 p < 0.05」的运动:把 p 值当门槛一刀切,会诱导研究者反复尝试不同分析直到「显著」(p-hacking),也会让真正有价值但效应温和的发现被埋没。更好的做法是报告完整的置信区间与效应量,并把统计判断与专业判断分开。——数据不能做决定,它只能说明「证据有多强」。

讲义

第六章 统计推断:估计与检验6.18 结语:从骰子到数据——偶然中的秩序

全书写到这里,该回头看一眼来路了。

我们的起点是一颗骰子。十七世纪的赌徒想知道「掷出两个六的概率」,于是写信去问帕斯卡;帕斯卡与费马在往返书信里把「等可能」这件事算清楚了——概率论由此诞生。那时它只是一门关于游戏的手艺:赌金怎么分、点数和怎么押、连输多少局才算反常。

可这个「游戏的手艺」后来长成了一棵大树。样本空间与公理(第一章)给了它语法;条件概率与独立性(第二章)让它能处理信息与证据;随机变量与分布(第三章)把它从离散的点提升成连续的函数;数字特征与极限定理(第四章)让它回答「大量重复会怎样」;数据的描述与抽样(第五章)让它转过身去看真实世界;而本章——统计推断,是这棵树结出的果实:从一个看不见的世界里抓出一小把数据,然后据此对那个世界下判断。

从骰子到数据:六章一条路 第一章古典概型 第二章条件概率 第三章随机变量 第四章数字特征 第五章描述与抽样 第六章统计推断 抽样分布=桥 游戏起源(骰子·纸牌·赌金) → 公理与分布(一门精确的语言) → 数据与决策(在不确定中行动)
图 6-18 全书的知识脉络。前四章建立语言,第五章搭桥,第六章下判断。

这是一条引人深思的路。它告诉我们一件与直觉相悖的事:偶然不是秩序的敌人,而是秩序的另一张面孔。单个事件无法预测,成批的事件却服从严格的规律;并不知道硬币真值是多少,我们却能为它划出一个可以信赖的范围;不能确定新药是否有效,我们却能把「误判的概率」压到一个我们选定的水平上。

「不确定」这三个字,在日常语言里等于「无可奈何」。而这一册书想说的恰恰相反:不确定是可以被度量的、被管理的、被承诺的。当我们说「95% 置信区间」时,我们给出的不是一句模糊的安慰,而是一份精确的保证——一份关于长期行为的保证,尽管对这一次的具体结果,我们依然坦率地承认无知。

最后回到那颗骰子。卡克西在十七世纪写下《论掷骰游戏》,拉普拉斯在十八世纪说「概率论不过是常识的算术化」,费希尔在二十世纪把「似然」写成了公式。他们做的事,说到底是同一件:在最不可靠的地方,找到可以依靠的东西。

从掷出一枚骰子,到为整座城市的命运作出判断——这条路,人类走了三百年。而现在已经站在了路上。格物致知,JUST FOR FUN。

例题

第六章 统计推断:估计与检验例1 矩估计:由样本估计未知参数

题 用矩估计法求下列总体参数的估计量:

① 总体 X ~ U(0, θ),样本观测值为 0.3, 0.8, 0.6, 0.9, 0.4;

② 总体 X ~ Exp(λ)(密度 f(x) = λe−λx, x > 0),样本观测值为 2.1, 3.4, 1.8, 2.7, 3.0;

③ 总体 X ~ P(λ)(泊松分布),样本观测值为 2, 0, 3, 1, 4。

解 矩估计的要旨是「用样本矩顶替总体矩」。三个小题都只含一个未知参数,故都只用一阶矩。

① 均匀分布 U(0, θ) 的期望是区间中点:

E(X) = 0 + θ2 = θ2

令 θ/2 = X,解得 θ̂ = 2X。代入数据:

X = 0.3 + 0.8 + 0.6 + 0.9 + 0.45 = 3.05 = 0.600, θ̂ = 2 × 0.600 = 1.200

顺带对照:这批数据的最大值是 0.9,而由最大似然法(例 2 ③)会得到 θ̂ = max(xi) = 0.900。**两个估计量给的结果差了 33%**——这正是 §6.2 说的「矩估计浪费了极值信息」。

② 指数分布的期望 E(X) = 1/λ,令 1/λ = X:

X = 2.1 + 3.4 + 1.8 + 2.7 + 3.05 = 13.05 = 2.600, λ̂ = 12.600 ≈ 0.385

③ 泊松分布的期望 E(X) = λ,故 λ̂ = X:

X = 2 + 0 + 3 + 1 + 45 = 105 = 2.000, λ̂ = 2.000

小结 三步走:①写总体矩的表达式(含参数);②令它等于对应的样本矩;③解方程。两个参数的场合就用前两阶矩列两个方程,联立求解。

例题

第六章 统计推断:估计与检验例2 最大似然:正态与伯努利参数的最大似然估计

题 求下列参数的最大似然估计:

① 伯努利试验 n = 20 次,成功 k = 7 次,估计成功概率 p;

② 正态总体,样本 5.1, 5.3, 4.8, 4.6, 5.2,估计 μ 与 σ2;

③ 均匀总体 U(0, θ),样本同上例 ①。

解 ① 单次试验的分布是 P(X = x) = px(1 − p)1−x(x = 0, 1)。似然函数是 20 个因子的乘积,其中 k 个是 p、n − k 个是 (1 − p):

L(p) = pk(1 − p)n−k, ln L(p) = k ln p + (n − k) ln(1 − p)

求导并令其为零:

d ln Ldp = kp − n − k1 − p = 0 ⟹ p̂ = kn

代入 k = 7, n = 20,得 p̂ = 7/20 = 0.35。

这一步的意义远超一个算式:它从似然原理严格推出了「频率就是概率的估计」。掷 100 次得 60 次正面就用 0.60 估 p——我们一直凭直觉这么做,现在才知道为什么这么做是对的。

② 正态密度代入似然函数,取对数:

ln L = −n2 ln(2π) − n2 ln σ2 − 12σ2∑(xi − μ)2

先对 μ 求偏导:只有最后一项含 μ,而它是「距离平方和」,当 μ 取在数据中心时最小,故 μ̂ = X。再对 σ2 求偏导(令 v = σ2):

−n2v + ∑(xi − x)22v2 = 0 ⟹ σ̂2 = 1n∑(xi − x)2

注意分母是 n,不是 n − 1。代入数据:x = 25.0/5 = 5.000,偏差平方和为

(0.1)2 + (0.3)2 + (−0.2)2 + (−0.4)2 + (0.2)2 = 0.01 + 0.09 + 0.04 + 0.16 + 0.04 = 0.34

故 σ̂2 = 0.34/5 = 0.0680,σ̂ = 0.2608。若改用无偏的样本方差,则 s2 = 0.34/4 = 0.0850——两个分母,两个数值,一个题目里最常见的对照点。

③ 均匀分布 U(0, θ) 的似然函数是 L(θ) = 1/θn,条件是全部观测都落在 (0, θ) 内,即 θ ≥ max(xi)。函数 1/θn 关于 θ 单调递减,故取到最小可行的 θ 时最大:

θ̂ = max(xi) = 0.900

三个小题展示了最大似然法的三种「长相」:① 可微、求导(伯努利);② 偏导联立(正态);③ 端点取到(均匀)。第三类不能用求导——这正是 MLE 最容易被公式化套路绊倒的地方。

例题

第六章 统计推断:估计与检验例3 无偏性验证:判断估计量是否无偏

题 设 X1, …, Xn 是来自总体 X 的样本,E(X) = μ、Var(X) = σ2。判断下列估计量是否无偏:

① μ̂1 = X; ② σ̂12 = 1n∑(Xi − X)2; ③ μ̂2 = X1;

④ 总体 U(0, θ) 时,θ̂1 = 2X; ⑤ 同上总体的 θ̂2 = max(Xi)(已知 E(max) = nn + 1θ)。

解 判据只有一条:看期望是否等于真值。

① 由期望的线性性:

E(X) = E(1n∑Xi) = 1n∑E(Xi) = 1n · nμ = μ

故 X 是 μ 的无偏估计。

② 关键是那条恒等式 ∑(Xi − X)2 = ∑(Xi − μ)2 − n(X − μ)2。逐项取期望:第一项 = nσ2,第二项 = n · σ2/n = σ2,故

E[∑(Xi − X)2] = nσ2 − σ2 = (n − 1)σ2 ⟹ E(σ̂12) = n − 1nσ2

因为 (n − 1)/n ≠ 1,所以 σ̂12 有偏(偏小);而把分母换成 n − 1 就得到无偏的 S2。

③ E(X1) = μ——只用第一个观测也是无偏的!「无偏」不担保「好用」,这正说明还需要有效性这条标准(见例 4)。

④ E(2X) = 2E(X) = 2 · θ2 = θ,故 无偏。

⑤ E(max) = nn + 1θ ≠ θ,故 有偏(偏小)。若想修正,可乘上 (n + 1)/n,即 θ̃ = n + 1nmax(Xi) 就是无偏的了。

小结 无偏性是可加性最强的性质:期望的线性性使「无偏估计的线性组合仍无偏」;但方差的表达式要复杂得多,这也解释了为什么「无偏」比「有效」更容易验证。

例题

第六章 统计推断:估计与检验例4 有效性比较:两个无偏估计谁更优

题 正态总体 N(μ, σ2),样本 X1, …, Xn(n ≥ 2)。

① 比较 μ̂1 = X、μ̂2 = X1、μ̂3 = X1 + X22 三者的有效性;

② 比较样本均值 X 与样本中位数 M 的有效性(已知 Var(M) ≈ πσ22n)。

解 ① 三个估计量的期望都是 μ(都无偏),故只比方差:

Var(μ̂1) = σ2n, Var(μ̂2) = σ2, Var(μ̂3) = σ22

因为 n ≥ 2,所以 σ2/n ≤ σ2/2 < σ2(n > 2 时前者严格小于)。方差越小越有效,故 μ̂1 最优:用全部数据总比只用一部分强。

这个结论还有个熟面孔的解释:Var(X1) = σ2 对 Var(X) = σ2/n,比值恰为 n。所以「样本量越大越准」在方差层面是一个精确的定量事实:n 倍的样本,换来 n 分之一的方差、√n 分之一的标准差。

② 两个都是 μ 的无偏估计,比较方差:

Var(M)Var(X) = πσ2/(2n)σ2/n = π2 ≈ 1.571

所以 X 比中位数有效,比值约 1.57。换个说法:要达到同样的精度,用中位数大约要多花 57% 的样本。下表把模拟验证也列出来(正态总体,每个 n 各 4 万次重复):

nVar(X)Var(M)实测比值渐近值 π/2
50.20150.28561.4181.5708
100.10020.13871.385
250.04010.06241.558
1000.01000.01561.559
4000.00250.00391.563

表中的一个小细节:n = 5 与 n = 10 时的实测比值明显小于 1.571,到 n = 400 才缓慢爬近。这就是讲义中强调的「渐近」二字的分量——有效性的大小比较,在小样本时未必按渐近结论走。

小结 有效性比较的操作规程:①先确认两个都无偏;②分别算方差;③方差小的更有效。若两者一个无偏一个有偏,则须改用均方误差(MSE)——它等于方差加偏差平方,是把「正」与「稳」放在同一把尺子上的办法。

例题

第六章 统计推断:估计与检验例5 区间估计:正态均值(方差已知)

题 某厂生产的零件长度 X ~ N(μ, σ2),由长期生产数据已知 σ = 0.04 mm。今抽 16 件,测得 X = 125.60 mm。

① 求 μ 的 95% 置信区间;② 求 99% 置信区间;③ 若要求区间半宽不超过 0.01 mm,至少抽多少件(95%)?

解 ① 因为 σ 已知,用 z 区间。先算标准误:

SE = σ√n = 0.04√16 = 0.044 = 0.0100

95% 对应 z0.025 = 1.960,故半宽 = 1.960 × 0.0100 = 0.0196:

(X − 0.0196, X + 0.0196) = (125.5804, 125.6196)

结论:这批零件的平均长度在 125.580 到 125.620 mm 之间(95% 置信)。注意区间的宽度只有 0.039 mm——非常窄,因为 σ = 0.04 本就不大,而 16 件样本把标准误又压到了 0.01。

② 99% 对应 z0.005 = 2.5758,半宽 = 0.0258:

(X ± 0.0258) = (125.5742, 125.6258)

比 95% 区间宽了约 32%。置信度不是越高越好——「更可靠」的代价是「更含糊」,这是一对绕不开的交换。

③ 反解。要求 z0.025 · σ/√n ≤ 0.01:

1.960 × 0.04√n ≤ 0.01 ⟹ √n ≥ 7.84 ⟹ n ≥ 61.47

故至少抽 62 件。从 16 件到 62 件,样本量要涨近 4 倍,半宽才从 0.0196 压到 0.01——1/√n 规律的又一次现身。

同一批数据:置信度越高,区间越宽 90% ±0.0165 95% ±0.0196 99% ±0.0258 中心 125.60 换更大样本:n = 62 时可把 95% 区间的半宽压到 0.01
图 6-19 置信度与宽度的交换。同样是 125.60 的中心,置信度从 90% 提到 99%,区间要宽出一半以上。

有一个术语上的讲究:不能写成「μ 落在 (125.5804, 125.6196) 内的概率是 0.95」——μ 是常数,谈不上概率。正确说法是「用这套方法反复抽取,得到的区间有 95% 会盖住 μ」。

例题

第六章 统计推断:估计与检验例6 区间估计:正态均值(方差未知,t 区间)

题 某材料的抗拉强度服从正态分布,σ 未知。抽 n = 9 个试样,测得 X = 42.5 MPa、S = 3.2 MPa。求 μ 的 95% 置信区间,并与「若已知 σ = 3.2」的情形比较。

解 第一步:辨清用 z 还是 t。σ 未知——用 t。这是本节最要紧的一步判断。

第二步:算标准误。

SE = S√n = 3.2√9 = 3.23 ≈ 1.0667

第三步:查临界值。自由度 = n − 1 = 8,双侧 0.05 对应 t0.025(8) = 2.3060。

第四步:给出区间。

42.5 ± 2.3060 × 1.0667 = 42.5 ± 2.4597 = (40.040, 44.960)

结论:该材料平均抗拉强度在 40.04 至 44.96 MPa 之间(95% 置信)。

对照:若 σ = 3.2 竟然已知(比如来自厂家规范),则用 z0.025 = 1.960,区间变为

42.5 ± 1.960 × 1.0667 = 42.5 ± 2.0907 = (40.409, 44.591)

同一批数据,同样的置信度,t 区间比 z 区间宽了约 0.37 MPa(宽度之比 2.306/1.960 ≈ 1.177)。这多出来的部分,就是「σ 也得猜」的成本——统计学的诚实之处:不知道的事,必须用更宽的区间来坦白。

同样的数据:σ 未知要付「保险费」 中心 42.5 z 区间:40.409 – 44.591(半宽 2.091) t(8) 区间:40.040 – 44.960(半宽 2.460) t/z = 2.306/1.960 = 1.177——多出的 17.7% 就是「σ 未知」的代价 自由度越大这笔保险费越便宜:t(24)=2.064、t(120)=1.980,趋近 1.960
图 6-20 t 区间与 z 区间的宽度对照。t 分布的厚尾,在实务中表现为一段必须额外让出的宽度。

小结 均值区间估计的四步口诀:①辨(σ 知否,定 z/t);②算(标准误 σ/√n 或 S/√n);③查(zα/2 或 tα/2(n−1),注意双侧要取 α/2);④报(写成「X ± 半宽」,并说清置信度)。四步走顺,这类题就没有难点。

例题

第六章 统计推断:估计与检验例7 假设检验:单侧与双侧的建立

题 某设备额定输出为 μ0 = 100,输出服从正态分布、σ = 10。抽 n = 25 台,得 X。按下列三种要求,分别写出原假设、备择假设与拒绝域(α = 0.05):

① 只要考察「是否偏离额定值」;② 只担心「输出偏高」(超标即危险);③ 只担心「输出偏低」。

解 第 0 步:先算标准误,这是三种情形的公共基础。

SE = σ√n = 10√25 = 2

于是 X ~ N(100, 22)(在 H0 成立时),检验统计量 Z = (X − 100)/2 ~ N(0, 1)。

① 双侧检验(只关心「偏不偏」):

H0 : μ = 100 H1 : μ ≠ 100 拒绝域:|Z| > 1.960

翻译回 X 的语言:X < 96.08 或 X > 103.92。α = 0.05 平分给两个尾巴,各 0.025。

② 右侧检验(怕偏高):

H0 : μ ≤ 100 H1 : μ > 100 拒绝域:Z > 1.645

即 X > 103.29。整个 α 都给右尾。

③ 左侧检验(怕偏低):

H0 : μ ≥ 100 H1 : μ < 100 拒绝域:Z < −1.645

即 X < 96.71。

若某个样本给出 X = 103.6,三种检验的结论会一样吗?算一下:Z = 1.80。

检验拒绝域Z = 1.80 的位置结论
① 双侧|Z| > 1.9601.80 < 1.960不拒绝
② 右侧Z > 1.6451.80 > 1.645拒绝
③ 左侧Z < −1.6451.80 > −1.645不拒绝
同一份数据,Z = 1.80:三种检验三种答案 Z = 1.80 −1.960 +1.960 双侧:α/2 = 0.025 各自分摊 +1.645 右侧:α = 0.05 全给右尾,临界值降到 1.645 临界值右移(1.960 → 1.645),1.80 就从「安全区」滑进了「拒绝区」 单侧检验更「容易显著」——所以必须由问题本身预先决定,不可事后挑选
图 6-21 单侧与双侧的临界值差异。把 α 集中到一个尾巴,临界值从 1.960 降到 1.645,同一份数据因此可以从「不显著」变成「显著」。

这正是「不可事后挑选单双侧」的真正原因:先看数据、再决定用单侧,等价于把 α 偷偷放大了一倍。正确的做法是在收集数据之前,根据问题的性质把检验的方向定死。

例题

第六章 统计推断:估计与检验例8 两类错误:计算犯错的概率

题 承例 7 ②:H0 : μ ≤ 100、H1 : μ > 100,但改用更「严格」的拒绝域 X > 104(即临界点 c = 104)。已知 σ = 10、n = 25。

① 求第一类错误的概率 α;② 若真实 μ 分别为 103、105、108,求第二类错误的概率 β 与功效 1 − β;③ 若要求真实 μ = 105 时功效不低于 0.90,样本量至少要多少?

解 标准误仍为 SE = 2。

① 在 H0 的边界 μ = 100 上,X ~ N(100, 22):

α = P(X > 104 | μ = 100) = P(Z > 104 − 1002) = P(Z > 2.00) = 1 − Φ(2.00) = 0.0228

② 关键是把「β」翻译成一句话:真值在 μ1,但样本均值没有越过临界点。此时 X ~ N(μ1, 22),故

β(μ1) = P(X ≤ 104 | μ = μ1) = Φ(104 − μ12)

真实 μ1(104 − μ1)/2β(取伪)功效 1 − β
1030.500.69150.3085
105−0.500.30850.6915
108−2.000.02280.9772

读表要读出味道:真值离原假设越远,功效越高。真值 108(差 8)时几乎总能查出(0.977);真值 103(差 3)时八成会漏掉(功效仅 0.309)。「查不出小差别」不是检验失灵,而是小差别本来就难与随机波动区分。

③ 反解样本量。要求 μ = 105 时功效 ≥ 0.90,即 β ≤ 0.10。用单侧 α = 0.05(z0.05 = 1.645):

Φ(c − 105SE) ≤ 0.10 ⟹ c − 105SE ≤ −1.282, 又 c = 100 + 1.645SE

两式联立:100 + 1.645SE − 105 ≤ −1.282SE,即 2.927SE ≥ 5,SE ≥ 1.708。而 SE = 10/√n,故 √n ≥ 10/1.708 = 5.855,n ≥ 34.28——取 n = 35。验算:n = 35 时功效 = 0.9054 ≥ 0.90,达标。

注意这个结论的份量:α 被固定为 0.05(不能靠调临界点来提升功效),那么提升功效的唯一途径就是增大样本量。临床上设计一项试验,之所以常常要算「样本量要多少」,正是在这个式子上做文章。

例题

第六章 统计推断:估计与检验例9 t 检验:样本均值与已知值的比较

题 某饮料标称每罐净含量 250 mL。抽 n = 16 罐,测得 X = 249.2 mL、S = 1.6 mL。问灌装量是否偏离标称值?(α = 0.05)若另一批测得 X = 248.6 呢?

解 第一步:立假设。问题问的是「是否偏离」——两个方向都算不合格,故用双侧。

H0 : μ = 250, H1 : μ ≠ 250

第二步:选统计量。σ 未知、n = 16 小样本,故用 t:

t = X − μ0S/√n = 249.2 − 2501.6/4 = −0.80.4 = −2.000

第三步:查临界值并判断。自由度 15,t0.025(15) = 2.1314。因为

|t| = 2.000 < 2.1314

落在拒绝域之外——不拒绝 H0。即:尚无充分证据说明灌装量偏离 250 mL。

第四步:用 p 值复核。p = 2P(T15 > 2.000) = 0.0639 > 0.05,结论一致。

第二批数据:X = 248.6 时,

t = 248.6 − 2500.4 = −3.500, |t| = 3.500 > 2.1314 ⟹ 拒绝 H0(p = 0.0032)

两批数据只差 0.6 mL,结论却从「不拒绝」翻到「拒绝」——因为 t 统计量把「偏差除以标准误」的相对尺度算了进去,这正是检验统计量的价值。

t 检验:两批数据的「底气」差别 t = −2.000 t = −3.500 −2.1314 +2.1314 蓝点在临界值内侧:p = 0.0639,不拒绝;红点在拒绝域内:p = 0.0032,拒绝 临界值由「双侧 α = 0.05、自由度 15」唯一确定,不随样本变化
图 6-22 两批数据在拒绝域中的位置。t 统计量把「偏差」与「标准误」的比值算了出来,因而是可以跨数据比较的统一尺子。

报告结论时的措辞练习:「在 0.05 显著性水平下,样本未提供足够证据表明灌装量偏离 250 mL(t = −2.000,p = 0.0639)。」——主语是「样本」而不是「灌装机」,动词是「未提供证据」而不是「证明没有」。这两处措辞,是统计素养的试金石。

例题

第六章 统计推断:估计与检验例10 卡方检验:总体方差是否为给定值

题 某零件尺寸标准差的技术要求为 σ0 = 0.5 mm。抽 n = 16 件,测得 S2 = 0.36,即 S = 0.6 mm。

① 作双侧检验(α = 0.05),问波动是否合乎要求?② 若质检只在方差偏大时才判不合格,改用单侧检验,结论如何?

解 ① 立 H0 : σ2 = 0.25(即 σ = 0.5),H1 : σ2 ≠ 0.25。统计量

χ2 = (n − 1)S2σ02 = 15 × 0.360.25 = 5.400.25 = 21.600

自由度 15。双侧检验要查两个分位数:

χ20.975(15) = 6.262, χ20.025(15) = 27.488

因为 6.262 < 21.600 < 27.488,不拒绝 H0——尚未发现波动超标的证据。

② 单侧立 H0 : σ2 ≤ 0.25、H1 : σ2 > 0.25,拒绝域取右尾:

χ2 > χ20.05(15) = 24.996

依然 21.600 < 24.996,仍不拒绝 H0。结论没变,但临界值的变化:双侧 27.488 → 单侧 24.996,门槛降了,检验变得更容易显著。

反过来算,这批数据要到什么程度才判不合格?解 15S2/0.25 > 24.996 得 S2 > 0.4166,即 S > 0.6455。也就是说 S 必须超过 0.646 mm(比要求的 0.5 高出 29%)才会被判不合格。

方差的卡方检验:单侧 vs 双侧临界值 χ2​ = 21.600 6.262 24.996(单侧) 27.488(双侧) 样本统计量 21.600 在两个临界值之内:两种检验都不拒绝 左侧 6.262 那条线是「方差过小」才用的——正常生产中很少需要管它
图 6-23 方差检验的两组临界值。单侧把全部门槛压在右尾,所以比双侧的右临界值小;21.600 落在两者之内,故两种检验都不拒绝。

技术提示:做方差检验时,务必先确认总体近似正态。卡方检验对正态假设的偏离很敏感——若数据明显偏态,即使 χ2 值偏大,也未必真说明方差超限。这是它比 t 检验更脆弱的地方(t 检验在大样本下靠中心极限定理仍可用)。

例题

第六章 统计推断:估计与检验例11 拟合优度:检验骰子是否均匀〔骰子〕

题 掷一枚骰子 120 次,六个面出现的次数依次为 15, 18, 22, 17, 24, 24。在 α = 0.05 下检验这枚骰子是否均匀。

解 第一步:立假设。H0:骰子均匀(每个面出现的概率都是 1/6);H1:骰子不均匀。注意:均匀性是一个模型,它带来一组期望频数——这正是「拟合优度」的由来。

第二步:算期望频数。总次数 120,六面等概率,故

Ei = 120 × 16 = 20 (i = 1, …, 6)

每个期望频数都 ≥ 5,可以直接做检验;若某类期望小于 5,必须与相邻类合并。

第三步:算统计量。把六个偏差逐个平方、除以期望:

点数123456合计
观测 O151822172424120
期望 E202020202020120
O − E−5−22−3440
(O−E)2/E1.250.200.200.450.800.803.70

第四步:定自由度、查表。类别数 6,只有「总数固定」这一条约束,故自由度 = 6 − 1 = 5。

χ2 = 3.700 < χ20.05(5) = 11.0705

不拒绝 H0(p = 0.5934)。数据与「骰子均匀」这一假设没有冲突——可以放心使用(至少在 120 次的数据量下挑不出毛病)。

为了感受判据的灵敏度,换成另一组观测:8, 12, 18, 22, 28, 32(明显递增):

χ2 = 144 + 64 + 4 + 4 + 64 + 14420 = 42420 = 21.200 > 11.0705 ⟹ 拒绝(p = 0.0007)

同一枚骰子的两种「命运」 3.700 21.200 11.0705 第一组:绿点在内,不拒绝 第二组:红点越过临界值,拒绝 第一个数与第二个数的「差距」,正是「随机抖动」与「系统性偏差」的分界 自由度 5、α = 0.05 的临界值 11.0705 就是这条分界线
图 6-24 两组观测的对照。左边那组起伏不大,是随机的正常抖动;右边那组单调递增,已经超出随机能解释的范围。

解法小结 拟合优度检验的四步:①立模型(给出期望);②算期望频数(并检查是否 ≥ 5);③算 ∑(O−E)2/E;④自由度 = 类别数 − 1(若估计了某个参数,还要再减估计的个数)。

最后一次回到赌桌:皮尔逊 1900 年提出这个统计量时,用的就是骰子数据。他手上有 12000 次掷骰的记录,逐面检验是否均匀。当时他已经注意到「自由度要减掉估计出来的参数个数」这一细节——这个洞见后来被称为「皮尔逊的疏忽与费希尔的修正」,是统计学史上的一段著名公案。

例题

第六章 统计推断:估计与检验例12 综合:一张「统计推断四步法」的完整填写

题 某品牌充电宝标称续航 10 小时。质检抽 n = 25 块,测得平均续航 X = 9.7 小时、样本标准差 S = 0.6 小时。设续航近似正态。

① 求平均续航的 95% 置信区间;② 在 α = 0.05 下检验「标称续航是否达标」;③ 把两问的结论放在一起解读。

解(按四步法逐格填写)

步骤本例填写
① 定目标总体:该品牌充电宝的续航 X ~ N(μ, σ2);关注参数 μ;样本 n = 25,X = 9.7,S = 0.6;σ 未知
② 选工具σ 未知 → 用 t;自由度 = 25 − 1 = 24
③ 算统计量SE = 0.6/√25 = 0.1200;t = (9.7 − 10)/0.1200 = −2.5000
④ 查表结论t0.025(24) = 2.0639;|t| = 2.5000 > 2.0639 → 拒绝 H0;p = 0.0197

① 区间估计。

9.7 ± 2.0639 × 0.1200 = 9.7 ± 0.2477 = (9.452, 9.948)

结论:平均续航在 9.45 至 9.95 小时之间(95% 置信)。注意区间整体位于 10 的下方——这是下一问的伏笔。

② 假设检验。立 H0 : μ = 10、H1 : μ ≠ 10(双侧,因为「偏短」是问题所在,但严格检验仍按双侧办):

t = −2.5000, |t| = 2.5000 > t0.025(24) = 2.0639 ⟹ 拒绝 H0

结论:在 0.05 水平下,样本提供了显著证据,说明平均续航低于标称的 10 小时(p = 0.0197)。

③ 两个结论的互证。把区间与检验放在一起看,会发现它们讲的是同一件事:

方法表达结论
95% 置信区间(9.452, 9.948)整段区间都落在 10 以下
双侧 t 检验p = 0.0197 < 0.05拒绝 μ = 10

这就是讲义 §6.12 说过的那枚硬币的两面:标称值 10 落在置信区间之内 ⟺ 不拒绝;落在区间之外 ⟺ 拒绝。本例 10 > 9.948,落在区间外,故拒绝——两法必然一致,永不出矛盾。若哪天算出来不一致,那就是某一步算错了。

置信区间与假设检验:同一枚硬币的两面 9.4 9.6 9.8 10.0 10.2 x̄ = 9.7 标称 10.0 95% 区间 (9.452, 9.948) 标称值 10.0 落在区间之外(10.0 > 9.948) ⟹ 同一份数据必然「拒绝 H0​」,与 t 检验的结论严丝合缝 两法的临界值等价:z2​ = t2​(自由度很大时),是同一个「5%」的两种写法
图 6-25 区间估计与假设检验的一致性。标称值相对置信区间的内外位置,与检验的拒绝与否完全等价——掌握这一点,两种方法只需学一套。

业务解读(这一步常被学生忽略,却是统计真正的落点):续航平均低 0.3 小时(约 3%),统计上已判定为「显著偏低」。但要不要因此判整批不合格,还要看实际代价——若标称值允许 3% 的工程公差,则虽显著却不重要;若法规要求必须达标,则该判不合格并追查生产线。这就是讲义 §6.17 说的:统计只回答「证据有多强」,「该怎么办」要由人来定。

习题

第六章 统计推断:估计与检验习题课一 矩估计

本课练「一看分布就能写出估计量」的手感。所有题目都只有一句话:把总体矩换成样本矩,解出参数。

练 1.1 总体 X ~ U(0, θ),样本 1.2, 2.5, 1.8, 3.0, 2.0。求 θ 的矩估计值。

答:E(X) = θ/2,令 θ/2 = X 得 θ̂ = 2X。X = 10.5/5 = 2.100,故 θ̂ = 4.200。顺带自查:4.200 大于样本最大值 3.0,这是合理的——θ 是上界,必然不小于观测到的任何值。若算出 θ̂ < max(xi),必是算错了。

练 1.2 总体 X ~ P(λ)(泊松),样本 2, 3, 1, 4, 5。求 λ 的矩估计值。

答:泊松分布 E(X) = λ,故 λ̂ = X = 15/5 = 3.000。泊松是「期望即参数」的分布,所以矩估计就是样本均值——这是它最常见的一类快答。

练 1.3 总体 X ~ N(μ, σ2),样本 4.2, 5.1, 3.8, 4.6, 5.3, 4.0。用矩估计法求 μ 与 σ2。

答:两参数用两阶矩。μ̂ = X = 27.0/6 = 4.500;σ̂2 = 1n∑(xi − x)2。偏差为 −0.3, 0.6, −0.7, 0.1, 0.8, −0.5,平方和 = 0.09+0.36+0.49+0.01+0.64+0.25 = 1.84,故 σ̂2 = 1.84/6 = 0.30667,σ̂ = 0.5538。注意用的是「二阶中心矩」(除以 n),不是样本方差 s2(除以 n − 1 = 0.368)。

练 1.4 为什么矩估计法几乎总能给出答案?它有什么显而易见的弱点?

答:因为矩估计只要求总体矩存在,就能写出方程——不必知道分布的全貌,也不必求导或讨论端点。弱点有两处:① 用多少阶矩、丢掉多少信息,全凭主观;② 结果依赖所选矩。最典型的例子就是 U(0, θ):矩估计 2X 给出 4.200,而最大似然只用最大值就给出 3.000——后者才是数据中真正「顶到上界」的那条信息。

练 1.5 某零件直径的分组数据(40 件):组中值 10、20、30、40、50,频数分别为 4、10、16、7、3。用组中值作矩估计,求平均直径。

答:x = 4×10 + 10×20 + 16×30 + 7×40 + 3×5040 = 40+200+480+280+15040 = 115040 = 28.75。分组数据里的「样本均值」是加权平均,权重就是频数——这也是矩估计在实务表格中的常见形态。

小结:矩估计=「替换」。写总体矩 → 换样本矩 → 解方程。三步之后必做两件事:验参数是否落在合理范围、想清楚丢掉了哪些信息。

习题

第六章 统计推断:估计与检验习题课二 最大似然估计

本课练「让曲线长到最高」的手感。最大似然法有一套固定动作:写似然 → 取对数 → 求导 → 解方程(遇到端点情形则另作判断)。

练 2.1 抛一枚硬币 50 次,正面 18 次。求正面概率 p 的最大似然估计。

答:L(p) = p18(1 − p)32,对数似然 ln L = 18 ln p + 32 ln(1 − p)。求导令零:18/p = 32/(1 − p),交叉相乘得 18(1−p) = 32p,即 p = 18/50 = 0.360。结论:MLE 就是频率——55 次、18 次、50 次这一串数字里,唯一的「答案」是整个推导的产物。

练 2.2 某路口 10 分钟内每分钟通过的车辆数记录为 3, 2, 4, 1, 2, 3, 2, 4, 3, 2,设服从泊松分布,求 λ 的最大似然估计。

答:泊松 P(X = k) = λke−λ/k!,对数似然 ln L = (∑ki)lnλ − nλ − ∑ln(ki!)。求导:(∑ki)/λ − n = 0,得 λ̂ = X = 26/10 = 2.600。泊松的 MLE 也是样本均值,与矩估计一致——两者的「同分」现象在多数常见分布里都会出现。

练 2.3 某种元件的寿命服从指数分布 Exp(λ),测得五个寿命 1.4, 2.2, 0.9, 1.8, 2.6。求 λ 的最大似然估计。

答:ln L = n ln λ − λ∑xi,求导得 n/λ − ∑xi = 0,即 λ̂ = 1/x。x = 8.9/5 = 1.780,故 λ̂ = 1/1.780 = 0.5618。从「寿命」到「失效率」的转换只用了倒数——这个动作在可靠性工程里天天出现。

练 2.4 总体 U(0, θ),样本同上题课练 1.1(1.2, 2.5, 1.8, 3.0, 2.0)。求 θ 的最大似然估计,并解释为什么不能「求导」。

答:似然函数 L(θ) = 1/θ5,适用条件是 θ ≥ max(xi) = 3.0。1/θ5 关于 θ 单调递减,故函数在可行区间的左端点取最大:θ̂ = max(xi) = 3.000。不能求导的原因:极大值出现在区间端点而非内部驻点。此时 L′(θ) = −5/θ6 < 0 处处不为零,求导法会一无所获。对照矩估计的 4.200,两法相差 40%——差距全在「是否用上最大值这条信息」。

练 2.5 为什么最大似然法总要「先取对数再求导」?对数会不会改变极值点的位置?

答:不会改变位置。因为 ln 是严格单调递增函数,L 与 ln L 在同一点取到极大值,且极大值唯一对应。这样做的两个好处:① 乘积变求和(∏f 变成 ∑ln f,求导不再是上百个因子的乘积法则);② 指数项脱落(ex 取对数后变成 x,公式立刻清爽)。「取对数」是统计计算里最划算的一笔交易。

小结:MLE 的核心问题永远是「哪组参数最能解释我手上的数据」。四类长相要认全:可微型(求导)、指数族(对数化)、端点型(看边界)、多参数型(联立偏导)。

习题

第六章 统计推断:估计与检验习题课三 无偏性

本课练一把尺子:取期望,看等不等于真值。

练 3.1 样本 X1, …, Xn 来自总体 X,E(X) = μ。判断下列估计量是否无偏:① X1;② X1 + X22;③ 1n + 1∑Xi。

答:① E(X1) = μ 无偏;② E[(X1+X2)/2] = (2μ)/2 = μ 无偏;③ E[(1/(n+1))∑Xi] = nμ/(n+1) ≠ μ 有偏(偏小)。看出一类规律:c∑Xi 无偏 ⟺ c = 1/n。

练 3.2 设 X̄ 是样本均值。问 aX + b 何时是 μ 的无偏估计?

答:E(aX + b) = aμ + b,要对一切 μ 等于 μ,必须 a = 1 且 b = 0。「无偏」对参数的一切取值成立——这一条「对一切」的要求,正是无偏性看似宽松实则严格的地方。

练 3.3 为什么样本方差要除以 n − 1 而不是 n?一句话说出「信息」层面的理由。

答:因为偏差 Xi − X 被一条约束 ∑(Xi − X) = 0 绑住了——知道前 n − 1 个偏差,最后一个立刻被唯一确定。所以「独立的偏差」只有 n − 1 个,这就是自由度。用 n 除等于把「独立信息的条数」多算了一个,导致系统性偏小(比例恰为 (n−1)/n)。

练 3.4 承接练 2.4:θ̂ = max(Xi) 是 U(0, θ) 的有偏估计(E = nθ/(n+1))。如何修正为无偏?修正后是否还一致?

答:乘上 (n+1)/n:θ̃ = n + 1nmax(Xi),则 E(θ̃) = n+1n · nθn+1 = θ。修正后仍一致——因为 (n+1)/n → 1,乘一个趋于 1 的常数不改变收敛性。「无偏」与「一致」是两个独立的要求,修好一个不会破坏另一个。

练 3.5 有偏估计一定是坏估计吗?举一例说明。

答:不一定。最大似然给出的 σ̂2(分母 n)就是有偏的,但它在均方误差意义上常优于无偏的 S2;「有偏但方差很小」往往比「无偏但方差很大」更划算。更极端的例子:U(0, θ) 的 max(Xi) 虽偏,但方差只有矩估计的约 1/10(见习题课四);把偏差修正过来,也不会毁掉它原有的优势。评价估计量要看均方误差,不只盯偏差。

小结:无偏性是「平均意义上瞄得正」。三步走:写期望 → 用线性性 → 与真值比。两个必背结论:E(X) = μ、E(S2) = σ2。

习题

第六章 统计推断:估计与检验习题课四 有效性与一致性

本课练第二把尺子,也是更细的一把:都瞄得正时,谁更稳。

练 4.1 样本 X1, …, Xn,Var(X) = σ2。比较 μ̂1 = X1 与 μ̂2 = (1/n)∑Xi 的方差。

答:Var(μ̂1) = σ2;由独立性 Var(μ̂2) = (1/n2)∑Var(Xi) = σ2/n。比值 = n——样本均值比「只用第一个数」有效 n 倍。这个结论有个直观读法:每多用一个数据,就把方差按比例压一点,这就是「数据即力量」的定量表达。

练 4.2 正态总体,样本均值 X 与样本中位数 M 都是 μ 的无偏估计(Var(M) ≈ πσ2/(2n))。谁更有效?差距有多大?

答:Var(M)Var(X) = πσ2/(2n)σ2/n = π2 ≈ 1.571,故 X 更有效,用中位数要多花约 57% 的样本才能达到同样精度。但别急着下结论:这个 1.571 是渐近值。模拟显示 n = 10 时实测比值仅约 1.39,n = 400 才爬到 1.563。小样本时理论结论未必兑现。

练 4.3 承练 2.4:比较 θ̂1 = 2X 与 θ̂2 = max(Xi) 在 U(0, θ) 下的有效性(设 Var(X) = θ2/12)。

答:Var(θ̂1) = 4Var(X) = 4 · θ2/12n = θ23n;Var(θ̂2) ≈ θ2n(n+2)。比值约 (n+2)/3——n = 100 时前者方差是后者的 34 倍。模拟数据佐证:θ = 1、n = 100 时,前者的标准差 0.0576、后者仅 0.0099。即使 max 有偏,它的方差小到碾压矩估计——这就是「信噪比」在估计问题里的分量。

练 4.4 什么是「一致性」?为什么说它是估计量的「最低合格证」?

答:一致性(相合性)= 当 n → ∞ 时,θ̂ 依概率收敛到 θ。说它是「最低合格证」,因为:一个连「样本量趋于无穷都还不能逼近真值」的估计量,无论它在有限样本下表现多好,都说明它系统地偏离了目标。实证上有一句经验之谈:如果一个估计量不一致,先怀疑公式写错了。(比如把 ∑Xi/√n 误当成 ∑Xi/n——前者随 n 增大而发散。)

练 4.5 三条标准(无偏、有效、一致)能否同时满足?举出一个例子。

答:能。正态总体的样本均值 X 就是标准答案:无偏(E = μ)、有效(在一切无偏估计里方差最小,可由 Cramér–Rao 下界证明)、一致(Var → 0,由大数定律)。这三条同时成立的估计量非常稀有——这也正是「样本均值」在统计中地位特殊的原因。

小结:无偏管「正」,有效管「稳」,一致管「久」。比较的顺序不能乱——先确认都无偏,再比方差;一个无偏一个有偏时,改用均方误差 MSE = Var + 偏差2。

习题

第六章 统计推断:估计与检验习题课五 区间估计(均值)

本课练「造一个筐」的手感。开口大小由置信度决定,底部数据越密(n 越大)筐就越小。

练 5.1 某地年降水量 X ~ N(μ, σ2),多年资料给出 σ = 8 mm。抽 25 年,得 X = 102 mm。求 μ 的 95% 置信区间。

答:SE = 8/√25 = 1.600,半宽 = 1.960 × 1.600 = 3.136,故 (98.864, 105.136)。报告口径:本地年平均降水量在 98.9 至 105.1 mm 之间,置信度 95%。注意 3.136 只到 3.1——精度取到小数点后一位已经足够(与 σ 的位数相称)。

练 5.2 某班成绩近似正态,抽 12 人,得均分 58.4、标准差 6.5。求班级均分的 95% 置信区间。

答:先辨:σ 未知 → 用 t。SE = 6.5/√12 = 1.8764;自由度 11,t0.025(11) = 2.2010。半宽 = 2.2010 × 1.8764 = 4.1299,故 (54.270, 62.530)。若误用 z = 1.960,会得到 (54.723, 62.077)——白白窄了 0.4 分,高估了精度。

练 5.3 某指标的测量误差标准差约为 2.0。若要把 95% 置信区间的半宽控制在 0.5 以内,至少需要多少次测量?

答:1.960 × 2.0/√n ≤ 0.5 ⟹ √n ≥ 7.84 ⟹ n ≥ 61.47,取 n = 62。验算的窍门:把握度公式反过来用「半宽 → 样本量」时,宁可向上多取一个,不要向下取整。(n = 61 时半宽 0.502 > 0.5,不达标。)

练 5.4 某样本 n = 16、X = 50、S = 5、正态。分别求 90%、95%、99% 置信度下的区间(用 t 分布)。

答:SE = 5/4 = 1.25,自由度 15,三个临界值 t0.05 = 1.7531、t0.025 = 2.1314、t0.005 = 2.9467:

90%:50 ± 2.1914 = (47.81, 52.19);95%:50 ± 2.6643 = (47.34, 52.66);99%:50 ± 3.6834 = (46.32, 53.68)。从 90% 提到 99%,区间几乎宽了一倍——而样本量一点没变。「要更保险」与「要更精确」是一对永恒的对抗,只能靠增大样本量同时改善。

练 5.5 判断对错:「这批零件的平均长度有 95% 的概率落在 (49.8, 50.2) 内。」

答:错。参数 μ 是固定的常数,「落在区间内」这件事非真即假,谈不上概率。正确说法是:「用这套抽样与计算程序反复做,得到的区间有 95% 会盖住 μ」。随机的是区间,不是参数——这是置信区间最容易被念错的一句话(§6.6 抛网比喻的要点)。

小结:均值区间四步走——①辨(σ 知否)→ ②算(SE)→ ③查(z 或 t)→ ④报(± 半宽)。记住三个临界值:1.645、1.960、2.576。

习题

第六章 统计推断:估计与检验习题课六 区间估计(比率与方差)

本课练两个「不走对称路线」的区间:比率的区间靠正态近似,方差的区间靠卡方分布。

练 6.1 某调查访问 625 人,其中 180 人表示支持。求支持率 p 的 95% 置信区间。

答:p̂ = 180/625 = 0.288,SE = √(0.288 × 0.712/625) = √0.000328 = 0.01811,半宽 = 1.960 × 0.01811 = 0.0355,故 (0.2525, 0.3235)。可报告为「支持率 28.8%,误差 ±3.6 个百分点」。这正是一次典型民调的全部数字。

练 6.2 若某项调查要求「估计支持率的误差不超过 3 个百分点」(95%),至少要访问多少人?

答:取最坏情形 p = 0.5(此时 p(1−p) 最大):

1.960√(0.25/n) ≤ 0.03 ⟹ n ≥ 1.9602 × 0.250.032 = 0.96040.0009 = 1067.1,取 n ≥ 1068。这个数字可以从反面理解:把误差从 3% 压到 2%,n 要从 1068 涨到 2401——多花一倍多的钱,只换来 1 个百分点。

练 6.3 某工序尺寸服从正态分布,抽 20 件测得 s2 = 2.25。求 σ2 的 95% 置信区间。

答:自由度 19,两个临界值 χ20.975(19) = 8.9065、χ20.025(19) = 32.8523(注意一左一右,不能取负号):

(19 × 2.2532.8523, 19 × 2.258.9065) = (1.3013, 4.7999),即 σ ∈ (1.1407, 2.1909)。区间的中心 2.25 不在正中(几何中心才算),这是卡方分布不对称的直接后果。

练 6.4 承练 6.3:若质检只关心「波动是否过大」,该给出怎样的单侧上界?

答:单侧上界用 χ20.95(19) = 10.1170(注意:上界的分母取「较小」的那个分位数):

σ2 < 19 × 2.2510.1170 = 4.2256,即 σ < 2.056。单侧上界 4.2256 比双侧上界 4.7999 小——因为不用再为「过小」留余量,这个「单侧更有力」的现象与均值检验里临界值 1.960 → 1.645 是同一回事。

练 6.5 比率区间与均值区间:什么时候比率区间(沃尔德)会明显失效?

答:当 p̂ 接近 0 或 1,或 n 很小时。例如 n = 20 全为成功(p̂ = 1),沃尔德区间会退化成 (1, 1)——宽度为 0,荒谬。这时应改用威尔逊区间(§6.8),它总落在 (0, 1) 之内。判断标准很简单:若 np̂ < 5 或 n(1−p̂) < 5,就别用沃尔德。

小结:均值的区间「对称」,方差的区间「不对称」——这是本质区别。比率的区间介于两者之间:形式上对称,但在极端比率下会失效,此时换威尔逊。

习题

第六章 统计推断:估计与检验习题课七 假设检验原理

本课练「搭台唱戏」的手感:把一句实际问句,翻译成一组假设、一个统计量、一段拒绝域。

练 7.1 把下列问句改写成假设检验的规范表述(并说明单双侧):

① 某机床加工的轴径是否仍为 20.00 mm?② 新工艺是否比旧工艺寿命更长?③ 某批产品的次品率是否高于 2%?

答:① H0 : μ = 20.00,H1 : μ ≠ 20.00,双侧(偏大偏小都是问题)。② H0 : μ新 ≤ μ旧,H1 : μ新 > μ旧,单侧(只关心「更长」)。③ H0 : p ≤ 0.02,H1 : p > 0.02,单侧。要诀:把「维持现状/无变化/不大于」写进 H0,把「我们想证明的」写进 H1。

练 7.2 某指标 X ~ N(μ, 202),标称 μ0 = 500。抽 n = 16,取 α = 0.05。写出双侧检验的拒绝域(用 X 表示)。

答:SE = 20/4 = 5.000,临界值 z0.025 = 1.960,故拒绝域为

X < 500 − 1.960×5 = 490.20 或 X > 500 + 1.960×5 = 509.80。换成「Z 的语言」就是 |Z| > 1.960——两种写法等价,但用 Z 可以免去每次换样本量都要重算临界点的麻烦。

练 7.3 承练 7.2:若实测 X = 509.0,双侧与单侧(右侧)检验的结论各是什么?

答:Z = (509 − 500)/5 = 1.800。双侧:|1.800| < 1.960 → 不拒绝,p = 0.0719;单侧(右):临界值 z0.05 = 1.645,1.800 > 1.645 → 拒绝,p = 0.0359。同一份数据,两种结论——这正是「单侧更易显著」的具体面目。也正因如此,单双侧必须由问题预先决定,绝不能先看数据再挑。

练 7.4 p 值到底是什么?出它的定义,并说明它不是什么。

答:p 值 = 在 H0 成立的条件下,出现「当前这么极端或更极端」结果的概率,即 P(观测这么极端 | H0 真)。它不是:① 不是「H0 为真的概率」(那是 P(H0 | 数据),条件反了);② 不是「结论错误的概率」;③ 不是效应的大小(p 小不代表效应大,只代表证据与 H0 不合)。

练 7.5 判断对错并说明理由:「检验结果不拒绝 H0,所以 H0 是对的。」

答:错。不拒绝只说明现有样本不足以推翻 H0,可能真的是 H0 成立,也可能是样本量太小、功效不足,没查出本来存在的差异(第二类错误)。正确措辞是「不拒绝」或「无充分证据拒绝」,而不是「接受」。类比:法院判「证据不足,无罪释放」,并不等于「确认当事人清白」。

小结:假设检验五件套——原假设、备择假设、统计量、拒绝域、显著性水平。两条铁律:单双侧须预设;结论只能是「拒绝/不拒绝」,不能说「接受」。

习题

第六章 统计推断:估计与检验习题课八 两类错误

本课练「算犯错的概率」的手感。α 好算(在 H0 边界上),β 难算(要先指定真值)。

练 8.1 某检验 H0 : μ = 200,σ = 15、n = 36,拒绝域 X > 206。求 α。

答:SE = 15/6 = 2.500,临界点换算成 z:(206 − 200)/2.5 = 2.400,故

α = P(Z > 2.400) = 1 − Φ(2.400) = 0.0082。注意这个检验比通常的 0.05 更严格——拒绝域卡得很紧,好处是不易误判,坏处是(往下看)容易漏判。

练 8.2 承练 8.1:若真实 μ = 210,求 β 与功效。

答:此时 X ~ N(210, 2.52),「取伪」就是样本均值没有越过 206:

β = P(X ≤ 206 | μ = 210) = Φ(206 − 2102.5) = Φ(−1.600) = 0.0548,功效 1 − β = 0.9452。读法:真实值高出 10 个单位时,这个检验有 94.5% 的机会把它揪出来。

练 8.3 承练 8.1:分别求真实 μ = 208 与 μ = 214 时的功效,并说明规律。

答:μ = 208:β = Φ((206−208)/2.5) = Φ(−0.80) = 0.2119,功效 0.7881;μ = 214:β = Φ(−3.20) = 0.0007,功效 0.9993。规律:真值离 H0 越远,功效越高。差 8 时只有七成八的机会查出,差 14 时几乎必中——「小差别难查」是检验的天性,不是它的缺陷。

练 8.4 承练 8.1:如果把 α 放宽到 0.05(改为右侧检验,z0.05 = 1.645),临界点变成多少?此时 μ = 210 的功效如何变化?

答:新的临界点 c = 200 + 1.645 × 2.5 = 204.11,β = Φ((204.11 − 210)/2.5) = Φ(−2.355) = 0.0093,功效升到 0.9907。功效从 0.945 提到 0.991,代价是 α 从 0.008 涨到 0.05(弃真风险抬高 5 倍)。这就是「两类错误此消彼长」的具体账目。想同时压低两者,只有增大样本量一条路。

练 8.5 药物审批与食品安检,哪一类更该把 α 定得小,哪一类更该把 β 定得小?

答:看「哪种错的代价更大」。药物审批若把「无效的药」判为有效(第一类错误)会害人,若把「有效的药」判为无效(第二类错误)只耽误上市——但若疾病凶险、无药可用,漏掉一个好药同样致命。因此实务中的通行做法是:把 α 卡在 0.05(甚至 0.01),同时通过「功效分析」把 β 控制在 0.10–0.20——也就是要求功效至少 0.80 到 0.90。食品安检则相反:漏掉一批不合格食品(第二类错误)可能造成群体事故,故宁可多误判、也要把 β 压小。 统计不做价值判断,它只把代价换算成概率,让看清自己在选什么。

小结:两类错误一张表——弃真(α)由我们设定,取伪(β)须先指定真值才能算;功效 1 − β 随「差别/样本量/精度」三者变化。

习题

第六章 统计推断:估计与检验习题课九 t 检验

本课练本章最常用的「主力武器」。三个变体:单样本、配对、两样本。

练 9.1 某标准件长度要求 70 mm。抽 n = 10 件,得 X = 68.5、S = 4.2,设长度正态。在 α = 0.05 下检验是否合格。

答:σ 未知 → 用 t。SE = 4.2/√10 = 1.3282,t = (68.5 − 70)/1.3282 = −1.1294,自由度 9。因 |−1.1294| < t0.025(9) = 2.2622,不拒绝 H0(p = 0.2879)。结论:样本未提供足够证据说明长度偏离 70 mm。顺带给出 95% 区间:68.5 ± 2.2622 × 1.3282 = (65.50, 71.50),的确盖住了 70。

练 9.2 承练 9.1:若 σ 竟然是已知的 4.2,结论会变吗?临界值差多少?

答:结论不变(都不拒绝),但临界值从 2.2622 降到 z0.025 = 1.9600,降低了约 13%。换成区间:(z) 区间是 68.5 ± 1.9600 × 1.3282 = (65.90, 71.10),比 t 区间窄了 0.8 mm。「σ 已知」是一份额外的信息,它能把区间收窄——这也是为什么工程上愿意长期记录数据来「固定」σ。

练 9.3 6 名受试者服药前后(配对)测得:

编号123456
前889279859490
后868980829188

在 α = 0.05 下检验药效是否显著。

答:差值 d = 2, 3, −1, 3, 3, 2,d = 2.0000,Sd = 1.5492,SE = 1.5492/√6 = 0.6325,t = 2.0000/0.6325 = 3.1623,自由度 5,t0.025(5) = 2.5706。3.1623 > 2.5706,拒绝 H0(p = 0.0250):药效显著。

练 9.4 两批零件:甲批 n1 = 10、X1 = 82.0、S1 = 5.0;乙批 n2 = 12、X2 = 77.0、S2 = 6.0。设两批方差相等,在 α = 0.05 下比较均值。

答:合并方差 Sp2 = 9×25 + 11×3620 = 225 + 39620 = 31.0500,Sp = 5.5723,SE = 5.5723 × √(1/10 + 1/12) = 5.5723 × 0.4282 = 2.3859;

t = (82.0 − 77.0)/2.3859 = 2.0956,自由度 20,t0.025(20) = 2.0860。2.0956 > 2.0860,拒绝 H0,两批均值有显著差异(p = 0.0490)。这个「刚刚好」:p = 0.0490 距 0.05 只差 0.001——这种临界结果在报告时必须同时给出效应量与置信区间,不能只报「显著」二字。

练 9.5 配对与两样本,怎么判断该用哪一个?

答:看数据是不是「成对」的。同一批对象的前后测量、同一个体的左右两侧、同一份样本的两种测法——天然配对,一律用配对 t;两组互不相干的个体(随机分到 A 组和 B 组的人)——用两样本 t。若明明是配对数据却按两样本做,会把个体差异混进误差,白白丢掉大量功效(讲义 §6.13 的例子:配对 t = 3.000 显著,误按独立则 t = 0.568,结论完全反了)。

小结:t 检验三部曲——立假设(定单双侧)→ 算统计量(先算 SE)→ 查临界值(按自由度)。别忘「辨、算、查、报」四步。

习题

第六章 统计推断:估计与检验习题课十 卡方检验与回归

本课练两件「不太一样」的工具:卡方处理计数与方差,回归处理两个变量之间的关系。

练 10.1 某工序尺寸正态,技术要求 σ02 = 0.01。抽 n = 10 件,测得 s2 = 0.0144,即 s = 0.12。在 α = 0.05 下检验方差是否超标。

答:单侧立 H0 : σ2 ≤ 0.01、H1 : σ2 > 0.01:

χ2 = 9 × 0.01440.01 = 12.960,自由度 9,χ20.05(9) = 16.9190。12.960 < 16.9190,不拒绝 H0(p ≈ 0.164)。注意:样本标准差 0.12 比要求 0.10 大了两成,但 10 件的样本量还不足以判定超标。要检出 20% 的方差增大,需要更大的样本——这正是「方差检验的灵敏度天然较低」。

练 10.2 掷骰子 90 次,各面出现 12, 16, 18, 13, 17, 14 次。检验骰子是否均匀(α = 0.05)。

答:期望 E = 90/6 = 15(各面都 ≥ 5,无需合并)。偏差 −3, +1, +3, −2, +2, −1,平方 9, 1, 9, 4, 4, 1,

χ2 = (9+1+9+4+4+1)/15 = 28/15 = 1.867,自由度 5,χ20.05(5) = 11.0705。远小于临界值,不拒绝 H0(p = 0.8673)——这枚骰子的表现比典型的公平骰子还要「乖」。

练 10.3 两类人群对三种方案的偏好如下(N = 120):

方案甲方案乙方案丙合计
人群 A26142060
人群 B18222060
合计443640120

在 α = 0.05 下检验人群与偏好是否独立。

答:期望频数(按行列合计算):22, 18, 20(A 行)与 22, 18, 20(B 行)。偏差平方除以期望后求和:

χ2 = 1622 + 1618 + 0 + 1622 + 1618 + 0 = 3.232,自由度 (2−1)(3−1) = 2,χ20.05(2) = 5.9915。3.232 < 5.9915,不拒绝独立性假设(p = 0.1987)。虽然 A 群偏甲、B 群偏乙,但这个程度的差异还可能是随机波动。

练 10.4 某商品价格 x(元)与销量 y(百件)的数据:(2, 11), (4, 15), (6, 19), (8, 24), (10, 28)。求回归直线,并预测 x = 12 时的销量。

答:x = 6.00、y = 19.40,∑(xi−x)(yi−y) = 86.00、∑(xi−x)2 = 40.00,故 b = 86/40 = 2.1500,a = 19.40 − 2.15 × 6 = 6.5000:

ŷ = 6.5000 + 2.1500x,x = 12 时 ŷ = 32.30(即约 3230 件)。验算小技巧:直线必过重心 (6, 19.4)——把 x = 6 代进去得 19.4,说明 a, b 没算错。

练 10.5 承练 10.4:r = 0.99919、R2 = 0.99838,残差为 +0.2, −0.1, −0.4, +0.3, 0.0。这些数字说明了什么?还能改进吗?

答:R2 = 0.998 意味着销量变动的 99.8% 可由价格解释——拟合极好。再看残差:只有 5 个点,量级都在 0.4 以内,符号不呈规律(正负交替、无单调趋势),说明直线模型是合适的;若残差呈弧形或系统偏一侧,就该考虑曲线模型。「看残差」是回归分析最容易被跳过、也最不该跳过的一步——R2 高只说明「线性拟合好」,不说「模型对」。

小结:卡方两用法——检验「计数是否符合模型」(拟合优度)与「两变量是否独立」(列联表);回归四步——散点 → 算 b, a → 看 R2 → 查残差。

习题

第六章 统计推断:估计与检验习题课十一 综合训练

本课不再分节,把整章的工具混在一起用。每道题的第一件事都是判断「该用哪件工具」。

综 1 某厂声称产品长度均值 50 mm。抽 n = 25 件,得 X = 48.2、S = 3.0,正态。

① 求 μ 的 95% 置信区间;② 检验该厂声称是否成立。

答:σ 未知 → 用 t。SE = 3.0/5 = 0.6000,t0.025(24) = 2.0639。

① 半宽 = 2.0639 × 0.6000 = 1.2383,区间 (46.9617, 49.4383)。② 检验 H0 : μ = 50:t = (48.2 − 50)/0.6 = −3.0000,|−3.0000| > 2.0639,拒绝 H0(p = 0.0062)。两问互证:50 落在区间 [46.96, 49.44] 之外,故必然拒绝——同一枚硬币的两面。

综 2 一次民调访问 400 人,228 人支持某议案。

① 求支持率的 95% 置信区间;② 检验「支持率是否为 50%」。

答:① p̂ = 228/400 = 0.5700,SE = √(0.57 × 0.43/400) = 0.02475,区间 (0.5215, 0.6185),可报「支持率 57%,误差 ±4.9 个百分点」。

② 检验 H0 : p = 0.5,注意此时标准误要用 H0 下的 √(0.5×0.5/n):SE0 = 0.5/20 = 0.02500,z = (0.57 − 0.50)/0.025 = 2.800,p = 0.0051 < 0.05,拒绝——支持率显著高于一半。顺带对照:区间下界 0.5215 > 0.50,同样说明拒绝。

综 3 某材料强度正态,抽 16 件得 s2 = 0.50,技术要求 σ02 = 0.64。

① 求 σ2 的 95% 置信区间;② 检验强度波动是否低于要求。

答:① 自由度 15,χ20.975(15) = 6.2621、χ20.025(15) = 27.4884:

区间 (7.527.4884, 7.56.2621) = (0.2728, 1.1977),即 σ ∈ (0.5223, 1.0944)。这个区间很宽——16 件样本对方差的估计能力本来就有限。

② χ2 = 15 × 0.5/0.64 = 11.7188,落在 (6.2621, 27.4884) 之内,不拒绝。注意:区间 (0.2728, 1.1977) 盖住了 0.64,与「不拒绝」一致。

综 4 某产品投入 x(万元)与产出 y(万元):

x1234567
y22252931363842

① 求回归直线;② 预测 x = 9 时的产出;③ 判断斜率是否显著。

答:x = 4.000、y = 31.857,∑(x−x)(y−y) = 93.000、∑(x−x)2 = 28.000。

① b = 93/28 = 3.3214,a = 31.857 − 3.3214 × 4 = 18.5714,即 ŷ = 18.5714 + 3.3214x(r = 0.99684,R2 = 0.99368)。

② x = 9:ŷ = 18.5714 + 29.893 = 48.46(万元)。但注意外推风险:x = 9 已在数据范围 [1, 7] 之外。

③ SSE = 1.96429,MSE = 1.96429/5 = 0.39286,SE(b) = √(0.39286/28) = 0.11845,t = 3.3214/0.11845 = 28.04,自由度 5,t0.025(5) = 2.5706——斜率高度显著。

综 5 某研究要检测「新工艺使强度提高 3 个单位」的效应,已知 σ ≈ 10。要求 α = 0.05(双侧)、功效至少 0.90,需要多少样本?(用公式 n ≈ 2(zα/2 + zβ)2σ2/Δ2)

答:z0.025 = 1.960、z0.10 = 1.282,Δ = 3、σ2 = 100:

n ≈ 2 × (1.960 + 1.282)2 × 100/9 = 2 × 10.511 × 11.111 = 233.5,取 n = 234(每组)。一个常用的心算法:n ≈ 21σ2/Δ2——把 21 记成「3 的平方加 12」,或干脆记成「21 倍」。本例 21 × 100/9 = 233,与精确值几乎一致。

小结:综合题的第一问永远是「这是什么类型的问题」——是估计(区间)还是判断(检验)?是均值、比率还是方差?是单样本、配对还是两样本?工具选对,题目就成了一半。

习题

第六章 统计推断:估计与检验复盘:错题归档与全书收官自测

本章是全书最后一章,把六章的工具都串了起来。先归档本章的典型错误,再做一张贯通全书的收官自测。

一、本章错题归档

常见错误病根纠正
样本方差除以 n忘了偏差被一条约束绑住无偏要用 n − 1;MLE 才用 n
σ 未知却查 z 表只会套公式,不辨前提先问「σ 知否」,未知一律用 t
双侧检验误取 tα忘了 α 要劈成两半双侧取 α/2;单侧取 α
方差区间左右临界值写反把卡方当成了对称分布上界配小分位、下界配大分位(一右一左)
先说「不显著」再改用单侧事后挑检验方向单双侧须在收集数据前定死
把「不拒绝」说成「证明成立」把「证据不足」当「证据为无」只能说「不拒绝」或「无充分证据」
把 p 值读成「H0 为真的概率」条件概率的方向反了p = P(数据 | H0),不是 P(H0 | 数据)
只报 p 值不报效应量与区间把「显著」等同于「重要」同时给出置信区间与效应大小

二、全书收官自测(每题对应一章,能答出即为掌握)

章自测问题关键答案
一古典概型的两个基本工具是什么?排列组合与等可能计数
二全概率公式与贝叶斯公式的关系?一正一反:划分求和 ↔ 由果推因
三分布函数为何能完整刻画随机变量?F(x) = P(X ≤ x) 包含全部概率信息
四大数定律与中心极限定理各说什么?前者:均值趋于常数;后者:偏离是正态的
五什么把样本与总体连起来?抽样分布(标准误 = σ/√n)
六估计与检验的分界在哪里?估计给范围,检验给是非;两者是一枚硬币的两面

三、三句收官口诀

① 描述三件套:中心(均值/中位数/众数)+散布(标准差/IQR)+形状(偏度/异常值)——先看清数据,再谈推断。

② 估计四步:辨(参数与前提)→ 算(标准误)→ 查(z/t/χ2)→ 报(区间+置信度)。

③ 检验五件套:原假设 → 备择假设 → 统计量 → 拒绝域 → 显著性水平;结论只能「拒绝/不拒绝」。

全书写到这里,从一颗骰子走到了一整套判断不确定的语法。格物致知,JUST FOR FUN——下一个问题的数据,自己去收集。

格物札记

第六章 统计推断:估计与检验格物札记① 费希尔与「显著性」:假设检验的奠基〔数据〕

本章里最不好讲的一个人,是罗纳德·艾尔默·费希尔(Ronald Aylmer Fisher,1890–1962)。他是个近视得厉害、几乎不看显微镜的遗传学家,却成了二十世纪最伟大的统计学家;他一生几乎没上过统计课,却写下了让统计学改变面貌的教材。而 0.05 这个数字——今天全世界每一篇论文都绕不开它——就出自他的手。

费希尔 1919 年进入英国的罗瑟姆斯特德农业试验站(Rothamsted Experimental Station)。摆在他面前的是一个极其实际的问题:同一块地里,施了不同肥料的几块试验田,产量差了一些——这个差异是肥料真的有效,还是这块地本来就东边好、西边坏?

这个问题看似平凡,却直指统计推断的核心。费希尔给出的答案是:把「地力的天然差异」也变成一种可以计算的随机性。他把田块随机切分、随机分配肥料(随机化),再把总变异拆成「处理造成的」与「随机波动造成的」两部分(这就是方差分析),然后比较两者的大小。当处理间的差异远大于随机波动时,才有资格说「肥料有效」。

一个「方便」的数字:0.05

1925 年,费希尔出版《研究工作者的统计方法》(Statistical Methods for Research Workers)。书中他提出,把「随机波动造成这么大差异」的概率算出来(这其实就是 p 值),若小于某个界线,就认为结果「显著」。他选的界线是 0.05。

值得玩味的是他自己对这条线的态度——他说 0.05 是一个「方便的」便利值,而不是什么自然律。他本人在需要更严格时会用 0.01,在处理多个比较时会再收紧。他甚至提醒:把 0.05 当铁律、不加思考地套用,是「把工具当成了教条」。

可惜后来的事情走向了他的反面。二十世纪的科研评价体系需要一把简单统一的尺子,于是 0.05 被固化成「显著/不显著」的开关:p < 0.05 才算成果,p = 0.06 就一文不值。一个为了方便而设的数字,最后变成了科学发现的门槛与审判标准——这是统计学史上最著名的一次「工具异化」。

费希尔留下的另一件遗产,在本章 §6.3。1922 年,他发表《理论统计学的数学基础》,正式提出最大似然估计,并给出了评价估计量的三条标准(无偏、有效、一致)。在此之前,「估计参数」几乎是一门手艺;在此之后,它成了一门可以证明、可以比较的数学。他还证明了最大似然估计在大样本下的一系列优良性质(一致性、渐近正态性、渐近有效性)——这就是本章挑战一的内容。

不过,费希尔也有失误:他明确反对「把先验信息引入推断」,与贝叶斯学派常年论战;他提出的「显著性检验」只给证据强度,却不给决策(「拒绝还是不拒绝」是奈曼与皮尔逊补上的);他晚年关于吸烟与肺癌关系的立场也站到了历史错误的一边。一个奠基者的伟大,从来不等于他每一句话都对——恰恰相反,读得越深,越能看清哪些是洞见,哪些是时代的局限。

延伸对读:费希尔 1925《研究工作者的统计方法》是本领域最早的标准教材,至今仍值得翻;论战的一面,可读萨尔斯伯格(David Salsburg)《女士品茶》(The Lady Tasting Tea)——书名来自费希尔在一次下午茶上设计的那个著名实验:一位女士声称能尝出奶茶里是先加奶还是先加茶,费希尔为此设计了随机化试验。这本通俗读物把二十世纪统计学的几次学派之争讲得像小说。〔数据〕

格物札记

第六章 统计推断:估计与检验格物札记② 从高尔顿的回归到机器学习:一条延续百年的主线

「回归」(regression)这个词,字面意思是「退回、复归」。一个统计方法为什么要叫这么个名字?答案藏在一份 140 年前的身高记录里。

1886 年,弗朗西斯·高尔顿(Francis Galton,1822–1911)——达尔文的表弟——在《人类学研究所杂志》上发表论文《遗传身高中的均值回归》(Regression towards mediocrity in hereditary stature)。他测量了大量父母与成年子女的身高,画了一张散点图,想看看「高个父亲的儿子是不是也高」。

一个让他意外的发现

结果显示:高个子父母的子女,平均而言比父母矮一些;矮个子父母的子女,平均比父母高一些。换句话说,子女的身高并不「忠实复制」父母,而是向全体的平均值靠拢。

高尔顿把子女偏离总体均值的程度,与父母偏离均值的程度作比,得到一个大致的系数——约三分之二。他说,子女的平均回归,是父母偏离量的一个固定比例(his:「the average regression of the offspring is a constant fraction of their respective mid-parental deviations」)。

「回归」这个词就是这么来的——他把这个「向均值退缩」的现象命名为 regression。

有意思的是,高尔顿对这条现象的解释是错的。他以为这是物种的一种「拉力」,把后代往「典型型」拉回来。真正的原因藏在数据里:极端高的人,往往是因为「优秀的基因」与「这一代的好运气」叠加在一起;子女只继承基因,不继承运气,所以自然往中间靠。——这叫回归到均值(regression to the mean)。它今天仍是医学研究中最容易踩的一个坑:为什么一项只在「症状最重的人」身上做的治疗,看起来总是有效?因为他们的症状本来就该往中间回。

但高尔顿无意间挖出了一条更深的主线。他为了量化这种关系,画出的那条「穿过散点的直线」,正是回归直线;他的学生卡尔·皮尔逊(Karl Pearson)随后给出了计算它的精确公式,并把那个表示相关强度的系数命名为 r——据说是「reversion」(回归)的首字母。他创立的方法,在 1900 年前后又长出了卡方检验(本章 §6.14)与主成分分析。一个人从测量身高出发的好奇心,最终建成了现代数据分析的三根柱子:相关、回归、卡方。

再往后,这条线的延伸清晰可辨:

1890s–1900s 皮尔逊相关系数 r、卡方统计量
把「关系有多强」变成一个可计算的数
1920s 费希尔最大似然、方差分析、随机化
把「估计与检验」变成有理论保证的方法
1920s–1930s 尤尔多元回归
从「一个自变量」走向「一组自变量同时建模」
1950s– 统计建模广义线性模型、时间序列
回归被推广到各类响应变量与依赖结构
1980s– 机器学习损失函数最小化、梯度下降
训练的数学内核=最小化误差平方和

最后一步特别值得停下来说。今天机器学习模型里的「训练」,做的事情与本章 §6.16 几乎一模一样:定义一个损失函数(对线性回归来说就是残差平方和),然后找出一组参数让损失最小。深度学习里成千上万个参数的调整,用的是「梯度下降」——而梯度下降的本质,正是我们解 dQ/db = 0 这个动作的推广:参数太多、方程解不出来时,就沿着下降最快的方向一步步走。

所以,「回归」不只是本章的一节内容,而是一条延续一百四十年、至今仍在加速的主线:从一张身高散点图,到今天能生成文字的模型,数学内核是同一条——用数据找出关系,让误差最小化。而起步处,只是一个维多利亚时代的绅士想知道:我的孩子会长多高?

延伸对读:高尔顿 1886 年论文原文(Regression towards mediocrity in hereditary stature)在今天依然好读,尤其是他亲手画的散点图;另一条线索可看斯塔尔(Stephen Stigler)《统计学的七根柱子》(The Seven Pillars of Statistical Wisdom),其中一章专讲「回归」如何从一次误读变成科学的通用语言。〔数据〕

综合站

第六章 统计推断:估计与检验章小结:知识图谱与方法表

本章把前五章攒下的语言,第一次用来对真实世界下判断。全章的两条腿——估计与检验——都踩在同一块地基上:样本的分布(抽样分布)。

点估计矩估计:样本矩替换总体矩
最大似然:最可能产生数据的参数
评价三标准:无偏 · 有效 · 一致
区间估计均值:X ± zα/2σ/√n(σ 已知)
均值:X ± tα/2S/√n(σ 未知)
比率:用正态近似;方差:用卡方
参数检验均值:t 检验(含单样本、配对、两样本)
方差:χ2 检验;方差比:F 检验
核心概念:H0/H1、拒绝域、p 值、两类错误
非参数与建模拟合优度:计数是否符合模型
独立性检验:列联表两变量关联
最小二乘回归:由 x 预测 y

方法表

问题用哪件工具统计量自由度/分布
参数大约是多少点估计(矩法/MLE)θ̂—
参数的合理范围区间估计X ± 临界值 × SEz/t/χ2
均值是否等于某个值单样本 t 检验(X − μ0)/(S/√n)t(n−1)
两组均值有无差别两样本 t 检验合并方差 tt(n1+n2−2)
同一批对象前后变化配对 t 检验d/(Sd/√n)t(n−1)
方差是否等于某值χ2 检验(n−1)S2/σ02χ2(n−1)
两批方差是否相等F 检验S12/S22F(n1−1, n2−1)
计数是否符合理论比例拟合优度∑(O−E)2/Eχ2(k−1)
两变量是否独立列联表检验同上χ2((r−1)(c−1))
由 x 预测 y最小二乘回归ŷ = a + bxt(n−2) 检验斜率

章末提示:这十行表可以贴在书桌前。做统计题的第一动作不是算,而是「对号入座」——先确定是哪一行,再动手。

综合站

第六章 统计推断:估计与检验思想卡:推断——在不确定中作出决定

统计学的全部勇气,藏在一句话里

「我不知道这件事会不会发生,但我知道这类事的长期规律。」

掷一次硬币,没人知道正反;掷一万次,正面的比例却稳定得可以信赖。抽一份样本,没人敢说它完美代表总体;可反复抽样得到的区间,却有固定的命中率。统计推断的全部技艺,就是在这种「单次无知、长期有知」的夹缝里,把话说得既诚实、又足够有用。

p305

三个「不」,划出了统计推断的边界

① 它不能取消不确定,只能丈量不确定。置信区间不会让参数变得已知,它只是把「不知道」压缩成一个有刻度的范围。

② 它不能做决定,只能说明证据有多强。p = 0.03 是一个关于证据的陈述,不是一个关于行动的命令。要不要放行这批药、要不要上线这个按钮,取决于代价与收益——那是人的判断。

③ 它不能保证这一次是对的,只能保证这套方法长期可靠。置信度 95% 说的是「一百次里约九十五次」,至于眼前这一次是否在九十五次里面,无人能预先知道。这份坦率,正是统计学区别于算命的地方。

一句话记住本章

估计是「给一个范围」,检验是「给一个是非」;而两者其实是同一枚硬币——把参数的置信区间画出来,就等于把一切可能的原假设检了一遍。

所以本章的工具虽多,内核只有一个:用样本的分布(抽样分布),去约束参数的可能。第五章花那么大力气搭起的那座桥,在这里终于通车了。

〔直觉 ⇄ 理论〕本章最值得反复咀嚼的一处对照:直觉说「样本量越大结论越可靠」,理论说「只有抽样误差变小,偏倚一点都不会少」。1936 年那场收回 240 万份问卷却预测失败的民调(§5.8),输的不是样本量,而是抽样框。八十年后,同样的错误在互联网上以「大数据的傲慢」重演——数据多,不等于数据对。

综合站

第六章 统计推断:估计与检验挑战一 最大似然估计的一致性与渐近正态性(简介)

本挑战把 §6.3 的一句话展开:「在一定正则条件下,最大似然估计具备一系列优良性质。」这句话背后有三条定理。这里给出陈述与直观,证明留待后继课程。

三条渐近性质

设 X1, …, Xn 独立同分布,参数真值为 θ0。在标准正则条件(分布族可识别、密度可微、积分与微分可交换等)下,最大似然估计 θ̂n 满足:

① 一致性:θ̂n → θ0(依概率收敛)。

② 渐近正态性:√n(θ̂n − θ0) → N(0, 1/I(θ0))(依分布收敛),其中 I(θ) 是费希尔信息量。

③ 渐近有效性:在一切渐近正态的无偏估计中,θ̂n 的渐近方差最小,等于 1/(nI(θ0))(克拉美–罗下界)。

怎么读这三条?第 ① 条说「数据够多就够准」;第 ② 条说「够多之后,误差的分布是钟形的」——这条最实用,因为它允许我们用正态做区间估计,而不必知道参数的真实分布形状;第 ③ 条说「在一定的意义上,MLE 已经做到最好,不可能再改进了」。

费希尔信息量 I(θ) 的含义值得单说一句:它度量「一个观测里含有多少关于 θ 的信息」。信息量越大,估计越准,方差下界越低。「数据含信息」这句日常话,在这里第一次有了精确的数值度量。

用蒙特卡洛验证第 ② 条:取 N(2, 1) 总体,真值 μ0 = 2,各重复 400 次,记录 μ̂ = X 的标准差:

样本量 nμ̂ 的均值实测标准差理论值 1/√n相对偏差
51.96330.46950.4472+5.0%
201.98830.21630.2236−3.3%
1002.00730.09830.1000−1.7%

三行数字给出两个观察:① μ̂ 的均值三行都逼近 2(一致性,且一直是无偏的);② 标准差与 1/√n 的偏差随 n 增大而缩小(从 +5.0% 到 −1.7%)。第 ② 行到第 ③ 行的收敛是渐近性质的典型面貌——它描述的是「n 趋于无穷」时的行为,所以小样本下有偏差很正常。

挑战提示:想亲手验证第 ② 条,可把模拟次数提到 10 万次、取 n = 1000,再画 √n(μ̂ − 2) 的直方图——它应当贴近标准正态。这就是「渐近正态性」的直观图像。〔数据〕

综合站

第六章 统计推断:估计与检验挑战二 最小二乘与最大似然在正态误差下的等价

§6.16 讲最小二乘时说:「之所以用残差平方和,是因为它按高斯的误差理论办事。」本挑战把这句话补成一条完整的定理:

定理

设 yi = a + bxi + εi,误差 εi 相互独立且服从 N(0, σ2)。则 (a, b) 的最大似然估计,恰等于最小二乘估计。

证明。由独立性,似然函数是各点密度的乘积:

L(a, b, σ2) = ∏i=1n 1σ√(2π) exp(−(yi − a − bxi)22σ2)

取对数(乘积变求和、指数脱落):

ln L = −n ln(σ√(2π)) − 12σ2 ∑i=1n (yi − a − bxi)2

关键的一步在此:要让 ln L 最大,就要让那个求和最小——因为第一项不含 (a, b),第二项前带负号。而那个求和,正是最小二乘准则里的残差平方和 Q(a, b)。于是

max(a,b) ln L ⟺ min(a,b) Q(a, b) = ∑(yi − a − bxi)2 ∎

同一个答案,两条来路 最小二乘的来路 「让偏差的平方和最小」 几何直觉:竖直距离最短 (勒让德 / 高斯,1805) 最大似然的来路 「让数据出现的可能性最大」 概率直觉:误差服从正态钟形 (费希尔,1922) 在正态误差下 两条来路合成一条 得到同一条直线 ŷ = a + bx
图 6-26 最小二乘与最大似然的殊途同归。一个从几何出发,一个从概率出发,在「误差服从正态」的条件下给出完全相同的答案。

这条定理解释了最小二乘为何在统计中享有如此特殊的地位:它不只是一种「看起来合理」的拟合办法,而是正态误差假设下唯一的最大似然解。也因此,它拥有了 MLE 的一切优良性质——无偏、渐近有效、可以给出标准误。

顺带可以解决 §6.16 留下的一个疑问:为什么残差的标准误是 s = √(SSE/(n − 2)),分母是 n − 2 而不是 n − 1?因为直线有两个参数 (a, b) 被估计掉了,自由度要从 n 里扣两个。这与「样本方差除以 n − 1」(扣掉一个均值)是同一套逻辑,只是这次扣得更多。「自由度 = 数据个数 − 已估计的参数个数」,是贯穿全书的记账原则。

挑战提示:《概率统计初步》全书中反复出现的这条记账原则,在更复杂的模型里会继续生长:多元回归扣 p + 1 个自由度,方差分析按因素个数扣。只要看见「除以 n − k」,就应立刻问:这 k 个自由度是被哪些参数吃掉的?

综合站

第六章 统计推断:估计与检验实验:模拟置信区间的覆盖率——百次抽样命中几何

§6.6 说过:「置信度 95% 说的是框住的次数占比。」这句话最容易记住、也最容易被念错。本实验把它跑出来,画出来。

实验设置

取总体为标准正态 N(0, 1)(真值 μ0 = 0,我们在图上用一条红色竖线标出)。每次抽取 n = 25 个观测,按 §6.7 的 t 区间公式算出一个 95% 置信区间(t0.025(24) = 2.0639):

X ± 2.0639 × S√25

重复 30 次,把 30 个区间画成 30 条横线。绿线:框住了真值;黄线:没框住。

30 次抽样,30 个 95% 置信区间 真值 μ = 0(固定不动) −1.0 +1.0
图 6-27 30 次抽样的置信区间。绿色 28 条框住真值,黄色 2 条(第 12、15 次)没框住。蓝点是每次的样本均值 X。

这一次的结果是 28 / 30 命中。看起来「差了一点」,但一条基本原理:每次抽样都是一次独立的随机试验,命中与否本身也是随机的。30 次的小样本,命中 28 次完全正常——它的期望是 28.5 次,标准差约 1.2 次。

把次数加大,规律立刻显形:

置信度临界值 tα/2(24)模拟 2000 次的覆盖率理论值
90%1.71090.90100.90
95%2.06390.94750.95
99%2.79690.98900.99

三行数字与理论值几乎重合(偏差都在 0.002 以内)。这就是「置信度」的全部兑现方式:不是某一条区间对错,而是 2000 次的命中率。

实验要带走的三点

① 随机的不是参数,是区间。红竖线从头到尾没动过;动的是每次画出来的横线。说「这个区间有 95% 的概率包含 μ」是错的——区间一旦画出就固定了,真值要么在里面、要么不在。

② 「落在外面」是正常的,也是必需的。如果 100 次全部命中,反而说明区间造得太宽、效率太低。95% 的置信度,本就预留了 5% 的失败名额。

③ 准确率靠方法保证,不靠单次运气。这套「抽样本 → 算区间」的程序,长期看就是一个命中率 95% 的机器;我们能做的是把机器造好,不能做的是保证下一次一定命中。

动手建议:把种子换掉、把 n 改成 5 或 100,再跑一遍。可以看到两个现象:n 小的时候区间明显变宽(横线更长);命中率仍然在 95% 附近徘徊,不会因为样本小而失守。——这正是置信区间这套方法最漂亮的地方:它坦率地承认自己不确定,却依然说到做到。

综合站

第六章 统计推断:估计与检验章测试与评讲·全书收官

一、填空(每题 4 分)

1 设 X1, …, Xn 来自 N(μ, σ2)。则 E(X) = __,E(S2) = __,Var(X) = __。

2 σ 未知时估计正态均值,应查 __ 分布表,自由度为 __。

答:1. μ、σ2、σ2/n(三者分别是无偏性的两条结论与标准误的平方)。2. t;n − 1。

二、选择(每题 5 分)

3 关于 p 值,正确的说法是( )
(A)它是 H0 为真的概率 (B)它是「在 H0 下出现这么极端结果的概率」 (C)它越大越支持 H1 (D)它等于 1 − α

4 其他条件不变,把样本量增大,则( )
(A)α 减小 (B)β 减小 (C)置信区间变宽 (D)标准误不变

5 总体方差区间估计中,两个临界值 χ2α/2 与 χ21−α/2 的关系是( )
(A)互为相反数 (B)都在分母上,一上界一下界 (C)相等 (D)只需用其中一个

答:3. B——p 值是 P(数据 | H0),不是 P(H0 | 数据);它越小越支持 H1。4. B——样本量增大使标准误变小,检验更容易发现真实差异,故 β 减小;α 由我们自己设定,不受样本量影响。5. B——卡方分布不对称,两侧大不同,缺一不可。

三、计算(每题 12 分)

6 某批零件长度正态。抽 16 件测 X = 30.4、S = 0.8。① 求均值的 95% 置信区间;② 检验标称值 30.0 是否成立。

答:① SE = 0.8/4 = 0.2000,t0.025(15) = 2.1314,半宽 = 0.4263,区间 (29.974, 30.826)。② t = (30.4 − 30.0)/0.2 = 2.0000 < 2.1314,不拒绝 H0(p = 0.0639)。两问一致:30.0 落在区间内。

7 掷骰子 180 次,各面频数 34, 28, 32, 26, 33, 27。检验骰子是否均匀。

答:期望 E = 30,偏差 +4, −2, +2, −4, +3, −3,方差和 = 16+4+4+16+9+9 = 58,χ2 = 58/30 = 1.933,自由度 5,χ20.05(5) = 11.0705。不拒绝——骰子可视为均匀(p ≈ 0.86)。

8 某检验 H0 : μ = 50,σ = 12,n = 36,拒绝域取 X > 53。① 求 α;② 若真值 μ = 55,求 β。

答:SE = 2。① z = (53−50)/2 = 1.5,α = 1 − Φ(1.5) = 0.0668。② β = Φ((53−55)/2) = Φ(−1.0) = 0.1587,功效 = 0.8413。

四、简答(每题 10 分)

9 为什么不能用「p 值小于 0.05」作为判断一项研究发现是否重要的标准?

答:因为统计显著(p 小)与效应重要(差异大)是两件事。p 值同时受「效应大小」与「样本量」两个因素影响:样本足够大时,微不足道的差异也会给出极小的 p;样本很小时,重要的差异也可能不显著。正确做法是同时报告效应量(差异有多大)与置信区间(估计有多准),并把统计判断与实际代价分开考虑。

10 用一句话说明:置信区间与假设检验为何是「同一枚硬币的两面」?

答:因为「μ0 落在 μ 的 1 − α 置信区间内」与「α 水平下不拒绝 H0 : μ = μ0」是完全等价的两件事。区间给的是「一切不能被拒绝的参数值的集合」,检验问的是「某个特定的值能不能被拒绝」——前者是后者的整体版,后者是前者的一次查询。所以学会一种,另一种就自动到手;两者如果算出不一致的结论,必是算错了。

全书收官:从一颗骰子出发,我们走过了样本空间、条件概率、随机变量、极限定理、数据描述与统计推断——六章讲完了一件事:如何在偶然中作出可靠的判断。这条路人类走了三百年,但它远未走完:今天手里的每一份数据,都可能是它下一段。格物致知,JUST FOR FUN。

二索引(Index)

术语与概念

  • 0-1 分布114
  • 本章的第一个模型10
  • 标准化124
  • 伯努利大数定律171
  • 伯努利试验与二项分布73
  • 不同风险的骰子165
  • 常见样本空间速查11
  • 超几何分布118
  • 樗蒲的「采」53
  • 从高到低20
  • 从一颗骰子到一份数据210
  • 等可能概型13
  • 第二次失效60
  • 第一次失效60
  • 独立性的定义70
  • 二百多年里103
  • 方差与标准差165
  • 方法选用表77
  • 翻译词典12
  • 分布函数119
  • 分布列112
  • 分位数215
  • 概率的三种解释61
  • 概率密度函数120
  • 公平游戏判据168
  • 核心公式清单77
  • 划分67
  • 加法原理与乘法原理14
  • 简单随机抽样217
  • 接口二76
  • 接口四76
  • 几何分布118
  • 几何概型24
  • 矩估计法261
  • 均匀分布121
  • 科尔莫戈罗夫三公理62
  • 两个同均值165
  • 两句话分清概率与统计6
  • 两类错误269
  • 两类问题260
  • 两类误差219
  • 连续性修正176
  • 离散型期望161
  • 六章一览5
  • 蒙特卡洛方法小史26
  • 摸球模型22
  • 排列数与阶乘15
  • 频率的定义方式61
  • 泊松分布116
  • 朴素贝叶斯76
  • 切比雪夫不等式172
  • 三层104
  • 三大分布的定义222
  • 三问自测101
  • 事件12
  • 实验设置308
  • 实验装置108
  • 随机变量111
  • 随机现象2
  • 他做对了什么52
  • 条件概率的定义65
  • 挑战目标106
  • 统计量220
  • 通用机器125
  • 伪随机数26
  • 问题102
  • 务必刻在脑中55
  • 无偏估计263
  • 无意识统计学家公式163
  • 相合性264
  • 先看一个反直觉的现象160
  • 线性性162
  • 小概率原理268
  • 协方差与相关系数169
  • 性质166
  • 辛钦大数定律173
  • 休哈特图225
  • 选抽样方法的三问233
  • 样本空间与和的分布19
  • 样本空间与事件域62
  • 样本空间与样本点11
  • 样本量设计的三条经验238
  • 一次民调的六步224
  • 意义二174
  • 意义三174
  • 意义一174
  • 一组术语212
  • 有效性264
  • 原点矩与中心矩170
  • 正面难23
  • 正态分布123
  • 这张思想卡的三条要点105
  • 直觉的错法69
  • 直觉二276
  • 指数分布122
  • 置信区间与置信度265
  • 中心极限定理175
  • 组合数16
  • 最常见201
  • 最容易被忽略的地方257
  • 最危险201
  • 最小二乘准则275
  • 最隐蔽201
  • ① 描述三件套301
  • 「严格化」的一百年203

定理与命题

  • 按扣分位置排序109
  • 贝叶斯公式68
  • 本章的三条核心记忆101
  • 不成立72
  • 布丰投针公式25
  • 不可能事件与有限可加63
  • 乘法公式66
  • 充要条件113
  • 抽签的公平性22
  • 单调性63
  • 单样本方差检验271
  • 大样本257
  • 德摩根律12
  • 第二步 · 对数近似56
  • 第二步 · 相交条件57
  • 第三步 · 反解门槛56
  • 第三步 · 面积之比57
  • 第一步 · 一般公式56
  • 对称115
  • 对读演练126
  • 对立事件63
  • 对任意总体成立221
  • 独立性的等价说法70
  • 独立性的实用推论72
  • 独立性的实战用法70
  • 独立性检验274
  • 范德蒙德卷积18
  • 反例四 · 构造法107
  • 翻译示范12
  • 概率版101
  • 概率方法的基本原理75
  • 概率=曲线下的面积120
  • 更贴近直觉的反例72
  • 关键结论71
  • 古典概型内即可验证13
  • 红、红、红、红、蓝108
  • 换个人群69
  • 混合系统的算法74
  • 加法公式63
  • 检验的五个角色268
  • 经典例24
  • 经典例二75
  • 经典例一75
  • 经典算例102
  • 卷积的一个漂亮特例18
  • 两个立等可用的例子13
  • 两个热身例15
  • 两类错误的典型句法71
  • 两条最常用的性质17
  • 两种算法65
  • 离散125
  • 频率解释的三重困难61
  • 泊松定理117
  • 千人格69
  • 切比雪夫不等式206
  • 全概率公式67
  • 三事件版与一般式64
  • 深入一层105
  • 数据来源239
  • 数值演练63, 64
  • 条件概率四公式选用表89
  • 贴近应用107
  • 题目28, 29, 30, 31, 32, 33, 34, 35, 36, 37, 38, 78 等
  • 推导73
  • 务必掌握214
  • 无记忆性122
  • 武器207
  • 先摆出数字68
  • 性质65
  • 杨辉三角的加法规则18
  • 演算三108
  • 演算一108
  • 一手五张牌有多少种?16
  • 预备220
  • 约定与记号111
  • 正态总体223
  • 众数115
  • 最简、最通用107
  • 最有画面感107
  • ① 检查与「补行」113
  • ② 待定系数113

记号与缩写

  • CLT175, 176, 200, 209
  • CV214, 227, 239, 242, 254
  • FUN9, 277, 301, 309
  • IQR215, 227, 229, 230, 231, 232, 239, 243, 250, 254, 259, 301
  • JUST9, 277, 301, 309
  • MLE262, 279, 291, 301, 304, 306, 307
  • SE219, 224, 227, 234, 247, 250, 254, 259, 269, 272, 275, 276 等
  • XY169, 177, 185, 186, 197

人名

  • Stephen203, 252, 303
  • Stigler203, 252, 303