概率论基本概念
1.1 样本空间，随机事件
。1.1.1 随机试验
随机试验
对随机现象进行观察、记录或试验，称为随机试验
随机试验有以下特点：
- 重复性：可在相同条件下重复进行
- 确定性：
- 随机性：
样本空间
随机试验\({E}\)的所有可能结构构成的集合称为\({E}\)的样本空间，常用\({S}\)或\({\Omega}\)来表示，记为\({S=\{e\}}\)，元素\({e}\)称为样本点，只有一个元素的单点集称为基本事件
例如：
- 一个硬币抛一次，\({S=\{正面，反面\}}\)（有限个）
- 某公交站每天十点候车人数，\({S=\{0,1,2,\dots\}}\)（可列个）
- 记录一批产品的寿命，\({S=\{x|a\leq x\leq b\}}\)（无限个）
- 一口袋中有十个大小相同的球，其编号为1~10，若取一球后放回，再取一球，则取球情况\({S=\{(i,j)|i,j=1,2,\dots ,10\}}\)
一般，我们称\({S}\)的子集\({A}\)为随机试验\({E}\)的随机事件\({A}\)，当且仅当\({A}\)所包含的一个样本点发生称为事件\({A}\)发生。
如果将\({S}\)（随机试验\({E}\)的样本空间）同样看作事件，则每次试验其必然发生，故称\({S}\)为必然事件。
记不可能事件为\({\varnothing}\)
1.1.2 事件的关系与运算
- \({A}\)与\({B}\)的和事件，记为\({A\cup B=\{x|x\in A或 x\in B\}}\)
- \({A}\)与\({B}\)的积事件，记为\({A\cap B}\)
- 当\({A\cap B=\varnothing}\)，称\({A}\)与\({B}\)不相容（或互斥）。
- \({A}\)与\({B}\)的差事件，记为\({A-B}\)
- \({A}\)的逆事件/对立事件，记为\({\bar{A}}\)，则有\({\begin{cases}A\cup\bar{A}=A\\ A\bar{A}=\varnothing\end{cases}}\)
由上，差事件可以变化为\({A-B=A\bar{B}=A\cup B-B=A-AB}\)，那么\({AB = A - \bar{B}}\)
以上所有事件都可以用维恩图直观表示。
特别地，和事件、积事件和逆事件具有以下运算规则：
- 交换律：\({A\cup B = B \cup A}\)，\({A\cap B = B \cap A}\)
- 结合律：\({A\cup (B\cup C)=(A\cup B)\cup C}\)，\({A\cap (B\cap C)=(A\cap B)\cap C}\)
- 分配律：\({A\cup (B\cap C)=(A\cup B) \cap (A\cup C)}\)，\({A\cap (B\cup C)=(A\cap B) \cup (A\cap C)}\)
- 德摩尔定律：\({\displaystyle\overline{\bigcup^n_{j=1}A_j}=\bigcap^n_{j=1}\overline{A_j}}\)
- 对偶律：\({\overline{AB}=\bar{A}\cup\bar{B}}\)
值得注意的是，\({\overline{A\cap B}}\)与\({\overline{A}\cap\overline{B}}\)含义不同，前者是\({A}\)与\({B}\)不同时发生，后者是\({A}\)和\({B}\)同时不发生。
特别地，在书写中我们可以省略\({\cap}\)，形如\({AB=A\cap B}\)，但是\({\cup}\)不可省略！！！
值得注意的是，由于省略书写的引入，一定要注意优先级问题：\({A\cup BC=A\cup(B\cap C)}\)
1.2 频率与概率
1.2.1 频率
频率
在相同条件下进行\({n(n\geq1)}\)次的重复实验，若事件\({A}\)在这\({n}\)次重复实验中发生\({n_A}\)（称\({n_A}\)为\({A}\)在这\({n}\)次试验中发生的频数，\({0\geq n_A\geq n}\)），则称比值\({\frac{n_A}{n}}\)为事件\({A}\)在这\({n}\)次试验中发生的频率，记为\({f_n(A)}\)
事件频率有以下性质：
- 对任一事件\({A}\)，\({0\leq f_n(A)\leq 1}\)
- \({f_n(S)=1}\)
- 若事件\({A}\)与\({B}\)互不相容，即\({A\cap B=\varnothing}\)，则 $$ f_n(A\cup B)=f_n(A) + f_n(B) $$
值得注意的是，频率并不是恒定的，即使是重复相同的实验，最终统计得到的频率也不尽相同。
总体上，随着实验次数的增加，频率会逐渐趋向稳定。
1.2.2 概率
概率
随机试验中事件\({A}\)发生的可能性大小的度量，记作\({P(A)}\)。概率公理
- 非负性：\({P(A)\geq 0}\)
- 规范性：\({P(S)=1}\)
- 可列可加性：对\({S}\)中的可列个两两互不相容的事件\({A_1, A_2,\dots,A_n,\dots}\)（即\({A_iA_j=\varnothing, i\neq j, i,j=1,2,\dots}\)），有 \(\(P\left(\bigcup^{+\infty}_{j=1}A_j\right)=\sum^{+\infty}_{j=1}P(A_j)\)\)
由以上公理，可推出概率具有以下性质：
- 有限可加性:对于有限个两两互不相容的事件的和事件，有 $$ P\left(\bigcup^n_{j=1}A_j\right)=\sum^n_{j=1}P(A_j) $$
- 设\({A、B}\)为两个随机事件，则有\({P(A-B)=P(A)-P(AB)}\)
- 特别地，\({\varnothing\cup S=S}\)，\({P(\varnothing)=0}\)
- 概率的加法公式： $$ P(A\cup B)=P(A)+P(B)-P(AB) $$ 此事件可以推广，如下： $$ P\left(\bigcup^n_{j=1}A_j\right)=\sum^n_{j=1}P(A_j)-\sum_{i<j}P(A_iA_j)+\sum_{i<j<k}P(A_iA_jA_k)-\dots +(-1)^{n-1}P(A_1A_2\dots A_n),\quad n\geq 1 $$
1.3 等可能概型
等可能概型
满足以下条件的随机试验：
- 样本空间中样本点数有限（有限性）
- 出现每个样本点的概率相等（等可能性）
若等可能概型的样本空间为\({S=\{e_1,e_2,\dots,e_n\}}\)
由定义容易知道：
对于等可能概型的随机试验中的随机事件\({A}\)，且\({A=\{e_{i_1},e_{i_2},\dots,e_{i_k}\}}\)，所以有：
通常我们也把这种概型称为古典概型
1.3.1 抽签问题
首先让我们思考这么一个问题，假设有一个抽奖箱，里面有一百张纸条，其中只有五张是由有奖品的，让所有人依次去拿出一张但不打开，直到所有纸条都被拿完了再现场开奖，对于不同人来说，先抽后抽会有区别吗？
让我们探究一下下面这道抽奖问题，就知道答案了。
题目：
一袋中有a个红球，b个白球，今有a+b个人依次不放回地各取一球，求第k哥人取到红球的概率，k=1, 2, ..., a+b
1.3.2 几何概型*
几何概型
满足以下条件的随机试验：
- 样本空间中样本点数无限（无限性）
- 出现每个样本点的概率相等（等可能性）
几何概型是另一种概率模型。
1.5 条件概率
假设有一袋球，5个红球10个黑球，求在第一次摸出黑球的情况下，第二次摸出红球的概率。
对于以上事件，后一个发生在前一个发生的条件下，假设记第一次摸出黑球为A，第二次摸出红球为B，则发生上述事件的概率可以表示为\({P(B|A)}\)
条件概率
如果\({P(B)>0}\)，那么在\({B}\)发生的条件下\({A}\)发生的条件概率为： \(\({P(A|B)=\frac{P(AB)}{P(B)}}\)\)
条件概率的形象描述可为在缩小的样本空间B里考量A的概率。
\({P(C)>0}\)，条件概率有如下性质：
- \({P(A|C)\geq 0}\)
- \({P(S|C)=1}\)
- \({P(B|C)=1-P(\bar{B}|C)}\)
- \({P(A\cup B | C)=P(A|C)+P(B|C)-P(AB|C)}\)
1.5.1 概率的乘法公式
由条件概率定义，当\({P(A)\neq 0, P(B)\neq 0}\)时，
同样的，乘法公式也可以推广，如下：
当\({P(A_1A_2\cdots A_n)\neq 0}\)时，乘法公式的一般形式为：
同样的，我们也有条件概率的乘法公式，\({P(AC)\neq 0}\)，有：
1.5.2 全概率公式
首先引入完备事件组的定义：
事件组的完备事件组
\({B_1,B_2,\dots,B_n}\)满足以下条件：
- \({B_iB_j=\varnothing,i\neq j}\)（互斥性）
- \({B_1\cup B_2\cup\dots\cup B_n=S}\)（完备性）
则称其为一个完备事件组
对于完备事件组\({B_1,B_2,\dots,B_n}\)以及任一事件\({A}\)，有：
这个公式被称为全概率公式。
全概率公式在高中已经有所涉及，故此不做过多的解释与例子。
1.5.3 贝叶斯公式
贝叶斯公式
设\({B_1,B_2,\dots,B_n}\)是一个完备事件组，\({A}\)是任一事件，且\({P(A)>0}\)，则： \(\({P(B_i|A)=\frac{P(B_i)P(A|B_i)}{\sum^n_{j=1}P(B_j)P(A|B_j)}}\)\)
以上公式也称为逆概公式
贝叶斯公式的意义在于：在事件\({A}\)发生的条件下，逆推导致事件\({A}\)发生的原因\({B_i}\)的概率。
例如：有3家工厂生产同一种零件，工厂1、2、3分别占产量的25%、35%、40%，其次品率分别为3%、4%、5%。今从产品中任取一个检验，发现是次品，求此零件分别来自三个工厂的概率。
设\({A}\)为抽到次品的事件，\({B_i}\)为来自工厂\({i}\)的事件，则有：
其他概率同理可得，故此省略。
1.6 独立性
独立性
若对于任意两个事件\({A}\)和\({B}\)，满足 \(\({P(AB)=P(A)P(B)}\)\) 则称事件\({A}\)和\({B}\)相互独立。
拓展来说，有：
若任意k(k≥2)个事件的概率乘积等于它们积事件的概率，即： $$ P(A_{i_1}A_{i_2}\cdots A_{i_k})=\prod_{j=1}^k P(A_{i_j}),\quad 1\leq k\leq n, 1\leq i_1<i_2<\cdots<i_k\leq n $$ 则称这n个事件相互独立。
注意到，独立性的定义等价于：
反之亦然。
Attention
独立性与事件之间是否相交没有任何关系。
1.6.1 独立性性质
- 传递性：若事件\({A}\)与\({B}\)相互独立，则下列事件对也相互独立：
- \({A}\)与\({\bar{B}}\)
- \({\bar{A}}\)与\({B}\)
- \({\bar{A}}\)与\({\bar{B}}\)
- 等价表达：\(P(A)=P(A|B)\)，反之亦然
特别地，“两个事件独立”和“两个事件不相容”是互不相容的（
简单证明如下：