理解条件概率

Create time:2020-11-03

样本空间（Ω）

样本空间通常指实验或随机所有可能的集合，我们常在说一个概率的时候，实际上是默认忽略掉了样本空间，比如说事件A的概率，实际上指样本空间中，事件A的数量与样本空间的占比。

比如丢硬币，硬币只有正面和反面，那么硬币的样本空间则为 ${正面，反面}$，这个时候常说的正面的概率为二分之一，实际指的是正面事件的数量与样本空间的占比，也就是1/2。再比如说丢骰子，一个骰子有6种可能，分别对应1-6不同的数值，那么丢骰子的样本空间则为${1，2，3，4，5，6}$，这个时候丢到5个事件概率则为数字5在样本空间出现的次数与样本空间总数的占比。

独立事件

独立事件是指不受过去已发生的事件而影响的事件，典型的例子就是抛硬币，不管你抛多少次硬币始终正面或反面的概率为0.5，而该硬币的样本空间如下：

独立事件的概率计算公式为如下：

$$ 事件发生的概率(P) = 事件在样本空间中的数量 / 样本空间的事件总数 $$

比如用抛硬币的例子，计算正面的概率则为：

而除了单个独立事件，有些时候也会求多个独立事件的概率，而多个独立事件的概率则是每个独立事件发生的概率的积。比如掷3次骰子都为6的概率是多少？需要注意因为掷骰子是一个独立事件，即每次掷的骰子样本空间都一样，并且没有因为第一次掷骰子的结果会影响到下一次。骰子的样本空间为下，从中能够得到单次掷骰子为6的概率为1/6：

而这个时候只需要将三次掷骰子的概率相乘就得到了三次都为6的概率：

条件概率

条件概率是研究相关事件的，指的是当B事件发生后，A事件发生的概率，用"｜“来表示"以下发生的条件下”，表示为公式：

比如上面的例子，第二个蓝球的概率是多少，这个问题就是条件概率，因为第二次抽中蓝球的概率是基于第一次拿了一颗球过后发生的事件。这个时候可以将第一次抽中红球记作事件A，第二次抽蓝球为事件B，因为第二次抽球是在事件A发生的情况下而发生的，所以记作 $P(B|A)$ ，表示在A发生后，B发生的概率。而这个概率可以根据下图来得到，即2/4：

这里的条件概率本质是二级概率，该情况可以用图来表达，第一次抽球的样本空间为整个样本空间：

当第一次抽球(A事件)发生后，B事件的样本空间则是基于A事件发生后的样本空间，即下图中A圆圈内的样本空间：

联合概率

联合概率指两个事件共同发生的概率，比如A和B事件共同发生的概率表示为：

联合概率的计算分为两种情况，一种为独立事件，比如前面掷骰子，计算公式则为多个独立事件事件的积，表示为：

另一种则为相关事件，比如上面的抽球的例子，则可以通过反推来计算，表示为：

这里这样计算是因为P(B|A)只得到了B在A发生后的概率，也就是在发生后的样本空间上计算的，所以P(B|A)表示的只有下图这么一部分发生的概率：

而在这个时候乘以P(A)的概率，则就能表示如下这整个部分：

全概率

导致一个事件发生的原因有很多种，那么该事件发生的概率就是每种原因引起该事件发生的概率总和，这句话能够很好的解释全概率。而全概率公式就可以计算出一个事件的全部概率，公式为：

而根据联合概率的计算方法，可以写成下面这样：

还是拿红蓝球的例子来说，如果需要计算P(B)，这个时候可以利用全概率公式，则将能引起事件B发生的每个概率相加，即可得到P(B)。在红篮球例子当中，引起事件B的原因有两种，分别为：先拿到红球，然后抽中蓝球的概率和先拿到蓝球抽中蓝球的概率。根据图中第一种先拿到了红球引起B事件的发生的概率为 $(3/5) * (2/4) = 0.3$

根据图中第二种先拿到了蓝球引起B事件的发生的概率为 $(2/5) * (1/4) = 0.1 $

这个时候得到了所有能引起B事件发生的原因的概率，所以：

$$ P(B) = 0.3 + 0.1 = 0.4 $$

条件概率和朴素贝叶斯定理公式

在理解了上面的几个知识点后，就能够理解贝叶斯和条件概率的计算方式。条件概率的计算公式为：

而贝叶斯公式则可以用条件概率公式和联合概率公式推导出来：

参考文档

#数学与算法