随机事件层面的独立

在概率论里,“独立"并不意味着两个事件没有任何关系。 独立意味着一个事件的发生与否都不改变另一个事件发生的概率。 - 知乎文章

数学定义见下:

两个随机事件间的独立性定义: $P(AB)=P(A)P(B)$,即 $P(A|B)=P(A)$ 。不独立,又称相依。

多个随机事件间的独立性定义:设有 N 个事件 $A_1, A_2, …, A_N$ 对任意的 $1 ≤ i ≤ j ≤ k ≤ N$ 如下式成立:为什么不使用 $i, j, k \in [1, N]$ ?避免重复吗?

$$ \begin{aligned} P(A_i A_j) &= P(A_i) P(A_j) \quad \text{两两独立} \\ P(A_i A_j A_k) &= P(A_i) P(A_j) P(A_k) \quad \text{三三独立} \\ &\quad \vdots \\ P(A_i A_j \cdots A_N) &= P(A_i) P(A_j) \cdots P(A_N) \quad \text{NN独立} \end{aligned} $$ 则称 N 个事件 $A_1, A_2, …, A_N$ 相互独立。

多个事件间相互独立 <=> 多个事件间两两独立、三三独立、……、NN 独立

概率为 0 的事件与任何事件都独立。


将相互独立事件中的任一部分转换为对立事件,所得诸事件依然是相互独立的。

如若事件 A 与事件 B 独立,则 $A$ 与 $\bar{B}$, $\bar{A}$ 与 $\bar{B}$, $\bar{A}$ 与 $B$ 均独立。

多个随机事件情形同样满足

随机试验层面的独立

茆书1.5.3

独立性与相容性

相容性定义:如果 A 与 B 没有相同的样本点,则称 A 与 B 互不相容。即 A 与 B 不可能同时发生。

在事件概率不为 0 的前提下讨论独立性与相容性的关系:

  • 独立 => 相容:$P(AB)=P(A)P(B)≠0$ 说明 A 与 B 之间有交集,两者可能同时发生;但反之则不成立:相容事件不一定独立,例如掷一枚骰子,A: 点数<4 , B: 点数>3,AB 有交集,两者可能同时发生,相容,但不独立。
  • 逆否命题:互不相容 => 相依(不独立),互不相容 => $P(AB)=0≠P(A)P(B)$ 说明 A 与 B 不独立。反之同样不成立:相依事件可能相容,例如掷两枚骰子,A:第一次为 6,B:总和大于 8,AB 两事件既相容又相依。

独立性:概率层面,反映前后实验结果是否相互影响; 相容性:事件层面,反映不同事件能否同时发生。

可以说,两者其实是不同维度的概念。

独立性与相关性

不相关是指两个变量的相关系数为0,$E(XY)=E(X)E(Y)$,两个变量之间没有线性关系。

相关与否,仅是线性层面的。而独立与否,不仅包括线性层面,还包括非线性层面。

于是可以说:独立的要求,比不相关,要更加严格。

  • 独立 => 不相关,反之不成立,事件间不相关(无线性关系)≠> 事件间独立(可能存在非线性关系)
  • 逆否命题:相关 => 相依,反之同样不成立,相依(不独立,说明事件间有关系)≠> 相关(因为可能不是线性关系,而是非线性关系)