概率分布

概率分布是随机变量所有可能结果及其相应概率的列表。

例如，均匀6面骰的概率分布为： img

离散（discrete） 这意味着如果我选择任意两个连续的结果，我无法取得位于两者之间的结果。例如，考虑投掷六面骰的结果1点和2点，我没法得到两者之间的点数（例如，我没法掷出1.5点）。在数学上，我们会说，结果列表是可数的（不过我不会进一步定义可数集和不可数集了，否则就没完没了了）。你大概可以猜想，当我们涉及连续（continuous）概率分布时，这一点会不成立。

单元（univariate） 这意味着我们只有一个（随机）变量。在这一情形下，我们只有掷骰的结果。相反，如果我们有不止一个变量，那我们称其为多元分布（multivariate distribution）。如果我们有两个变量，那么这一多元分布的特例称为二元分布（bivariate distribution）。

有限支持（finite support） 这意味着结果的数目是有限的。基本上，支持是定义概率分布的结果。所以，在我们的例子中，支持是1、2、3、4、5、6. 由于这些值不是无限的，所以我们说这是有限支持的概率分布。

均匀分布

  • 整个样本空间中每个样本点对应的概率都是相等的。
  • 均匀分布好采样，很多分布是不好直接采样的，常用有逆变换采样、拒绝采样、重要性采样。