文章目录
 
二元随机变量分布函数、边际分布函数及条件分布函数
联合分布函数
分布函数 $F(x,y)$ 的性质
边际分布函数
条件分布函数
 

 
二元随机变量分布函数、边际分布函数及条件分布函数
 
 
联合分布函数
 
 
定义： 设 $(X,Y)$ 是二元随机变量，对于任意实数 $x,y$，二元函数
 

     
      
       
        
         F
        
        
         (
        
        
         x
        
        
         ,
        
        
         y
        
        
         )
        
        
         =
        
        
         P
        
        
         {
        
        
         (
        
        
         X
        
        
         ≤
        
        
         x
        
        
         )
        
        
         ⋂
        
        
         (
        
        
         Y
        
        
         ≤
        
        
         y
        
        
         )
        
        
         }
        
        
         
          
           =
          
         
         
          记成
         
        
        
         P
        
        
         (
        
        
         X
        
        
         ≤
        
        
         x
        
        
         ,
        
        
         Y
        
        
         ≤
        
        
         y
        
        
         )
        
       
       
         F(x,y)=P\{(X\leq x) \bigcap (Y\leq y)\} \overset{\text{记成}}{=}P(X\leq x,Y\leq y) 
       
      
     F(x,y)=P{(X≤x)⋂(Y≤y)}=记成P(X≤x,Y≤y)
 
称为二元随机变量 $(X,Y)$ 的联合分布函数。
 
 
例 1： 设随机变量 $X$ 在 1、2、3、4 四个整数中等可能地取一个值，随机变量 $Y$ 在 $1\sim X$ 中等可能地取一个整数值，求 $F(3.5,2)$.
 
解： $X、Y$ 的取值情况均为 1,2,3,4；当 $i,j=1,\cdots ,4$ 时
 
$$P(X=i,Y=j)=P(X=i)P(Y=j|X=i)=\{\begin{array}{ll}\frac{1}{4}\times \frac{1}{i},& i\ge j\\ & \\ \frac{1}{4}\times 0,& i<j\end{array}$$
 
联合概率分布律如下：
 
$$\begin{array}{ccccc}{}_X\bcancel{{}^Y}& 1& 2& 3& 4\\ 1& \frac{1}{4}& 0& 0& 0\\ & & & & \\ 2& \frac{1}{8}& \frac{1}{8}& 0& 0\\ & & & & \\ 3& \frac{1}{12}& \frac{1}{12}& \frac{1}{12}& 0\\ & & & & \\ 4& \frac{1}{16}& \frac{1}{16}& \frac{1}{16}& \frac{1}{16}\end{array}$$
 
$F(3.5,2)=P(X\le 3.5,Y\le 2)$
 
$=\frac{1}{4}+0+\frac{1}{8}+\frac{1}{8}+\frac{1}{12}+\frac{1}{12}=\frac{2}{3}$
 
一般得：
 $$F(x,y)=P(X\le x,Y\le y)=\sum _{x_i\le x,y_j\le y}P(X=x_i,Y=y_j)$$
 
二元离散型随机变量概率分布图
 
 
$$F(x,y)=\{\begin{array}{ll}0,& x<1或y<1\\ 1/4,& 1\le x<2,y\ge 1\\ & \cdots \\ 2/3,& 3\le x<4,2\le y<3\\ & \cdots \\ 1,& x\ge 4,y\ge 4\end{array}$$
 
分布函数 $F(x,y)$ 的性质
 
 
$F(x,y)$ 关于 $x,y$ 单调不减， 即：
 
$x_1<x_2⟹F(x_1,y)\le F(x_2,y)$
 
$y_1<y_2⟹F(x,y_1)\le F(x,y_2)$
 

    
     
      
       
       
       
       
      
      
       \quad \quad \quad \quad
      
     
    
 
$0\le F(x,y)\le 1,F(+\infty ,+\infty )=1$
 

    
     
      
           
      
      
       \quad \,\,\,\,
      
     
     对任意 $x$ 及 $y$ 有：
 
$F(-\infty ,y)=F(x,-\infty )=F(-\infty ,-\infty )=0$
 
$F(x,y)$ 关于 $x,y$ 右连续，即：
 
$$\underset{ϵ\to 0^{+}}{\lim }F(x+ϵ,y)=F(x,y)\text{以及}\underset{ϵ\to 0^{+}}{\lim }F(x,y+ϵ)=F(x,y)$$
 
若 $x_1<x_2,y_1<y_2$，则有
 
$P(x_1<X\le x_2,y_1<Y\le y_2)=F(x_2,y_2)-F(x_2,y_1)-F(x_1,y_2)+F(x_1,y_1)\ge 0$
 
 
边际分布函数
 
 
二元随机变量 $(X,Y)$作为整体，有其联合分布函数 $F(x,y)$，$X$ 和 $Y$ 也有它们自己的分布函数，分别记为：$F_X(x),F_Y(y)$，并称他们为边际分布函数。
 
$$\begin{array}{rl}& F_X(x)=F(x,+\infty )=\underset{y\to \infty }{\lim }F(x,y)\\ & F_Y(y)=F(+\infty ,y)=\underset{x\to \infty }{\lim }F(x,y)\end{array}$$
 
即在分布函数 $F(x,y)$ 中，令 $y\to +\infty$，就能得到 $F_X(x)$，$F_Y(y)同理$。
 
 
例 2： 设 $(X,Y)$ 的分布函数
 
$$F(x,y)=\{\begin{array}{ll}1-e^{-0.5x}-e^{-0.5y}+e^{-0.5(x+y)},& x\le 0,y\le 0\\ 0,& \text{其他}\end{array}$$
 
求 $X$ 的边际分布函数 $F_X(x)$。
 
解：
 $$\begin{array}{rl}{F}_X(x)& =F(x,+\infty )=\underset{y\to +\infty }{\lim }F(x,y)\\ & =\{\begin{array}{ll}{\lim }_{y\to +\infty }(1-e^{-0.5x}-e^{-0.5y}+e^{-0.5(x+y)}),& x\ge 0\\ & \\ 0,& x<0\end{array}\\ & =\{\begin{array}{ll}1-e^{-0.5x},& x\ge 0\\ 0,& x<0\end{array}\end{array}$$
 
条件分布函数
 
 
定义： 若 $P(Y=y)>0$，则在 $Y=y$ 条件下，$X$ 的条件分布函数为：
 
$$F_{X|Y}(x|y)=P(X\le x|Y=y)=\frac{P(X\le x,Y=y)}{P(Y=y)}$$
 
若 $Y$ 位离散型随机变量，就可满足 $P(Y=y)>0$，但当 $Y$ 为连续型随机变量时，显然 $P(Y=y)=0$，所以这时不能这样定义条件分布函数。
 
若 $P(Y=y)=0$，但对任一 $ϵ>0,P(y<Y\le y+ϵ)>0$，则在 $Y=y$ 条件下， $X$ 的条件分布函数定义为：
 
$$\begin{array}{rl}{F}_{X|Y}(x|y)& =\underset{ϵ\to 0^{+}}{\lim }P(X\le x|y<Y\le y+ϵ)\\ & =\underset{ϵ\to 0^{+}}{\lim }\frac{P(X\le x,y<Y\le y+ϵ)}{P(y<Y\le y+ϵ)}\end{array}$$
 
此时，仍记为 $P(X\le x|Y=y)$
 
即：$F_{X|Y}(x|y)=P(X\le x|Y=y)$
 
 
例 3： 设
 
$$F_X(x)=\{\begin{array}{ll}0,& x<1\\ 0.3,& 1\le x<2\\ 1,& x\ge 2\end{array},F_Y(y)=\{\begin{array}{ll}0,& y<0\\ 0.4,& 0\le y<1\\ 1,& y\ge 1\end{array},$$
 
$P(X=1,Y=0)=0.1$，求
 
（1）联合分布律；
 
（2）当 $Y=0$ 时，$X$ 的条件分布律 $P(X=k|Y=0)$；
 
（3） $Y=0$ 时， $X$ 的条件分布函数。
 
解： (1) 由分布函数知，这两个变量是离散型的，分布律先写在联合分布律表中。注意：$P(X=x_0)=F(x_0)-F(x_0-0)$
 
$$\begin{array}{cccc}{}_X\bcancel{{}^Y}& 0& 1& p_{i\cdot }\\ 1& 0.1& 0.2& 0.3\\ 2& 0.3& 0.4& 0.7\\ p_{\cdot j}& 0.4& 0.6& \end{array}$$
 
(2)$P(X=k|Y=0)=\frac{P(X=k,Y=0)}{P(Y=0)}=\frac{P(X=k,Y=0)}{0.4},k=1,2$
 
$$\begin{array}{ccc}X& 1& 2\\ P(X=k|Y=0)& 0.25& 0.75\end{array}$$
 
(3)
 $$\begin{array}{rl}{F}_{X|Y}(x|0)& =P(X\le x|Y=0)\\ & =\{\begin{array}{ll}0,& x<1\\ 0.25,& 1\le x<2\\ 1,& x\ge 2\end{array}\end{array}$$

 
文章目录
 
分布函数
分布函数的用途
 

 
分布函数
 
定义： 随机变量 $X$，对任意实数 $x$，称函数
 
$$F(x)=P(X\le x)$$
 
为 $X$ 的概率分布函数，简称分布函数。
 
说明：
 
任何随机变量都有相应的分布函数
$F(x)$的几何意义。
 
 
$F(x)=P(X\in (-\infty ,x])$
 
 
分布函数的用途
 
可以给出随机变量落入任意一个范围的可能性
 
$X$ 的分布函数为 $F(x)$，$a,b$ 为两个实数， $a<b$，则
 
 
$P(a<X\le b)=P(X\le b)-P(X\le a)=F(b)-F(a);$
 
$P(a<X<b)=P(a<X\le b-0)=F(b-0)-F(a);$
 
$P(X=b)=P(X\le b)-P(X<b)=F(b)-F(b-0).$
 
$P(a<X<b)=P(a<X\le b)-P(X=b)$
 
 
例 1： 一罐子中有 6 个大小形状一致的球，球号分别为 1,2,2,3,3,3. 现随机摸一球（假设摸到各球的可能性相同），用 $X$ 表示摸到的球的球号。求 $X$ 的分布函数。
 
解： 由题意知，$X$ 的分布律为
 
$$\begin{array}{cccc}X& 1& 2& 3\\ P& 1/6& 1/3& 1/2\end{array}$$
 
 
那么 $X$ 的分布函数为
 
$$F(x)=P(X\le x)=\{\begin{array}{ll}0,& x<1;\\ 1/6,& 1\le x<2;\\ 1/2,& 2\le x<3;\\ 1,& x\ge 3;\end{array}$$
 
 
一般地，离散型随机变量的分布函数为阶梯函数。
 
设离散型随机变量 $X$ 的分布律为 
    
     
      
       
        P
       
       
        {
       
       
        X
       
       
        =
       
       
        
         x
        
        
         k
        
       
       
        }
       
       
        =
       
       
        
         p
        
        
         k
        
       
       
        ,
       
       
        k
       
       
        =
       
       
        1
       
       
        ,
       
       
        2
       
       
        ,
       
       
        .
       
       
        .
       
       
        .
       
      
      
       P\{X=x_k\}=p_k,k=1,2,...
      
     
    P{X=xk​}=pk​,k=1,2,...
 
$X$ 的分布函数为
 
$$F(x)=\sum _{x_k\ge x}{p}_k$$
 
$F(x)$ 在 $x=x_k,(k=1,2,...)$ 处有跳跃，其跳跃值为 
    
     
      
       
        
         p
        
        
         k
        
       
       
        =
       
       
        P
       
       
        {
       
       
        X
       
       
        =
       
       
        
         x
        
        
         k
        
       
       
        }
       
      
      
       p_k=P\{X=x_k\}
      
     
    pk​=P{X=xk​}
 
 
例 2： 设随机变量 $X$ 的分布函数如下，求 $X$ 的分布律。
 
$$F(x)=\{\begin{array}{ll}0,& x<-1,\\ 0.2,& -1\le x<3,\\ 0.6,& 3\le x<4,\\ 1,& x\ge 4.\end{array}$$
 
 
解： $F(x)$ 只在 -1,3,4 有跳跃，跳跃的幅度分别是 0.2, 0.4, 0.4.
 
故分布律为
 
$$\begin{array}{cccc}X& -1& 3& 4\\ P& 0.2& 0.4& 0.4\end{array}$$
 
 
$F(x) $的性质：
 
（1） $0\le F(x)\le 1;$
 （2） $F(x)$ 单调不减；
 $\because$ 对于任意 $x_1<x_2,$有 $0\le P(x_1<X\le x_2)=F(x_2)-F(x_1).$
 （3） $F(-\infty )=0,F(+\infty )=1;$
 （4） $F(x)是右连续函数，即F(x+0)=F(x)$
 
 
例 3： 设一醉汉游离于 $A,B$ 两点间，$A,B$ 之间距离 3 个单位。该醉汉落在 $A,B$ 任一子区间的概率与区间长度成正比，设他在离 $A$ 点距离 $X$ 远处，求 $X$ 的分布函数。
 
 
解： 根据题意，$P(0\le X\le 3)=1,$
 
故当 $x<0$ 时，$F(x)=P(X\le x)=0;$ 当 $x\ge 3$ 时， $F(x)=1$
 
设比例系数为 $k$，则 $P(0\le X\le 3)=3k=1,⟹k=1/3.$
 
而当 $0\le x<3$ 时，$F(x)=P(X\le x)=P(X<0)+P(0\le X\le x)=0+\frac{1}{3}\cdot x.$
 
从而 $X$ 的分布函数为：
 
$$F(x)=P(X\le x)=\{\begin{array}{ll}0,& x<0;\\ x/3,& 0\le x<3;\\ 1,& x\ge 3.\end{array}$$
 
 
由图可见：此分布函数是个连续函数，因此 $X$ 不是离散型随机变量，$X$ 是连续型随机变量。

 
文章目录
 
写在前面
离散型随机变量与连续型随机变量
离散型随机变量的概率函数与概率分布函数
连续型随机变量的概率密度函数与概率分布函数
总结
REF
  
 

 
写在前面
 
如果有大一大二的新生看到这篇博文，如果你此时正在翘《概率论与数理统计》这门课，无论你以后想打算从事算法岗位，还是做金融量化，或者想走科研的道路，成为大佬，那么就请现在好好学习这门课，因为这也是为了不耽误你们以后撩妹、打游戏的宝贵时间，而又可以系统性学习这门课程的最好时间。
 
由于最近的研究和学习涉及的理论基础知识越来越多，很多知识点容易混淆，同时也为了可以在今后的论文或者研究中用专业的术语和论证来尽情的表（zhuang）达（bi），因此最近打算重新学一遍《概率论与数理统计（陈希孺编著）》。
 
当乍一看到概率函数、概率分布函数、概率密度函数以及累积概率函数这一堆术语时，像我这种概率论学习不扎实的必然会头疼，所以打好基础还是很重要的。在学习《概率论》时，引用陈希孺老师的一句话：研究一个随机变量，不只是要看它能取哪些值，更重要的是它取各种值的概率如何，这样就可以把握住核心了，上面这堆术语都是用来描述随机变量的概率的。既然是用来描述随机变量的概率，那下面就先说一下随机变量。
 
离散型随机变量与连续型随机变量
 
离散型随机变量（Discrete random variable）与连续型随机变量（Continuous random variable）的区别也很好划分，只要看一下随机变量的取值能否一一列举出来就可以。如掷骰子、扔硬币、性别等，取值都是可以直接列举出来的，这样就是离散型随机变量。而像天气的温度，器件的寿命、测量误差等，这样的取值不能全部列举出来，只能通过一个区间来表示，这样的就是连续型随机变量。
 
离散型随机变量的概率函数与概率分布函数
 
离散型随机变量的概率函数也就是用函数的形式来表示随机变量取值的概率。
 $X$是离散型随机变量，其全部可能取值是$a_1,a_2,...,a_n$，则它的概率函数表示为：
 $$p_i=P(X=a_i)(i=1,2,...,n)$$
 离散型随机变量的概率函数的自变量是离散型随机变量$X$的取值，因变量是对应取值的概率，它给出了将全部概率1在其所有可能值上的分配情况，由于离散型随机变量的有限性，所以也常以列表的形式展示离散型随机变量的概率分布：
 
 
  
 
知道了离散型随机变量的概率分布后，那么就来说一下离散型随机变量的概率分布函数，在介绍离散型随机变量的概率分布函数之前，先看一下概率分布函数的定义，注意这里没有区分是离散型还是连续型随机变量：
 设$X$为随机变量，则随机变量的概率分布函数为：
 $$P(X\le x)=F(x)(-\infty <x<\infty )$$
 那么，当$X$是离散型随机变量时，它的概率分布函数为：
 
     
      
       
        
         F
        
        
         (
        
        
         x
        
        
         )
        
        
         =
        
        
         P
        
        
         (
        
        
         X
        
        
         ≤
        
        
         x
        
        
         )
        
        
         =
        
        
         
          ∑
         
         
          
           {
          
          
           i
          
          
           ∣
          
          
           
            a
           
           
            i
           
          
          
           ≤
          
          
           x
          
          
           }
          
         
        
        
         
          p
         
         
          i
         
        
       
       
        F(x) = P(X \leq x) = \sum_{\{i|a_{i}\leq x\}}p_{i}
       
      
     F(x)=P(X≤x)={i∣ai​≤x}∑​pi​
 从上面的形式可以看出概率分布函数就是概率函数取值的累加，所以它又叫做累积概率函数（Cumulative Distribution Function）。
 
连续型随机变量的概率密度函数与概率分布函数
 
说完了离散型随机变量的概率函数和概率分布函数，下面来说一下连续型随机变量的概率密度函数和概率分布函数。
 为什么到了连续型随机变量这里，概率函数就没有了，反而多了一个概率密度函数呢？其实连续型随机变量的概率密度函数就相当于是离散型随机变量的概率函数。试想一下，在离散型随机变量的概率函数表示每个离散值对应的概率的函数，但是连续型随机变量有无穷个数值，单单描述其中一个数值的概率是不可能的，所以就通过了一个区间内的概率密度来表示数据的集中分布程度。
 引用陈希孺老师教程中的定义：设连续型随机变量$X$有概率分布函数$F(x)$，则$F(x)$的导数$f(x)=F^{\prime }(x)$称为$X$的概率密度函数。
 可以设想一根极细的无穷长的金属杆，总的质量为1，概率密度相当于各个点的质量密度。
 连续型随机变量$X$的密度函数具有以下三条基本性质：
 1、$f(x)\ge 0$
 2、${\int }_{-\infty }^{\infty }f(x)dx=1$
 3、对于任何常数$a<b$，有$$P(a\le X\le b)=F(b)-F(a)={\int }_a^{b}f(x)dx$$
 加深一下印象，看一下连续型随机变量最常见的一种分布，正态分布的概率分布函数和概率密度函数：
 
 
  
 
总结
 
1、离散型随机变量的概率函数和连续型随机变量的概率密度函数都用来描述随机变量如何在所有取值处分配总的概率1。离散型随机变量的概率函数可以直接得到离散型变量对应的概率值，连续型随机变量则是通过一个区间内概率密度函数的面积来表示概率值。
 2、无论是离散型还是连续型概率分布函数，可以按照它的另一个叫法累积概率函数来理解，既然是累积概率，那么得到的公式是一个求和的形式，得到的图像是一个递增的过程。
 3、由于概率分布的研究多是侧重于连续型随机变量，毕竟连续型随机变量的概率分布函数和概率密度函数作为连续函数，还有很多可以研究的点，所以后期会再整理一些常见的连续型随机变量的概率分布函数和概率密度函数。
 
REF
 
《概率论与数理统计（陈希孺编著）》
 https://www.jianshu.com/p/b570b1ba92bb

1. 概率函数
 
概率函数，就是用函数的形式来表达概率。
 $p_i=P(X=a_i)(i=1,2,3,4,5,6)$
 在这个函数里，自变量（X）是随机变量的取值，因变量（$p_i$）是取值的概率。这就叫啥，这叫用数学语言来表示自然现象！它就代表了每个取值的概率，所以顺理成章的它就叫做了X的概率函数。
 从公式上来看，概率函数一次只能表示一个取值的概率。比如P（X=1）=1/6,这代表用概率函数的形式来表示，当随机变量取值为1的概率为1/6，一次只能代表一个随机变量的取值。
 
2. 概率分布
 
概率分布，就是概率的分布，这个概率分布还是讲概率的。我认为在理解这个概念时，关键不在于“概率”两个字，而在于“分布”这两个字。为了理解“分布”这个词，我们来看一张图。
 
 在很多教材中，这样的列表都被叫做离散型随机变量的“概率分布”。其实严格来说，它应该叫“离散型随机变量的值分布和值的概率分布列表”，这个名字虽然比“概率分布”长了点，但是对于我们这些笨学生来说，肯定好理解了很多。因为这个列表，上面是值，下面是这个取值相应取到的概率，而且这个列表把所有可能出现的情况全部都列出来了！
 
举个例子吧，一颗6面的骰子，有1，2，3，4，5，6这6个取值，每个取值取到的概率都为1/6。那么你说这个列表是不是这个骰子取值的”概率分布“？
 
 长得挺像的，上面是取值，下面是概率，这应该就是骰子取值的“概率分布”了吧！大错特错！少了一个最重要的条件！对于一颗骰子的取值来说，它列出的不是全部的取值，把6漏掉了!
 
这么一说你就应该明白概率分布是个什么鬼了吧。
 
3. 分布函数
 
说完概率分布，就该说说分布函数了。这个分布函数又是个简化版的东西！我真的很讨厌我们的教材中老是故弄玄虚，卖弄概念！你就老老实实的写成”概率分布函数“，让我们这些笨学生好理解一些不行吗？
 
看看下图中的分布律！这又是一个不统一叫法的丑恶典型！这里的分布律明明就是我们刚刚讲的“概率函数”，完全就是一个东西嘛！但是我知道很多教材就是叫分布律的。
 
 我们来看看图上的公式，其中的F(x)就代表概率分布函数啦。这个符号的右边是一个长的很像概率函数的公式，但是其中的等号变成了大于等于号的公式。你再往右看看，这是一个一个的概率函数的累加！发现概率分布函数的秘密了吗？它其实根本不是个新事物，它就是概率函数取值的累加结果！所以它又叫累积概率函数！其实，我觉得叫它累积概率函数还更好理解！！
 
概率函数和概率分布函数就像是一个硬币的两面，它们都只是描述概率的不同手段！
 
4. 概率密度函数
 
概率密度函数是概率论中的核心概念之一，用于描述连续型随机变量所服从的概率分布。
 
4.1 从随机事件说起
 
研究一个随机变量，不只是要看它能取哪些值，更重要的是它取各种值的概率如何！
 回忆我们在学习概率论时的经历，随机事件是第一个核心的概念，它定义为可能发生也可能不发生的事件，因此是否发生具有随机性。例如，抛一枚硬币，可能正面朝上，也可能反面朝上，正面朝上或者反面朝上都是随机事件。掷骰子，1到6这6种点数都可能朝上，每种点数朝上，都是随机事件。
 
 
 
4.2 整数集与实数集
 
高中时我们学过集合的概念，并且知道整数集是z，实数集是R。对于有限集，可以统计集合中元素的数量即集合的基数（cardinal number，也称为集合的势cardinality）。对于无限集，元素的个数显然是无穷大，但是，都是无穷大，能不能分个三六九等呢？
 
回忆微积分中的极限，对于下面的极限：
 
 
虽然当x趋向于正无穷的时候，x和exp(x)都是无穷大，但它们是有级别的，在exp(x)面前，x是小巫见老巫。
 
同样的，对于整数集和实数集，也是有级别大小的。任意两个整数之间，如1与2之间，都密密麻麻的分布着无穷多个实数，而且，只要两个实数不相等，不管它们之间有多靠近，如0.0000001和0.0000002，在它们之间还有无穷多个实数。在数轴上，整数是离散的，而实数则是连续的，密密麻麻的布满整个数轴。因此，实数集的元素个数显然比整数要高一个级别。
 
4.3 随机变量
 
变量是我们再熟悉不过的概念，它是指一个变化的量，可以取各种不同的值。随机变量可以看做是关联了概率值的变量，即变量取每个值有一定的概率。例如，你买彩票，最后的中奖金额x就是一个随机变量，它的取值有3种情况，以0.9的概率中0元，0.09的概率中100元，0.01的概率中1000元。变量的取值来自一个集合，可以是有限集，也可以是无限集。对于无限集，可以是离散的，也可以是连续的，前者对应于整数集，后者对应于实数集。
 
4.3.1 离散型随机变量
 
随机变量是取值有多种可能并且取每个值都有一个概率的变量。它分为离散型和连续型两种，离散型随机变量的取值为有限个或者无限可列个（整数集是典型的无限可列），连续型随机变量的取值为无限不可列个（实数集是典型的无限不可列）。
 
 
4.3.2 连续型随机变量
 
把分布表推广到无限情况，就可以得到连续型随机变量的概率密度函数。此时，随机变量取每个具体的值的概率为0，但在落在每一点处的概率是有相对大小的，描述这个概念的，就是概率密度函数。你可以把这个想象成一个实心物体，在每一点处质量为0，但是有密度，即有相对质量大小。
 
 
 在概率论和统计学中，拉普拉斯是一种连续概率分布。由于它可以看做是俩个不同位置的指数分布背靠背拼在一起，所以它也叫做双指数分布。如果随机变量的概率密度函数分布为：
 
 那么他就是拉普拉斯分布。u为位置参数，b>0是尺度参数。与正态分布相比，正态分布是用相对于u平均值的差的平方来表示，而拉普拉斯概率密度用相对于差的绝对值来表示。因此，拉普拉斯的尾部比正态分布更加平坦。
 
 

 概率密度函数用数学公式表示就是一个定积分的函数，定积分在数学中是用来求面积的，而在这里，你就把概率表示为面积即可！
 
 左边是F(x)连续型随机变量分布函数画出的图形，右边是f(x)连续型随机变量的概率密度函数画出的图像，它们之间的关系就是，概率密度函数是分布函数的导函数。
 
两张图一对比，你就会发现，如果用右图中的面积来表示概率，利用图形就能很清楚的看出，哪些取值的概率更大！这样看起来是不是特别直观，特别爽！！所以，我们在表示连续型随机变量的概率时，用f(x)概率密度函数来表示，是非常好的！
 
但是，可能读者会有这样的问题：
 Q：概率密度函数在某一点的值有什么意义？
 A：比较容易理解的意义，某点的 概率密度函数 即为 概率在该点的变化率(或导数)。很容易误以为 该点概率密度值 为 概率值.
 比如: 距离(概率)和速度(概率密度)的关系.某一点的速度, 不能以为是某一点的距离，没意义,因为距离是从XX到XX的概念，所以, 概率也需要有个区间.
 这个区间可以是x的邻域（可以无限趋近于0）。对x邻域内的f（x）进行积分，可以求得这个邻域的面积，就代表了这个邻域所代表这个事件发生的概率。
 
4.4 期望E(X)与方差Var(X)
 
随机变量(Random Variable)X是一个映射，把随机试验的结果与实数建立起了一一对应的关系。而期望与方差是随机变量的两个重要的数字特这。
 
期望(Expectation, or expected value)是度量一个随机变量取值的集中位置或平均水平的最基本的数字特征；
 
方差(Variance)是表示随机变量取值的分散性的一个数字特征。 方差越大，说明随机变量的取值分布越不均匀，变化性越强；方差越小，说明随机变量的取值越趋近于均值，即期望值。
 
 
4.4.1 期望和方差的运算性质
 
4.4.1.1 期望运算性质
 
 
4.4.1.2 方差的运算性质
 

 
 
4.4.1.3 期望与方差的联系
 
 
4.4.2 协方差
 
 
4.4.2.1 协方差的运算性质
 
 
4.4.3 相关系数
 
4.4.3.1 定义
 
相关系数通过方差和协方差定义。两个随机变量的相关系数被定义为：
 
 
4.4.3.2 性质
 
1、有界性
 相关系数的取值范围为-1到1，其可以看成是无量纲的协方差。
 
2、统计意义
 值越接近1，说明两个变量正相关性（线性）越强，越接近-1，说明负相关性越强，当为0时表示两个变量没有相关性。
 
 
5. 常见概率分布
 
5.1 均匀分布（Uniform Distribution）
 

 
 
5.2 伯努利分布（Bernoulli Distribution）
 
 
 
5.3 二项分布（Binomial Distribution）
 
二项分布(Binomial distribution)是n重伯努利试验成功次数的离散概率分布。
 
 
 
 
从定义可以看出，伯努利分布是二项分布在n=1时的特例
 
 
 
 
 
 
5.4 负二项分布（Negative Binomial Distribution）
 

 
 
5.5 几何分布（Geometric Distribution）
 
假定我们有一系列伯努利试验，其中每一个的成功概率为$p$，失败概率为$q=1-p$。在获得一次成功前要进行多次试验？
 注意，这里的随机变量的概率分布就是一种几何分布。具体如下：
 

 几何分布的概率分布图如下，见之会有更形象地认知。
 
 为什么单独把几何分布和二项分布单独列出，一方面其代表的概率试验的普适性，另一方面其期望和方差都是有特殊技巧。
 
 其实有意思的是，这里面的求解过程；但是本文不具体涉及了。因为像几何分布和二项分布这种可能要多写几章，当然是否连续写就不知道了。本着实用主义来。
 一般简单地肯定在前面讲，复杂一些得也更有意思一些的肯定是在后面，比如二项分布明显就在几何分布后面了。
 
不同于几何分布描述的运行到第几次才成功，二项分布描述是的N次试验里有多少次成功。具体如下：
 
 
 
 
 
 
5.6 超几何分布（Hypergeometric Distibution）
 
 
5.7 正态/高斯分布 (Normal / Gaussian Distribution)
 
正态分布是很多应用中的合理选择。如果某个随机变量取值范围是实数，且对它的概率分布一无所知，通常会假设它服从正态分布。有两个原因支持这一选择：
 
建模的任务的真实分布通常都确实接近正态分布。中心极限定理表明，多个独立随机变量的和近似正态分布。
在具有相同方差的所有可能的概率分布中，正态分布的熵最大（即不确定性最大）。
 

 
 
 
 
5.7.1 一维正态分布
 

 
 
 
5.7.2 多维正态分布
 

 
 
 
 
 
 
5.8 拉普拉斯分布
 
 
5.9 泊松分布（Poisson Distribution）
 

 
 
 
 
 
 
5.10 指数分布
 

 
 
 
5.11 伽马分布
 

 
 
 
 
 
5.12 贝塔分布
 

 
 
 
5.13 狄拉克分布
 
 
5.14 多项式分布与狄里克雷分布
 
多项式分布(Multinomial Distribution)是二项式分布的推广。二项式做n次伯努利实验，规定了每次试验的结果只有两个，如果现在还是做n次试验，只不过每次试验的结果可以有多m个，且m个结果发生的概率互斥且和为1，则发生其中一个结果X次的概率就是多项式分布。
 
扔骰子是典型的多项式分布。扔骰子，不同于扔硬币，骰子有6个面对应6个不同的点数，这样单次每个点数朝上的概率都是1/6（对应p1~p6，它们的值不一定都是1/6，只要和为1且互斥即可，比如一个形状不规则的骰子）,重复扔n次，如果问有k次都是点数6朝上的概率就是
 
 
 
5.15 混合概率分布
 
 
5.16 总结
 
 
 
https://www.jianshu.com/p/b570b1ba92bb
 https://zhuanlan.zhihu.com/p/48140593
 https://www.bookstack.cn/read/huaxiaozhuan-ai/spilt.4.6f06ed449f5ed789.md
 https://zhuanlan.zhihu.com/p/94181395
 https://zhuanlan.zhihu.com/p/64859161
 https://blog.csdn.net/touristman5/article/details/56281887
 https://zhuanlan.zhihu.com/p/32932782