将x+y的任意次幂展开成和的形式：



每一个乘坐二项式系数的特定正整数，其等于 。这个公式称为二项式公式或二项式定理。把它写作



理解为组合形式，n为总数，取0个。


概率分布列表：https://en.wikipedia.org/wiki/List_of_probability_distributions


 

额外的补充:

powf(a,b)      计算a 的b次幂 

atoi(t)      将字符串转换成整型

fact(n)      n的阶乘

  

 

一、几何分布

假设某种赌博游戏的胜率为0.2，那么意味着你玩第一次就胜出的概率为0.2。

那玩第二次才胜出呢？“玩第二次才胜出”就意味着玩第一次是失败的，而直到第二次才胜出，那么这件事发生的概率就是0.8×0.2=0.16。

那么第三次、第四次呢？



如果用p代表某件事发生的概率，则它不发生的概率为1-p，我们将此概率称为q，于是可以用下式计算任何具有这一性质的概率：



这个公式叫做概率的几何分布。变量X表示为了取得第一次成功所需进行的试验次数，为了在第r次试验时取得成功，首先要先失败r-1次。

几何分布同样适用于不等式。

P(X＞r)指的是为了取得第一次成功需要试验r次以上的概率。为了让需要进行的试验次数大于r，意味着前r次试验必须以失败告终。也就是说，将失败概率乘上r次就是所求的概率：



利用这个，可以求出P(X≤r)，即为了取得一次成功而需要尝试r次或r次以下的概率：



如果一个变量X的概率符合几何分布，且单次试验的成功概率为p，则可以写作：



几何分布的期望模式

在数学期望已知的情况下，就可以得出试验在成功之前需要试验的次数的期望值。

假设X~Geo(0.2)，那么：



如果将xP(X=x）的累计总和画成图形：



将xP(X=x)的累计总和画成图形后，可以看出，随着x的变大，累计总和越来越接近一个特定数值：5。即：E(X)=5。

上式的意义很直观：单次试验的成功概率为0.2，则可以理解为试验5次中就有一次可能成功。

以上情况可以推而广之任意数值p。如果X~Geo(p)，则：



二、二项分布

假设进行一项试验的成功的概率为0.25，那么连续进行三次试验，用X代表成功的次数，则P(X=0)、 P(X=1)、 P(X=2)、 P(X=3)分别为多少？



很明显能看出规律：x的值与0.25和0.75的幂次存在某种关系。

表中的结果可以用下式来归纳：



进而将此式推广到一般情况：



这类问题被称为二项分布，写作：



并且，只要X~B(n,p)，则：



三、泊松分布

假如某台机器一周内发生故障的平均次数为3.4，那么下周这台机器不发生故障的概率有多大？

这一类问题的难点在于，尽管我们知道机器的每周平均故障次数，但实际的故障发生次数却是不固定的，如果倒霉的话，发生故障的次数就会多，如果幸运的话，一次故障都不会发生。这时就需要借助泊松分布来解决这一类问题。

泊松分布包含以下条件：

①单独事件在给定区间内随机、独立地发生；

②已知该区间内的事件平均发生次数（或发生率），且为有限数值。

如果X符合泊松分布，且发生率为λ，则写作：



且：



回到刚才的问题，机器在下周不发生故障的概率为多少？



那么下周机器发生三次故障的概率：



如果X~Po (λx)且Y~Po (λy)，则：



再来看下面这道问题：一个学生要参加一场考试，但他没有做任何复习。他需要猜测每一道题的答案，每一题答对的几率为0.05，考卷上共有50个问题，他答对5道题的概率是多少？

这是一道二项分布问题，但如果用二项分布求解，那么幂次会非常之大，计算起来很困难。

而当n很大且p很小时，可以用X~Po(np)近似代替X~B(n,p)。于是：



#转自知乎：

Q：泊松分布的现实意义是什么，为什么现实生活多数服从于泊松分布？

A：先说结论：泊松分布是二项分布n很大而p很小时的一种极限形式

二项分布是说，已知某件事情发生的概率是p，那么做n次试验，事情发生的次数就服从于二项分布。

泊松分布是指某段连续的时间内某件事情发生的次数，而且“某件事情”发生所用的时间是可以忽略的。例如，在五分钟内，电子元件遭受脉冲的次数，就服从于泊松分布。

假如你把“连续的时间”分割成无数小份，那么每个小份之间都是相互独立的。在每个很小的时间区间内，电子元件都有可能“遭受到脉冲”或者“没有遭受到脉冲”，这就可以被认为是一个p很小的二项分布。而因为“连续的时间”被分割成无穷多份，因此n(试验次数)很大。所以，泊松分布可以认为是二项分布的一种极限形式。

因为二项分布其实就是一个最最简单的“发生”与“不发生”的分布，它可以描述非常多的随机的自然界现象，因此其极限形式泊松分布自然也是非常有用的。

问题来源：
算法第四版 第1.1节 习题27：return (1.0 - p) * binomial(N - 1, k, p) + p * binomial(N - 1, k - 1, p);

计算递归调用次数，这里的递归式是怎么来的？
二项分布:
定义：n个独立的是/非试验中成功次数k的离散概率分布，每次实验成功的概率为p，记作B(n,p,k)。
概率公式：P(ξ=K)= C(n,k) * p^k * (1-p)^(n-k)
其中C(n, k) = (n-k) !/(k! * (n-k)!)，记作ξ~B(n,p)，期望：Eξ=np，方差:Dξ=npq，其中q=1-p。
概率统计里有一条递归公式：
 
这个便是题目中递归式的来源。
        该递推公式来自:C(n,k)=C(n-1,k)+C(n-1,k-1)。实际场景是从n个人选k个，有多少种组合？将着n个人按1~n的顺序排好，假设第k个人没被选中，则需要从剩下的n-1个人中选k个；第k个选中了，则需要从剩下的n-1个人中选k-1个。
书中二项分布的递归实现：

public static double binomial(int N, int k, double p) {
		COUNT++;  //记录递归调用次数
		if (N == 0 && k == 0) {
			return 1.0;
		}
		if (N < 0 || k < 0) {
			return 0.0;
		}
		return (1.0 - p) * binomial(N - 1, k, p) + p * binomial(N - 1, k - 1, p);
	}


实验结果：

n      k     p     调用次数
10    5   0.25   2467

20   10   0.25   2435538

30   15   0.25   2440764535  

由结果可以看出来这个递归方法需要调用的次数呈几何灾难，n到50就算不下去了。


改进的二项分布递归实现：

private static long COUNT = 0;
	private static double[][] M;
	
	private static double binomial(int N, int k, double p) {
		COUNT++;
		if (N == 0 && k == 0) {
			return 1.0;
		}
		if (N < 0 || k < 0) {
			return 0.0;
		}
		if (M[N][k] == -1) {  //将计算结果存起来，已经计算过的直接拿过来用，无需再递归计算
			M[N][k] = (1.0 - p) * binomial(N - 1, k, p) + p * binomial(N - 1, k - 1, p);
		}
		return M[N][k];
	}

	public static double Binomial(int N, int k, double p) {
		M = new double[N + 1][k + 1];
		for (int i = 0; i <= N; i++) {
			for (int j = 0; j <= k; j++) {
				M[i][j] = -1;
			}
		}
		return binomial(N, k, p);
	}

实验结果：

n        k      p     调用次数
10       5   0.25   101

20     10   0.25   452

30     15   0.25   1203

50     25   0.25   3204

100   50   0.25   5205
由实验结果可以看出调用次数大幅减小，算法可以使用。


二项分布的非递归实现：
事实上，不利用递归，直接计算组合数和阶乘，反而速度更快。

    //计算组合数
    public static double combination(double N, double k)
    {
        double min = k;
        double max = N-k;
        double t = 0;

        double NN=1;
        double kk=1;
        
        if(min>max){
            t=min;
            min = max;
            max=t;
        }
        
        while(N>max){//分母中较大的那部分阶乘约分不用计算
            NN=NN*N;
            N--;
        }
        
        while(min>0){//计算较小那部分的阶乘
            kk=kk*min;
            min--;
        }
        
        return NN/kk;
    }
    
    //计算二项分布值
    public static double binomial(int N,int k,double p)
    {
        double a=1;
        double b=1;
        
        double c =combination(N,k);
        
        while((N-k)>0){  //计算(1-p)的(N-k)次方       
            a=a*(1-p);
            N--;
        }
        
        while(k>0){  //计算p的k次方    
            b=b*p;
            k--;
        }
        
        return c*a*b;
    }

实验结果：
n      k    p           二项分布值

10,   5, 0.25   0.058399200439453125
20, 10, 0.25  0.009922275279677706

50, 25, 0.25   8.44919466990397E-5   

与前面的算法比对，计算结果是正确的，而且运行速度是非常之快的。

总体方差与样本方差：
样本方差与总体方差计算差别在于分母是样本数n-1。很多的解释关于自由度：自由度，这里暂集中理清楚总体方差和总体样本的关系，先不扯自由度。
关于样本方差的推导，如果我们认为方差样本形如总体样本：
因为
所以（1）式中第二项和第三项减去后
原式
然后第一项在中心极限中就是总体方差的无偏估计，而第二项当等于0时，全式就是总体方差了。但是很可惜，因为这个平方导致这个数的期望大于0。这意味着，如果能够事先预知总体样本，然后代入公式后，就不用再除以1/(n+1)而是1/n了。
所以我们知道现在为什么是有偏估计了，如果还不理解，我们可以通过图来理解理解。
现在有总体包含X1,X2,X3，第一条坐标系是指总体样本以及总体均值。后三条分别为样本及样本均值。
正常来说，抽样取出来的样本均值的期望就是总体期望，但是每一次得到的样本均值其实是最优点。当我们在X1和X3中选一个点P使(X1-P)^2+(X3-P)^2最小，毫无疑问就是平均值。因此每一次抽样的时候得到的都是最优点，以至于得到的样本方差的期望小于总体方差。
那1/(n-1)是怎么来的，假设我们不知道样本方差和我们希望估算出的总体方差之间的关系，我们希望样本方差的期望等于总体方差，也就是：
因为x的平均数是由x求出的，所以x平均数的期望必然等于x的期望，所以式中和的平方项消去。所以原式变为：
因为 
所以
至此通过一步一步的推导我们可以看出一个问题：无偏估计还是会存在误差，只是通过在中心极限定理下会趋于最终值。所以在取样时保证最小样本量对整体估计的准确性才是最有帮助的。