原文:https://blog.csdn.net/lucky_kai/article/details/89514868
概述： 在机器学习领域中，通常将特征表示为向量的形式，所以在分析两个特征向量之间的相似性时，常用余弦相似度表示。例如将两篇文章向量化，余弦距离可以避免因为文章的长度不同而导致距离偏大，余弦距离只考虑两篇文章生成的向量的夹角。
余弦相似度的取值范围是[-1,1]，相同两个向量的之间的相似度为1。
余弦距离的取值范围是[0,2]。
余弦相似度的定义公式为$cos(A,B)=\frac{A\cdot B}{{\Vert A\Vert }_2{\Vert B\Vert }_2}$
归一化后${\Vert A\Vert }_2=1$,${\Vert B\Vert }_2=1$,
${\Vert A\Vert }_2{\Vert B\Vert }_2=1$
余弦距离：
$dist(A,B)=1-cos(A,B)=\frac{{\Vert A\Vert }_2{\Vert B\Vert }_2-A\cdot B}{{\Vert A\Vert {}_2\Vert B\Vert }_2}$
欧式距离：
${\Vert A-B\Vert }^2={\Vert A\Vert }^2+{\Vert B\Vert }^2-2A\cdot B=2-2A\cdot B=\sqrt[]{2dist(A,B)}$

由公式可以看出归一化后，欧式距离与余弦距离存在单调性关系。此时两种距离的值域都为[0,2]。

欧式距离与余弦距离的对比：
1.欧式距离的数值受到维度的影响，余弦相似度在高维的情况下也依然保持低维完全相同时相似度为1等性质。
2.欧式距离体现的是距离上的绝对差异，余弦距离体现的是方向上的相对差异。

不同情况不同选择：
1.两个人分别取了蓝球(1,0)与红球(0,1)，这两个向量的欧式距离较小，可是事实是这两个球是不同的,而余弦距离为2表示的是完全不同的意思。所以在这种情况下选择余弦距离更具合理性

2.两个人对APP的使用次数与使用时长分别表示为(1,10),(10,100),可知余弦相似度较小，说明这两个人的行为时相同的，可是，事实是不同的，两个人的活跃度有着极大的差异，第二个人的活跃度更高

余弦距离满足正定性和对称性，但是不满足三角不等式，因此余弦距离不是一个严格定义的距离。

距离的定义：
在一个集合中，如果每一对元素均可唯一确定一个实数，使得三条距离公理（正定性，对称性，三角不等式）成立，则该实数可以称为这对元素之间的距离。

更多深度学习资讯都在公众号：深度学习视觉
回复：python大礼包，200G资源到手。
MyBlog

概述： 在机器学习领域中，通常将特征表示为向量的形式，所以在分析两个特征向量之间的相似性时，常用余弦相似度表示。例如将两篇文章向量化，余弦距离可以避免因为文章的长度不同而导致距离偏大，余弦距离只考虑两篇文章生成的向量的夹角。

余弦相似度的取值范围是[-1,1]，相同两个向量的之间的相似度为1。

余弦距离的取值范围是[0,2]。

余弦相似度的定义公式为$cos(A,B)=\frac{A\cdot B}{||A|{|}_2||B|{|}_2}$

归一化后$||A|{|}_2=1,||B|{|}_2=1,||A|{|}_2||B|{|}_2=1$

余弦距离：

$dist(A,B)=1-cos(A,B)=\frac{||A|{|}_2||B|{|}_2-A\cdot B}{||A|{|}_2||B|{|}_2}$，距离恒大于等于0

欧式距离： $||A-B|{|}^2=||A|{|}_2^2+||B|{|}_2^2-2A\cdot B=2-2A\cdot B=2(1-A\cdot B)=>||A-B||=\sqrt{2dist(A,B)}$

由公式可以看出归一化后，欧式距离与余弦距离存在单调性关系。此时两种距离的值域都为[0,2]。

欧式距离与余弦距离的对比：

1.欧式距离的数值受到维度的影响，余弦相似度在高维的情况下也依然保持低维完全相同时相似度为1等性质。

2.欧式距离体现的是距离上的绝对差异，余弦距离体现的是方向上的相对差异。

不同情况不同选择：

1.两个人分别取了蓝球(1,0)与红球(0,1)，这两个向量的欧式距离较小，可是事实是这两个球是不同的,而余弦距离为2表示的是完全不同的意思。所以在这种情况下选择余弦距离更具合理性。

2.两个人对APP的使用次数与使用时长分别表示为(1,10),(10,100),可知余弦相似度较小，说明这两个人的行为时相同的，可是，事实是不同的，两个人的活跃度有着极大的差异，第二个人的活跃度更高。

余弦距离满足正定性和对称性，但是不满足三角不等式，因此余弦距离不是一个严格定义的距离。

距离的定义：

在一个集合中，如果每一对元素均可唯一确定一个实数，使得三条距离公理（正定性，对称性，三角不等式）成立，则该实数可以称为这对元素之间的距离。

证明：

1.正定性

余弦距离公式：$dist(A,B)=1-cos\theta$ ，因为$-1\le cos\theta \le 1$，所以$dist(A,B)\ge 0$满足正定性。

2.对称性：

$dist(A,B)=1-cos(A,B)=\frac{||A|{|}_2||B|{|}_2-A\cdot B}{||A|{|}_2||B|{|}_2}=\frac{||B|{|}_2||A|{|}_2-B\cdot A}{||B|{|}_2||A|{|}_2}=dist(B,A)$，满足对称性。

3.三角不等式：

给定A=(1,0),B=(1,1),C=(0,1)，则有$dist(A,B)=1-\frac{\sqrt{2}}{2}$,$dist(B,C)=1-\frac{\sqrt{2}}{2}$ ,$dist(A,C)=1$

因此有$dist(A,B)+dist(B,C)=2-\sqrt{2}<1=dist(A,C)$，所以得出余弦距离不符合三角不等式。

python下的一棵樱花树：
PYthon开发者的画笔

参考资料

1. 《百面机器学习》
2. https://www.it1352.com/1689274.html
3. https://blog.csdn.net/m0_37890477/article/details/80413344

余弦距离

定义

对于两个向量$A$和$B$，$余弦距离=1-cos(A,B)$，其中，$cos(A,B)$为余弦相似度，计算公式为：

$cos\left(A,B\right)=\frac{A\cdot B}{{\Vert A\Vert }_2{\Vert B\Vert }_2}$

余弦距离 v.s. 欧式距离

1. 总的来说，欧式距离体现数值上的绝对差异，而余弦距离体现方向上的相对差异。

2. 余弦距离在高维情况下依然保持[0, 2]的范围，而欧式距离的数值则受维度的影响，范围不固定，含义也比较模糊。

3. 如果向量模长经过归一化，欧式距离与余弦距离有着单调的关系，如Word2Vec中的向量。

余弦距离不是严格定义的距离

距离的定义

在一个集合中，如果每一对元素均可唯一确定一个实数，使得三条公理（正定性，对称性，三角不等式）成立，则该实数可称为这对元素之间的距离。

余弦距离的正定性

根据余弦距离的定义，有

$dist\left(A,B\right)=1-cos\theta ⩾0$

当且仅当$A=B$时，$dist\left(A,B\right)=0$。因此，余弦距离满足正定性

余弦距离的对称性

根据余弦距离的定义，有

$dist\left(A,B\right)=\frac{{\Vert A\Vert }_2{\Vert B\Vert }_2-AB}{{\Vert A\Vert }_2{\Vert B\Vert }_2}=\frac{{\Vert B\Vert }_2{\Vert A\Vert }_2-AB}{{\Vert B\Vert }_2{\Vert A\Vert }_2}=dist\left(B,A\right)$

因此，余弦距离满足对称性

余弦距离的三角不等式

举一个反例，$A=(1,0)$，$B=(1,1)$，$C=(0,1)$，则有

$dist(A,B)+dist(B,C)=2-\sqrt{2}<1=dist(A,C)$

因此，余弦距离不满足三角不等式。

代码示例

from sklearn.metrics.pairwise import pairwise_distances
from sklearn.metrics.pairwise import euclidean_distances

X = [[1,3,2],[2,2,1]]

cosine_dist = pairwise_distances(X, metric="cosine")
euclidean_dist = euclidean_distances(X)

print(cosine_dist)
print(euclidean_dist)