Python/Numpy之点积叉积内积外积张量积

内积（内积、标量积、数量积、点积、点乘）a与b的内积为 a·b = |a||b|cos∠(a, b)，结果为标量（一个数）

外积（叉乘）：向量a与b的外积a×b是一个向量，其长度等于|a×b| = |a||b|sin∠(a,b)，其方向正交于a与b。并且，(a,b,a×b)构成右手系。(外积是张量积的一种形式)

张量积：Kronecker product a⊗b

1.内积、外积、张量积、对应元素相乘

内积：innerx = np.dot(arr1,arr2)
外积：outerx = np.outer(arr1,arr2)
张量积：kronx = np.kron(arr1,arr2)
对应元素相乘：mul = arr1 * arr2 # 只有这种方式是元素相乘，其余都是矩阵相乘运算规则

2. 举例如下
>>> arr1 = np.array([1,2,3])
>>> arr2 = np.array([2,3,4])
# 外积
>>> outerx = np.outer(arr1,arr2)
>>> outerx
array([[ 2,  3,  4],
       [ 4,  6,  8],
       [ 6,  9, 12]])
# 内积
>>> dotx = np.dot(arr1,arr2)
>>> dotx
20
# 张量积
>>> kronx = np.kron(arr1,arr2)
>>> kronx
array([ 2,  3,  4,  4,  6,  8,  6,  9, 12])
# 对应元素乘积
>>> mul = a * b
>>> mul
array([1, 4, 9])


更多Python数据科学相关见专题Python数据科学技能索引

点乘与叉乘

向量内积外积，为啥要叫「内」「外」？

python实现矢量积、叉积、外积、张量积

1 点积
点积（dot product)，又称数量积、标量积.
输入： 一种接受两个等长的数字序列（通常是坐标向量）；

输出：返回单个数字。
在欧几里几何空间中，向量的点积运算又称为内积。
表示



代数定义



推广

矩阵的点积/内积，为对应矩阵元素的积之和。
A，B是定义为两个相同大小的矩阵。



值得注意的是，一些对于A，B大小不同，可以分别把它们组成的向量进行内积。

比如在numpy中：
import numpy
x = numpy.mat([[1, 2], [3, 4]])
y = numpy.mat([10, 20])
print("Matrix inner:")
print(numpy.inner(x, y))
''' Output：
Matrix inner:
[[ 50]
 [110]]
'''

2 叉积
叉积（Cross product），又称向量积（Vector product）、叉乘。
输入： 对三维空间中的两个向量；
输出： 返回一个向量；
表示



代数定义
叉积 ${\displaystyle \mathbf {a} \times \mathbf {b} }$ 是与 ${\displaystyle \mathbf {a} }$ 和 ${\displaystyle \mathbf {b} }$都垂直的向量 ${\displaystyle \mathbf {c} }$ 。
其方向由右手定则决定，模长等于以两个向量为边的平行四边形的面积。




${\displaystyle \mathbf {n} }$ 是与 a， b都垂直的单位向量。
推广



矩阵表示：




3 外积
外积（Outer product） ，又名张量积。

外积与向量的内积相对， 是矩阵的克罗内克积的一种特例。
输入： 两个向量。
输出： 矩阵。
表示


代数定义





推广
矩阵的外积：克罗内克积（Kronecker product）

如果A是一个 m × n 的矩阵，而B是一个 p × q 的矩阵，克罗内克积 ${\displaystyle A\otimes B}$则是一个 $mp × nq$ 的分块矩阵.
示例：


4 哈达玛乘积 (矩阵)
哈达玛积（Hadamard product） ，又名舒尔积或逐项积。
在机器学习中，哈达玛积还称为，元素积(element-wise product/point-wise product）。
输入： 两个相同形状的矩阵。
输出： 具有同样形状的、各个位置的元素等于两个输入矩阵相同位置元素的乘积的矩阵。
表示

$A ∘ B$
代数定义


推广
如果矩阵维度不一样，矩阵/向量的哈达玛积计算如下：



参考：

矩阵运算；
wiki 点积;
wiki 叉积；
wiki 哈达玛乘积；
wiki 外积；
克劳内克积；

英文叫法总结（目前论文中常出现的几种向量积）：

1，内积（inner product）/点积，点乘（dot product）/数量积（scalar product）

2，外积（Exterior Product）/叉乘（Cross Product）/矢量积

3，哈达玛积（Hadamard product）/对应元素积(Elementwise Product)

4，outer product/张量积（tensor product）
Hadamard product（哈达玛积）:就是两个具有相同shape的矩阵，对应元素的乘积
符号总结（a:向量a，b:向量b）

1，内积    a▪b （一个点）

2，外积    a×b （用乘法符号）

3，哈达玛积 a▫b（空心的小圆）

4，张量积 a⊕b（乘法外再套个圆，打不出来，用异或代替 可以看下百度链接）
张量积定义
向量点乘（内积）和叉乘（外积、向量积）概念及几何意义解读
“外积”概念辨析:Outer Product与Exterior Product（CrossProduct)

目录

前言

內积（点积） Dot Product; Scalar Product;inner Product

外积（叉积） Exterior Product

 张量积  Outer Product

前言

有三维向量               

tips：根据输入输出的情况可以分辨三种积。

 

內积（点积） Dot Product; Scalar Product;inner Product



where，表示vector的二范数（长度）， 表示夹角。

表示vector 之间的投影关系。

注意：inner Product 输入两个向量，输出标量

 

 

外积（叉积） Exterior Product

解析几何 Analytic Geometry 中的概念

   

其中，       

即

注意：叉积输入两个向量，输出一个向量（而不是一个标量），且和 形成的平面垂直。



 

 

 

 张量积  Outer Product

现代 linear algebra 中的概念，



注意：Outer Product 输入两个向量，输出一个矩阵