1.定义：

维度（dimensionality），又称为维数，是数学中独立参数的数目。在物理学和哲学的领域内，指独立的时空坐标的数目。0维是一个无限小的点，没有长度。1维是一条无限长的直线，只有长度。2维是一个平面，是由长度和宽度(或部分曲线)组成面积。3维是2维加上高度组成体积。4维分为时间上和空间上的4维，人们说的4维通常是指关于物体在时间线上的转移。

（4维准确来说有两种。1.四维时空，是指三维空间加一维时间。2.四维空间，只指四个维度的空间。）四维运动产生了五维。

哲学上，维度相当于“角度”，指的是人们思考看待问题的切入点，例如，人们观察与思考“月亮”这个事物，可以从月亮的“内容、时间、空间”三个思维角度去描述。

2.理解： 

数学上：

通常的理解是：“点是0维、直线是1维、平面是2维、体是3维”。实际上这种说法中提到的概念是“前提”而不是“被描述对象”，被描述对象均是“点”。故其完整表述应为“点基于点是0维、点基于直线是1维、点基于平面是2维、点基于体是3维”。

再进一步解释，在点上描述（定位）一个点就是点本身，不需要参数；在直线上描述（定位）一个点，需要1个参数（坐标值）；在平面上描述（定位）一个点，需要2个参数（坐标值）；在体上描述（定位）一个点，需要3个参数（坐标值）。

如果我们改变“对象”就会得到不同的结论，如：“直线基于平面是4维、直线基于体是6维、平面基于体是9维”。进一步解释，两点可确定一条直线，所以描述（定位）一条直线在平面上需要2×2个参数（坐标值）、在体上需要2×3个参数（坐标值）；不共线的三点可确定一个平面，所以在体上描述（定位）一个平面需要3×3个参数（坐标值）。

向量中：

n个有次序的数  所组成的数组称为  维向量，这  个数称为该  维向量的  个分量，第  个数  称为第  个分量。

向量既可以是行向量也可以是列向量，但不管是行向量还是列向量，都把向量中的分量的总个数称为向量的维度，也就是说，向量的维度理解为向量的长度。

几何中：

“空间”通常是作为点的集合，即构成“空间” 元素是点，这样的空间称为点空间，我们把3维向量的全体集合：

叫做3维向量空间。

类似地， 维向量的全体组成的集合：

叫做  维向量空间。

1. 对于数组和Series来说

对于数组和Series来说，维度就是功能shape返回的结果，shape中返回了几个数字，就是几维。索引以外的数据，不分行列的叫一维（此时shape返回唯一的维度上的数据个数），有行列之分叫二维（shape返回行x列），也称为表。一张表最多二维，复数的表构成了更高的维度。当一个数组中存在2张3行4列的表时，shape返回的是(更高维，行，列)。当数组中存在2组2张3行4列的表时，数据就是4维，shape返回(2,2,3,4)。

数组中的每一张表，都可以是一个特征矩阵或一个DataFrame，这些结构永远只有一张表，所以一定有行列，其中行是样本，列是特征。针对每一张表，维度指的是样本的数量或特征的数量，一般无特别说明，指的都是特征的数量。除了索引之外，一个特征是一维，两个特征是二维，n个特征是n维。

2. 对于图像来说

对图像来说，维度就是图像中特征向量的数量。特征向量可以理解为是坐标轴，一个特征向量定义一条直线，是一维，两个相互垂直的特征向量定义一个平面，即一个直角坐标系，就是二维，三个相互垂直的特征向量定义一个空间，即一个立体直角坐标系，就是三维。三个以上的特征向量相互垂直，定义人眼无法看见，也无法想象的高维空间。

3. 降维算法中的“降维”

降维算法中的”降维“，指的是降低特征矩阵中特征的数量。上周的课中我们说过，降维的目的是为了让算法运算更快，效果更好，但其实还有另一种需求：数据可视化。从上面的图我们其实可以看得出，图像和特征矩阵的维度是可以相互对应的，即一个特征对应一个特征向量，对应一条坐标轴。所以，三维及以下的特征矩阵，是可以被可视化的，这可以帮助我们很快地理解数据的分布，而三维以上特征矩阵的则不能被可视化，数据的性质也就比较难理解。

《AutoEmb: Automated Embedding Dimensionality Search in Streaming Recommendations》论文阅读笔记

1. 背景：
   基于深度学习的推荐系统，能够有效获得用户项目之间的非线性关系，并学
   习他们的特征。主要由三部分组成：
   （1） 嵌入层：将用户项目特征从高维空间映射到低维空间中；
   （2） 隐藏层：对输入特征进行非线性变换；
   （3） 输出层：基于特征进行预测
2. 已有研究：
   为用户，项目嵌入向量预定义一个固定统一的维数。重点关注隐藏层和输出层。
3. 存在问题：
   （1） 实际中存在大量用户，项目，并且流行度会动态变化，因此嵌入向量大小的选择是RS中的问题。
   （2） 对于第一个隐藏层，很难处理嵌入层的不同维数。
4. 本文：
   基于AutoML的端到端框架，以一种自动动态变化的方式根据流行度改变嵌入向量的维数。
   
5. 详细：
   规模小使用短的嵌入向量，随着规模的增加，使用长的嵌入向量。
   基本的处理方法：将不同的嵌入维数转换为相同的（使用全连接层），转换以后的嵌入向量变化很大（使用BatchNorm），最终RS只需要选择（软，加权）一部分转换以后的嵌入向量进行预测。
   嵌入向量大小的选择：使用AutoML
   输入：当前用户/项目流行度 + 上下文信息（如先前的超参数，损失等）；
   输出：经过softmax函数，选择第n个嵌入空间的概率。