1. 原理推导

令空间中点A与点B组成向量$\overrightarrow{AB}$，向量外有一点P，那么我们要求的就是P与直线$\overrightarrow{AB}$的距离d。

连接点A与点P，得直线向量$\overrightarrow{AP}$。将向量$\overrightarrow{AB}$与$\overrightarrow{AP}$叉乘，根据向量叉乘的几何意义，$|\overrightarrow{AB}\times \overrightarrow{AP}|$实际上是一个平行四边形面积，如下图所示：

根据平行四边形公式，很显然我们要求的d就是这个平行四边形的高，也就是：

$$d=\frac{|\overrightarrow{AB}\times \overrightarrow{AP}|}{|\overrightarrow{AB}|}$$

2. 具体实现

直到了原理，具体的实现就很简单了，只要套公式就可以了。其中^是个自己重载实现的求叉乘的操作：

double CalDistancePointAndLine(Vec3d &point, Vec3d &lineBegin, Vec3d &lineEnd)
{
    //直线方向向量
    Vec3d n = lineEnd -lineBegin;

    //直线上某一点的向量到点的向量
    Vec3d m = point - lineBegin;

    return (n ^ m).length() / n.length();
}

详细代码

3. 参考

1. 空间向量如何求点到直线距离？
2. 立体几何：如何用空间向量方法求点到直线的距离？
3. 向量运算（叉乘几何意义）

直线的信息可以以两个端点的形式给出，也可以以一个直线上的点和直线的方向向量给出。本文中假设这两条直线不共线，即这两条直线既不重合也不相交。

1.如果这两条直线是以两个端点的形式给出，那么假设直线l₀的两端点为：P₀、P₁；直线l₁的两端点为Q₀、Q₁,；求两直线的最短距离？

直线l₀我们可以用方程表示为：

        （1）

直线段l₁我们也可以用方程表示为：

            （2）

式中，P、Q分别表示两直线段上的点。

那么点P和点Q的距离为：

（3）

我们将（3）式等式两边平方得到：

               （4）

那么求解这两条空间直线段的最短距离就变成了一个求解最小二乘法的最小值问题了，即求解方程：

      （5）

那么这个方程怎么求解呢？下面我们来求解（5）式：由式（1）和式（2）我们有：

（6）

将（6）式带入（5）式有：

            （7）

那么就变为求解超静定方程：     （8）

我们将（8）式变形得到求解超静定方程：

           （9）

令A=（P₀-P₁，Q₀-Q₁），x=（a，-n）^T，b=Q₁-P₁；则式（9）变为：

                 （10）

两边同时乘以矩阵A的装置得到：

                （11）

则x可以求解得到：

            （12）

求解得到a和n之后带入式（6）就可以求解得到点P和点Q了，然后代入式（3）就可以求解得到最小距离了。

2.如果这两条直线是以直线上的点和该直线的方向向量给出，那么假设直线l0上有一点P0，它的方向向量为n；直线l1上有一点Q0，它的方向向量为m；那么直线l0上的点可以表示为：

（13）

直线l1上的点可以表示为：

 （14）

点P和点Q的距离为：

 （15）

将式（13）和式（14）带入式（15）得到：

（16）

两边平方得到：

（17）

那么求解两条直线的最短距离，就变为了求解式（17）的最小二乘方程组，即：

   （18）

变形得到：

 （19）

同理，令A=（n，m），x=（a，-b）^T，b=Q₀-P₀，则（19）式变为：

（20）

同理求得x为：

    （21）

求得a，b之后带入式（13）和式（14）就可以求得点P和点Q，根据式（15）就可以求得最短距离了。