-
2018-10-30 19:30:08
若 K K K 为一个锥,那么它的对偶锥的定义为:
K ∗ = { y ∣ x ⋅ y ≥ 0 for all x ∈ K } K^\ast=\{y\mid x\cdot y\geq 0 \text{ for all } x\in K\} K∗={y∣x⋅y≥0 for all x∈K}上式中的点表示内积。(两个矩阵的内积等于他们乘积的迹)
在几何意义上,对偶锥上的一条线 y y y 一定属于 K K K 其中一个支撑超平面的法线。例如下图
上图中的红色区域就是 C C C 的对偶锥。几个实例
- 子空间(线性子空间)
V
V
V 的对偶锥是它的正交补.
V ∗ = V ⊥ = { y ∣ y T v = 0 } V^\ast=V^{\perp}=\{y\mid y^Tv=0\} V∗=V⊥={y∣yTv=0}
利用了一个性质:若 x ∈ V x\in V x∈V,则 − x ∈ V -x\in V −x∈V. - 非负象限的对偶锥是它自身.
- 半正定矩阵的对偶锥是它自身.
- 范式锥的对偶锥是它的对偶范式锥.
更多相关内容 - 子空间(线性子空间)
V
V
V 的对偶锥是它的正交补.
-
对偶理论 : 对称理论示例 ( 对称理论 | 标准的原问题对偶问题 | 原问题目标函数求最小值示例 | 求对偶技巧 ...
2020-12-31 22:47:27一、对称理论、 二、对偶理论示例、 三、对偶理论示例 2、 四、求对偶技巧 ★★、
一、对称理论
参考 【运筹学】对偶理论 : 对称形式 ( 对称形式 | 对偶模型转化实例 | 对偶问题规律分析 ) 写出原问题线性规划的对偶问题线性规划 ,
原问题的线性规划模型 : 注意原问题的线性规划 目标函数求最大值 , 约束方程都是 小于等于不等式 ;
m a x Z = C X s . t { A X ≤ b X ≥ 0 \begin{array}{lcl} \rm maxZ = C X \\\\ \rm s.t\begin{cases} \rm AX \leq b \\\\ \rm X \geq 0 \end{cases}\end{array} maxZ=CXs.t⎩⎪⎨⎪⎧AX≤bX≥0
如果原问题是求最大值 , 约束方程有大于等于不等式 , 需要在这些大于等于不等式 左右两边乘以 − 1 \rm -1 −1 , 将 大于等于不等式 转为 小于等于不等式 ;
如果进行了上述操作 , 则最终求出对偶问题后 , 系数矩阵肯定不互为转置矩阵 , 还要进行一次代换 , 令 y ′ = − y \rm y' = -y y′=−y 吗使用 − y ′ = y \rm -y' = y −y′=y 替换对偶问题中的变量 ;
对偶问题的线性规划模型 : 对偶问题 目标函数求最小值 , 约束方程都是 大于等于不等式 ;
m i n W = b T Y s . t { A T Y ≥ C T Y ≥ 0 \begin{array}{lcl} \rm minW = b^T Y \\\\ \rm s.t\begin{cases} \rm A^TY \geq C^T \\\\ \rm Y \geq 0 \end{cases}\end{array} minW=bTYs.t⎩⎪⎨⎪⎧ATY≥CTY≥0
矩阵转置 : 第 1 1 1 列变第 1 1 1 行 , ⋯ \cdots ⋯ , 第 n \rm n n 列变第 n \rm n n 行 ;
二、对偶理论示例
对偶示例 : 给出如下线性规划 ,
m a x Z = 2 x 1 + x 2 s . t { x 1 − 2 x 2 ≤ 8 x 1 , x 2 ≥ 0 \begin{array}{lcl} \rm maxZ = 2 x_1 + x_2 \\\\ \rm s.t\begin{cases} \rm x_1 - 2x_2 \leq 8 \\\\ \rm x_1, x_2 \geq 0 \end{cases}\end{array} maxZ=2x1+x2s.t⎩⎪⎨⎪⎧x1−2x2≤8x1,x2≥0
上述线性规划原问题 ① 目标函数求最大值 ② 约束方程是小于等于不等式 , ③ 约束变量大于等于 0 0 0 , 符合标准 ;
写出其对偶问题 :
( 1 ) 目标函数求最小 , 且目标函数的系数是原方程的约束方程常数 ;
m i n Z = 8 y 1 \rm minZ = 8y_1 minZ=8y1
( 2 ) 约束条件 :
对偶问题约束方程系数 : 约束方程矩阵是 ( 1 − 2 ) \begin{pmatrix} &1 & -2 & \\ \end{pmatrix} (1−2) 的转置矩阵 ( 1 − 2 ) \begin{pmatrix} &1 & \\ &-2 & \\ \end{pmatrix} (1−2) ;
对偶问题变量个数 : 约束方程的变量个数是矩阵的列数 , 这里只有 1 1 1 列 , 则只有 1 1 1 个变量 y 1 \rm y_1 y1 ;
约束方程中间符号 : 约束条件的符号是由 原问题 变量符号决定 ( 都是 ≥ 0 \geq 0 ≥0 ) , 因此对偶问题的约束方程符号也是 ≥ \geq ≥ ;
约束方程右侧常数 : 是原问题目标函数的系数转置 , 分别是 2 , 1 2 , 1 2,1 ;
变量符号 : 对偶问题变量符号与原问题约束方程符号相反 ; 原问题约束方程是小于等于符号 , 对偶问题的变量是大于等于 0 0 0 的 ;
最终的对偶问题是 :
m i n W = 8 y 1 s . t { y 1 ≥ 2 − 2 y 1 ≥ 1 y 1 ≥ 0 \begin{array}{lcl} \rm minW = 8y_1 \\\\ \rm s.t\begin{cases} \rm y_1 \geq 2 \\\\ \rm -2y_1 \geq 1 \\\\ \rm y_1 \geq 0 \end{cases}\end{array} minW=8y1s.t⎩⎪⎪⎪⎪⎪⎪⎨⎪⎪⎪⎪⎪⎪⎧y1≥2−2y1≥1y1≥0
三、对偶理论示例 2
如果给出的原问题目标函数是求最小值 :
m i n Z = 2 x 1 + x 2 s . t { x 1 − 2 x 2 ≤ 8 x 1 , x 2 ≥ 0 \begin{array}{lcl} \rm minZ = 2 x_1 + x_2 \\\\ \rm s.t\begin{cases} \rm x_1 - 2x_2 \leq 8 \\\\ \rm x_1, x_2 \geq 0 \end{cases}\end{array} minZ=2x1+x2s.t⎩⎪⎨⎪⎧x1−2x2≤8x1,x2≥0
上述线性规划的对偶问题的目标函数是求最大值 ;
参考下图列表 :
写出其对偶问题 ( 上述表格中的右侧 ) :
( 1 ) 目标函数求最大 , 且目标函数的系数是原方程的约束方程常数 ;
m i n W = 8 y 1 \rm minW = 8y_1 minW=8y1
( 2 ) 约束条件 :
对偶问题约束方程系数 : 约束方程矩阵是 ( 1 − 2 ) \begin{pmatrix} &1 & -2 & \\ \end{pmatrix} (1−2) 的转置矩阵 ( 1 − 2 ) \begin{pmatrix} &1 & \\ &-2 & \\ \end{pmatrix} (1−2) ;
对偶问题变量个数 : 约束方程的变量个数是矩阵的列数 , 这里只有 1 1 1 列 , 则只有 1 1 1 个变量 y 1 \rm y_1 y1 ;
约束方程中间符号 : 约束条件的符号是由 原问题 变量符号决定 ( 都是 ≥ 0 \geq 0 ≥0 ) , 这里如果目标函数求最小值时原问题 , 其对偶问题约束方程符号 与 原问题变量符号相反 , 因此对偶问题的约束方程符号也是 ≤ \leq ≤ ;
约束方程右侧常数 : 是原问题目标函数的系数转置 , 分别是 2 , 1 2 , 1 2,1 ;
变量符号 : 对偶问题变量符号与原问题约束方程符号相同 ; 原问题约束方程是小于等于符号 , 对偶问题的变量是小于等于 0 0 0 的 ;
最终的对偶问题是 :
m a x Z = 8 y 1 s . t { y 1 ≤ 2 − 2 y 1 ≤ 1 y 1 ≤ 0 \begin{array}{lcl} \rm maxZ = 8y_1 \\\\ \rm s.t\begin{cases} \rm y_1 \leq 2 \\\\ \rm -2y_1 \leq 1 \\\\ \rm y_1 \leq 0 \end{cases}\end{array} maxZ=8y1s.t⎩⎪⎪⎪⎪⎪⎪⎨⎪⎪⎪⎪⎪⎪⎧y1≤2−2y1≤1y1≤0
四、求对偶技巧 ★★
写出对偶定理的标准对称形式 ★ : 记住下面的标准形式
原问题 :
m a x Z = C X s . t { A X ≤ b X ≥ 0 \begin{array}{lcl} \rm maxZ = C X \\\\ \rm s.t\begin{cases} \rm AX \leq b \\\\ \rm X \geq 0 \end{cases}\end{array} maxZ=CXs.t⎩⎪⎨⎪⎧AX≤bX≥0
对偶问题 :
m i n W = b T Y s . t { A T Y ≥ C T Y ≥ 0 \begin{array}{lcl} \rm minW = b^T Y \\\\ \rm s.t\begin{cases} \rm A^TY \geq C^T \\\\ \rm Y \geq 0 \end{cases}\end{array} minW=bTYs.t⎩⎪⎨⎪⎧ATY≥CTY≥0
查看 约束变量的符号 与 其另外一个对偶问题的 约束方程的符号 一致性 , 来确定对偶问题的约束方程符号 ;
约束方程符号 :
如果当前线性规划问题 目标函数是求最大值 , 原问题就是上面的问题 , 其对偶问题 ( 下面的 ) 的约束方程符号是 ≥ \geq ≥ , 因此 对偶问题的约束方程符号 与 原问题变量 符号一致 ;
如果当前线性规划问题 目标函数是求最小值 , 原问题就是下面的问题 , 其对偶问题 ( 上面的 ) 的约束方程符号是 ≤ \leq ≤ , 因此 对偶问题的约束方程符号 与 原问题变量 符号相反 ;
变量符号 :
如果当前线性规划问题 目标函数是求最大值 , 原问题就是上面的问题 , 其对偶问题 ( 下面的 ) 的约束方程符号是 ≥ \geq ≥ , 因此 对偶问题的变量符号 与 原问题约束方程符号 符号相反 ;
如果当前线性规划问题 目标函数是求最大值 , 原问题就是上面的问题 , 其对偶问题 ( 下面的 ) 的约束方程符号是 ≥ \geq ≥ , 因此 对偶问题的变量符号 与 原问题约束方程符号 符号一致 ;
-
单纯形算法及对偶的python实现
2020-12-21 05:04:16将线性规划问题转化为标准型,求minz转化为求max-z 以下图为例 初始化 import numpy as np class Simplex(object): #构造函数(初始化函数) def __init__(self,z,B,bound): self.X_count=len(z) #变量个数 ... -
平面图,对偶图,
2018-11-08 20:01:44我们假设上面的例图是图G, 与其对应的对偶图G*, 那么对于G*来说, G*上面的每一个点, 对应的是G里面的每一个面. 比如说下面就是G*. 上面的点就是对偶图G里的点. 那么关于对偶图G*里的边呢 ? 对于G中本来的每...平面图定义:
图存在一种形式,所有的边只在顶点处相交,那么这个图就是平面图。
对偶图定义:
对于每一个平面图, 都有与其相对应的对偶图. 我们假设上面的例图是图G, 与其对应的对偶图G*, 那么对于G*来说, G*上面的每一个点, 对应的是G里面的每一个面. 比如说下面就是G*.
上面的点就是对偶图G里的点.
那么关于对偶图G*里的边呢 ? 对于G中本来的每条边e, 他是两个面(比如说面f1和f2)的交边, 那么在对偶图里, 我们对这两个面(f1, f2)所映射在G*里的点连线(f1* 连向f2*). 如果f1 == f2(比如说G中5, 6这条边, 边的两侧都是同一个面, 那我们就建一条回边.
图就长这样(回边在5, 6那里).求网络流的最小割或最大流时,如果时平面图,就可以转化成对偶图,然后对对偶图求s',t'的最短路,就是原网络的最大流和最小割。就是对偶图的点需要自己对应好。。
-
对偶问题
2021-04-11 19:24:06对偶理论深刻揭示了原问题与对偶问题的内在联系,由对偶问题引申出来的对偶解有着重要经济意义,是经济学中重要的概念工具之一,对偶理论充分显示线性规划理论逻辑上的严谨性与结构上的对称性,它是线性规划的重要...1.对偶问题
随着线性规划应用的逐步深入,人们发现一个线性规划问题往往伴随着与之配对的、两者有着密切的联系的另一个线性规划问题,将其中一个称为原问题,另外一个称之为对偶问题。
对偶理论深刻揭示了原问题与对偶问题的内在联系,由对偶问题引申出来的对偶解有着重要经济意义,是经济学中重要的概念工具之一,对偶理论充分显示线性规划理论逻辑上的严谨性与结构上的对称性,它是线性规划的重要成果。
原问题的例子
某家具厂木器车间生产木门和木窗的两种产品,加工木门收入56\扇,加工木窗收入30\扇,生产一扇木盟需要木工4小时、油漆工需要2小时,生产一扇木窗需要木工3小时、油漆工1小时,该车间每日可用木工总工时120小时,油漆工总工时50小时,问该车间应该如何安排生产才能使得每日收入最大?
解 令该车间每日安排生产木门x1扇,木窗x2扇,则数学模型为:
使用图解法或者单纯形表方法,可以求得最优解:
对偶问题
现在从另外一个角度来考虑该车间的生产问题,假若有一个个体经营者,手中有一批木器家具生产订单,他想利用该车间的木工与油漆工来完成他的订单,他就要事先考虑付给该车间每个工时的价格
需要考虑的问题:- 木器车间觉得有利可图从而愿意替他加工这批订单;
- 他自己所付时费用总数最小;
设W1为付给木工每个工时的价格,W2为付给油漆工每个工时的价格,则该个体经营者的目标函数每日所付工时总费用最小:
但是个体经营者所付的价格不能太低,至少不能低于该车间生产木门、木窗时候所得到的收入,否则该车间觉得无利可图就不会替他加工这批订单,因此w1、W2取值应该满足:
那么经过上面的问题梳理,我们把两个问题放在一起看
左边是车间老板的角度来看,右边的对偶问题是从个体经营者来看,一个求最大值,另外一个求最小值,我们来看一下原问题的max 式子的系数,在右边的对偶问题变成了 下面约束条件的值,而左边的约束条件的值变成了右边对偶问题的min式子的系数
从最后的结果可以看到,虽然最优解的结果不一样,但是最这个最优解的框架下,相应的目标函数的结果都是1440,说明这个订单一定是成功的完成了
转换到一般情况
LP我们定义就是原问题,DP是对偶问题,Max和Min的式子的系数称之为价值系数,下面的公式称之为约束条件可以看出:
- 原问题的价值系数在对偶问题提中成为约束条件的右端项,而原问题的约束条件的右端项在对偶问题成了价值系数;
- 原问题中约束不等式左端的决策变量的系数,在对偶问题中成为对偶问题决策变W1和W2的系数列向量P1,P2;
- 原问题中Xi的系数列向量Pi,在对偶问题中就是第i个约束不等式做端对偶变量前的系数
如何迅速的从一个线性规划问题提出对偶问题
写出对偶问题的例子
-
线性规划对偶问题
2021-04-28 23:49:31参考SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能,丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 线性规划及单纯形法 线性规划是最优化问题的一种特殊... -
图论(十三)——平面图和对偶图
2019-04-22 18:41:04一、平面图概念 \quad如果能把图G画在平面上,使得除顶点外,边与边之间没有交叉,称G可以嵌入平面,或称G是可平面图。可平面图G的边不交叉的一种画法,称为G的一种平面嵌入,G的平面嵌入表示的图称为平面图。 \... -
SVM对偶问题
2018-08-30 15:35:22这个是目标函数的等高线图,等高线图我们原来看地图就接触到了,同一个曲线上的目标函数的值是一样的。其中我们也可以看到 的约束。因为现在加入了 这个限制,那么x和y的变化只能被限制在这条直线(从这个角度看是... -
【运筹学】对偶理论 : 对称形式 ( 对称形式 | 对偶模型转化实例 | 对偶问题规律分析 )
2020-07-31 22:41:06一、对偶问题的对称形式、 二、对偶问题实例、 三、对偶问题规律 -
拉格朗日对偶问题
2022-04-06 21:45:48拉格朗日乘数法、拉格朗日对偶问题的原理,拉格朗日对偶问题的充分条件和必要条件 -
【运筹学】对偶理论与的对偶问题最优解算法
2020-06-13 11:32:351.3将对偶问题化为标准型,求出对偶问题的松弛变量是否为0 1.4解对偶问题标准化后的约束方程组,求出对偶问题的最优解 2.原问题的最优单纯形表已经求出 对偶问题的最优解中,基变量的值为原问题最优单纯... -
python TV denoise 原始对偶求解
2017-05-19 08:43:09Python 实现图像去噪 -
拉格朗日对偶
2019-04-20 15:23:21拉格朗日对偶1.原始问题原始问题的数学表示拉格朗日函数拉格朗日函数的极小极大问题(先求得$\alpha_i,\beta_j$的最优解,再求得$x$的最优解)2.对偶问题对偶问题的定义3.原始问题和对偶问题的关系对偶问题最优解$d^*$... -
平面图转对偶图的应用
2021-08-28 10:18:45众所周知网络流的复杂度其实挺玄学的,而且这又是一张平面图,不妨将其转化为对偶图。 定义: 平面图:任意两条边不相交的图。 面的次数:边界的长度,用 deg(Ri)deg(R_i)deg(Ri) 表示。 阶:几阶就是几个点。 ... -
强对偶性、弱对偶性以及KKT条件的证明(对偶问题的几何证明)
2020-08-02 13:58:09本文主要探讨优化问题中强、弱对偶性以及KKT条件的证明。 -
图解数字电路中标准式的对偶式和反函数求解
2020-12-22 13:58:33以前刚学数字电路时,总是对原函数,原函数的反函数及其对偶式之间的关系,通过标准式求解时也常感觉有些头晕,最近发现把三者之间的关系总结如下图之后就很容易理解并且求解标准式的对偶式和反函数求解问题也变得很... -
【运筹学】对偶理论 : 影子价格 ( 对偶问题的经济解释 )
2021-01-03 21:44:50文章目录 一、互补松弛定理作用 二、影子价格 三、影子价格示例 一、互补松弛定理作用 互补松弛定理作用 : ① 简化求对偶问题最优解过程 : 已知一个线性规划问题的最优解 , 可以 简化求另外一个问题最优解的过程 , ... -
【运筹学】对偶理论总结 ( 对称性质 | 弱对偶定理 | 最优性定理 | 强对偶性 | 互补松弛定理 ) ★★★
2021-03-08 22:57:17对偶理论总结 ( 对称性质 | 弱对偶定理 | 最优性定理 | 强对偶性 | 互补松弛定理 ) -
凸优化——详解对偶和鞍点
2020-12-22 22:37:32强对偶 原问题的最优解(最小解)p∗p^*p∗一定是大于等于其对偶问题的最优解(最大值)d∗d^*d∗的: p∗>=d∗p^*>=d^*p∗>=d∗ 这是对偶问题最重要的一条性质 弱对偶 满足p∗>=d∗p^*>=d^*p∗>=... -
拉格朗日对偶详解
2020-03-15 11:11:04对偶,是解决最优化问题的一种常用的手段。它能够将一个最优化问题转化成另一个更容易求解的对偶问题。对偶研究中常用的方法是拉格朗日对偶。拉格朗日对偶有以下几个良好的特点: 无论原问题是否为凸问题,对偶问题... -
凸集之对偶锥和对偶广义不等式
2021-06-24 16:46:55凸集之对偶锥和对偶广义不等式 1.对偶锥(Dual cones) 设K是一个圆锥体。集合 被称为K的对偶锥。正如顾名思义的,K∗是一个锥,并且总是凸的,即使原始的锥K不是凸的。 几何上,y∈K∗当且仅当−y是在原点处支持K... -
最小费用最大流-原始对偶算法
2013-12-06 00:54:47用原始对偶算法解决最小费用最大流。通过维护两张图更为迅速的找到最小费用最大流,而且还可以求固定流量的最小费用流。 -
『实践』Yalmip获取对偶函数乘子
2017-10-30 20:07:33『实践』Yalmip获取对偶函数乘子 一、sdpsetting设置 Yalmip网站给出的说明 savesolveroutput默认为0,需要设置为1才会保存输出结果。 下面是我模型的约束个数: ...二、对偶函数乘子 ...图1 三 、问 -
对偶专题——KKT条件
2018-12-25 07:43:19[对偶专题——Duality and Dual problem (一) https://blog.csdn.net/jmh1996/article/details/85030323] 对于一般的带约束的优化问题: 介绍了如何通过构造原优化目标的一个下界函数L(x,λ,u)L(x,\lambda,u)L(x,λ... -
最小二乘法的对偶形式(CVX)
2020-06-24 23:33:55最小二乘法的表示形式很多,其对偶形式也很多。这里学习了CVX官网的例子,求解最小二乘法的几种形式,这里进行简单的分析,看看是怎么得到的。 数据生成部分 randn('state',0); n = 4; m = 2*n; A = randn(m,n); b =... -
SVM(三):对偶问题最直白解释
2021-01-18 16:16:19我们之前已经通过KKT算法得到了对于这个问题的最优解的求取办法,那为什么还要继续引出对偶问题呢? 因为将原始问题转化为对偶问题是求解带约束优化问题的一种方法,当然这不是唯一的方法,只不过转化为对偶问题后... -
图论学习--6 平面图(思维导图)平面概念 对偶图 平面图嵌入算法
2020-08-23 15:27:22平面图 平面图的概念与性质 定义 能把图G花在平面上,使得边与边之间没有交叉,称G可以嵌入平面,或称G是可平面图。G的平面嵌入表示的图称为平面图 一个平面图G把平面分成若干连通片,这些连通片称为G的一个面或...