精华内容
下载资源
问答
  • 推荐系统 - 多目标模型融合部分

    千次阅读 2019-12-11 09:36:55
    既是给不同的模型加权,让不同模型融合在一起 有两种加权方式: 1)、权值参数固定,给不同的场景设定不同的权重参数,给不同的特征设定不同的参数 适用于特征数量少,预测结果可观察的情况; 修改权重参数的...

    1、线性加权融合法    

    既是给不同的模型加权,让不同模型融合在一起

    有两种加权方式:
      1)、权值参数固定,给不同的场景设定不同的权重参数,给不同的特征设定不同的参数
           适用于特征数量少,预测结果可观察的情况;
           修改权重参数的方法是观察结果直接修改;
      2)、动态参数法,既是使用wx+b,利用损失函数,训练w
      实施步骤:
       -- 1、原始数据
       -- 2、根据不同的推荐目标,比如是否点击、是否购买,生成 推荐模型一,推荐模型二
       -- 3、得到融合后模型:融合模型 = β1*推荐模型一 + β2*推荐模型二
             推荐模型一保存数据的是否点击的得分
             推荐模型二保存数据的是否购买的得分
       -- 4、进行推荐,进入一条新的测试数据后,输入这个融合后的模型中:
             会先用推荐模型一计算这个样本是否点击的得分,然后乘以系数β1
             然后用推荐模型二计算这个样本是否购买的得分,然后乘以系数β2
             然后这个融合模型会直接返回是否点击、是否购买的推荐

    2、交叉融合法

    最核心思路:推荐结果中,穿插不同推荐模型的结果,以确保结果的多样性
    实施步骤:
     将不同的推荐结果union起来进行同时展示,同时推荐

    3、瀑布融合法

    既是多个模型串联,上一个模型的输出作为这个模型的输入;
    相当于把每一个模型当作一个过滤器;
    实施步骤:
      这个算法,是多个推荐算法的串联,类似于神经元中的门,所以要求如下:
      1)、设计瀑布型混合系统中,通常会将运算速度快、区分度低的算法排在前列,这样前面的区分相当于数据清洗,不会造成每个类别的样本过少的情况;
      2)、然后逐步过渡为重量级的算法,让宝贵的运算资源集中在少量较高候选结果的运算上。
      3)、在面对候选推荐对象(Item)数量庞大,而可曝光的推荐结果较少,要求精度较高、且运算时间有限的场景下,往往非常适用。

    4    特征融合法    

    既是抽取出不同数据来源的特征,加入推荐算法进行计算,最后将预测结果合并;
    这样的好处是可以整合所有数据情况进行推荐,不偏不倚;"    "实施步骤:
       1、考虑不同数据来源,将同一推荐目标的不同特征提取出来
       2、然后根据这么多目标共同推荐
       3、第一、二步更像是数据清洗的过程

    5、数据预测法

    既是用预测算法来进行推荐;比如svm,随机森林,决策树和GDBT;
    使用预测算法进行推荐的时候,自动的完成了多目标融合的推荐,也即是设定label多加一些维度:1-点击,2-不点击,3-购买,4-不购买。        

    6、分类器Boosting思想

    既是使用分类算法进行预测

    Boosting思想实施步骤:既是多个预测器,下一个预测器着重预测上一个预测器的预测错误的样本,然后把上一个预测器和他的预测权重保留;
       1)、即将若干个弱分类器,组合成一个强分类器的方法。
       2)、Boosting的核心思想是每轮训练后对预测错误的样本赋以较大的权重,加入后续训练集合,也就是让学习算法在后续的训练集中对较难的判例进行强化学习
       3)、从而得到一个带权重的预测函数序列h,预测函数的权重既是预测效果,预测效果友和预测错误的样本有关,预测效果好的预测函数权重较大,反之较小。
       4)、最终的预测函数H对分类问题采用有权重的投票方式,对回归问题采用加权平均的方法对新示例进行判别。算法的流程如下:(参考自treeBoost论文)"    

    7、多目标推荐系统

    是指一个推荐模型有多个需要判别的目标,比如CTR(是否点击)、是否购买,是否好评等;

    直观上想到的融合多目标的方法是多目标综合得分回归:
    socres = α*目标一 + β*目标二 + γ*目标三
    那难点就在于权重参数的学习,一般是直观设置法,然后逐次调参;
    或者使用boosting的思想

    8、推荐系统评价体系

    AP

    -- 推荐序列的逆序数,是推荐效果的评估方法"    也是一种推荐效果的评估方式:顺序敏感的recall
    比如一次推荐了10个结果,结果第五个开始才是正确结果;
    这个我个人理解为推荐逆序数;

    MAP

    -- 预测的平均准确率
    是一种推荐系统的评测标准,也既是一种得分好坏的判断方式:
    所有用户 u 的AP再取均值(mean)而已    

    F1得分

    -- 确定实验方法是否有效
    F1综合了P和R的结果,当F1较高时则能说明试验方法比较有效

    正确率 = 提取出的正确信息条数 /  提取出的信息条数

    召回率 = 提取出的正确信息条数 /  样本中的信息条数    
    两者取值在0和1之间,数值越接近1,查准率或查全率就越高。
      
    F值  = 正确率 * 召回率 * 2 / (正确率 + 召回率) (F 值即为正确率和召回率的调和平均值)

    AUC

    -- 正样本得分大于负样本的概率,ROC曲线下面积
    值是曲线下面积,曲线指的的是ROC曲线;
    auc的直观含义是任意取一个正样本和负样本,正样本得分大于负样本的概率。

    AUC是曲线下面积,这个值越接近1,表面曲线越靠近左上角,认为模型性能越好。

    计算方法:假设总共有(m+n)个样本,其中正样本(得分为正)有m个,负样本有n个,则共有m*n个样本对。如果正样本预测为正样本的概率值大于负样本预测为正样本的概率值记为1,反之为0,求和后除以(m*n)就是AUC的值

    NDCG

    -- 平均增益

    对于返回列表的每一项都有一个相关的评分值,通常这些评分值是一个非负数。这就是gain(增益)。此外,对于这些没有用户反馈的项,我们通常设置其增益为0。

    现在,我们把这些分数相加,也就是Cumulative Gain(累积增益)。

    我们更愿意看那些位于列表前面的最相关的项,因此,在把这些分数相加之前,我们将每项除以一个递增的数(通常是该项位置的对数值),也就是折损值,并得到DCG。

    在用户与用户之间,DCGs没有直接的可比性,所以我们要对它们进行归一化处理得到nDCG;    

    展开全文
  • 机器学习多目标分类模型解法

    千次阅读 2019-09-18 17:44:24
    经典的机器学习建模数据是由特征列和单一目标列构成的,比如要做广告的CTR预测,其实模型关心的是一个广告曝光后是否会被点击,这是一个单一目标场景的建模过程。但是在实际应用场景中,往往有时候会出现“既要也要...

    机器学习被广泛的应用于推荐、风控等场景。经典的机器学习建模数据是由特征列和单一目标列构成的,比如要做广告的CTR预测,其实模型关心的是一个广告曝光后是否会被点击,这是一个单一目标场景的建模过程。但是在实际应用场景中,往往有时候会出现“既要也要”的情况,比如推荐一个视频给客户,推荐引擎不光希望客户可以点击这个视频,更希望客户可以长时间光看,这就成了一个多目标建模的情况。

    单目标建模在很多情况下是有局限的,以新闻推荐为例,如果只通过新闻是否点击来评估模型好坏,那么推送一些吸引眼球的没有内涵的新闻往往可以提升点击,比如推送《八旬老汉偷窥儿媳妇洗澡》,但是这种推荐是没有灵魂的。多目标推荐会更好的帮助模型去理解用户。比如在美拍视频中,需要考虑点击率、播放、关注、时长等四个因素。

     

    那么多目标推荐要怎么做呢?目前在中文网站上很难找到相关文献,于是我去到国外的网站看了下Multi-label Classification相关的介绍,大体可以通过以下方法去做实现多目标建模。为了更好地说明,这里模拟一份数据:

    用户

    特征1

    特征2

    特征3

    目标1

    目标2

    A

    32

    523

    234

    0

    1

    B

    124

    463

    46

    1

    0

    C

    42

    352

    64

    1

    1

     

    方法一:将多目标问题转化成单目标问题

     

    以上面的问题为例,假设目标1和目标2的正例都是“1”,则转化成单目标建模逻辑的时候可以把目标1和目标2都是“1”的情况标为“1”,其它情况标为“0”。案例数据变为下面的形式:

    用户

    特征1

    特征2

    特征3

    目标

    A

    32

    523

    234

    0

    B

    124

    463

    46

    0

    C

    42

    352

    64

    1

    这种方法比较暴力并且好实现,但是问题就是减少了很多数据间的信息。

     

    方法二:将多目标问题转化成多分类问题

     

    转化成多分类问题的好处是可以保留所有的信息,给业务系统更多选择。比如一个系统有两个推荐评估目标分别是点击和时长,但是某用户没有匹配到点击和时长都不错的内容。这时候转换成多分类问题的好处就体现出来了,在没有两个目标都符合的方案情况下,可以从其它符合的类别中选择一个推送给客户。

     

    转化成多分类问题后,样例数据变为下面的形式:

    用户

    特征1

    特征2

    特征3

    目标

    A

    32

    523

    234

    0

    B

    124

    463

    46

    1

    C

    42

    352

    64

    2

    1. 目标值为0对应原始目标1=“0”,目标2=“1”
    2. 目标值为1对应原始目标1=“1”,目标2=“0”
    3. 目标值2对应原始目标1=“1”,目标2=“1”

    方法三:将多目标问题转化成多组模型的形式

     

    多组模型的模式是最精确地模式,但是也是计算量最大的模式。比如样例数据有两个评估指标,可以分别对两个评估指标进行建模。

     

    训练数据1:

    用户

    特征1

    特征2

    特征3

    目标1

    A

    32

    523

    234

    0

    B

    124

    463

    46

    1

    C

    42

    352

    64

    1

    训练数据2:

    用户

    特征1

    特征2

    特征3

    目标2

    A

    32

    523

    234

    1

    B

    124

    463

    46

    0

    C

    42

    352

    64

    1

     

    这样的话会分别针对目标1和目标2生成两个分类模型。实际预测的时候,每个样本需要调用两次模型分别拿到对应两个目标的分类结果,假如样本1对应的两份结果分别是“0.65”和”0.21”,把这两个结果组合起来就是最终的预测结果,是向量[0.65,0.21]。以此类推,计算所有样本的预测向量,再通过向量具体判断用户的意向。

     

    总结

     

    随着推荐系统的普及,多目标建模一定会变成业内普遍的需求,希望这篇文章可以给有需要的同学更多地帮助。

     

     

    参考:https://en.wikipedia.org/wiki/Multi-label_classification

     

     

    展开全文
  • 多目标优化

    万次阅读 2019-01-05 14:22:03
    实际问题中大都具有目标且需要同时满足,即在同一问题模型中同时存在几个非线性目标,而这些目标函数同时需要进行优化处理,并且这些目标通常是互相冲突的,称此类问题为多目标优化问题。 这些相互冲突的子目标...

    多目标优化@TOC

    多目标优化概念

    实际问题中大都具有多个目标且需要同时满足,即在同一问题模型中同时存在几个非线性目标,而这些目标函数同时需要进行优化处理,并且这些目标通常是互相冲突的,称此类问题为多目标优化问题。
    这些相互冲突的子目标,一个子目标的改善有可能会引起另一个或者另几个子目标的性能降低 , 也就是要同时使多个子目标一起达到最优值是不可能的 , 而只能在它们中间进行协调和折中处理 , 使各个子目标都尽可能地达到最优化。
    多目标优化与单目标优化问题的本质区别在于 ,它的解并非唯一 ,而是存在一组由众多 Pareto最优解组成的最优解集合 ,集合中的各个元素称为 Pareto最优解或非劣最优解。

    数学描述

    多目标优化问题的数学描述由决策变量、目标函数、约束条件组成。由于多目标优化问题的应用领域不同,其数学描述也不同,包括一般多目标优化、动态多目标优化、确定多目标优化和不确定多目标优化等几种。
    一般多目标优化数学描述如下:
    在这里插入图片描述
    其中:x为D维决策变量,y为目标函数,N为优化目标总数; f n ( x ) f_{n}\left( x\right) fn(x)为第n个子目标函数; g ( x ) g\left( x\right) g(x)为K项不等式约束条件, h ( x ) h\left( x\right) h(x)为M项等式约束条件,约束条件构成了可行域; x d − min ⁡ x_{d-\min } xdmin x d − max ⁡ x_{d-\max } xdmax为向量搜索的上下限。以上方程表示的多目标最优化问题包括最小化问题(min)和最大化问题(max)以及确定多目标优化问题
    动态多目标优化问题的数学描述在一般多目标优化问题的基础上增加了时间变量t。其方程表示如下:
    在这里插入图片描述
    不确定多目标优化问题的数学描述则在一般多目标优化问题的基础上增加了q维不确定量a。其方程表示如下:
    在这里插入图片描述
    其中: a I a^{I} aI表示的是不确定量a, a I a^{I} aI的区间为 a L a^{L} aL a R a^{R} aR v k I v^{I}_{k} vkI表示的是不等式约束的允许区间; b m I b^{I}_{m} bmI表示的是等式约束的允许区间。

    重要概念

    非劣解(Pareto解)
    多目标优化问题并不存在一个最优解,所有可能的解都称为非劣解,也称为Pareto解。

    Pareto支配(Pareto Dominance)
    在最小化优化问题中,当且仅当 ∀ i ∈ { 1 , 2 , … , m } , f i ( x ) ≤ f i ( y ) \forall i\in \left\{ 1,2,\ldots ,m\right\},f_{i}\left( x\right) \leq f_{i}\left( y\right) i{1,2,,m},fi(x)fi(y), 且 ∃ j ∈ { 1 , 2 , … , m } , f j ( x ) ≤ f j ( y ) \exists j\in \left\{ 1,2,\ldots ,m\right\},f_{j}\left( x\right) \leq f_{j}\left( y\right) j{1,2,,m},fj(x)fj(y),我们称 x支配y (有些场合也称为 x占优于y ),记作 x≺y。
    换句话说,在最小化优化问题中,x至少存在一个目标分量中小于y,并且其他目标分量也不会比y大,我们希望得到尽量小的解,那么越小就越优,越优的解所处的前沿面序号越小,所以使用‘x≺y ’表示x支配y。

    Pareto最优解(Pareto Optimal Solution)
    如果一个解 x ∗ x^{\ast } x被称之为Pareto optimal solution, 当且仅当 x ∗ x^{\ast } x不被其他的解支配。
    通俗点说就是:无法在改进任何目标函数的同时不削弱至少一个其他目标函数。这种解称作非支配解或Pareto最优解。

    Pareto 集(Pareto Set)
    一个多目标优化问题(MOP),对于一组给定的最优解集,如果这个集合中的解是相互非支配的,也即两两不是支配关系,那么则称这个解集为Pareto Set 。

    在这里插入图片描述
    如上图所示,每个黑点都表示为Pareto optimal solution,而每个红点至少被一个黑点支配,黑色点组成的集合即为f1,f2这2个目标函数优化得到的的Pareto Set。

    Pareto 前沿(Pareto Front)
    Pareto Set 中每个解对应的目标值向量组成的集合称之为Pareto Front, 简称为PF。

    求解多目标优化问题的过程就是寻找Pareto最优解的过程

    展开全文
  • 数学规划模型(五):多目标规划模型

    千次阅读 多人点赞 2020-04-01 14:44:49
    目标规划模型多目标规划模型的基本知识多目标规划模型的绝对最优解多目标规划模型的有效解多目标规划模型的弱有效解多目标规划模型的常用解法介绍1. 主要目标法2. 分层序列法3.线性加权求和法多目标规划建模示例1...

    多目标规划模型的基本知识

    前面介绍的线性规划模型整数规划模型非线性规划模型中的目标函数都只有一个(可以进我的博客查看详细)。而在许多实际问题中,衡量一个方案好坏的标准往往不止一个,例如设计导弹,既要射程最远,又要

    展开全文
  • 【数学建模】多目标规划

    万次阅读 多人点赞 2020-07-24 16:51:04
    加权系数法——为每一目标赋一个权系数, 把多目标模型转化成单一目标的模型。但困难是要确定合理的权系数,以反映不同目标之间的重要程度。 优先等级法—— 将各目标按其重要程度不同的优先等级,转化为单目标模型。...
  • 带你入门多目标跟踪(四)外观模型 Appearance Model

    千次阅读 多人点赞 2019-07-02 19:32:15
    在讲解外观模型问题前,首先需要对MOT的各个部件有一个大概的了解。在设计一种MOT算法时,有两点问题需要格外关注。 一是如何测量在视频帧中各目标之间的相似性(measure similarity between objects in frames);...
  • 推荐系统中如何做多目标优化

    千次阅读 2020-01-08 11:42:49
    在做推荐系统的过程中,我们希望同时优化个业务目标。比如电商场景中,希望能够在优化GMV的基础上提高点击率,从而提高用户的粘性;在信息流场景中,希望提高用户点击率的基础上提高用户关注,点赞,评论等行为,...
  • 本篇笔记对数学建模中常见的多目标规划问题提供了解法:在建立传统的多目标规划的常用模型的基础上,使用智能优化算法对多目标规划问题进行求解,通过Pareto Front直观展现非劣解的分布情况,以解决传统的多目标规划...
  • 多目标优化的优缺点

    千次阅读 2020-03-05 11:11:01
    传统的多目标优化方法往往将其转化为各目标之加权和,然后采用单目标的优化技术。但是,这样做存在几大缺点: ①不同性质的目标之间单位不一致,不易作比较; ②各目标加权值的分配带有较大的主观性; ③优化目标仅...
  • 文章目录0. 软件的生命周期1. 瀑布模型2. 螺旋模型3. 迭代模型4. 增量模型5....  瀑布模型是最早出现的软件开发模型,是所有其他软件开发模型的基础框架。与软件的生命周期不同的是,它缺少了软...
  • 多目标优化问题(MOP)概述 1.数学模型 求解 MOP 的主要目的是:在给定的决策空间内,尽可能找到一系列满足问题约束条件的最优解集,为解决 MOP 的决策者提供相关数据。以最小化的 MOP 为例,其数学模型为: minF(x)...
  • 一、瀑布模型 1.1什么是瀑布模型 1.2特点 1.3优缺点 1.4客户需求 二、快速原型模型 2.1什么是快速原型模型 2.2优缺点 2.3快速原型模型的思想产生、原理及运用方式 2.4类型 2.5开发步骤 三、增量模型 3.1...
  • • 改进4:tiny YOLOv3 (简化网络模型) • AlexeyAB/darknet项目介绍 除本课程《YOLOv3目标检测实战:网络模型改进方法》外,本人推出了有关YOLOv3目标检测的系列课程,请关注该系列的其它课程,包括: 《YOLOv3...
  •     模型是现实世界特征的模拟和抽象。在数据库技术中,用数据模型的概念描述数据库的结构和语义,是对现实世界的数据抽象。数据模型是研究数据库技术的核心和基础。 文章目录1.概念数据模型(CDM)2.逻辑数据...
  • 本课程包括下面6个经典目标检测算法模型的讲解: 1.基于自己数据集的Faster RCNN模型训练、验证以及nnie上仿真和运行。 2.基于自己数据集的RFCN模型训练、验证以及nnie上仿真和运行。 3.基于自己数据集的SSD模型训练...
  • 目标规划模型的实例

    万次阅读 2019-04-24 22:01:25
    目标规划模型的介绍:目标规划模型:求解思路、序贯式算法 前面介绍了目标规划的求解方法,这里再介绍几个目标规划模型模型,帮助我 们进一步了解目标规划模型的建立和求解过程。 目录 例 6 三种型号电脑的...
  • 目标检测】目标检测模型比较

    千次阅读 2019-09-06 23:31:24
    总结 目标检测之YOLO,SSD YOLO和SSD: 相比较于RCNN系列:利用回归的思想(既给定输入图像,直接在图像的个位置上回归出这个位置的目标边框以及目标类别),很大的加快了检测的速度 模型 原理总结 优点 缺点 ...
  • 目标规划模型:求解思路、序贯式算法

    万次阅读 多人点赞 2019-04-24 21:12:24
    2.实际决策中,衡量方案优劣考虑目标 3.目标规划(Goal Programming) 4.求解思路 (1)加权系数法 (2)优先等级法 (3)有效解法 2 目标规划的数学模型 1. 正、负偏差变量 2. 绝对(刚性)约束和目标...
  • 运动目标跟踪算法

    万次阅读 多人点赞 2019-02-17 12:53:17
    最后简单介绍了目标遮挡的处理、摄像头目标跟踪和摄像头运动下的目标跟踪。 一、一般的目标跟踪算法  一般将目标跟踪分为两个部分:特征提取、目标跟踪算法。其中提取的目标特征大致可以分...
  • 交互式多模型 IMM的原理及代码实现(matlab)

    万次阅读 多人点赞 2019-03-03 22:00:40
    交互式多模型 IMM(Interacting Multiple Model)控制算法的主体思想是基于贝叶斯理论而提出的模型间的自动识别与切换:在任意跟踪时刻,通过设置对应目标可能模型数量的模型滤波器来进行实时的机动模型检测,对每一...
  • 多目标遗传算法及MATLAB代码

    万次阅读 多人点赞 2020-01-03 23:12:49
    需要求一个比较复杂的矩阵,一般方法解不出来,故尝试用多目标遗传算法(Multiobjective Genetic Algorithm)求解。不是专门做研究遗传算法的,根据自己需求进行了简单学习,并做如下笔记。 i 遗传算法理解 遗传...
  • keras输入输出模型

    千次阅读 2019-05-20 19:18:37
    keras输入输出模型 主要输入(main_input): 新闻标题本身,即一系列词语。 辅助输入(aux_input): 接受额外的数据,例如新闻标题的发布时间等。 该模型将通过两个损失函数进行监督学习。 较早地在模型中使用主...
  • 一个简单的用于预测的BP神经网络模型

    万次阅读 多人点赞 2019-09-11 15:03:26
    一个简单的用于预测的BP神经网络模型 这是一个简单的bp神经网络模型,其中的数据是铣削实验的数据,数量较少,但作为神经网络的例子正好。读者可以根据自己的需要将自己的数据换进去,其中,传递函数和学习函数都...
  • 目标检测模型总结

    千次阅读 2018-01-25 09:39:29
    传统目标检测(基于滑动窗口的检测)主要包括三步: 利用不同尺寸的滑动窗口框住图中的某一部分作为候选区域; 提取候选区域相关的视觉特征。 利用分类器进行识别。 深度学习相关的目标...
  • 超轻量目标检测模型NanoDet

    万次阅读 多人点赞 2020-11-24 15:37:06
    而且模型权重文件只有1.8mb,对比动辄数十兆的模型,可以说是相当友好了~ Android Demo 项目地址(提供训练代码到安卓部署一站式解决方案): RangiLyu/nanodet: ⚡Super fast and lightweight anchor-free ...
  • 数据模型所描述的内容包括三个部分:数据结构、数据操作、数据约束。  1)数据结构:数据模型中的数据结构主要描述数据的类型、内容、性质以及数据间的联系等。数据结构是数据模型的基础,数据操作和约束都建立在...
  • 目标检测模型的评价指标 mAP

    千次阅读 2018-09-02 16:51:16
    在使用机器学习解决实际问题时,通常有很多模型可用。每个模型都有自己的怪癖(quirks),并且基于各种因素,性能会有所不同。 模型性能的评定都是在某个数据集上进行的,通常这个数据集被称为 “validation 或 ...
  • 图像处理目标跟踪:运动模型

    千次阅读 2019-07-21 11:27:46
    图像处理目标跟踪:运动模型 来源:机动目标跟踪算法的研究,为Singer模型和相关模型。 Singer模型提出论文下载地址:Estimating OptimalTracking Filter Performance for MannedManeuvering Targets。 ...
  • 摘要:在数据关联不确定,检测不确定和噪声的环境下,传感器检测不到所有目标,并且因为杂波的存在,还会出现虚假测量。为了联合估计时变目标数及其状态,传统的方法是将目标和观测进行精确的关联。比如:NN,MHT,...
  • 灰色预测模型

    万次阅读 2017-06-01 17:03:35
    灰色预测模型 灰色预测模型(Gray Forecast Model)是通过少量的、不完全的信息,建立数学模型并做出预测的一种预测方法。当我们应用运筹学的思想方法解决实际问题,制定发展战略和政策、进行重大问题的决策时,都...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 817,299
精华内容 326,919
关键字:

多目标模型