精华内容
下载资源
问答
  • 摘要 本文介绍了在数据挖掘中数据分类的几个主要分类方法,包括:贝叶斯分类、决策树分类、感知器分类,及其各自的优势与劣势。并对于分类问题中出现的高维效应,介绍了两种通用的解决办法。 关键词 数据分类 ...
     
    

    摘要       本文介绍了在数据挖掘中数据分类的几个主要分类方法,包括:贝叶斯分类、决策树分类、感知器分类,及其各自的优势与劣势。并对于分类问题中出现的高维效应,介绍了两种通用的解决办法。

    关键词   数据分类  贝叶斯分类  决策树分类  感知器分类

     

     

    引言

    数据分类是指按照分析对象的属性、特征,建立不同的组类来描述事物。数据分类是数据挖掘的主要内容之一,主要是通过分析训练数据样本,产生关于类别的精确描述。这种类别通常由分类规则组成,可以用来对未来的数据进行分类和预测。分类技术解决问题的关键是构造分类器。

    一.数据分类

    数据分类一般是两个步骤的过程:

    1步:建立一个模型,描述给定的数据类集或概念集(简称训练集)。通过分析由属性描述的数据库元组来构造模型。每个元组属于一个预定义的类,由类标号属性确定。用于建立模型的元组集称为训练数据集,其中每个元组称为训练样本。由于给出了类标号属性,因此该步骤又称为有指导的学习。如果训练样本的类标号是未知的,则称为无指导的学习(聚类)。学习模型可用分类规则、决策树和数学公式的形式给出。

    2步:使用模型对数据进行分类。包括评估模型的分类准确性以及对类标号未知的元组按模型进行分类。

    常用的分类规则挖掘方法

    分类规则挖掘有着广泛的应用前景。对于分类规则的挖掘通常有以下几种方法,不同的方法适用于不同特点的数据:

    1.贝叶斯方法

    2.决策树方法

    3.人工神经网络方法

    4.约略集方法

    5.遗传算法

    分类方法的评估标准:

    准确率:模型正确预测新数据类标号的能力。

    速度:产生和使用模型花费的时间。

    健壮性:有噪声数据或空缺值数据时模型正确分类或预测的能力。

    伸缩性:对于给定的大量数据,有效地构造模型的能力。

    可解释性:学习模型提供的理解和观察的层次。

    影响一个分类器错误率的因素

    (1) 训练集的记录数量。生成器要利用训练集进行学习,因而训练集越大,分类器也就越可靠。然而,训练集越大,生成器构造分类器的时间也就越长。错误率改善情况随训练集规模的增大而降低。

    (2) 属性的数目。更多的属性数目对于生成器而言意味着要计算更多的组合,使得生成器难度增大,需要的时间也更长。有时随机的关系会将生成器引入歧途,结果可能构造出不够准确的分类器(这在技术上被称为过分拟合)。因此,如果我们通过常识可以确认某个属性与目标无关,则将它从训练集中移走。

    (3) 属性中的信息。有时生成器不能从属性中获取足够的信息来正确、低错误率地预测标签(如试图根据某人眼睛的颜色来决定他的收入)。加入其他的属性(如职业、每周工作小时数和年龄),可以降低错误率。

    (4) 待预测记录的分布。如果待预测记录来自不同于训练集中记录的分布,那么错误率有可能很高。比如如果你从包含家用轿车数据的训练集中构造出分类器,那么试图用它来对包含许多运动用车辆的记录进行分类可能没多大用途,因为数据属性值的分布可能是有很大差别的。

    评估方法

    有两种方法可以用于对分类器的错误率进行评估,它们都假定待预测记录和训练集取自同样的样本分布。

    (1) 保留方法(Holdout):记录集中的一部分(通常是2/3)作为训练集,保留剩余的部分用作测试集。生成器使用2/3 的数据来构造分类器,然后使用这个分类器来对测试集进行分类,得出的错误率就是评估错误率。

    虽然这种方法速度快,但由于仅使用2/3 的数据来构造分类器,因此它没有充分利用所有的数据来进行学习。如果使用所有的数据,那么可能构造出更精确的分类器。

    (2) 交叉纠错方法(Cross validation):数据集被分成k 个没有交叉数据的子集,所有子集的大小大致相同。生成器训练和测试共k 次;每一次,生成器使用去除一个子集的剩余数据作为训练集,然后在被去除的子集上进行测试。把所有得到的错误率的平均值作为评估错误率。

    交叉纠错法可以被重复多次(t),对于一个t 次k 分的交叉纠错法,k *t 个分类器被构造并被评估,这意味着交叉纠错法的时间是分类器构造时间的k *t 倍。增加重复的次数意味着运行时间的增长和错误率评估的改善。我们可以对k 的值进行调整,将它减少到3 或5,这样可以缩短运行时间。然而,减小训练集有可能使评估产生更大的偏差。

    通常Holdout 评估方法被用在最初试验性的场合,或者多于5000 条记录的数据集;交叉纠错法被用于建立最终的分类器,或者很小的数据集。

     

    二.贝叶斯分类

    贝叶斯分类方法是一种具有最小错误率的概率分类方法,可以用数学公式的精确方法表示出来,并且可以用很多种概率理论来解决。

    设(Ω,Θ,P)为概率空间,Ai∈Θ(i=1,2,…,n)为Ω的一个有穷剖分,且P(Ai)>0 (i=1,2,…,n),则对任意B∈Θ且P(B)>0,有

     

     

    P(Ai|B)=   

         (i=1,2,…,n)

     

    上式称为贝叶斯公式。

    贝叶斯定理为我们提供了一个计算假设h的后验概率的方法

     

    P(h|D)=

     

    分类有规则分类和非规则分类,贝叶斯分类是非规则分类,它通过训练集训练而归纳出分类器,并利用分类器对没有分类的数据进行分类。

    贝叶斯分类的特点

    贝叶斯分类具有如下特点:

    (1) 贝叶斯分类并不把一个对象绝对地指派给某一类,而是通过计算得出属于某一类的概率,具有最大概率的类便是该对象所属的类;

    (2) 一般情况下在贝叶斯分类中所有的属性都潜在地起作用,即并不是一个或几个属性决定分类,而是所有的属性都参与分类;

    (3) 贝叶斯分类对象的属性可以是离散的、连续的,也可以是混合的。

    贝叶斯定理给出了最小化误差的最优解决方法,可用于分类和预测。理论上,它看起来很完美,但在实际中,它并不能直接利用,它需要知道证据的确切分布概率,而实际上我们并不能确切的给出证据的分布概率。因此我们在很多分类方法中都会作出某种假设以逼近贝叶斯定理的要求。

     

    三.决策树分类

    决策树( Decision Tree )又称为判定树,是运用于分类的一种树结构。其中的每个内部结点( internal node )代表对某个属性的一次测试,每条边代表一个测试结果,叶结点( leaf )代表某个类( class )或者类的分布( class distribution ),最上面的结点是根结点。决策树分为分类树和回归树两种,分类树对离散变量做决策树,回归树对连续变量做决策树。

    构造决策树是采用自上而下的递归构造方法。决策树构造的结果是一棵二叉或多叉树,它的输入是一组带有类别标记的训练数据。二叉树的内部结点(非叶结点)一般表示为一个逻辑判断,如形式为 (a = b) 的逻辑判断,其中 是属性, b 是该属性的某个属性值;树的边是逻辑判断的分支结果。多叉树( ID3 )的内部结点是属性,边是该属性的所有取值,有几个属性值,就有几条边。树的叶结点都是类别标记。

    使用决策树进行分类分为两步:

    第 1 步:利用训练集建立并精化一棵决策树,建立决策树模型。这个过程实际上是一个从数据中获取知识,进行机器学习的过程。

    第 2 步:利用生成完毕的决策树对输入数据进行分类。对输入的记录,从根结点依次测试记录的属性值,直到到达某个叶结点,从而找到该记录所在的类。

    问题的关键是建立一棵决策树。这个过程通常分为两个阶段:

    (1) 建树( Tree Building ):决策树建树算法见下,可以看得出,这是一个递归的过程,最终将得到一棵树。

    (2) 剪枝( Tree Pruning ):剪枝是目的是降低由于训练集存在噪声而产生的起伏。

    决策树方法的评价。

    优点

    与其他分类算法相比决策树有如下优点:

    (1) 速度快:计算量相对较小,且容易转化成分类规则。只要沿着树根向下一直走到叶,沿途的分裂条件就能够唯一确定一条分类的谓词。

    (2) 准确性高:挖掘出的分类规则准确性高,便于理解,决策树可以清晰的显示哪些字段比较重要。

    缺点

    一般决策树的劣势:

    (1) 缺乏伸缩性:由于进行深度优先搜索,所以算法受内存大小限制,难于处理大训练集。一个例子:在 Irvine 机器学习知识库中,最大可以允许的数据集仅仅为 700KB , 2000 条记录。而现代的数据仓库动辄存储几个 G-Bytes 的海量数据。用以前的方法是显然不行的。

    (2) 为了处理大数据集或连续量的种种改进算法(离散化、取样)不仅增加了分类算法的额外开销,而且降低了分类的准确性,对连续性的字段比较难预测,当类别太多时,错误可能就会增加的比较快,对有时间顺序的数据,需要很多预处理的工作。

    但是,所用的基于分类挖掘的决策树算法没有考虑噪声问题,生成的决策树很完美,这只不过是理论上的,在实际应用过程中,大量的现实世界中的数据都不是以的意愿来定的,可能某些字段上缺值( missing values );可能数据不准确含有噪声或者是错误的;可能是缺少必须的数据造成了数据的不完整。

    另外决策树技术本身也存在一些不足的地方,例如当类别很多的时候,它的错误就可能出现甚至很多。而且它对连续性的字段比较难作出准确的预测。而且一般算法在分类的时候,只是根据一个属性来分类的。

    在有噪声的情况下,完全拟合将导致过分拟合( overfitting ),即对训练数据的完全拟合反而不具有很好的预测性能。剪枝是一种克服噪声的技术,同时它也能使树得到简化而变得更容易理解。另外,决策树技术也可能产生子树复制和碎片问题。

     

    四.感知器分类

    感知器是由具有可调节的键结值以及阈值的单一个类神经元所组成,它是各种类神经网络中,最简单且最早发展出来的类神经网络模型,通常被用来作为分类器使用。感知器的基本组成元件为一个具有线性组合功能的累加器,后接一个硬限制器而成,如图 4.1 所示。

            

     

     

    4.1

    单层感知器是一个具有一层神经元、采用阈值激活函数的前向网络。通过对网络权值的训练,可以使感知器对一组输入矢量的响应达到元素为01的目标输出,从而达到对输入矢量分类的目的。

    分类的判断规则是:若感知器的输出为1,则将其归类于C1类;若感知器的输出为0,则将其归类于C2类。判断规则所划分的只有两个判断区域,我们将作为分类依据的超平面定义如下:

                                      
     


    感知器分类是通过训练模式的迭代和学习算法,产生线性或非线性可分的模式判别函数。它不需要对各类训练模式样本的统计性质作任何假设,所以是一种确定性的方法。比如固定增量逐次调整算法、最小平方误差算法。

    要使前向神经网络模型实现某种功能,必须对它进行训练,让他学会要做的事情,并把所学到的知识记忆在网络的权值中。人工神经网络的权值的确定不是通过计算,而是通过网络自身的训练来完成的。

    感知器的训练过程如下:在输入矢量X的作用下,计算网络的实际输出A与相应的目标矢量T进行比较,检查A是否等于T,然后比较误差T-A,根据学习规则进行权值和偏差的调整;重新计算网络在新权值作用下的输入,重复权值调整过程,知道网络的输出A等于目标矢量T或训练次数达到事先设置的最大值时结束训练。

    感知器设计训练的步骤如下:

    1)对于所要解决的问题,确定输入矢量X,目标矢量T,并由此确定各矢量的维数以及确定网络结构大小的参数:r(表示输入矢量维数,神经元的权值向量维数)s(表示一个输入矢量所对应的输出矢量的维数,或者表示神经元个数),p(表示输入矢量组数,)。

    2)参数初始化:赋给权值矢量W在(-11)的随机非0初始值;给出最大循环次数max_epcho

    3)网络表达式:根据输入矢量X以及最新权矢量W,计算网络输出矢量A

    4)检查输出矢量A与目标矢量T是否相同,如果是,或已达到自大循环次数,训练结束,否则转入(5)。

    5)学习:根据感知器的学习规则调整权矢量,并返回(3)。

    步骤一:网络初始化

    以随机的方式产生乱数,令w(0)为很小的实数,并且将学习循环n设定为1

    步骤二:计算网络输出值



    凡是有该标志的文章,都是该blog博主Caoer(草儿)原创,凡是索引、收藏
    、转载请注明来处和原文作者。非常感谢。
    展开全文
  • 量化交易策略分类

    2020-01-06 14:44:19
    关于量化投资策略的种类,当前的研究成果中没有十分标准和完善的总结,其原因有以下三点。首先,仅仅从量化投资的交易产品、盈利模式、策略信号、交易速度等几个方面就可以划分出非常多的策略,而实务中的策略种类更...

            关于量化投资策略的种类,当前的研究成果中没有十分标准和完善的总结,其原因有以下三点。首先,仅仅从量化投资的交易产品、盈利模式、策略信号、交易速度等几个方面就可以划分出非常多的策略,而实务中的策略种类更是不计其数。其次,交易逻辑相同的策略可能在不同的交易产品、不同的信号标准以及不同信号阈值的情况下又有不同的表现,从而又独立出新的分支策略。最后,在当前金融创新浪潮迭起的背景下,新的交易工具和新的交易思路在不断涌现,要将当前多种多样的策略完善地划分归类是非常艰巨的工作。但是对于想要从事量化投资的研究者来说,了解主流的量化策略是十分必要的过程,因为很多新策略的诞生是建立在对经典策略改进的基础上。所以此处将试图根据实习实践经验以及搜集的信息对量化策略进行简要的分类。当前实战交易及网络量化投资平台中的策略多种多样,不一而足,按照交易产品、盈利模式、策略信号、交易速度等指标,量化策略有以下的分类。

            按照交易产品分类,量化投资策略可以分为股票策略、CTA策略、期权策略、FOF策略等。其中CTA策略是交易股指期货、国债期货、大宗商品期货的量化策略,也是当前应用最广泛的策略之一。FOF策略是指将资金分散投资于不同的基金,从而在基金分散投资的基础上进一步分散风险的策略。这种策略的优势在于可以将不同投资风格的基金经理的优势逻辑和优势策略综合起来,集众家之所长。

            按照盈利模式分类,量化投资策略可以分为单边多空策略、套利策略、对冲策略等等。单纯的多空策略是指投资者在结合经济周期、宏观趋势、政治事件以及历史数据的基础上,对当前金融工具走势有明显判断的情况下,对单个金融工具进行单边买入或单边卖出实现盈利的策略,索罗斯的量子基金就是这种策略的代表。而多个单纯多空策略的组合可以实现套利策略或对冲策略,从而实现规避风险、市场中性。套利策略是指在不同市场或不同交易期限上以有利的价格同时买入并卖出同种或本质相同的金融工具的策略。这种策略受益若为负,投资者还可以反过来进行交易,也即同时卖出并买入同种或本质相同的金融工具从而盈利。这种策略的主要逻辑是赚取差价,核心在于均值回归。外汇套利、固定收益套利等等可以划分在套利策略的类别中,甚至时间驱动策略也可以看作是套取同一股票在不同时间阶段的利润的套利策略。

            对冲策略是指同时进行两种经济相关或统计相关的金融工具的交易。这两种金融工具往往价格行情相关、价格方向相反、交易数量相当、收益盈亏相抵。对冲策略的主要逻辑是对组合交易进行风险管理,对冲掉投资者不愿承担的风险,核心在于风险均衡。同时买入并卖出(或卖出并买入)股指期货和对应股票的股指期货对冲策略,将多个股票的单纯多空策略进行组合的股票市场中性策略也可以理解为对冲策略。

            按照策略信号分类,量化投资策略包括但不限于多因子策略、均值回归策略、动量效益策略、二八轮动策略、海龟策略、机器学习策略等等。

            按照交易速度分类,量化投资的策略可以分为高频策略和非高频策略。高频策略往往利用复杂的计算机技术和系统,分笔处理交易数据,并以毫秒级的速度执行交易,且在日内短时持仓。算法交易是高频策略的代表。而持仓时间长、换仓周期长的策略,例如一些长期持有股票、按周或者按季度调仓的股票多因子策略可以划分到非高频策略中。

            除了以上策略以外,相信随着计算机技术和数学、物理学理论与金融学理论的交流融合,会有更多其他优秀的交易策略不断被创新研究出来,进一步帮助投资者进行更加有效的投资决策。

    以上转自文章《基于聚宽量化投资平台的股票多因子策略应用》

    展开全文
  • 0 引言数据分类 是指按照分析对象的属性、特征,建立不同的组类来描述事物。数据分类 是数据挖掘的主要内容之一,主要是通过分析训练数据样本,产生关于类别的精确描述。这种类别通常由分类 规则组成,可以用来对...

    0 引言

    数据分类 是指按照分析对象的属性、特征,建立不同的组类来描述事物。数据分类 是数据挖掘的主要内容之一,主要是通过分析训练数据样本,产生关于类别的精确描述。这种类别通常由分类 规则组成,可以用来对未来的数据进行分类 和预测。分类 技术解决问题的关键是构造分类 器 。 一.数据分类 数据分类 一般是两个步骤的过程: 第1步:建立一个模型,描述给定的数据类集或概念集(简称训练集)。通过分析由属性描述的数据库元组来构造模型。每个元组属于一个预定义的类,由类标号属性确定。用于建立模型的元组集称为训练数据集,其中每个元组称为训练样本。由于给出了类标号属性,因此该步骤又称为有指导的学习。如果训练样本的类标号是未知的,则称为无指导的学习(聚类)。学习模型可用分类 规则、决策 树 和数学公式的形式给出。 第2步:使用模型对数据进行分类 。包括评估模型的分类 准确性以及对类标号未知的元组按模型进行分类 。 常用的分类 规则挖掘方法 分类 规则挖掘有着广泛的应用前景。对于分类 规则的挖掘通常有以下几种方法,不同的方法适用于不同特点的数据: 1.贝叶斯方法 2.决策树方法 3.人工神经网络方法 4.约略集方法 5.遗传算法分类 方法的评估标准: 准确率:模型正确预测新数据类标号的能力。速度:产生和使用模型花费的时间。健壮性:有噪声数据或空缺值数据时模型正确分类 或预测的能力。伸缩性:对于给定的大量数据,有效地构造模型的能力。可解释性:学习模型提供的理解和观察的层次。 影响一个分类 器 错误率的因素 (1) 训练集的记录数量。生成器 要利用训练集进行学习,因而训练集越大,分类 器 也就越可靠。然而,训练集越大,生成器 构造分类 器 的时间也就越长。错误率改善情况随训练集规模的增大而降低。 (2) 属性的数目。更多的属性数目对于生成器 而言意味着要计算更多的组合,使得生成器 难度增大,需要的时间也更长。有时随机的关系会将生成器 引入歧途,结果可能构造出不够准确的分类 器 (这在技术上被称为过分拟合)。因此,如果我们通过常识可以确认某个属性与目标无关,则将它从训练集中移走。 (3) 属性中的信息。有时生成器 不能从属性中获取足够的信息来正确、低错误率地预测标签(如试图根据某人眼睛的颜色来决定他的收入)。加入其他的属性(如职业、每周工作小时数和年龄),可以降低错误率。 (4) 待预测记录的分布。如果待预测记录来自不同于训练集中记录的分布,那么错误率有可能很高。比如如果你从包含家用轿车数据的训练集中构造出分类 器 ,那么试图用它来对包含许多运动用车辆的记录进行分类 可能没多大用途,因为数据属性值的分布可能是有很大差别的。 评估方法 有两种方法可以用于对分类 器 的错误率进行评估,它们都假定待预测记录和训练集取自同样的样本分布。 (1) 保留方法(Holdout):记录集中的一部分(通常是2/3)作为训练集,保留剩余的部分用作测试集。生成器 使用2/3 的数据来构造分类 器 ,然后使用这个分类 器 来对测试集进行分类 ,得出的错误率就是评估错误率。虽然这种方法速度快,但由于仅使用2/3 的数据来构造分类 器 ,因此它没有充分利用所有的数据来进行学习。如果使用所有的数据,那么可能构造出更精确的分类 器 。 (2) 交叉纠错方法(Cross validation):数据集被分成k 个没有交叉数据的子集,所有子集的大小大致相同。生成器 训练和测试共k 次;每一次,生成器 使用去除一个子集的剩余数据作为训练集,然后在被去除的子集上进行测试。把所有得到的错误率的平均值作为评估错误率。交叉纠错法可以被重复多次(t),对于一个t 次k 分的交叉纠错法,k *t 个分类 器 被构造并被评估,这意味着交叉纠错法的时间是分类 器 构造时间的k *t 倍。增加重复的次数意味着运行时间的增长和错误率评估的改善。我们可以对k 的值进行调整,将它减少到3 或5,这样可以缩短运行时间。然而,减小训练集有可能使评估产生更大的偏差。通常Holdout 评估方法被用在最初试验性的场合,或者多于5000 条记录的数据集;交叉纠错法被用于建立最终的分类 器 ,或者很小的数据集。 二.贝叶斯分类 贝叶斯分类 方法是一种具有最小错误率的概率分类 方法,可以用数学公式的精确方法表示出来,并且可以用很多种概率理论来解决。 设(Ω,Θ,P)为概率空间,Ai∈Θ(i=1,2,...,n)为Ω的一个有穷剖分,且P(Ai)>0 (i=1,2,...,n),则对任意B∈Θ且P(B)>0,有 P(Ai|B)= (i=1,2,...,n) 上式称为贝叶斯公式。贝叶斯定理为我们提供了一个计算假设h的后验概率的方法 P(h|D)= 分类 有规则分类 和非规则分类 ,贝叶斯分类 是非规则分类 ,它通过训练集训练而归纳出分类 器 ,并利用分类 器 对没有分类 的数据进行分类 。 贝叶斯分类 的特点贝叶斯分类 具有如下特点: (1) 贝叶斯分类 并不把一个对象绝对地指派给某一类,而是通过计算得出属于某一类的概率,具有最大概率的类便是该对象所属的类; (2) 一般情况下在贝叶斯分类 中所有的属性都潜在地起作用,即并不是一个或几个属性决定分类 ,而是所有的属性都参与分类 ; (3) 贝叶斯分类 对象的属性可以是离散的、连续的,也可以是混合的。 贝叶斯定理给出了最小化误差的最优解决方法,可用于分类 和预测。理论上,它看起来很完美,但在实际中,它并不能直接利用,它需要知道证据的确切分布概率,而实际上我们并不能确切的给出证据的分布概率。因此我们在很多分类 方法中都会作出某种假设以逼近贝叶斯定理的要求。 三.决策 树 分类 决策 树 (Decision Tree)又称为判定树 ,是运用于分类 的一种树 结构。其中的每个内部结点(internal node)代表对某个属性的一次测试,每条边代表一个测试结果,叶结点(leaf)代表某个类(class)或者类的分布(class distribution),最上面的结点是根结点。决策 树 分为分类 树 和回归树 两种,分类 树 对离散变量做决策 树 ,回归树 对连续变量做决策 树 。 构造决策 树 是采用自上而下的递归构造方法。决策 树 构造的结果是一棵二叉或多叉树 ,它的输入是一组带有类别标记的训练数据。二叉树 的内部结点(非叶结点)一般表示为一个逻辑判断,如形式为(a = b)的逻辑判断,其中a 是属性,b是该属性的某个属性值;树 的边是逻辑判断的分支结果。多叉树 (ID3)的内部结点是属性,边是该属性的所有取值,有几个属性值,就有几条边。树 的叶结点都是类别标记。 使用决策 树 进行分类 分为两步: 第1步:利用训练集建立并精化一棵决策 树 ,建立决策 树 模型。这个过程实际上是一个从数据中获取知识,进行机器学习的过程。 第2步:利用生成完毕的决策 树 对输入数据进行分类 。对输入的记录,从根结点依次测试记录的属性值,直到到达某个叶结点,从而找到该记录所在的类。 问题的关键是建立一棵决策 树 。这个过程通常分为两个阶段: (1) 建树(Tree Building):决策 树 建树算法见下,可以看得出,这是一个递归的过程,最终将得到一棵树 。 (2) 剪枝(Tree Pruning):剪枝是目的是降低由于训练集存在噪声而产生的起伏。 决策 树 方法的评价。 优点 与其他分类 算法相比决策 树 有如下优点: (1) 速度快:计算量相对较小,且容易转化成分类 规则。只要沿着树 根向下一直走到叶,沿途的分裂条件就能够唯一确定一条分类 的谓词。 (2) 准确性高:挖掘出的分类 规则准确性高,便于理解,决策 树 可以清晰的显示哪些字段比较重要。 缺点 一般决策 树 的劣势: (1) 缺乏伸缩性:由于进行深度优先搜索,所以算法受内存大小限制,难于处理大训练集。一个例子:在Irvine机器学习知识库中,最大可以允许的数据集仅仅为 700KB,2000条记录。而现代的数据仓库动辄存储几个G-Bytes的海量数据。用以前的方法是显然不行的。 (2) 为了处理大数据集或连续量的种种改进算法(离散化、取样)不仅增加了分类 算法的额外开销,而且降低了分类 的准确性,对连续性的字段比较难预测,当类别太多时,错误可能就会增加的比较快,对有时间顺序的数据,需要很多预处理的工作。 但是,所用的基于分类 挖掘的决策 树 算法没有考虑噪声问题,生成的决策 树 很完美,这只不过是理论上的,在实际应用过程中,大量的现实世界中的数据都不是以的意愿来定的,可能某些字段上缺值(missing values);可能数据不准确含有噪声或者是错误的;可能是缺少必须的数据造成了数据的不完整。 另外决策 树 技术本身也存在一些不足的地方,例如当类别很多的时候,它的错误就可能出现甚至很多。而且它对连续性的字段比较难作出准确的预测。而且一般算法在分类 的时候,只是根据一个属性来分类 的。 在有噪声的情况下,完全拟合将导致过分拟合(overfitting),即对训练数据的完全拟合反而不具有很好的预测性能。剪枝是一种克服噪声的技术,同时它也能使树 得到简化而变得更容易理解。另外,决策 树 技术也可能产生子树 复制和碎片问题。

    展开全文
  • 针对多分类不均衡问题,提出了一种新的基于一对一(one-versus-one,OVO)分解策略的方法。首先基于OVO分解策略将多分类不均衡问题分解成多个二值分类问题;再利用处理不均衡二值分类问题的算法建立二值分类器;接着...
  • 量化策略分类

    千次阅读 2019-12-09 10:22:22
    目前国内量化策略类型的划分方式多样,从投资范围和风险收益属性特征差异的角度,可以将市场上主要的量化策略划分为市场中性策略、指数增强、量化选股、CTA、套利类策略、期权策略以及量化多策略等。 国内主流量化...

    一、国内主流量化策略体系

    目前国内量化策略类型的划分方式多样,从投资范围和风险收益属性特征差异的角度,可以将市场上主要的量化策略划分为市场中性策略、指数增强、量化选股、CTA、套利类策略、期权策略以及量化多策略等。

    国内主流量化体系

    其中,量化公募产品主要以指数增强和量化选股为主,量化基金专户和量化私募产品主要以市场中性策略、CTA策略为主。

    二、公募基金量化投资策略篇

    目前量化公募产品主要以指数增强和量化选股为主(合计占比超过90%)。

    指数增强

    所谓“指数增强基金”,就是在跟踪标的指数的基础上,用量化投资的方法,适当调整持仓范围,追求获得超越标的指数的收益。

    量化选股

    对比指数增强产品而言,量化选股主要通过多因子、风格轮动和行业轮动的模型使策略的风险暴露更高,即资产组合受到金融风险影响的程度可以通过因子的调整来实现,从而获取超越基准的Alpha收益。

    三、基金专户和私募基金量化投资策略篇

    目前国内量化基金专户和量化私募产品主要以市场中性策略和CTA为主,同时也运用了量化多策略、套利策略等。

    市场中性策略——追求绝对收益

    市场中性策略的基本逻辑是在买入一篮子股票多头组合的同时,持有空头工具如期权、股指期货等,以对冲市场的Beta风险,力争追求绝对收益(Alpha),而不承受市场风险(Beta)。

     

    国内市场中性策略一般基于多因子模型和统计套利模型两大类。多因子模型将组合投资看做是因子的组合(如行业、规模、成交量、价值等),投资组合的风险/收益被拆解为一系列因子,但是这个策略对模型本身的逻辑性、稳定性要求比较高;统计套利模型则是主要基于对历史数据(估值、财务数据等)的统计分析,依据相关变量的概率分布,捕捉其中的大概率机会,不过随着参与人数的增加,寻找这样的机会变得更加困难。

    市场中性策略的好处在于相对稳定,由于基本排除了系统性风险带来的收益或者是亏损,基金最后的收益主要取决于构建投资组合的能力。如果基金经理的组合水平较高,且比较稳定,基金将能够长期保持较为稳定的收益。但是这个策略在市场行情非常好的时候,就会表现地不好,因为市场中性策略在除去潜在市场亏损的同时也压低了市场的潜在收益。

    如2014年底,牛市开始进入中期,市场中大多数股票型基金都因此而收益,但采取市场中性策略的基金由于持有空头股指期货,尽管股票多头出现了盈利,可被空头股指期货的贴水所掩盖,市场表现大幅度落后于股市平均水准。因此,市场中性策略适用于中长线投资,短线具有抗跌的效果。对于风险偏好相对较低,且对流动性要求不高的投资者来说,市场中性策具有优势。

    CTA策略——分散组合投资风险

    CTA,即管理期货策略。管理期货被称为最“分散”的策略,由于基于管理期货基金本身的特性,其可以提供多元化的投资机会,从商品,黄金,到货币和股票指数等。因此在某种程度上,管理期货基金的决策一般对计算机程序较为倚重,可以实现与传统的投资品种保持较低的相关性,来达到分散整体投资组合风险的目标。

    海外长期数据显示,CTA 策略与其他策略之间呈现出显著低相关性,加入CTA 策略可平滑组合净值曲线,降低组合的波动性,其核心收益来源于低频、小概率的大幅正收益,需要长期持有。

    海外CTA 策略与其他策略呈现出明显的低相关性

    CTA以做多波动率为主,跟随趋势而非预测趋势,从交易策略上可分为趋势跟踪策略、反转策略和套利策略,从交易频率上又可分为日内高频、短、中、长周期策略。由于CTA策略主动控制各类资产交易风险,并很好地在事前事中事后做风险控制,往往在市场大幅波动时有不错表现,对投资组合起到保护作用。如2008 年美国市场,道指下跌33.8%、对冲基金整体亏损21.6%、股票多空类策略亏损11.9%,而CTA 策略获得了14.1%的正收益。

    CTA策略适用于长线投资,且在震荡行情中往往能够保持稳定的正收益,对流动性要求不高的投资者是个不错的选择。

    量化多策略——“全能选手”

    量化多策略是指采用多种策略的量化投资,从不同投资维度,在不同市场情况下捕捉市场定价失效的投资机会,力争有效控制风险的基础上,实现基金资产的长期稳定增值。

    量化多策略某种程度上可以平衡单个策略可能出现的风险和失效,从而有效控制整体组合风险,收益相对比较稳健。但如何在多策略之间取得平衡是一个考验投资经理水准的关键问题,因为每一种策略都有其特定的适应条件和特点。

    对于比较保守型投资者来说,量化多策略采取了多种策略,具有分散风险的作用,具有明显的吸引力。

    套利策略——“黄金搭档”

    采用量化的方法来进行套利本质上都可以看做是套利策略,根据套利的不同方向,套利可以分为期限套利、跨市套利、跨品种套利和基金套利等,根据套利标的的不同,可以分为股指期货套利、商品期货套利、ETF套利等。

    套利本质上是利用了市场的信息不对称和市场的非完全有效,使得市场定价出现偏差,而套利的存在使得这种市场价格偏差的发生减少。目前,套利策略经常搭配其他量化策略一起使用,是量化投资策略的“黄金搭档”。对于收益性和流动性要求不高,但对确定性要求较高的投资者来说,有效的套利策略能带来持久的安全与收益。

    总结:

    综合来看,量化策略种类众多,在风险、收益、市场容量、灵活性方面存在较大的不同,每一种策略都有相应的优缺点,投资者应根据自己对收益性、安全性以及流动性的不同需求来选择适合自己的策略。

    量化选股以及指数增强策略由于市场容量大,且投资标的多为股票(相对于期货、股指等标的更容易被普通投资者接受)而广受公募基金的欢迎。市场中性策略与CTA策略需要长期持有才能体现价值,且对投资者的风险承受能力要求更高,基金专户或私募基金的投资者在风险承受能力和持有周期上更容易满足策略的需求。

    来源:信合量化

    ------------------------------------------------------------------------

    推荐阅读:

    1.一个量化策略师的自白(好文强烈推荐)

    2.股票期货经典的量化交易策略都在这里了!(源码)

    3.期货/股票数据大全查询(历史/实时/Tick/财务等)

    4.当真躺着赚钱?量化交易的十大难题

    5.从量化到高频交易,不可不读的五本书

    6.如何有效的规避量化交易中的滑点?

     

     

    展开全文
  • 提出一种新的预处理算法AdaP,不仅有效避免了数据过度拟合,且可...实验证明此策略充分体现了提升算法有效提升前端弱分类算法分类精度和预处理算法平衡稀有类数据的优势,且可有效提高不平衡入侵检测数据的分类性能。
  • 分析了统计判别和神经网络分类方法的特性和优缺点,提出了两种不同类型的方法集成的策略,先用神经网络自学习功能变换样本,使其分布有利于分类;再用统计方法提取特征,进而建立判别分类模型。基于该策略设计了G,T-C-CCA...
  • 2、算法优势  论文中将Batch Normalization的作用说得突破天际,好似一下解决了所有问题,下面就来一一列举一下:   (1) 可以使用更高的学习率 。如果每层的scale不一致,实际上每层需要的学习率是不一样的,同一...
  • 本文从产品概述、数据报告、西瓜视频SWOT分析、竞品分析、运营策划五个角度,全面解析字节跳动旗下明星产品西瓜视频APP的运营策略。 金三银四,想在裁员/跳槽/转行的大潮中,获得一份大厂产品运营的岗位?你需要...
  • 选自Miguel Blog作者:Miguel González-Fierro机器之心编译参与:陈韵竹、刘晓坤迁移学习(Transfer Learning)预期将成为图像分类领域机器学习商业成就的下一驱动力。对深度网络的再利用正影响着学界和业界的走向...
  • Gu 等[37] 提出了一种面向多分类的BMAL,通过组合不确定性策略和多样性策略,并在两组图像分类的数据集上进行验证,实验结果表明该方法能够挑选出同时满足最不确定性和最具多样性的样本。 Zhou 等[38]通过组合不...
  • 每种算法都支持离散(分类,伯努利,GumbelSoftmax)和连续(贝塔,正态,tanh(正态))策略分布以及矢量或图像观察环境。 Beta和tanh(Normal)在我的实验中效果最好(在BipedalWalker和Huma
  • 5. 强化学习之——策略优化

    千次阅读 2020-06-15 00:19:14
    课程大纲 基于策略的强化学习:前面讲的都是基于价值的强化学习...策略分类: (1)确定性策略 (2)概率分布性策略策略进行优化的过程中,优化目标是什么? 给定一个带参数的策略逼近函数(类似于值函数逼.
  • 市场营销学9——产品策略

    千次阅读 2012-12-12 18:24:45
    1、什么是产品策略 产品策略是市场营销4P组合的核心,是价格策略、分销策略和促销策略的基础。从社会经济发展看,产品的交换是社会分工的必要前提,企业生产与社会需要的统一是通过产品来实现的,企业与市场的...
  • 策略梯度算法

    千次阅读 2018-03-21 19:27:17
    策略梯度算法这一课我觉得还挺抽象的,有些也听不是太懂,可能是因为这一课的视频里帅帅的David没有出现……只有PPT,而且配合声音切换得不太好,看着很是不爽。不过看完了还是要来整理啊,不然像我这种不现学现用的...
  • 深入理解Java虚拟机-垃圾回收器与内存分配策略

    万次阅读 多人点赞 2020-01-04 13:08:32
    垃圾回收器分类标准 七种垃圾回收器概述 单线程垃圾回收器 Serial(-XX:+UseSerialGC) Serial Old(-XX:+UseSerialGC) 多线程垃圾回收器(吞吐量优先) ParNew(-XX:+UseParNewGC) Parallel Scavenge(-XX:+...
  • MRMR算法具有快速、高效等优势,在处理高维数据方面较为流行。提出一种基于组策略的MRMR改进算法(MRMRE),该算法不仅考虑单个特征属性的相关性与冗余性,同时针对特征组间的相互关系进行研究。算法以MRMR算法为...
  • 但在实现的难易程度和成本方面,无死区控制策略有一定优势。关键词:有源电力滤波器;死区效应;电流反馈型补偿;无死区补偿中图分类号: 文献标识码:Study on Dead-time Effect of the parallel active power ...
  • 现有的基站休眠节能策略面临如何在提高能效的同时保证业务QoS的问题,提出了一种在密集场景下微基站与宏基站协作的微基站休眠策略,以提高系统能效。首先,微基站在业务请求较低时进入休眠状态以达到节能的目的;...
  • 在系统描述当前各种典型的网关选择策略基础上,第一次给出了MANET与Internet互连的网关选择策略分类方法,并比较和分析了这些策略优势与不足;最后结合该领域当前的研究现状,指出MANET与Internet互连的网关选择...
  • 在移动互联网发展快速的今天,数据是最宝贵的资源之一,如何...提出一种基于HITS算法通过用户访问量实现兴趣分类策略,通过网络数据采集、模型分析完成对兴趣数据的处理,得出了HITS在用户兴趣分类方面有较大的优势
  • 模型优化策略

    千次阅读 2018-09-02 11:57:45
    因为该类参数更改后需要大量的再训练,优势不明显。方法:梯度下降中,每完整更新参数一次后,调整正则化项和权重。 1.1 Dropout设置  dropout:通过防止特征检测器的共适性来减少过拟合。但在训练初期,共适性...
  • 机器学习量化多因子选股策略

    千次阅读 2019-07-25 14:25:23
    多因子选股策略是一种应用十分广泛的选股策略,其基本思构想就是找到某些和收益率最相关的指标,找出股票收益率与各种指标之间的“关系”,借此“关系”建立股票组合,并期望该组合可以跑赢指数。 多因子回归是多...
  • 如果一个策略组合中没有一方可以单独改变其策略以提高回报,则称为Nash均衡.一个游戏可能没有也可能有多个Nash均衡。 囚徒困境在双方都是自私的的时候会出现,通常其均衡点不是最大化总体回报的。 序列化博弈:双方...
  • 无论是自上而下还是自下而上的研究体系,无论是大额投资还是小额理财的配置需求,无论是顺势而为还是追求极致的操作风格,不同类型的投资机构或个体都能通过迈博汇金智能策略终端的系统优势来辅助具有差异性的投资...
  • 有监督分类:概率分类法(Logistic)

    千次阅读 2017-06-13 10:41:37
    对于模式基于概率进行分类的手法称为概率分类法。这是这一篇博客重点讨论的内容。 基于概率的模式识别,是指与模式x所对应的类别y的后验概率p(y|x)进行学习。其所属类别为后延概率达到最大值时所对应的类别。 类别...
  • 全面了解风控策略体系

    万次阅读 多人点赞 2020-06-28 14:09:48
    模型和策略的开发是一个系统工程,这其中需要有业务经验、统计理论、算法运用、和数据认知,是一个不断反思,不断积累经验的过程。沙滩上建不起摩天大楼。扎扎实实的基本功永远有价值,永远不会过时。
  • H3C防火墙-域间策略

    千次阅读 2020-10-19 11:18:16
    一. 域间策略概述 如图1-1所示,域间策略是一种基于安全域实现对报文流的检查,并根 据检查结果对报文实行相应动作的域间策略。一个安全域中,可以包 含多个成员。... 域间策略分类 域间策略包括:包过滤、AS
  • SVM 调参策略

    万次阅读 多人点赞 2017-10-12 22:24:32
    SVM 调参策略 1. 对数据做归一化(simple scaling) 2. 应用 RBF kernel 3. 用cross-validation和grid-search 得到最优的c和g 4. 用得到的最优c和g训练训练数据 5. 测试1 关于svm的C以及核函数参数设置

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 57,565
精华内容 23,026
关键字:

优势分类策略