精华内容
下载资源
问答
  • 常见主动学习算法
    千次阅读
    2015-03-08 18:45:32

    来源:http://blog.sina.com.cn/s/blog_4c98b96001000959.html

    按照对未标注数据的选择策略,可以把当前的主动学习算法大致分为两类
        (1)基于评委的方法 (committee-based methods)
    首先用各种不同的学习器对样本进行标注,然后由标注人员对有争议的标注结
    果作出最终判断。不同的学习器之间的分歧是由它们对样本标注结果预测的差异所
    造成的。
       (2)基于置信度的方法 (certainty-based methods)
    先由模型给出具有较低置信度的样本,再交给标注人员选择性地进行标
    信度的计算通常是由学习器度量 n-最优(n-best)标注结果之间的差异得到的。
    下面详细描绘一下基于评委的方法和基于置信度的方法的普遍流程。
        基于评委的方法:
        (1) 对于由 n 个未标注样本构成的样本组 B 中的每个样本 e,使用从先前标注样本中训练出来的 k 个模型对其进行标注,得到 k 个结果{L1,L2...Lk},通过{L1,L2...Lk},对每个 e 测量出具有争议的标注结果De ;
       (2) 从样本组 B 中选择出 m 个具有最高 De 值的样本交给标注人员进行标注。把人工标注好的样本加进训练样本库里;
       (3) 在扩大后的训练样本库的基础上,再重新得到 k 个模型。首先将语料库划分为连续的n个样本组,贯穿整个语料库,重复地在 n 个样本组中顺序地进行该过程。如果语料库不大,样本 n 正好等于语料库小,那么这个过程中的每一步都是在语料库的未标注样本中选择出 m 个全局最优的实例,如果语料库的大小比样本 n 大,那么这个过程是承接进行的。
       基于置信度的方法:
       (1)从先前标注的样本中训练出一个模型;
       (2)对于 N 个未标注的样本组中的每一个样本用模型对其进行标注,评估模型标
    注的置信度;
       (3)从样本组中选择 m 个具有最低置信标注人员进行标
       (4)把新标注的样本加进训练语料中;
       (5)重复执行以上过程直到标注人员停止或未标注样本用尽。
        Hwa 运用基于置信度的方法从 Penn Treebank 语料库学习语法,把学习器对一个样本的标注结果的不确定性等同于该样本的“训练效用值”。如果学习器能够从大量的未标注语料中识别出具有较高训练效用值的样本的子集,标注人员就不需要花费时间去标注那些不富含信息的样本。基于置信度的方法的难点在于如何构造一种度量方法来评估学习器标注结果的置信度
      参考论文:基于半督导机器学习的分词算法的设计与实现

    更多相关内容
  • 基于Baseline SVD主动学习算法的推荐系统.pdf
  • 主动学习算法作为构造有效训练集的方法,其目标是通过迭代抽样,寻找有利于提升分类效果的样本,进而减少分类训练集的大小,在有限的时间和资源的前提下,提高分类算法的效率。主动学习已成为模式识别、机器学习和...
  • AL-ELM:一种使用极限学习机的基于不确定性的主动学习算法
  • 主动学习-主动学习算法综述

    千次阅读 2019-12-10 18:30:39
    参考文献:主动学习算法综述 主动学习(Active Learning) 用于解决分类问题的机器学习,如今已经是很熟悉的话题了,我们知道所有分类模型都需使用标记样本训练,并且分类模型的效果依赖于标记样本的质量。一个好的...

    参考文献:主动学习算法综述

    主动学习(Active Learning)

    用于解决分类问题的机器学习,如今已经是很熟悉的话题了,我们知道所有分类模型都需使用标记样本训练,并且分类模型的效果依赖于标记样本的质量。一个好的分类模型离不开大量优质的训练数据,但是在实际应用条件下,我们得到的数据往往都是没有经过处理的,而数据的处理是一项相当庞大且繁琐的工作,并且有时候还需要一些专业人士才能处理,因此需要耗费巨大的人力成本和时间成本。基于此,在机器学习领域中,提出主动学习方法,优化分类模型。

    主动学习算法会通过某些方法找到样本数据中最有价值的数据,然后我们把删选出来的数据交由专家进行人工标注后,将标注后的数据放入训练集对分类模型进行迭代优化训练,这一过程称为主动学习

    简单来说,机器学习中的主动学习能够用更少的人工成本获取更有价值的标记样本从而使分类器具有更好的泛化性能。和以往被动学习算法不同的是,主动学习算法会根据某一些策略将未标记样本中的一部分样本进行标记,然后重新投入训练集中,用来辅助分类器的训练。

    主动学习算法可以有以下五个组件进行建模:

    A = (C, L, S, Q, U)

    其中C为一个或一组分类器;L为一组已标注的训练集样本;Q为查询函数,用于在未标注的样本中查询信息量大的样本;U为整个未标注样本集;S为督导者,可以对未标注样本进行标注。

    主动学习算法主要分为两阶段:

    第一阶段为初始化阶段,随机从未标注样本中选取一部分作为训练集并由督导者标注, 用来建立初始分类器模型;

    第二阶段为循环查询阶段,监督者从未标注样本集U 中,按照某种查询标准 Q ,选取一定的未标注样本进行标注,并加到训练集 L 中,重新训练分类器,直到达到训练停止标准为止。

    主动学习算法是一个迭代的过程,分类器使用迭代时反馈的样本进行训练,不断提升分类效率。

    在这里插入图片描述

    展开全文
  • 主动学习算法综述.pdf

    2021-03-22 15:12:27
    主动学习算法综述
  • 基于Boltzamnn机的机器人自主学习算法.pdf
  • 基于多种聚类算法和多元线性回归的多分类主动学习算法.pdf
  • 自主学习算法在机器人运动平衡控制中的应用
  • 基于稀疏线性重构的主动学习算法
  • 针对现有的威胁感知算法对样本标注代价较大,并且在训练分类器时只使用已标注的威胁样本,提出了一种基于图约束和预聚类的主动学习算法。该算法旨在通过降低标注威胁样本的代价,并且充分利用未标注的威胁样本对训练...
  • 基于图约束和预聚类的主动学习算法在威胁情景感知中的研究.pdf
  • SVM主动学习算法的改进研究,王天民,王小捷,本文针对将支持向量机用于多分类主动学习任务时存在的初始训练样本不平衡问题,提出了基于加权熵进行有偏样本选择的方案,同时,
  • 动态神经网络分类器主动学习算法及其智能控制应用.pdf
  • 提出一种基于Madaline 网络敏感性的主动学习算法。首先用部分样本训练Madaline 网络,然后以Madaline 网络输出对其输入在给定样本点附近变化的敏感性为尺度,主动从未参与训练的样本中挑选敏感性相对大的样本继续进行...
  • 主动学习算法在液压AGC系统中的应用
  • 通过与传统的自学习算法比较,显示基于池的主动学习算法能有效地减少对训练样本的依赖,同时减少噪音数据对入侵检测系统性能的影响,适用于移动自组网络对于入侵检测系统高检测率、高抗噪能力和低计算延迟的要求。
  • 基于主动学习算法减少人工标注量,提升文本标注效率的方案探究阅读 451收藏 232018-06-26原文链接:yq.aliyun.comOPPO技术开放日第三期,未来的探索 · AI&AR的实践应用juejin.im项目地址: ...

    基于主动学习算法减少人工标注量,提升文本标注效率的方案探究

    阅读 451
    收藏 23
    2018-06-26
    原文链接: yq.aliyun.com

    项目地址: https://github.com/crownpku/Chinese-Annotator

    bba3160ac79b458af12fec0615c36eba306c69ed

    自然语言处理的大部分任务是监督学习问题。序列标注问题如中文分词、命名实体识别,分类问题如关系识别、情感分析、意图分析等,均需要标注数据进行模型训练。在深度学习大行其道的今天,基于深度学习的 NLP 模型更是数据饥渴。 

    最前沿的 NLP 技术往往首先针对英文语料。英文 NLP 的生态很好,针对不同有意思的问题都有不少大规模语料公开供大家研究,如斯坦福的 SQuAD 阅读理解语料。中文方面开源语料就少得多,各种英文 NLP 上的犀利模型和前沿技术都因为中文语料的匮乏很难迁移过来。

    另一方面,对于一些垂直领域,如医疗、金融、法律、公安等等,专有名词和特有需求甚多,很难将比较 general 的比如在 wikipedia dump 上面训练的模型直接拿过来用。 

    传统人工标注数据的过程往往是繁琐和低效率的。刚标了一个“联想”是公司名,又来一个“联想集团”,再标一次又来一个“联想集团有限公司”,如此的例子令标注过程含有大量的重复劳动。另一方面也没有一个易上手的标注 UI,标注工作者往往需要直接按预先定好的格式直接在写字板之类的软件中修改原始数据,格式错误率也较高。 

    能不能构建一个中文文本的标注工具,需要看以下两个特点: 

    1. 标注过程背后含有智能算法,将人工重复劳动降到最低; 
    2. 标注界面显而易见地友好,让标注操作尽可能简便和符合直觉。 

    答案是可以的。事实上很多标注工具已经做到了这一点,最先进的如 Explosion.ai 的 Prodigy;然而开发了著名的 NLP 开源包 Spacy 的 explosion.ai 选择了将 Prodigy 闭源,而 Spacy 支持中文也仍然遥遥无期。我们希望构建一个开源的中文文本标注工具,而本文很多的技术灵感正是来自 Prodigy 文档[1]。 

    主动学习的智能标注算法

    流程: 

    1. 用户标一个label;
    2. 主动学习的后台算法分为 online 和 offline 部分。online 部分即时更新模型,可使用诸如 SVM、bag of words 等尽可能快的传统方法;offline 部分当标注数据积累到一定数量时更新模型,可使用准确度较高的深度学习模型; 
    3. 模型更新后,对尽可能多的 example 做预测,将确信度排序,取确信度最低的一个 example 作为待标注例子。重复 1 的过程。 

    可以想象如果模型训练得好的话,这个过程将直接忽略掉确信度最大的那些例子,而把所有重点放在分类边界上的那些确信度小的例子。这样可以尽算法所能减少用户端的人工工作量。 

    online 与 offline 模型互相协作,与用户手动标注的过程一起不断迭代;在最终标注任务完成之后,offline 模型可以重新在所有标注数据上重新训练,以达到最好的模型效果。 

    显而易见的友好标注前端

    用户标注的界面应该尽可能符合直觉,让用户完全聚焦在当前的标注任务上。 Prodigy 给了一个非常好的 demo[2],每一次的标注只需要用户解决一个 case 的问题。以文本分类为例,对于算法给出的分类结果,只需要点击“正确”提供正样本,“错误”提供负样本,“略过”将不相关的信息滤除,“Redo”让用户撤回操作,四个功能键以最简模式让用户进行标注操作。 

    真正应用中,应该还要加入一个用户自己加入标注的交互方式,比如用户可以高亮一个词然后选择是“公司”,或者链接两个实体选择他们的关系等等。

    03c2f47f9e60106a95cbe105788d98f6b00b4d37

    以上是个人觉得的一个智能中文文本标注工具的最大亮点。算法本身还有很多细节需要思考,比如 online 机器学习算法与 offline 深度学习算法的协作、中文 NLP 的特征提取与模型构建、正则规则的引入、word embedding 的训练和使用等等。

    系统本身还要考虑后台存储(SQLite?)和数据导入导出,前端框架选型和开发,前后端交互(django? flask? RestAPI?)等等的问题。下面是 Prodigy 的简单架构图。

    2480d637736d84cc382634e17fc67504dae86af0

    我们希望专注于中文文本标注的功能。前期我们想实现三种中文 NLP 任务的标注工具:中文命名实体识别,中文关系识别,中文文本分类。未来如果有更多如中文图片问答、中文图片描述之类的任务,我们可以再研究加入图片标注这一块。

    希望这个工具的开发会是以中文社区的开源协作方式,为整个中文 NLP 的开源生态做出一点贡献。

    FAQ

    1. 待标注数据集如何分割

    应该分为按句子、按段落、按文章三种,写入配置文件由用户选择。 原因是命名实体识别与关系抽取可能按句子或者段落为单位给用户标注比较合适;同时可能用户会有全文章分类的需求,需要给出全文。 

    2. 为什么要使用 online?

    用户标注数据 + offline 标注数据,为什么还要使用 online model 更新数据呢?原因是 offline 的模型往往在全量数据上重新学习,也很可能需要使用深度学习模型,训练的速度会很慢。而 active learning 的人机迭代过程要求模型给出几乎实时的 stream 级别的训练和推断速度,这时候就需要 online model 来先行更新数据。 

    3. 使用什么机制触发 offline model? 

    这也可以是写入配置文件的参数。一种是用户标够了 100 个或提前设置好的足够多的新的数据,就可以启用 offline model 进行训练;另一种是给用户一个按钮,用户可以点击启动后台的 offline 模型训练并给出进度条。 

    4. 系统使用什么格式的配置文件? 

    推荐 json 格式的配置文件。请参考一个例子在这里[3]。

    5. AIgo Factory 是什么?和 User Instance 里面的部分是不是有点重合?

    Algo factory 是算法的代码模块,你可以想象一堆 tensorflow 或者 sklearn 的代码;而 user instance 是 config 文件与模型参数,是一堆用户生成的 json 文件和模型文件。algo factory 是可以不同 user instance 传入参数复用的,而每一个 user instance 代表了一个用户任务的实例。

    这样设计的目的,是尽可能使系统可复用部分模块化,而抽出用户具体任务的配置与数据单独存储管理。

    附录:几个开源文本标注工具

    • IEPY 

    0ab1ada57844bf977696051ab84ee55815f6678b

    整个工程比较完整,有用户管理系统。前端略重,对用户不是非常友好。

    代码:https://github.com/machinalis/iepy 

    说明:http://iepy.readthedocs.io/en/latest/index.

    html

    • DeepDive (Mindtagger)

    1bcf2cfdc9ddb5bd52e25d20456397c7e93f0aab

    Screenshot of Mindtagger precision task in progress


    前端比较简单,用户界面友好。 

    介绍:http://deepdive.stanford.edu/labeling 

    前端代码:https://github.com/HazyResearch/mind

    bender 

    将 DeepDive 的 corenlp 部分转为支持中文的代码尝试:

    https://github.com/SongRb/DeepDiveChineseApps 

    https://github.com/qiangsiwei/DeepDive_Chinese 

    https://github.com/mcavdar/deepdive/commit/6882178cbd38a5bbbf4eee8b76b1e215537425b2

    • BRAT

    d933fbafad95a66684fc189ae19df168c9f528ba

    介绍:http://brat.nlplab.org/index.html 

    在线试用:http://weaver.nlplab.org/~brat/demo/

    latest/#/ 

    代码:https://github.com/nlplab/brat

    • SUTDAnnotator

    f3fdac3cad49edadfeddbb148acb790bf982a6d4

    用的不是网页前端而是 pythonGUI,但比较轻量。 

    代码:https://github.com/jiesutd/SUTDAnnotator 

    Paper:https://github.com/jiesutd/SUTDAnnotator

    /blob/master/lrec2018.pdf

    • Snorkel

    88161283d4ee8d84f2f3f8e3a8c41126e7d4b9c0

    Page: https://hazyresearch.github.io/snorkel/ 

    Github: https://github.com/HazyResearch/snorkel 

    Demo Paper: https://hazyresearch.github.io/snorkel/

    pdfs/snorkel_demo.pdf

    • Slate

    1177fa41fab0a6997d1a3373e292541a6deb0959

    Code: https://bitbucket.org/dainkaplan/slate/ 

    Paper: http://www.jlcl.org/2011_Heft2/11.pdf

    • Prodigy

    8cf21844294297ae3ee7726dadd4bf5e6ceab85d

    和著名的 spacy 是一家做的。

    Website: https://prodi.gy/docs/ 

    Blog: https://explosion.ai/blog/prodigy-annotation-tool-active-learning


    原文发布时间为:2017-11-26

    本文来自云栖社区合作伙伴“数据派THU”,了解相关信息可以关注“数据派THU ”微信公众号

    展开全文
  • 它使用模糊逻辑对多变量公式进行建模。
  • 该软件包不仅实现了几种流行的主动学习策略,而且还具有元算法,可帮助用户动态地自动选择最佳策略。 此外,该软件包提供了用于实施更多策略,模型和特定于应用程序的标签的统一接口。 该软件包与github上的问题...
  • modAL是Python3的主动学习框架,在设计时考虑了模块化,灵活性和可扩展性。 它建立在scikit-learn之上,它允许您快速创建主动学习工作流程,几乎完全自由。 更重要的是,您可以使用自定义构建的解决方案轻松替换零件...
  • 针对在不平衡分布数据中执行主动...通过12个基准数据集对加入平衡控制策略的主动学习算法的性能进行了验证,结果表明:在不平衡场景下,主动学习确实会受到其负面影响,且引入了采样技术的主动学习算法性能明显更优。
  • 基于主动学习的机器学习算法研究进展.pdf
  • ALiPy是一个基于Python实现的主动学习工具包,内置20余种主动学习算法,并提供包括数据处理、结果可视化等工具。
  • 采用主动学习算法从未标记样本中学习得到主动鉴别字典, 根据其结构化重构误差判断车辆偏离方向, 并以此为依据控制车辆行驶方向; 定义有代价的加权错误率, 作为衡量算法纠偏能力的新准则. 实验结果表明, 所提出的...
  • 分别使用主动学习策略和改进的主动学习策略挑选信息价值高的无标记样本作为候选样本,使用半监督学习算法对候选样本进行自动标记,减少人工干预。最后,把新增加的新标记样本添加到主动学习和半监督学习的训练集中,...
  • 针对传统主动学习单一策略算法在挑选最有价值未标记样本时出现的抖动和不稳定的现象,引入集成学习(ensemble learning)分类器的加权组合思想,提出一种基于组合策略的联合挑选(ESAL)方法,将模型的组合衍生至...
  • 为了提高动态多子群粒子群算法中粒子学习的自主性, 提出一种基于自主学习和精英群的粒子群算法. 该算法借鉴教育心理学自主学习的理念, 用基础群中粒子自主选择学习对象的操作代替子群的重组操作, 并通过精英群局部...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 115,919
精华内容 46,367
关键字:

主动学习算法