精华内容
下载资源
问答
  • The latest in Machine Learning | Papers With Code
    展开全文
  • 综述 其它资料 后门 简书上Mezereon的《浅谈深度学习模型中的后门》对后门攻击进行了简单阐述 链接.

    综述

    在这里插入图片描述

    其它阅读资料

    后门

    简书上Mezereon的《浅谈深度学习模型中的后门》对后门攻击进行了简单阐述
    链接.

    展开全文
  • 机器学习review Paper:Machine Learning: A Review of Learning Types 这是一篇关于机器学习的综述,里面简述了各种现有的机器学习技术。 1 主要的方法:监督、无监督、强化 1.1 监督学习 数据格式:特征 + 标签 ...

    机器学习review

    Paper:Machine Learning: A Review of Learning Types
    这是一篇关于机器学习的综述,里面简述了各种现有的机器学习技术。

    1 主要的方法:监督、无监督、强化

    1.1 监督学习

    数据格式:特征 + 标签
    学习目标:到从输入到输出的映射函数
    根据输出变量划分,监督学习又可以分为分类和回归
    分类:输出结果是离散的、可列的,如水果种类、手写字体识别。
    回归:输出结果是连续的,如价格、温度-气压曲线
    

    1.2 无监督学习

    数据格式:特征
    目标:尝试根据输入的数据建立模型,发现数据的潜在特性
    无监督的代表是聚类——一种挖掘数据内部结构的技术。
    

    举个栗子:我有10个样本,要把它们分成A、B、C共3类(集群);
    如下图,每个类内部的样本其相似性较大,类之间相似性较小。
    相似性度量可用空间距离、欧氏距离,度量方法不同会产生不同的聚类结果。
    聚类分析
    K-means算法例子:乘客分群,区分高价值客户、无价值客户等

    1.3 强化学习

    强化学习是这样一个过程:
    	一个agent在一系列任务中
    	1)观察环境状态
    	2)做出反应(或行为或决策)
    	3)获得惩罚或者奖励
    	4) 调整自己的行为
    	 不断重复上述过程,最终目标是最大化它的最终奖励。
    

    调整方式:如果Agent的某个行为策略导致环境正的奖赏(强化信号),那么Agent以后产生这个行为策略的趋势便会加强。
    强化学习例子——王者荣耀中的机器人。

    Overview of reinforcement learning. An agent observes
    the environment state and performs actions to maximize an overall
    reward.

    2 混合方法

    2.1 半监督学习(semi-surpervised learning)

    顾名思义,半监督是监督学习和无监督学习的中间状态,算法使用带标记和不带标记数据的组合来训练模型。
    常见的方法是,少量标签数据和大量未标记数据的组合,先使用无监督学习算法进行聚类,根据聚类结果,可对未标记数据进行标记,然后就可以使用监督学习算法训练数据。
    许多半监督学习算法的成功很大程度上取决于以下假设的有效性:未标记和标记的数据具有相同的分布
    Overview of semi-supervised learning Overview of semi-supervised learning

    2.2 自监督学习(self-surpervised learning)

    自监督是无监督的一种形式。初始时,数据没有任何标记,通过不断地挖掘,从而发现数据的内在联系,形成监督信息
    slef-surpervised
    This is done in an unsupervised manner by forcing the network to learn
    semantic representation about the data. Knowledge is then transferred to the model for the main task.

    2.3自我学习(self-taught learning)

    自学习与半监督学习类似,也使用未标记的数据,试图在已标记数据有限的情况下,提高监督学习的性能。但,自学习允许标记数据与未标记数据拥有不同的分布,甚至不用遵循同分类,所以在实际应用中,自学习使用更加广泛。
    self-taught
    自上而下:监督分类使用大象和犀牛的标记示例;半监督学习使用大象和犀牛的附加未标记示例;转移学习使用其他类型标记的数据集;自学只需要额外的未标记图像,例如从互联网上随机下载的图像。

    自学习的问题是,如何通过无监督学习从未标记数据中学习知识,这些知识是什么,然后如何将这些知识迁移到监督学习的任务中。
    更多参考:Self-taught learning: transfer learning from unlabeled data
    .

    3 其他常用方法

    3.1 多任务学习(Multi-task Learning)

    MTL的灵感来源于人类的学习活动,人们通常将以前任务中学到的知识,应用于在新的任务中学习其他的知识。这里“以前的任务”应是相互关联的。比如小学生写文章,老师先会教他们认字、写字、学词、造句、标点…
    在这里插入图片描述

    3.2 主动学习(active learning)

    “学习模块”和“选择策略”是主动学习算法的2个基本且重要的模块。
    active
    主动学习过程:“学习模块” 先对少量标记数据进行训练,根据此次训练结果,从未标记数据中选择想要标记的数据,人类专家标记,再把新标记的数据加入训练数据中。不断重复直到学习到模型达到某种标准。

    3.3 在线学习(online learning)

    准确地说,Online Learning并不是一种模型,而是一种模型的训练方法,Online Learning能够根据线上反馈数据,实时快速地进行模型调整,使得模型及时反映线上的变化,提高线上预测的准确率。Online Learning的流程包括:将模型的预测结果展现给用户,然后收集用户的反馈数据,再用来训练模型,形成闭环的系统。

    3.3.1 增量学习(incremental learning)

    增量学习思想可以描述为:每当新增数据时,并不需要重建所有的知识库,而是在原有知识库的基础上,仅对由于新增数据所引起的变化进行更新。我们发现,增量学习方法更加符合人的思维原理。

    3.3.2 序列学习(sequence learning)

    3.4 迁移学习(transfer learning)

    3.5 联盟学习(federated learning)

    3.6 集成学习(ensemble learning)

    3.7 对抗性学习(adversarial learning)

    3.8 元学习法(meta learning)

    Targeted Learning

    Multi-modal Learning

    Bayesian Learning

    deep learning

    展开全文
  • 机器学习及其相关领域,如深度学习、自然语言处理、计算机视觉、推荐系统、强化学习等领域最近几年非常火,每年各式各样的国际顶会,投稿数每年都会海量增加。要持续Follow这些领域最新的技术,刷遍各大会议最新会议...

    图片

        机器学习是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能。

         

        机器学习及其相关领域,如深度学习、自然语言处理、计算机视觉、推荐系统、强化学习等领域最近几年非常火,每年各式各样的国际顶会,投稿数每年都会海量增加。要持续Follow这些领域最新的技术,刷遍各大会议最新会议非常费时费力,特别是对于刚入门的同学。因此,为了方便同学们了解机器学习、AI各领域的最新的技术全貌,本资源整理了各领域必读的经典综述论文,分享给大家。

        资源整理自网络,源地址:https://github.com/eugeneyan/ml-surveys

    目录

    推荐系统

        Algorithms: Recommender systems survey

        Algorithms: Deep Learning based Recommender System: A Survey and New Perspectives

        Algorithms: Are We Really Making Progress? A Worrying Analysis of Neural Recommendation Approaches

        Serendipity: A Survey of Serendipity in Recommender Systems

        Diversity: Diversity in Recommender Systems – A survey

        Explanations: A Survey of Explanations in Recommender Systems

    深度学习

        Architecture: A State-of-the-Art Survey on Deep Learning Theory and Architectures

        Knowledge distillation: Knowledge Distillation: A Survey

        Model compression: Compression of Deep Learning Models for Text: A Survey

        Transfer learning: A Survey on Deep Transfer Learning

        Neural architecture search: A Comprehensive Survey of Neural Architecture Search-- Challenges and Solutions

        Neural architecture search: Neural Architecture Search: A Survey

    自然语言处理

        Deep Learning: Recent Trends in Deep Learning Based Natural Language Processing

        Classification: Deep Learning Based Text Classification: A Comprehensive Review

        Generation: Survey of the SOTA in Natural Language Generation: Core tasks, applications and evaluation

        Generation: Neural Language Generation: Formulation, Methods, and Evaluation

        Transfer learning: Exploring Transfer Learning with T5: the Text-To-Text Transfer Transformer (Paper)

        Metrics: Beyond Accuracy: Behavioral Testing of NLP Models with CheckList

        Metrics: Evaluation of Text Generation: A Survey

    计算机视觉

        Object detection: Object Detection in 20 Years

        Adversarial attacks: Threat of Adversarial Attacks on Deep Learning in Computer Vision

        Autonomous vehicles: Computer Vision for Autonomous Vehicles: Problems, Datasets and State of the Art

    深度强化学习

        Algorithms: A Brief Survey of Deep Reinforcement Learning

        Transfer learning: Transfer Learning for Reinforcement Learning Domains

        Economics: Review of Deep Reinforcement Learning Methods and Applications in Economics

    向量化技术

        Graph: A Comprehensive Survey of Graph Embedding: Problems, Techniques and Applications

        Text: From Word to Sense Embeddings:A Survey on Vector Representations of Meaning

        Text: Diachronic Word Embeddings and Semantic Shifts

        Text: Word Embeddings: A Survey

        Meta-learning and Few-shot Learning

        NLP: Meta-learning for Few-shot Natural Language Processing: A Survey

        Domain Agnostic: Learning from Few Samples: A Survey

        NN: Meta-Learning in Neural Networks: A Survey

        Domain Agnostic: A Comprehensive Overview and Survey of Recent Advances in Meta-Learning

        Domain Agnostic: Baby steps towards few-shot learning with multiple semantics

        Domain Agnostic: Meta-Learning: A Survey

        Domain Agnostic: A Perspective View And Survey Of Meta-learning

    迁移学习

        Transfer learning: A Survey on Transfer Learning

    往期精品内容推荐

    机器学习基础教材-《数据驱动的科学与工程-机器学习、动态系统与控制》免费pdf分享

    2020年8月新书-《机器学习角度-因果推理算法介绍》免费pdf分享

    计算机视觉(CV)历史最全预训练模型(部署)汇集分享

    密歇根大学Justin Johnson-《深度学习与计算机视觉》课程视频及ppt分享

    2020年最全-少样本学习(FSL)相关综述、数据集、模型/算法和应用资源整理分享

    新书-《Bandit问题-基础、算法、理论、应用》分享

    Yann LeCun-纽约大学2020 -《深度学习(pytorch)》中英字幕视频及ppt分享

    DeepMind 2020年新课-《强化学习进阶课程》视频分享

    2020年哥伦比亚大学新课-《经济学与AI及优化》课程分享

    展开全文
  • 分布式机器学习&联邦学习论文阅读笔记一、开源框架FedML二、数据异构问题FedProxBridging Median and Mean Algorithms(NeurIPS 2020)三、边缘计算负载问题FedGKT(NeurIPS 2020)四、通信量压缩FetchSGD(ICML...
  • 吴恩达老师曾经说过,看一篇论文的关键,是复现作者的算法。然而,很多论文根本就复现不了,这是为什么呢?一、数据关系 因为作者使用的数据比较私密,一般人拿不到,这种情况下,即使作者提供了源代...
  • 分布式机器学习总结

    2021-08-02 22:07:25
    目前主流的分布式架构包括: ...3.基于数据流图的tensorflow,可以和1,2结合组成复杂的分布式机器学习网络。 4.3种模式的区别: 5.各种框架对比图, angel是腾讯开源的参数服务器框架,spark是mapredu
  • 吴恩达老师曾经说过,看一篇论文的关键,是复现作者的算法。 然而,很多论文根本就复现不了,这是为什么呢?...深度学习的很多算法,是靠大力出奇迹的方法做出来的。比如谷歌、facebook的一些算法,依靠强大.
  • 点上方人工智能算法与Python大数据获取更多干货在右上方···设为星标★,第一时间获取资源仅做学术分享,如有侵权,联系删除转载于 :专知机器学习正在医疗健康等各种关键应用得到实施。...
  • 如何阅读机器学习论文

    千次阅读 2021-09-06 08:59:03
    在这里我不会试图说服你为什么需要阅读技术和研究论文。 我们在日常生活中使用的几乎所有算法都来自技术文献或者...要了解有关感兴趣的特定主题的更多信息,最近的发现是什么,到目前为止已经完成了哪些研究,还有哪些
  • 量化投资与机器学习微信公众号,是业内垂直于量化投资、对冲基金、Fintech、人工智能、大数据等领域的主流自媒体。公众号拥有来自公募、私募、券商、期货、银行、保险、高校等行业20W+关注者...
  • 会议分类人工智能综合会议:IJCAI, AAAI计算机视觉的会议:CVPR, ICCV, ECCV机器学习类的会议:ICML, NeurIPS自然语言处理会议:ACL, EMNLP多媒体计算的会议:ACMMM数据与信息的会议:SIGIR, SIGKDD其他相关部分会议...
  • WWW2021上一篇公众号的文章由于字体颜色设置的问题,只能在微信深色背景模式下阅读QAQ。由于公众号每天只能群发一次,所以这篇文章只能晚一天和大家见面啦,在此小编和大家说一声抱歉~WWW...
  • 今天看完了一篇综述,感觉学习到了不少东西,但是文中提到的文章也有很多可以继续学习,稍微整理了一下。
  • 平台包含了超过2.3亿学术论文/专利和1.36亿学者的科技图谱,提供学者评价、专家发现、智能指派、学术地图等科技情报专业化服务。系统2006年上线,吸引了全球220个国家/地区1000多万独立IP访问,数据下载量230万次,...
  • 1、最先由谷歌提出联邦学习的概念 KONEČNÝ J, MCMAHAN H B, RAMAGE D, et al. Federated optimization: distributed machine learning for on-device intelligence[J]. arXiv preprint, 2016 2、一种通过小部分...
  • 机器学习、深度学习选题方向 2.毕业论文命题(选题)技巧 3. 难度把控 3 最后 1 .机器学习、深度学习选题方向 深度学习已经在语音识别、图像处理等方面取得了巨大成功。其研究方向可以大致分为以下几个域:(标...
  • 作者:小雨姑娘,康涅狄格大学,Datawhale成员这三天复现一个论文实验结果不正确,一直找不到原因,后来发现是自己把当成了 。如果你到现在搞不懂这两个符号的区别,这问题就跟学英语记不住周...
  • Datawhale干货作者:蛋酱、小舟,编辑:机器之心神经网络画图神器 ML Visuals 正在持续更新。去年 5 月,机器之心曾向大家推荐一款名为 ML Visuals 的机器学...
  • 平台包含了超过2.3亿学术论文/专利和1.36亿学者的科技图谱,提供学者评价、专家发现、智能指派、学术地图等科技情报专业化服务。系统2006年上线,吸引了全球220个国家/地区1000多万独立IP访问,数据下载量230万次,...
  • 欢迎关注“计算机视觉研究院”计算机视觉研究院专栏计算机视觉研究院专注CV领域的公众号扫码回复“部署”获取论文地址作者:Edison长按二维码关注导读在生产环境中部署机器学习模型是一个复杂...
  • 在这篇文章中,我们将回顾你在阅读机器学习论文时应该考虑的最重要的原则,以及作为机器学习工程师/从业者,你是否真的需要阅读论文来推进你的道路。 什么是论文? 论文是一篇书面的文章,但不是你可以在互联网博客上...
  • 机器学习期末总结

    千次阅读 多人点赞 2021-01-05 21:01:59
    很多不考的没写,仅供参考 第1章 绪论 1.基本术语 记录:如(色泽=青白;...学习/训练:从数据中学得模型的过程 测试:学的模型后,使用其进行预测的过程 2.学习任务(根据训练数据是否有标记信息) 监.
  • ©作者|曲昌博单位|西蒙菲莎大学近日,IEEE 数据工程新星奖王健楠团队论文《Are We Ready for Learned Cardinality Estimation?》夺得...
  • 平台包含了超过2.3亿学术论文/专利和1.36亿学者的科技图谱,提供学者评价、专家发现、智能指派、学术地图等科技情报专业化服务。系统2006年上线,吸引了全球220个国家/地区1000多万独立IP访问,数据下载量230万次,...
  • 文章目录机器学习的流程以及部分概念简介step1.明确需求,具体要做什么务必要明确step2.首先得获取数据,数据的获取有如下途径:step3.对数据进行基本处理step4.特征工程(很重要)1.简介:2.相关步骤step5.找到合适的...
  • 电气论文实现:电力负荷区间预测(python实现 。机器学习
  • 论文解读:韩宗博 硕士研究生 | 天津大学 智能与计算学部指导老师:张长青,天津大学副教授,博士生导师1. 方法动机多模态人工智能技术正在被广泛应用到智能医疗、无人系统等重要领域,设计精准...
  • 平台包含了超过2.3亿学术论文/专利和1.36亿学者的科技图谱,提供学者评价、专家发现、智能指派、学术地图等科技情报专业化服务。系统2006年上线,吸引了全球220个国家/地区1000多万独立IP访问,数据下载量230万次,...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 151,161
精华内容 60,464
关键字:

机器学习相关论文