2018-11-24 17:57:40 wanghr323 阅读数 310
  • 深度学习项目实战-关键点定位视频课程

    购买课程后,可扫码进入学习群,获取唐宇迪老师答疑 深度学习项目实战-关键点定位课程以人脸关键点检测为背景,选择多阶段检测的网络架构,对于回归以及多label标签问题选择hdf5作为网络的输入数据源,实例演示如何制作多标签数据源并对原始数据进行数据增强。整个网络架构采用三个阶段的模式,从全局检测到单点校准,基于caffe深度学习框架实现一个既准确又的人脸关键点检测模型。对于每一阶段,详解代码中每一行的意义,带领大家一步步完成整个网络模型。

    5783 人正在学习 去看看 唐宇迪

 

 关于“机器学习与深度学习案例实践班”通知

各有关单位:

    为进一步推动高等院校机器学习与深度学习教学工作的开展,加强国内各高等院校同行间的交流,培养国内的师资力量,将机器学习与深度学习的最新实训内容带入课堂,特举办“机器学习与深度学习案例实践班”,具体由北京中科软培科技有限公司举办,本次培训由权威师资主讲,培训主打理论结合实践主题,课程强调动手操作;内容以代码落地为主,以理论讲解为根,以公式推导为辅。

一、培训目的

   通过课程学习,可以理解机器学习的思维方式和关键技术;了解深度学习和机器学习在当前工业界的落地应用;能够根据数据分布选择合适的算法模型并书写代码,初步胜任使用Python进行数据挖掘、机器学习、深度学习等工作。

二、主讲专家:

邹博,中国科学院副研究员,天津大学软件学院创业导师,成立中国科学院邹博人工智能研究中心(杭州站),在翔创、天识、睿客邦等公司担任技术顾问,研究方向机器学习、深度学习、计算几何,应用于大型气象设备图像与文本挖掘、股票交易与预测、量子化学医药路径寻优、传统农资产品价格预测和决策等领域。

课程为多期多地点,详情咨询课程顾问:

 

三、培训内容:

 

 

 

 

 

 

 

 

 

 

 

Python与TensorFlow

 

解释器Python2.7/3.6与IDE:Anaconda/Pycharm

列表/元组/字典/类/文件

numpy/scipy/matplotlib/panda的介绍和典型使用

scikit-learn的介绍和典型使用

TensorFlow典型应用

典型图像处理

多种数学曲线

多项式拟合

快速傅里叶变换FFT

奇异值分解SVD

Soble/Prewitt/Laplacian算子与卷积网络

 

 

 

 

代码和案例实践:

卷积与(指数)移动平均线

股票数据分析

缺失数据的处理

环境数据异常检测和分析

 

 

 

 

 

 

 

 

 

 

 

 

 

 

回归分析

 

 

 

 

 

线性回归

Logistic/Softmax回归

广义线性回归

L1/L2正则化

Ridge与LASSO

Elastic Net

梯度下降算法:BGD与SGD

特征选择与过拟合

Softmax回归的概念源头

最大熵模型

K-L散度

 

代码和案例实践:

1.股票数据的特征提取和应用

2.泰坦尼克号乘客缺失数据处理和存活率预测

3.环境检测数据异常分析和预测

4.模糊数据查询和数据校正方法

5.PCA与鸢尾花数据分类

6.二手车数据特征选择与算法模型比较

7.广告投入与销售额回归分析

8.鸢尾花数据集的分类

9.TensorFlow实现线性回归

10.TensorFlow实现Logistic回归

 

 

 

 

 

决策树和随机森林

 

熵、联合熵、条件熵、KL散度、互信息

最大似然估计与最大熵模型

ID3、C4.5、CART详解

决策树的正则化

预剪枝和后剪枝

Bagging

随机森林

不平衡数据集的处理

利用随机森林做特征选择

使用随机森林计算样本相似度

异常值检测

 

 

代码和案例实践:

1.随机森林与特征选择

2.决策树应用于回归

3.多标记的决策树回归

4.决策树和随机森林的可视化

5.葡萄酒数据集的决策树/随机森林分类

6.泰坦尼克乘客存活率估计

 

 

 

 

 

SVM

 

 

线性可分支持向量机

软间隔

损失函数的理解

核函数的原理和选择

SMO算法

支持向量回归SVR

多分类SVM

代码和案例实践:

1.原始数据和特征提取

2.调用开源库函数完成SVM

4.葡萄酒数据分类

5.数字图像的手写体识别

5.MNIST手写体识别

6.SVR用于时间序列曲线预测

7.SVM、Logistic回归、随机森林三者的横向比较

 

 

 

 

 

卷积神经网络CNN

神经网络结构,滤波器,卷积

池化,激活函数,反向传播

目标分类与识别、目标检测与追踪

AlexNet、VGGNet、GoogleLeNet

Inception-V3/V4

ResNet、DenseNet

代码和案例实践:

数字图片分类

卷积核与特征提取

以图搜图

人证合一

卷积神经网络调参经验分享

 

 

 

图像视频的定位与识别

视频关键帧处理

物体检测与定位

RCNN,Fast-RCNN,Faster-RCNN,MaskRCNN

YOLO

FaceNet

代码和案例实践:

迁移学习

人脸检测

OCR字体定位和识别

睿客识云

气象识别

 

 

 

 

 

 

循环神经网络RNN

 

RNN基本原理

LSTM、GRU

Attention

CNN+LSTM模型

Bi-LSTM双向循环神经网络结构

编码器与解码器结构

特征提取:word2vec

Seq2seq模型

 

代码和案例实践:

看图说话

视频理解

藏头诗生成

问答对话系统

OCR

循环神经网络调参经验分享

 

 

 

 

 

 

 

 

自然语言处理

语言模型Bi-Gram/Tri-Gram/N-Gram

分词

词性标注

依存句法分析

语义关系抽取

词向量

文本分类

机器翻译

文本摘要

阅读理解

问答系统

情感分析

代码和案例实践:

输入法设计

HMM分词

文本摘要的生成

智能对话系统和SeqSeq模型

阅读理解的实现与Attention

 

 

 

 

 

生成对抗网络GAN

生成与判别

生成模型:贝叶斯、HMM到深度生成模型

GAN对抗生成神经网络

DCGAN

Conditional GAN

InfoGan

Wasserstein GAN

代码和案例实践:

图片生成

看图说话

对抗生成神经网络调参经验分享

 

 

 

 

 

强化学习RL

 

为何使用增强学习

马尔科夫决策过程

贝尔曼方程、最优策略

策略迭代、值迭代

Q Learning

SarsaLamda

DQN

A3C

ELF

代码和案例实践:

OpenAI

飞翔的小鸟游戏

基于增强学习的游戏学习

DQN的实现

 

 

四、时间地点:

     2019118-22日   17日报到 (北京华清温泉宾馆)

培训对象:

    各高等院校数据科学相关专业、计算机科学技术、网络工程、软件工程、信息工程、信息管理、、统计学专业、应用数学专业、经济管理专业、市场营销专业等科研、教学带头人,骨干教师、博士生、硕士生;各高校教务处、科研处、信息中心、实验中心领导。对机器学习技术有兴趣和需求,愿意进行深入钻研的从业人员。                                                                                                           
六、报名方式及费用:

报名人员可直接回复报名回执表至邮箱。或与会务组电话联系咨询。¥RMB:4900元/人(含报名费、证书费、培训费、教材费、资料费)食宿统一安排费用自理。

  • 颁发证书:

工信部和人社部相关部门颁发-证书。该证书可作为专业技术人员职业能力考核的证明,以及专业技术人员岗位聘用、任职、定级和晋升职务的重要依据。

北京中科软培科技有限公司

                             2018年11月

 

 

 

 

 

 

课程中部分案例的结果图片:

 

图1 无线电磁波频率场强预测

 

 

图2 气象设备海量雨量筒图片处理和识别

 

 

图3 雷达维修方案智能客服推送算法

 

 

图4 睿客识云(1)

 

图5 睿客识云(2)

 

 

图6 睿客OCR (1)

 

图7 睿客OCR(2)

 

 

图8  时间序列分析

 

 

图9视频检测与图像定位

 

 

图10 车辆跟踪和目标定位

 

 

图11  Topic Bi-LSTM+Attention模型框架

 

 

图12 风机发电设备缺陷检测

 

 

 

 

                               

 

 

 

 

 

 

 

2017-08-04 21:44:31 soulmeetliang 阅读数 2805
  • 深度学习项目实战-关键点定位视频课程

    购买课程后,可扫码进入学习群,获取唐宇迪老师答疑 深度学习项目实战-关键点定位课程以人脸关键点检测为背景,选择多阶段检测的网络架构,对于回归以及多label标签问题选择hdf5作为网络的输入数据源,实例演示如何制作多标签数据源并对原始数据进行数据增强。整个网络架构采用三个阶段的模式,从全局检测到单点校准,基于caffe深度学习框架实现一个既准确又的人脸关键点检测模型。对于每一阶段,详解代码中每一行的意义,带领大家一步步完成整个网络模型。

    5783 人正在学习 去看看 唐宇迪

[机器学习入门] 李宏毅机器学习笔记-37(Deep Reinforcement Learning;深度增强学习入门)

PDF VIDEO

Deep Reinforcement Learning

深度增强学习是一套很复杂的方法,在这里只了解皮毛。

Scenario of Reinforcement Learning

有个傻傻的机器人小白(Agent)去闯荡世界(Environment),世界是非常开放的,将自己的状态(State)毫不吝啬地给小白呈现 ,而小白也会做出一些懵懵懂懂的探索动作(Action),这时候世界就会告诉小白你的所作所为是好的还是不好的(Reward)。

这里写图片描述

小白看到一杯水(State),懵懂的小白一下子将它打翻了(Action),则他会收到负面反馈(Reword)。由于环境是连续的,紧接着小白面前的就是一杯被打翻的水(State),于是试着把水擦干净(Action),得到了正面反馈(Reward)。

这里写图片描述

于是,小白要做的就是,根据前面收获的正面和负面反馈,去学习哪些能时正面反馈最大化的行为。


Learning to paly Go

这里写图片描述

这里写图片描述

可见,只有在少数的action下才有reword,这是一个难点。
下面来比较一下:Learning to paly Go - Supervised v.s. Reinforcement

这里写图片描述

在下棋这个任务里,监督学习就想从老师那里学习,看到A,落子到某处,看到B,落子到……
AlphaGo 采取的策略是先用监督学习learn的不错后,再用增强学习狂下棋。


Learning a chat-bot

原来我们的方法是:

这里写图片描述

再比较一下 Supervised v.s. Reinforcement

这里写图片描述

在增强学习中,机器人小白跟人讲话,看人脸色好,就知道自己讲对了,脸色差,就反省自己做错了。

这里写图片描述

当然不断跟人讲话会把人逼疯的,所以两个小白一直对话就好,但这样也有一个问题,下棋可以判断输赢,但是对话的脸色却是不好判断的,这是该任务的尚待解决的问题。

这里写图片描述

有一个方法是,Use some pre-defined rules to evaluate the goodness of a dialogue

这里写图片描述


More applications

在一些人也不知道对错的情况下,缺少labeled data ,这时候增强学习就比较适用。

这里写图片描述

这里写图片描述


Example: Playing Video Game

这里写图片描述

Space invader

Play yourself: http://www.2600online.com/spaceinvaders.htm l • How
about machine: https://gym.openai.com/evaluations/eval_Eduozx4HRyqgTCVk9ltw

这里写图片描述

这里写图片描述

Difficulties of Reinforcement Learning

这里写图片描述


Outline

增强学习有两大类,Policy-based是在learn一个做事的actor,而Value-based会learn不做事,只会评论的Critic。

这里写图片描述

增强学习的方法很多,在这里讲的是当时的最强方法:Asynchronous Advantage Actor-Critic (A3C)
Alpha Go 用的方法是:policy-based + value-based + model-based

Policy-based Approach

Learning an Actor

这里写图片描述

function是Pi,input是environment,output是Action。

回顾Deep learning 的是那个步骤:

这里写图片描述

Step 1: Neural Network of function

这里写图片描述

这里写图片描述

NN的好处就是比较generalized,即使没见过的场景,也可能给出合理的结果。

Step 2:goodness of function

这里写图片描述

Review: Supervised learning

这里写图片描述

在增强学习中一个Actor的好坏定义是非常类似的。

这里写图片描述

期望值衡量了actor 的好坏,那么这个期望值如何计算呢?

这里写图片描述

Step 3: pick the best function

这里写图片描述

这里写图片描述

这里写图片描述

这里写图片描述

这里写图片描述

这里写图片描述

Add a Baseline:

这里写图片描述

The probability of the actions not sampled will decrease.

Value-based Approach

Learning a Critic

这里写图片描述

Three kinds of Critics

这里写图片描述

这里写图片描述

How to estimate

这里写图片描述

这里写图片描述

这里写图片描述


Actor-Critic

这里写图片描述

这里写图片描述

这里写图片描述

Demo of A3C:

走迷宫:https://www.youtube.com/watch?v=nMR5mjCFZCw

这里写图片描述

开赛车: https://www.youtube.com/watch?v=0xo1Ldx3L5Q

这里写图片描述

end!

2015-06-11 21:28:55 cv_family_z 阅读数 2456
  • 深度学习项目实战-关键点定位视频课程

    购买课程后,可扫码进入学习群,获取唐宇迪老师答疑 深度学习项目实战-关键点定位课程以人脸关键点检测为背景,选择多阶段检测的网络架构,对于回归以及多label标签问题选择hdf5作为网络的输入数据源,实例演示如何制作多标签数据源并对原始数据进行数据增强。整个网络架构采用三个阶段的模式,从全局检测到单点校准,基于caffe深度学习框架实现一个既准确又的人脸关键点检测模型。对于每一阶段,详解代码中每一行的意义,带领大家一步步完成整个网络模型。

    5783 人正在学习 去看看 唐宇迪

《nature》 机器学习各个分支(branch of machine learning) “深度学习”、“增强式学习”、“概率学习” 的最新的综述。等有空了 把他们翻译成中文

1.Deep learning,Yann LeCun, Yoshua Bengio & Geoffrey Hinton ,2 8 M AY 2 0 1 5 | VO L 5 2 1 | N AT U R E | 深度学习

   Abstract:Deep learning allows computational models that are composed of multiple processing layers to learn representations of data with multiple levels of abstraction. These methods have dramatically improved the state-of-the-art in speech recognition,visual object recognition, object detection and many other domains such as drug discovery and genomics. Deep learning discovers intricate structure in large data sets by using the backpropagation algorithm to indicate how a machine should change its internal parameters that are used to compute the representation in each layer from the representation in the previous layer. Deep convolutional nets have brought about breakthroughs in processing images, video, speech and audio, whereas recurrent nets have shone light on sequential data such as text and speech.

 2.Reinforcement learning improves behaviour from evaluative feedback. Michael L. Littman.2 8 M AY 2 0 1 5 | VO L 5 2 1 | N AT U R E | ,增强式学习

 Abstract:Reinforcement learning is a branch of machine learning concerned with using experience gained through interacting with the world and evaluative feedback to improve a system’s ability to make behavioural decisions. It has been called the artificial intelligence problem in a microcosm because learning algorithms must act autonomously to perform well and achieve their goals. Partly driven by the increasing availability of rich data, recent years have seen exciting advances in the theory and practice of reinforcement learning, including developments in fundamental technical areas such as generalization,planning, exploration and empirical methodology, leading to increasing applicability to real-life problems.

3.Probabilistic machine learning and artificial intelligence.Zoubin Ghahramani.2 8 M AY 2 0 1 5 | VO L 5 2 1 | N AT U R E ,“概率学习”

Abstract: How can a machine learn from experience? Probabilistic modelling provides a framework for understanding what learning is, and has therefore emerged as one of the principal theoretical and practical approaches for designing machines that learn from data acquired through experience. The probabilistic framework, which describes how to represent and manipulate uncertainty about models and predictions, has a central role in scientific data analysis, machine learning,robotics, cognitive science and artificial intelligence. This Review provides an introduction to this framework, and discusses some of the state-of-the-art advances in the field, namely, probabilistic programming, Bayesian optimization,data compression and automatic model discovery.


此外nature 上面也有一篇 “深度学习”结合“增强式学习”的paper-------human level control through deep reinforcement learning(DRL),DeepMind's Nature Paper and Earlier Related Work对该paper的前前后后发展介绍的网页:http://people.idsia.ch/~juergen/naturedeepmind.html

2018-01-19 11:25:51 ohbxiaoxin 阅读数 145
  • 深度学习项目实战-关键点定位视频课程

    购买课程后,可扫码进入学习群,获取唐宇迪老师答疑 深度学习项目实战-关键点定位课程以人脸关键点检测为背景,选择多阶段检测的网络架构,对于回归以及多label标签问题选择hdf5作为网络的输入数据源,实例演示如何制作多标签数据源并对原始数据进行数据增强。整个网络架构采用三个阶段的模式,从全局检测到单点校准,基于caffe深度学习框架实现一个既准确又的人脸关键点检测模型。对于每一阶段,详解代码中每一行的意义,带领大家一步步完成整个网络模型。

    5783 人正在学习 去看看 唐宇迪

机器学习:一种实现人工智能的方法

机器学习直接来源于早期的人工智能领域,传统的算法包括决策树、聚类、贝叶斯分类、支持向量机(svm)、EM、Adaboost(加强版的doosting)等等。从学习方法上来分,机器学习算法可以分为监督学习(如分类问题)、无监督学习(如聚类问题)、半监督学习、集成学习、深度学习和强化学习。

深度学习:一种实现机器学习的技术

深度学习本来并不是一种独立的学习方法,其本身也会用到有监督和无监督的学习方法来训练深度神经网络。但由于近几年该领域发展迅猛,一些特有的学习手段相继被提出(如残差网络),因此越来越多的人将其单独看作一种学习的方法。

深度强化学习——DQN

阅读数 56447

没有更多推荐了,返回首页