在这里插入图片描述

一、机器学习与应用

1.“人工智能之父”–艾伦.图灵

图灵测试（1950）
在这里插入图片描述

2.人工智能的知识图谱

在这里插入图片描述

二、AI,ML,DL的关系

1.机器学习是实现人工智能的一种方法,深度学习是机器学习一个分支

在这里插入图片描述

2.机器学习领域

自然语言处理
图像处理
传统预测
学习完之后可以干什么？

图像处理
图像识别

图像处理
人脸识别

3.机器学习库和框架

在这里插入图片描述

4.什么是机器学习？

机器学习是从数据中自动分析获得规律(模型),并利用规律对未知数据进行预测
在这里插入图片描述

5.为什么需要机器学习？

5.1 解放生产力,智能客服

5.2 解决专业问题,ET医疗

5.3 提供社会便利,城市大脑

三、机器学习应用程序的步骤

1.收集数据

2.准备输入数据

3.分析输入数据

4.训练算法

5.测试算法

6.使用算法

四、数据来源与类型

1.数据来源

1.企业日益积累的大量数据（互联网公司更为显著）
2.政府掌握的各种数据
3.科研机构的实验数据

2.数据类型

离散型数据：由记录不同类别个体的数目所得到的数据，又称计数数据，所有这
些数据全部都是整数，而且不能再细分，也不能进一步提高他们的精确度。
连续型数据：变量可以在某个范围内取任一数，即变量的取值可以是连续的，如，
长度、时间、质量值等，这类整数通常是非整数，含有小数部分。

3.可用数据集

Kaggle特点
（1）大数据竞赛平台
（2）80万科学家
（3）真实数据
（4）数据量巨大
（5）Kaggle网址：https://www.kaggle.com/datasets
scikit-learn特点(自带数据集,方便演示)
（1）数据量较小
（2）方便学习
（3）scikit-learn网址：http://scikit-learn.org/stable/datasets
UCI特点
（1）收录了360个数据集
（2）覆盖科学、生活、经济等领域
（3）数据量几十万
（4）UCI数据集网址： http://archive.ics.uci.edu/ml/

4.常用数据集数据的结构组成

结构：特征值+目标值

五、数据的特征工程

1.特征工程是什么?

特征工程是将原始数据转换为更好地代表预测模型的潜在问题的特征的过程，从而提高了对未知数据的模型准确性

2.特征工程的意义?

直接影响预测结果

点击上面的目录链接可快速定位所需内容，点击每个文章链接可全文查看。

本页面一周一更新，无新文章不更新，上次更新2018年4月18日。

机器学习基本理论

基本术语与方法

特征选择概述

特征选择的基本方法概述

特征选择与特征提取（降维）

特征选择方法与理解

多目标优化问题

分类算法、经典算法

分类算法包括KNN、SVM算法和聚类算法、当然像遗传算法、PSO算法都是很流行的。

分类算法

NSGA2算法

NSGA-II多目标遗传算法概述

NSGA2算法MATLAB实现（能够自定义优化函数）

NSGA2算法特征选择MATLAB实现（多目标）

NSGA-Ⅱ算法Matlab实现（测试函数为ZDT1）

NSGA-Ⅱ算法C++实现（测试函数为ZDT1）

NSGA-II快速非支配排序算法理解

随机固定分组合作协同进化NSGA2算法（CCNSGA2）

粒子群优化算法（PSO）

MATLAB粒子群优化算法实现（PSO）

粒子群优化（PSO）算法概述

Python粒子群优化算法实现（PSO）

随机固定分组合作协同进化PSO算法（CCPSO）

PSO算法特征选择MATLAB实现（单目标）

基于柯西和高斯分布的单目标PSO

聚类算法

k-means算法概述

MATLAB工具箱k-means算法

蚁群算法（ACO）

蚁群算法（ACO）最短路径规划（MATLAB）

蚁群算法（ACO）MATLAB实现

其它算法

模拟退火算法（SAA）C语言与MATLAB实现

变邻域搜索算法（Variable Neighborhood Search,VNS）

前沿算法

本部分展现的论文中讨论和提出的机器学习算法。

NSGA2算法

NSGA-II多目标遗传算法概述

NSGA2算法MATLAB实现（能够自定义优化函数）

NSGA2算法特征选择MATLAB实现（多目标）

NSGA-Ⅱ算法Matlab实现（测试函数为ZDT1）

随机固定分组合作协同进化NSGA2算法（CCNSGA2）

NSGA-Ⅱ算法C++实现（测试函数为ZDT1）

前沿PSO算法

基于粒子交互学习策略的PSO算法（IIL-PSO）

基于柯西和高斯分布的单目标PSO

多目标CSO算法（MOCSO）理解

差分分组算法

差分分组合作协同进化MATLAB代码

差分分组的合作协同进化的大规模优化算法概述

一个更快更准确的差分分组大规模黑盒子优化算法概述

其它算法

超启发式算法

马尔科夫毯（Markov Blankets）

变邻域搜索算法（Variable Neighborhood Search,VNS）

基于VNS及马尔科夫毯分组的高维特征选择算法

自我评价算法（SEE）框架

演化计算算法

演化计算是模拟自然界中的生物的演化过程产生的一种群体导向的随机搜索技术和方法。

基于粒子交互学习策略的PSO算法（IIL-PSO）

基于量子遗传的函数寻优算法MATLAB实现

人工鱼群算法MATLAB实现

蚁群算法（ACO）最短路径规划（MATLAB）

蚁群算法（ACO）MATLAB实现

协同进化/演化

协同演化算法(coevolutionary algorithms,CEA)是当前国际上计算智能研究的一个热点,它运用生物协同演化的思想,是针对演化算法的不足而兴起的,通过构造两个或多个种群,建立它们之间的竞争或合作关系,多个种群通过相互作用来提高各自性能,适应复杂系统的动态演化环境,以达到种群优化的目的。

合作协同进化算法概述（Cooperative Coevolution）

广义协同进化算法概述

合作协同进化详解及伪代码

随机固定分组合作协同进化NSGA2算法（CCNSGA2）

随机固定分组合作协同进化PSO算法（CCPSO）

差分分组合作协同进化MATLAB代码

差分分组的合作协同进化的大规模优化算法概述

python机器学习

python机器学习只适合做小规模的算法和简单神经网络，适合入门新手学习，由于Python的效率极低，一般前沿研究中不使用Python进行大数据学习。因此下面很多算法是基于Python模块编写的机器学习代码。

Python支持向量机（SVM）实例

Python机器学习房价预测 (斯坦福大学机器学习课程)

Python粒子群优化算法实现（PSO）

NLTK在python中对文字所表达的情感预测

Python机器学习与拼写检查器

Python英文搜索引擎（模糊搜索）

基于词典的社交媒体内容的情感分析（Python实现）

深度学习神经网络

深度学习的概念源于人工神经网络的研究。含多隐层的多层感知器就是一种深度学习结构。深度学习通过组合低层特征形成更加抽象的高层表示属性类别或特征，以发现数据的分布式特征表示。

深度学习和经典机器学习对比

神经网络模型详解

特征选择算法

特征选择( Feature Selection )也称特征子集选择( Feature Subset Selection , FSS )，或属性选择( Attribute Selection )。是指从已有的M个特征(Feature)中选择N个特征使得系统的特定指标最优化，是从原始特征中选择出一些最有效特征以降低数据集维度的过程,是提高学习算法性能的一个重要手段,也是模式识别中关键的数据预处理步骤。对于一个学习算法来说,好的学习样本是训练模型的关键。

NSGA2算法特征选择MATLAB实现（多目标）

PSO算法特征选择MATLAB实现（单目标）

基于VNS及马尔科夫毯分组的高维特征选择算法

[机器学习入门] 李宏毅机器学习笔记-24（introduction of Structured Learning;结构化学习介绍）

PDF	VIDEO

introduction of Structured Learning

到目前为止，不管是做SVM还是Deep Learning，input 和 output 都只是向量，而实际上我们真正面对的问题，要比向量更复杂，因此我们需要一个f，来计算两个object。

这里写图片描述

Example Application

这里写图片描述

Structure Learning 听起来很麻烦，但实际上我们有一种Unified Framework。

这里写图片描述

Example 1 Unified Framework – Object Detection

这里写图片描述

那么是怎么做的呢？

我们的目的就是训练出一个f ，使方框框在不同位置时，有不同的输出，比如上图红绿蓝三个框，显然红框应该得到最好的输出。相应的test如下。

这里写图片描述

example 2 Unified Framework - Summarization

这里写图片描述

example 3 Unified Framework -Retrieval

这里写图片描述

将Unified Framework 换一种说法。

training：x,y一起出现的几率。
testing：根据这个几率，找最有可能的y

这里写图片描述

用几率来做也有坏处与坏处。

Drawback for probability：
* Probability cannot explain everything
* 0-1 constraint is not necessary

Strength for probability ：
* Meaningful

There are three problems in this framework.

这里写图片描述

problem 1 :

这里写图片描述

problem 2 :

这里写图片描述

problem 3 :

这里写图片描述

Link to DNN?

DNN是 Structure Learning 的特殊情况，比如在手写识别中：

这里写图片描述

机器学习 第一讲 机器学习概述

文章目录

一、机器学习与应用

1.“人工智能之父”–艾伦.图灵

2.人工智能的知识图谱

二、AI,ML,DL的关系

1.机器学习是实现人工智能的一种方法,深度学习是机器学习一个分支

2.机器学习领域

3.机器学习库和框架

4.什么是机器学习？

5.为什么需要机器学习？

5.1 解放生产力,智能客服

5.2 解决专业问题,ET医疗

5.3 提供社会便利,城市大脑

三、机器学习应用程序的步骤

1.收集数据

2.准备输入数据

3.分析输入数据

4.训练算法

5.测试算法

6.使用算法

四、数据来源与类型

1.数据来源

2.数据类型

3.可用数据集

4.常用数据集数据的结构组成

五、数据的特征工程

1.特征工程是什么?

2.特征工程的意义?

机器学习

文章目录

机器学习基本理论

基本术语与方法

特征选择概述

多目标优化问题

分类算法、经典算法

分类算法

NSGA2算法

粒子群优化算法（PSO）

聚类算法

蚁群算法（ACO）

其它算法

前沿算法

NSGA2算法

前沿PSO算法

差分分组算法

其它算法

演化计算算法

协同进化/演化

python机器学习

深度学习神经网络

特征选择算法

搜一下

云标签

机器学习模型结构图

[机器学习入门] 李宏毅机器学习笔记-24（introduction of Structured Learning;结构化学习介绍）

introduction of Structured Learning

Example 1 Unified Framework – Object Detection

example 2 Unified Framework - Summarization

example 3 Unified Framework -Retrieval

将Unified Framework 换一种说法。

There are three problems in this framework.

problem 1 :

problem 2 :

problem 3 :

Link to DNN?

机器学习系列(4)_机器学习算法一览，应用建议与解决思路

机器学习入门好文，强烈推荐

[机器学习]机器学习笔记整理02-机器学习概述

机器学习：常见的机器学习算法归纳

机器学习系列(7)_机器学习路线图(附资料)

[详解机器学习]机器学习之认知篇

机器学习简介

[机器学习]机器学习资源大全中文版

[机器学习]机器学习笔记整理03-深度学习概述

[机器学习篇]基于Python机器学习常用库

机器学习100+问

机器学习十大算法

[机器学习入门] 李宏毅机器学习笔记-27（Structured SVM part 2；结构化支持向量机 part 2）

Python与机器学习之模型结构(泊松分布)

机器学习第一讲机器学习概述