1.1 模式与模式识别

模式可以看作是对象的组成成分或影响因素间存在的规律性关系，或者是因素间存在确定性或随机性规律的对象、过程或事件的集合。

模式识别就是对模式的区分和认识，把对象根据其特征归到若干类别中适当的一类。

模式识别是通过一系列数学方法让机器（计算机）来实现类似人的模式识别能力。

样本：所研究对象的一个个体。

样本集：若干样本的集合。

类或类别：在所有样本上定义的一个子集，处于同一类的样本在我们所关心的某种性质上是不可区分的，即具有相同的模式。

特征：指用于表征样本的观测，通常是数值表示的某些量化特征，有时也被称为属性。如果存在多个特征，则它们就组成了特征向量。样本的特征构成了样本的特征空间，空间的维数就是特征的个数，而每一个样本就是特征空间的一个点。某些情况下，对样本的原始描述可能是非数值形式的，此时通常需要采用一定的方法把这些特征转换成数值特征。

已知样本：指事先知道的类别标号的样本。

未知样本：指类别标号未知但特征已知的样本。

所谓模式识别的问题就是用计算机的方法根据样本的特征将样本划分到一定的类别中去。

1.2 模式识别的主要方法

解决模式识别问题的方法可以归纳为基于基础知识的方法和基于数据的方法两大类。

1.3 监督模式识别与非监督模式的识别

监督模式识别：在要解决的模式是别的问题中，我们已知要划分的类别，并且能够获得一定数量的类别已知的训练样本，这种情况下建立分类器的问题属于监督学习的问题。

无监督模式识别：根据样本特征将样本聚成几个类，使属于同一个类的样本在一定意义上是相似的，而不同类之间的样本则由较大差异，这种学习过程称为非监督模式学习。

1.4  模式识别系统举例

语音识别

说话人识别

字符与文字识别

复杂图像中特定目标的识别

1.5 模式识别的系统的典型构成

一个模式识别系统通常包括原始数据的获取和预处理、特征提取与选择，分类或聚类、后处理四个主要部分。

处理监督模式识别问题的一般步骤：

分析问题：深入研究应用领域的问题，分析是否属于模式识别问题，把所研究的目标表示为一定的类别，分析给定数据或者可以观测的数据中哪些因素可能与分类有关。

原始特征获取：设计实验，得到已知样本，对样本实施观测和预处理，获取可能与样本分类有关的观测向量（原始特征）

特征提取与选择：为了更好地进行分类，可能需要采用一定的算法对特征进行再次提取和选择。

分类器设计：选择一定的分类器方法，用已知样本进行分类器训练

分类决策：利用一定的算法对分类器性能进行分类，必要时根据领域知识进行进一步处理。

处理非监督模式识别问题的一般步骤：

分析问题：深入研究应用领域的问题，分析研究目标能否通过寻找适当的聚类来达到；如果可能，猜测可能的或希望的类别数目；分析给定数据或者可以观测的数据中哪些因素可能与聚类有关。

原始特征的获取：设计实验，得到待分析的样本，对样本实施观测和预处理，获取可能与样本聚类有关的观测向量（原始特征）

特征提取与选择：为了更好地进行聚类，可能需要采用一定的算法对特征进行再次提取和选择。

聚类分析：选择一定的非监督模式识别方法，用样本进行聚类分析。

结果解释：考察聚类结果的性能，分析所得聚类与研究目标之间的关系，根据领域知识分析结果的合理性，对聚类的含义给出解释；如果有新样本，把聚类结果用于新样本分类。

 

 

 

 

 

模式识别诞生于20实际20年代，随着40年代计算机的出现，50年代人工智能的兴起，模式识别在60年代初迅速发展成为一门学科。简单点说，模式识别是根据输入的原始数据对齐进行各种分析判断，从而得到其类别属性，特征判断的过程。为了具备这种能力，人类在过去的几千万年里，通过对大量事物的认知和理解，逐步进化出了高度复杂的神经和认知系统。举例来说，我们能够轻易的判别出哪个是钥匙、哪个是锁，哪个是自行车、哪个是摩托车；而这些看似简单的过程，其背后实际上隐藏着非常复杂的处理机制。而弄清楚这些机制的作用机理正是模式识别的基本任务。
那么，到底什么是模式呢？广义地说，模式是存在于时间和空间中的可观察的事物，如果我们可以区别它们是否相同或者是否相似，那我们从这种事物所获取的信息就可以称之为模式。人们为了掌握客观的事物，往往会按照事物的相似程度组成类别，而模式识别的作用和目的就在于把某一个具体的事物正确的归入某一个类别。
下面我们举一些例子来说明，到底哪些是模式识别的范畴：
1．将铅笔、钢笔、圆珠笔、毛笔、彩笔都归类为书写用的“笔”；
2．医生根据心电图化验单来判断病人是否得心脏病；
3．警察根据指纹来进行身份验证；
4．利用计算机进行字符识别；
5．根据用户的虹膜进行身份识别；
6．判断当前用户发出的声音是什么字符；
7．判断当前图片中是否有行人、人脸、车辆等；
8．对出现在图片序列中的行人、车辆进行跟踪；
9．对图片中的人脸进行身份识别验证；
10．对车辆的拍照进行识别；
11．判断车辆的颜色、车型；
12．在海量图片库当中寻找与某一张图片相似的若干图片；
13．根据用户哼唱的音调搜索对应的歌曲；

　　人工智能、大数据、云计算和物联网的未来发展值得重视，均为前沿产业，多智时代专注于人工智能和大数据的入门和科谱，在此为你推荐几篇优质好文：

1.模式识别应用于哪些领域，模式识别技术的发展趋势

http://www.duozhishidai.com/article-15389-1.html

2.计算机视觉与图像处理、模式识别和机器学习，之间有什么关系？

http://www.duozhishidai.com/article-4119-1.html

3.语音的识别过程主要分哪几步，常用的识别方法是什么？

http://www.duozhishidai.com/article-1739-1.html

[多智时代-人工智能和大数据学习入门网站|人工智能、大数据、物联网、云计算的学习交流网站](http://www.duozhishidai.com)

——这是一篇来自菜鸟的学习笔记——

　　

　　初次接触模式识别是在大三的专业课，当时学的也是一脸懵逼，总之特别绕，但是里面的内容在我后来的学习和竞赛之中提供了很多帮助，现在趁自己空闲之际再次整理下相关知识，为自己之后在人工智能、图像处理的学习打一下基础。（教材《模式识别》　张学工）
1. 什么是模式识别

　　模式识别，简单来说，就是用计算机来模仿人类判别事物的能力。涉及两个概念：

　　①模式：对具体的事物所进行观测得到的具有时间和空间分布的信息

　　②模式类：模式所属于的类别／同一类模式的总体

2. 模式识别方法

　　基本的模式识别方法有两种：统计模式识别和结构模式识别。统计模式识别主要由四部分组成：数据获取、预处理、特征提取和选择、分类决策，如下图所示：



3. 模式识别的基本问题

　　①模式类的紧致性：

　　个人理解，在一系列样本中，存在分界面，能将这些样本分成几类，样本中临界点（靠近分界面的点）相比样本数目很少。

　　

　　样本（a）满足紧致性要求，无临界点；

　　样本（b）有一些临界点；

　　样本（c）临界点多到无法分类。

　　②相似与分类：

　　相似性度量：目前广泛采用在空间中定义某种距离，用空间中的点代表样本，点与点之间的距离最近。

　　分类：分类主要复杂在带有很大的主观性，如何分类主要取决于行为的目的和方法，以此来满足紧致性要求。

　　③特征的生成：

　　特征是决定相似性与分类的关健，当我们确定分类的目的后，寻找合适的特征尤为重要。由原始信息直接进行计算得到我们所需的特征是很困难的，但我们可以模仿仿生学的观点，利用特定神经元对特定特征有突出的反映，设计由复杂到深入的结构，从而对问题进行很好的分类。

　　

　　总之，模式识别是一门比较复杂的科目，最终理解后又会觉得很有意思，模式识别的很多思想和方法和人工智能相似，并且在图像处理方面也有很多应用，系统的学习下受益匪浅。新手上路，欢迎各路大牛批评斧正！

一、什么是模式识别
人类每时每刻在完成某种模式识别的任务，例如读书看报（文字识别）、茫茫人海中寻找一个伙伴（特征识别）、鸟鸣（声音识别)……人们对外界对象的几乎所有认识都是对类别的认识，通过计算机模仿人脑对现实世界各种事物 进行描述、分类、判断和识别的过程即为模式识别。那么什么是模式呢？顾名思义，模式即为模式识别的对象，可以是一些文字，一个人，一张纸，鸟语花香等等一切可以进行识别测量的生活中的事物。
在对模式识别有了大致的认识之后，开始正式学习前，以下这些关键名词需要理解掌握
样本（sample）：所研究对象的一个个体。

样本集（sample set）: 若干样本构成的集合。

类或类别（class）：在所有样本上定义的一个子集，处于同 一类的样本在某种性质上是不可区分的。

特征（features）：指用于表征样本的观测，通常是数值表示的某些量化特征，有时也被称作属性。如果存在多个特征，则组成了特征向量。

已知样本（known samples）：事先知道类别标号的样本。

未知样本（unknown samples）：类别标号未知但特征已知的样本。
模式识别的问题就是用计算的方法根据样本的特征对样本进行分类。
二、模式识别的主要方法
（1）基于知识的方法 (Knowledge-based)
例如：AI、专家系统(Expert Systems)

句法（结构）模式识别 (Syntax PR or Structural	PR)
（2）基于数据的方法 (Data-based)

例如：统计模式识别方法（Statistical PR）、人工神经网络(ANN)、 支持向量机(SVM)

基于数据的识别方法，基础是统计模式识别，即依据统计的原理来构建分类器。下图为统计模式识别过程


基于数据的模式识别方法适用于已知对象的某些特征与我们所 感兴趣的类别性质有关系，但无法确切描述这种关系的情况。

分类和特征之间的关系可以完全确切的描述出来，采用基于知 识的方法更有效；

若二者的关系完全随机，即不存在规律性的练习，应用模式识 别也无法得到有意义的结果。
三、监督模式识别与非监督模式识别
监督模式识别

已知类别，并且能够获得类别已知的训练样本，这种情况 下建立分类器的问题属于监督学习问题，称为监督模式识别。
非监督模式识别
事先我们并不知道类别，也没有类别已知的样本。根据样本特征将样本分为几个类（划分的过程称为聚类），使属于同一类的样本在一定程度上是相似的，而不同类别之间的样本有较大差异。这种学习过程称作非监督模式识别。
四、模式识别系统举例
笔者在此摘录了一些书籍上的例子，如下：

1、语音识别

2、说话人识别（通过语音来确定说话者的身份）

3、字符与文字识别

4、复杂图像中特定目标的识别（道路检测、复杂图像中人脸检测）

5、根据地震勘探数据对地下存储性质的识别

6、利用基因表达数据进行癌症的分类
五、模式识别系统的典型构成
一个模式识别系统通常包括原始数据的获取和预处理、 特征提取与选择、分类或聚类、后处理 四个主要部分。
监督模式识别(supervised PR)：



监督模式识别问题一般步骤：

分析问题---->原始特征获取—>特征提取与选择—>设计分类器
非监督模式识别(unsupervised PR)



非监督模式识别问题一般步骤：

分析问题---->原始特征获取—>特征提取与选择—>聚类分析—>结果解释
区别:
监督模式识别需要训练数据，根据训练样本设计分类器

非监督模式识别则不需要训练数据，是根据样本的相似性来进行分类的。
特征提取与选择、分类器设计和聚类分析，以及分类器和聚类结果的性能评价方法 等是各种模式识别系统中具有共性的步骤，是整个系统的核心，也是模式识别学科研究的主要内容。
笔者最近在学习模式识别，以上是对模式识别的基本概念做了大致阐述，与大家分享，共同学习，共同进步。若有描述不当的地方，还请指正，感激不尽！
参考所学书籍《模式识别》第三版 （张工学先生编著）