​

一、神经网络-支持向量机

支持向量机(Support Vector Machine)是Cortes和Vapnik于1995年首先提出的，它在解决小样本、非线性及高维模式识别中表现出许多特有的优势，并能够推广应用到函数拟合等其他机器学习问题中。 1 数学部分 1.1 二维空间 ​​​ ​​​ ​​​ ​​​ ​​​ ​​​ ​​​ ​​​ ​​​ 2 算法部分 ​​​ ​​​ ​​​ ​

二、遗传算法

• 遗传算法(Genetic Algorithm，GA)是一种进化算法，其基本原理是仿效生物界中的“物竞天择、适者生存”的演化法 则，它最初由美国Michigan大学的J. Holland教授于1967年提出。 • 遗传算法是从代表问题可能潜在的解集的一个种群(population)开始的，而一个种群则由经过基因(gene)编码的一 定数目的个体(individual)组成。因此，第一步需要实现从表现型到基因型的映射即编码工作。初代种群产生之后，按照 适者生存和优胜劣汰的原理，逐代(generation)演化产生出越来越好的近似解，在每一代，根据问题域中个体的适应度 (fitness)大小选择个体，并借助于自然遗传学的遗传算子(genetic operators)进行组合交叉和变异，产生出代表新 的解集的种群。这个过程将导致种群像自然进化一样，后生代种群比前代更加适应于环境，末代种群中的最优个体经过解 码(decoding)，可以作为问题近似最优解。

• 遗传算法有三个基本操作：选择(Selection)、交叉(Crossover)和变异(Mutation)。 • (1)选择。选择的目的是为了从当前群体中选出优良的个体，使它们有机会作为父代为下一代繁衍子孙。根据各个个体的 适应度值，按照一定的规则或方法从上一代群体中选择出一些优良的个体遗传到下一代种群中。选择的依据是适应性强的 个体为下一代贡献一个或多个后代的概率大。 • (2)交叉。通过交叉操作可以得到新一代个体，新个体组合了父辈个体的特性。将群体中的各个个体随机搭配成对，对每 一个个体，以交叉概率交换它们之间的部分染色体。 • (3)变异。对种群中的每一个个体，以变异概率改变某一个或多个基因座上的基因值为其他的等位基因。同生物界中一样， 变异发生的概率很低，变异为新个体的产生提供了机会。

遗传算法的基本步骤：

1)编码：GA在进行搜索之前先将解空间的解数据表示成遗传空间的基因型串结构数据， 这些串结构数据的丌同组合便构成了丌同的点。 2)初始群体的生成：随机产生N个初始串结构数据，每个串结构数据称为一个个体，N个 个体构成了一个群体。GA以这N个串结构数据作为初始点开始进化。 3)适应度评估：适应度表明个体或解的优劣性。丌同的问题，适应性函数的定义方式也丌 同。

4)选择：选择的目的是为了从当前群体中选出优良的个体，使它们有机会作为父代为下一 代繁殖子孙。遗传算法通过选择过程体现这一思想，进行选择的原则是适应性强的个体为 下一代贡献一个或多个后代的概率大。选择体现了达尔文的适者生存原则。 5)交叉：交叉操作是遗传算法中最主要的遗传操作。通过交叉操作可以得到新一代个体， 新个体组合了其父辈个体的特性。交叉体现了信息交换的思想。 6)变异：变异首先在群体中随机选择一个个体，对于选中的个体以一定的概率随机地改变 串结构数据中某个串的值。同生物界一样， GA中变异发生的概率很低，通常取值很小。

​

遗传算法工具箱：

• MATLAB内嵌遗传算法工具箱: gadst • Sheffield大学遗传算法工具箱: gatbx • 北卡罗来纳大学遗传算法工具箱: gaot

initializega函数：

​

ga函数：

​

​

遗传算法优化BP神经网络初始权值与阈值：

​

​三、代码

%遗传算法主程序
%Name:genmain05.m
clear
clf
popsize=20; %群体大小
chromlength=10; %字符串长度(个体长度)
pc=0.6; %交叉概率
pm=0.001; %变异概率

pop=initpop(popsize,chromlength); %随机产生初始群体
for i=1:20 %20为迭代次数
[objvalue]=calobjvalue(pop); %计算目标函数
fitvalue=calfitvalue(objvalue); %计算群体中每个个体的适应度
[newpop]=selection(pop,fitvalue); %复制
[newpop]=crossover(pop,pc); %交叉
[newpop]=mutation(pop,pc); %变异
[bestindividual,bestfit]=best(pop,fitvalue); %求出群体中适应值最大的个体及其适应值
y(i)=-max(bestfit);
n(i)=i;
pop5=bestindividual;
x(i)=decodechrom(pop5,1,chromlength)*10/1023;
pop=newpop;
end

fplot('x^2-4*x+20',[0 10])
hold on
plot(x,y,'r*')
hold off


[z index]=min(y); %计算最大值及其位置，这里取的是y向量中的最大值，如果求最小值应该取min，同时修改适应度函数
x5=x(index)%计算最大值对应的x值
y=z

​

5.参考文献：

书籍《MATLAB神经网络43个案例分析》

​

​

该楼层疑似违规已被系统折叠 隐藏此楼查看此楼

下面是一个调用SVM分类的一个实例，这个例子svmtrain没有传参数。我现在要用粒子群算法优化支持向量机的参数，请哪位大神告诉我怎么调用svmtrain函数的语法怎么写，将优化的参数传进去？ 谢谢各位大神！！！！！！！！

============================实例研究====================

load fisheriris

%载入matlab自带的数据[有关数据的信息可以自己到UCI查找,这是UCI的经典数据之一],得到的数据如下图:

其中meas是150*4的矩阵代表着有150个样本每个样本有4个属性描述,species代表着这150个样本的分类.

data = [meas(:,1), meas(:,2)];

%在这里只取meas的第一列和第二列,即只选取前两个属性.

groups = ismember(species,'setosa');

%由于species分类中是有三个分类:setosa,versicolor,virginica,为了使问题简单,我们将其变为二分类问题:Setosa and non-Setosa.

[train, test] = crossvalind('holdOut',groups);

cp = classperf(groups);

%随机选择训练集合测试集[有关crossvalind的使用请自己help一下]

其中cp作用是后来用来评价分类器的.

svmStruct = svmtrain(data(train,:),groups(train),'showplot',true);

%使用svmtrain进行训练,得到训练后的结构svmStruct,在预测时使用.

classes = svmclassify(svmStruct,data(test,:),'showplot',true);

%对于未知的测试集进行分类预测,结果如图:

tu3

3.jpg (37.34 KB)

2009-5-12 19:50

classperf(cp,classes,test);

cp.CorrectRate

ans =

0.9867