1. 前言

• 转载请注明出处
• 文章中有一部分内容是个人理解，所以内容仅供参考
• 这篇文章是讲解sklearn库中SVM部分中SVC这一API.
• 关于实战部分可以参考这篇文章（有源码，可直接运行）：【Sklearn】【实战】【SVM】乳腺癌检测，模拟线上部署（1）
• 这里是官方说明文档传送门：sklearn.svm.SVC
• 本文约7000字，阅读完毕大约需要10分钟
• 本文可当做开发时的开发手册作为参考，建议收藏

2. 简介

• SVC为Support Vector Classification的简写，顾名思义，其是基于支持向量的分类器
• SVC是基于libsvm实现的
• SVC的拟合时间是和样本数量呈二次方指数关系，因此这一分类模型适用于样本较小情况，如果样本数量过大（超过1W），建议使用其他模型，例如LinearSVC 或者 SGDClassifier

3. 语法

3.1 API形式

• 形式如下，里面的参数均为默认参数

SVC( C=1.0, kernel='rbf', degree=3, gamma='scale', coef0=0.0, shrinking=True, probability=False, tol=0.001, 
cache_size=200, class_weight=None, verbose=False, max_iter=- 1, decision_function_shape='ovr', 
break_ties=False, random_state=None)

3.2 参数说明

3.3 属性说明

4. 方法说明

4.1 decision_function(X)

1. 描述： 计算所有样本X的决策函数
2. 参数： X为所有样本组成的二维数组，大小为(n_samples, n_features)
3. 返回值： 返回模型中每个类的样本决策函数，大小为 (n_samples, n_classes * (n_classes-1) / 2)
4. 注意： 如果decision_function_shape =“ ovr”，则返回值的大小为（n_samples，n_classes）

4.2 fit(X, y, sample_weight=None)

1. 描述： 用训练数据拟合模型
2. 参数： X: 训练数据; y: 训练数据标签； sample_weight: 每个样本的权重，(n_samples,)
3. 返回值： 自身，拟合好的模型
4. 注意： 无

4.3 get_params(deep=True)

1. 描述： 获取模型的所有参数
2. 参数： 如果为真，则将返回此模型和作为模型的所包含子对象的参数
3. 返回值： 字典类型， 所有的参数
4. 注意： 无

4.4 predict(X)

1. 描述： 用拟合好的模型对所有样本X进行预测
2. 参数： 所有预测样本，二维数组（n_samples, n_features)
3. 返回值： 所有预测 X的预测标签，一维数组，(n_sample, )
4. 注意： 无

4.5 predict_log_proba(X)

1. 描述： 计算所有预测样本在每个类别上的对数概率
2. 参数： 所有预测样本，二维数组（n_samples, n_features)
3. 返回值： 返回模型中每个类的样本的对数概率，二维数组，(n_samples, n_classes)
4. 注意： 在模型训练时，需要将 probability参数设置为True，才能使用此方法

4.6 predict_proba(X)

1. 描述： 计算所有预测样本在每个类别上的概率
2. 参数： 所有预测样本，二维数组（n_samples, n_features)
3. 返回值： 返回模型中每个类的样本的对数概率，二维数组，(n_samples, n_classes)
4. 注意： 在模型训练时，需要将 probability参数设置为True，才能使用此方法

4.7 score(X, y, sample_weight=None)

1. 描述： 返回给定测试数据上的平均准确度
2. 参数： X: 训练数据; y: 训练数据标签； sample_weight: 每个样本的权重，(n_samples,)
3. 返回值： 浮点类型，平均准确度
4. 注意： 无

4.8 set_params(**params)

1. 描述： 重置当前模型的参数
2. 参数： 字典类型，内容为当前模型的参数
3. 返回值： 重置参数后的模型
4. 注意： 无

5. 总结

不知不觉六个小时已经过去了，这会儿已经凌晨四点了。本以为这篇文章两个小时就能结束。无奈中间遇到了一个又一个不懂的知识点，整个过程就像升级打怪一样，在整理整个API的过程中，个人对模型的理解更深刻了，颇有收获。

有时间再继续往下更新~

希望这篇文档能对各位看官产生一定的帮助， 如有不妥，欢迎评论区指正~

6. 参考资料

1. LIBSVM: A Library for Support Vector Machines
   
2. 英文版：sklearn.svm.SVC
3. RBF径向基函数
4. Gram矩阵和核函数
5. SVM的概率输出（Platt scaling）
   

sklearn.svm.SVC(C=1.0, kernel='rbf', degree=3, gamma='auto', coef0=0.0, shrinking=True, probability=False, tol=0.001, cache_size=200, class_weight=None, verbose=False, max_iter=-1, decision_function_shape=None,random_state=None)

参数：

• C：C-SVC的惩罚参数C?默认值是1.0
  C越大，相当于惩罚松弛变量，希望松弛变量接近0，即对误分类的惩罚增大，趋向于对训练集全分对的情况，这样对训练集测试时准确率很高，但泛化能力弱。C值小，对误分类的惩罚减小，允许容错，将他们当成噪声点，泛化能力较强。

• kernel ：核函数，默认是rbf，可以是‘linear’, ‘poly’, ‘rbf’, ‘sigmoid’, ‘precomputed’
  – 线性：u’v
  – 多项式：(gamma*u’v + coef0)^degree
  – RBF函数：exp(-gamma|u-v|^2)
  –sigmoid：tanh(gammau’*v + coef0)

• degree ：多项式poly函数的维度，默认是3，选择其他核函数时会被忽略。

• gamma ： ‘rbf’,‘poly’ 和‘sigmoid’的核函数参数。默认是’auto’，则会选择1/n_features

• coef0 ：核函数的常数项。对于‘poly’和 ‘sigmoid’有用。

• probability ：是否采用概率估计.默认为False
  布尔类型，可选，默认为False
  决定是否启用概率估计。需要在训练fit()模型时加上这个参数，之后才能用相关的方法：predict_proba和predict_log_proba

• shrinking ：是否采用shrinking heuristic方法，默认为true

• tol ：停止训练的误差值大小，默认为1e-3

• cache_size ：核函数cache缓存大小，默认为200

• class_weight ：类别的权重，字典形式传递。设置第几类的参数C为weight*C(C-SVC中的C)

• verbose ：允许冗余输出？

• max_iter ：最大迭代次数。-1为无限制。

• decision_function_shape ：‘ovo’, ‘ovr’ or None, default=None3

• random_state ：数据洗牌时的种子值，int值

主要调节的参数有：C、kernel、degree、gamma、coef0。

SVM种类，用途和关键参数表

使用SVM预测模型的通用步骤

• 选择使用的SVM类
• 用数据训练模型
• 检查验证误差并作为基准线
• 为SVM参数尝试不同的值
• 检查验证误差是否改进
• 再次使用最优参数的数据来训练模型

样例代码

import numpy as np
from sklearn.model_selection import GridSearchCV
parameters={'kernel':['linear','rbf','sigmoid','poly'],'C':np.linspace(0.1,20,50),'gamma':np.linspace(0.1,20,20)}
svc = svm.SVC()
model = GridSearchCV(svc,parameters,cv=5,scoring='accuracy')
model.fit(X_train,y_train)
model.best_params_
model.score(X_test,y_test)