主要内容和目标

  • 理解支持向量机的知识结构
  • 理解支持向量机的原理和目标(重要)
  • 理解算法推到的核心过程和意义
    • 关键是损失函数与约束条件的意义(重点)
  • 理解核函数的意义和方法

知识结构

SVM总体上分为三类问题:

  1. hard margin SVM : 样本本来就可以清楚地区分成两类的,通过一条线就可以把样本A和样本B区分开来。对样本要求比较高,因此实际应用不多。
  2. soft margin SVM:应用广泛的是soft margin SVM。对于不能完全区分为两类的样本,可以有一个最好的方法区分两个样本。 soft margin SVM包含hard margin SVM。
  3. Kernel + (soft)SVM:Kernel是一套独立的知识体系,不是Kernel的原生内容。
  4. 对偶函数:凸优化的内容。不是SVM的原生内容。

几个概念:

  1. 线性可分支持向量机
    1. 硬间隔最大化 hard margin maximization
    2. 硬间隔支持向量机
  2. 线性支持向量机
    1. 软间隔支持向量机soft margin maximization
    2. 软间隔支持向量机
  3. 非线性支持向量机
    1. 核函数kernel function进行解决