SVM对感知机与MLP的改进

SVM内容

1.线性可分支持向量机

2.线性支持向量机

等价于最小化二阶范数正则化的合页损失

3.非线性支持向量机

SVM对感知机的改进

1.感知机：经验风险，只要分对就行。SVM：从合页损失分析，不止要分对，而且要确信度高。

2.感知机：经验风险最小。SVM：加入正则化项，得到唯一超平面，结构化风险最小。模型越复杂，越有可能过拟合，测试误差大（有公式证明）

SVM对MLP的改进

1.隐藏层神经元个数确定

2.可不用梯度下降，SMO算法可求解