learning
/
DeepLearning-500-questions
mirror of https://github.com/scutan90/DeepLearning-500-questions.git
1
0
Fork 0
Code Issues Packages Projects Releases Wiki Activity

Merge pull request #336 from CoderOverflow/patch-6 

2.18.5 如何理解SVM中的对偶问题 内容修订
This commit is contained in:
scutan90 2019-04-11 20:00:09 +08:00 committed by GitHub
parent 0e48fdea5b c5dd20cf1a
commit 0bd20fa714
No known key found for this signature in database
GPG Key ID: 4AEE18F83AFDEB23
1 changed files with 3 additions and 3 deletions
Show Stats Download Patch File Download Diff File Expand all files Collapse all files

6
ch02_机器学习基础/第二章_机器学习基础.md
View File

@ -1547,7 +1547,7 @@ $$
### 2.18.5 如何理解SVM中的对偶问题 ### 2.18.5 如何理解SVM中的对偶问题
在硬间隔支持向量机中，问题的求解可以转化为凸二次规划问题。 在硬边界支持向量机中，问题的求解可以转化为凸二次规划问题。
​ 假设优化目标为 ​ 假设优化目标为
$$ $$
@ -1569,7 +1569,7 @@ $$
**step 2**.现在的问题是如何找到问题(1) 的最优值的一个最好的下界? **step 2**.现在的问题是如何找到问题(1) 的最优值的一个最好的下界?
$$ $$
\frac{1}{2}||\boldsymbol w||^2 < v\\ \frac{1}{2}||\boldsymbol w||^2 < v\\
1 - y_i(\boldsymbol w^T\boldsymbol x_i+b) \leq 0\tag{3} 1 - y_i(\boldsymbol w^T\boldsymbol x_i+b) \leqslant 0\tag{3}
$$ $$
若方程组(3)无解， 则v是问题(1)的一个下界。若(3)有解， 则 若方程组(3)无解， 则v是问题(1)的一个下界。若(3)有解， 则
$$ $$
@ -1596,7 +1596,7 @@ $p^*$为原问题的最小值，对应的$w,b$分别为$w^*,b^*$,则对于任意
$$ $$
p^* = \frac{1}{2}||\boldsymbol w^*||^2 \geqslant L(\boldsymbol w^*, b,\boldsymbol a) \geqslant \min_{\boldsymbol w, b} L(\boldsymbol w, b,\boldsymbol a) p^* = \frac{1}{2}||\boldsymbol w^*||^2 \geqslant L(\boldsymbol w^*, b,\boldsymbol a) \geqslant \min_{\boldsymbol w, b} L(\boldsymbol w, b,\boldsymbol a)
$$ $$
则 $\min_{\boldsymbol w, b} L(\boldsymbol w, b,\boldsymbol a)$是问题（1）的一个下届。 则 $\min_{\boldsymbol w, b} L(\boldsymbol w, b,\boldsymbol a)$是问题（1）的一个下界。
此时，取最大值即可求得好的下界，即 此时，取最大值即可求得好的下界，即
$$ $$