快捷搜索:  汽车  科技

支持向量机svm算法的缺点(一文了解svm核函数)

支持向量机svm算法的缺点(一文了解svm核函数)以高斯核函数为例,证明它可以将地位数据映射到无穷维:那么,对于x1和x2的内积形式符合在SVM中无穷维度下的内积计算,即高斯核将数据映射到无穷高的维度。核函数的本质上面说了这么一大堆,读者可能还是没明白核函数到底是个什么东西?我再简要概括下,即以下三点:

再来看高斯核:

支持向量机svm算法的缺点(一文了解svm核函数)(1)

将泰勒展开式带入高斯核,我们得到了一个无穷维度的映射:

支持向量机svm算法的缺点(一文了解svm核函数)(2)

那么,对于x1和x2的内积形式符合在SVM中无穷维度下的内积计算,即高斯核将数据映射到无穷高的维度。

核函数的本质

上面说了这么一大堆,读者可能还是没明白核函数到底是个什么东西?我再简要概括下,即以下三点:

  1. 实际中,我们会经常遇到线性不可分的样例,此时,我们的常用做法是把样例特征映射到高维空间中去(如上文2.2节最开始的那幅图所示,映射到高维空间后,相关特征便被分开了,也就达到了分类的目的);
  2. 但进一步,如果凡是遇到线性不可分的样例,一律映射到高维空间,那么这个维度大小是会高到可怕的(如上文中19维乃至无穷维的例子)。那咋办呢?
  3. 此时,核函数就隆重登场了,核函数的价值在于它虽然也是将特征进行从低维到高维的转换,但核函数绝就绝在它事先在低维上进行计算,而将实质上的分类效果表现在了高维上,也就如上文所说的避免了直接在高维空间中的复杂计算。

以高斯核函数为例,证明它可以将地位数据映射到无穷维:

支持向量机svm算法的缺点(一文了解svm核函数)(3)

如果喜欢我的文章,欢迎关注 、点赞、收藏、转发。谢谢。

支持向量机svm算法的缺点(一文了解svm核函数)(4)

猜您喜欢: