一种改进的求解支持向量机模型的坐标梯度下降算法

于静,韩鲁青

系统科学与数学 ›› 2018, Vol. 38 ›› Issue (5) : 583-590.

PDF(419 KB)
PDF(419 KB)
系统科学与数学 ›› 2018, Vol. 38 ›› Issue (5) : 583-590. DOI: 10.12341/jssms13402
论文

一种改进的求解支持向量机模型的坐标梯度下降算法

    于静1,韩鲁青2
作者信息 +

A Coordinate Gradient Descent Algorithm for Support Vector Machines Training

    YU Jing1, HAN Luqing2
Author information +
文章历史 +

摘要

针对支持向量机模型问题,给出了一种新的坐标梯度下降算法.算法首先求解一个特殊的二次规划问题,将所得的结果进行分解后,得到每次迭代所需要的工作集,然后,求解一个降维的二次规划子问题得到下降方向.新算法无需进行线搜索,避免了线搜索带来的时间和空间上的开销,使得计算量大大减少.最后,在较弱的条件下证明了算法的全局收敛性,并利用数值实验证明了算法的可行性和有效性.

Abstract

In this paper, a new coordinate gradient descent algorithm is proposed for training support vector machines. At each iteration, a special quadratic programming problem is solved, the solution of which is decomposed into the sum of a number of vectors to obtain the working set. Then a reduced quadratic programming sub-problem is solved, with only the constraints in the working set. The new algorithm reduces the computational amount of time and space without using any line search and is proved to be globally convergent under weak conditions. Finally, numerical experiments show that the algorithm is feasible and effective.

关键词

支持向量机 / 坐标梯度下降 / 分解方法 / 工作集 / 全局收敛性.

引用本文

导出引用
于静 , 韩鲁青. 一种改进的求解支持向量机模型的坐标梯度下降算法. 系统科学与数学, 2018, 38(5): 583-590. https://doi.org/10.12341/jssms13402
YU Jing , HAN Luqing. A Coordinate Gradient Descent Algorithm for Support Vector Machines Training. Journal of Systems Science and Mathematical Sciences, 2018, 38(5): 583-590 https://doi.org/10.12341/jssms13402
PDF(419 KB)

Accesses

Citation

Detail

段落导航
相关文章

/