• 论文 • 上一篇    下一篇

一种改进的求解支持向量机模型的坐标梯度下降算法

于静1,韩鲁青2   

  1. 1. 天津理工大学 管理学院, 天津300384;  2. 天津大学 管理与经济学部,天津 300072
  • 出版日期:2018-05-25 发布日期:2018-07-11

于静,韩鲁青. 一种改进的求解支持向量机模型的坐标梯度下降算法[J]. 系统科学与数学, 2018, 38(5): 583-590.

YU Jing, HAN Luqing. A Coordinate Gradient Descent Algorithm for Support Vector Machines Training[J]. Journal of Systems Science and Mathematical Sciences, 2018, 38(5): 583-590.

A Coordinate Gradient Descent Algorithm for Support Vector Machines Training

YU Jing1, HAN Luqing2   

  1. 1. School of Management, Tianjin University of Technology, Tianjin 300384; 2. College of Management and Economics, Tianjin University, Tianjin 300072
  • Online:2018-05-25 Published:2018-07-11

针对支持向量机模型问题,给出了一种新的坐标梯度下降算法.算法首先求解一个特殊的二次规划问题,将所得的结果进行分解后,得到每次迭代所需要的工作集,然后,求解一个降维的二次规划子问题得到下降方向.新算法无需进行线搜索,避免了线搜索带来的时间和空间上的开销,使得计算量大大减少.最后,在较弱的条件下证明了算法的全局收敛性,并利用数值实验证明了算法的可行性和有效性.

In this paper, a new coordinate gradient descent algorithm is proposed for training support vector machines. At each iteration, a special quadratic programming problem is solved, the solution of which is decomposed into the sum of a number of vectors to obtain the working set. Then a reduced quadratic programming sub-problem is solved, with only the constraints in the working set. The new algorithm reduces the computational amount of time and space without using any line search and is proved to be globally convergent under weak conditions. Finally, numerical experiments show that the algorithm is feasible and effective.

()
[1] 胡雪梅, 李佳丽, 蒋慧凤. 机器学习方法研究肝癌预测问题[J]. 系统科学与数学, 2022, 42(2): 417-433.
[2] 张婷婷, 王沫然, 魏得胜, 刘志峰. 季节调整FWA-SVR模型及其在旅游经济预测中的应用[J]. 系统科学与数学, 2021, 41(6): 1572-1584.
[3] 胡雪梅, 蒋慧凤. 具有技术指标的逻辑回归模型预测谷歌股票的涨跌趋势[J]. 系统科学与数学, 2021, 41(3): 802-823.
[4] 李萍,倪志伟,朱旭辉,宋娟. 基于改进萤火虫算法的SVR空气污染物浓度预测模型[J]. 系统科学与数学, 2020, 40(6): 1020-1036.
[5] 韩璐,苏治,刘志东. 金融市场的协动预测模型: DWT-SVM方法[J]. 系统科学与数学, 2020, 40(12): 2342-2356.
[6] 张文,崔杨波,姜祎盼. 基于SVM$^{K\text{-}{\rm Means}}$的非均衡P2P网贷平台风险预测研究[J]. 系统科学与数学, 2018, 38(3): 364-378.
[7] 李萍,倪志伟,朱旭辉,伍章俊. 基于分形流形学习的支持向量机空气污染指数预测模型[J]. 系统科学与数学, 2018, 38(11): 1296-1306.
[8] 唐振鹏,黄双双,陈尾虹. 基于支持向量机的银行系统重要性评估研究[J]. 系统科学与数学, 2018, 38(1): 57-77.
[9] 朱旭辉,倪志伟,倪丽萍,程美英,李敬明,金飞飞. 基于相异度的SVM选择性集成雾霾天气预测方法[J]. 系统科学与数学, 2017, 37(6): 1480-1493.
[10] 王勇,董恒新. 大数据背景下中国季度失业率的预测研究------基于网络搜索数据的分析[J]. 系统科学与数学, 2017, 37(2): 460-472.
[11] 张燕,张晨光,张夏欢. 平衡化图半监督学习方法[J]. 系统科学与数学, 2016, 36(8): 1107-1118.
[12] 朱旭辉,倪志伟,程美英. 基于人工鱼群和分形学习的雾霾天气预报方法[J]. 系统科学与数学, 2016, 36(11): 1887-1901.
[13] 张少白,曾又,刘友谊. 基于DIVA模型的脑电信号识别方法[J]. 系统科学与数学, 2015, 35(5): 489-498.
[14] 张国山,王一鸣,王世伟,刘万泉. 常微分方程近似解的LS-SVM改进求法[J]. 系统科学与数学, 2013, 33(6): 695-707.
[15] 姜永艳. 时变时滞系统族的鲁棒正不变集[J]. 系统科学与数学, 2013, 33(4): 412-418.
阅读次数
全文


摘要