线上期刊服务咨询,发表咨询:400-808-1701 订阅咨询:400-808-1721

一种基于Comid的非光滑损失随机坐标下降方法

陶卿; 朱烨雷; 罗强; 孔康 电子学报 2013年第04期

摘要:坐标下降方法以简洁的操作流程、低廉的计算代价和快速的实际收敛效果,成为处理大规模优化最有效的方法之一.但目前几乎所有的坐标下降方法都由于子问题解析求解的需要而假设损失函数的光滑性.本文在结构学习的框架下,在采用Comid方法求解随机挑选单变量子问题的基础上,提出了一种新的关于非光滑损失的随机坐标下降方法.理论分析表明本文所提出的算法在一般凸条件下可以得到O(√t/t)的收敛速度,在强凸条件下可以得到O(Int/t)的收敛速度.实验结果表明本文所提出的算法对正则化Hinge损失问题实现了坐标优化预期的效果.

关键词:机器学习优化大规模坐标下降方法非光滑损失

单位:中国人民解放军陆军军官学院; 安徽合肥230031

注:因版权方要求,不能公开全文,如需全文,请咨询杂志社

电子学报

北大期刊

¥1540.00

关注 25人评论|0人关注