摘要针对大规模机器学习中的优化问题,随机方差缩减梯度下降法(SVRG)是一类常用的一阶随机优化方法,而 Lissa 算法则是求解该类问题的代表性二阶方法.该研究在 SVRG 算法框架下,引入 Lissa 算法中的二阶曲率近似机制,提出了一种融合一阶与二阶信息的 SVRG-Lissa 加速算法.在目标函数光滑且强凸的条件下,本研究从理论上证明了 SVRG-Lissa 算法具有线性收敛性.数值实验结果表明,与传统 SVRG 算法相比,SVRG-Lissa 算法在求解效率上具有明显优势.
更多相关知识
- 浏览0
- 被引0
- 下载0

相似文献
- 中文期刊
- 外文期刊
- 学位论文
- 会议论文


换一批



