阅读量：

224

作者：

邓卫钊

展开

摘要：

随着大数据时代的到来,模式识别中涌现出了大量高维大样本数据.对现阶段分类算法的处理速度和识别正确率均提出了挑战.本文主要研究了凸优化算法中对高维大样本数据处理相对较快的算法模型,并进行了应用实验,取得了良好效果.首先,本文分析了梯度下降法的原理及优缺点,在此基础之上,引入了随机梯度下降法,并详细分析了其求解步骤和收敛性.随后与多类SVM结合,进行了仿真实验和日常活动识别实验,均取得了良好效果.其中,日常活动识别的分类正确率达到了95.18%.其次,针对梯度下降法迭代计算量大,不适合高维数据和随机梯度下降法连续随机梯度变化较大,有可能指向相反方向的缺点,又引出了半随机梯度下降法.本文详细推导了半随机梯度下降法的算法步骤,并分析了其收敛性和最优参数选取.将其与Logistic回归模型结合进行了仿真实验,并应用于精神分裂症的分类诊断问题中.实验结果表明,本文方法对精神分裂症的诊断取得了较好效果,分类正确率达到91.41%,高于随机梯度下降法,且计算速度较快.最后,本文分析了坐标下降法的基本原理,并延伸出了对偶坐标下降法.随后分析了对偶坐标下降法的主要计算步骤和收敛性,并与二值Logistic回归和最大熵模型结合,分别从它们的对偶问题进行求解.然后在基准数据集和自然语言处理数据集上进行了实验,并将收敛性和正确率与其它相关算法进行对比,取得了良好效果.

展开

关键词：

随机梯度下降 半随机梯度下降 对偶坐标下降 多类SVM Logistic回归 最大熵模型

学位级别：

硕士

学位年度：

2016

被引量：

2