一、训练支持向量机的极大熵方法(论文文献综述)
黄华娟,韦修喜[1](2019)在《基于自适应调节极大熵的孪生支持向量回归机》文中研究说明孪生支持向量回归机(Twin Support Vector Regression,TSVR)的数学模型是求解一对约束优化问题,如何将约束优化问题转化为无约束优化问题进行求解是一个难题.在TSVR约束优化模型的基础上,依据最优化理论提出TSVR的无约束优化问题.然而,无约束优化问题的目标函数有可能不可微,为解决这个问题,引入极大熵函数,确保优化问题都是可微的.标准的极大熵函数法有可能发生数值溢出,所以对极大熵函数法进行了改进,提出自适应调节极大熵函数法来逼近TSVR的不可微项,并提出基于自适应调节极大熵函数法的TSVR学习算法.实验结果表明,和其他回归方法相比,所提算法不仅能够提高回归精度,而且效率得到了较大的提高.
张秀玲,黄英,朱水芳,杨瑛,潘绪斌[2](2015)在《入侵生物适生区与种群动态中的数学方法》文中认为生物入侵会带来严重的环境问题与经济问题,近年来生物入侵问题正受到越来越多的关注,而且随着全球交流活动的频繁,生物入侵现象也日益严重。在生物入侵的研究中,建立数学模型尤其重要。本文首先对生物入侵中有关物种适生区预测的常见模型中的统计方法进行介绍,主要包括线性回归模型及广义线性回归模型、广义可加模型、多元自适应回归样条函数、分类回归树、助推树、极大化熵方法和支持向量机方法等,并对这些方法在生物入侵模型中的具体应用进行简要说明,然后对生物入侵中种群动态及物种扩散的常用数学方法进行了简要介绍,最后对入侵生物适生区分析与种群动态中的数学方法进行总结和展望。
于乐源,张勇[3](2014)在《支持向量机的乘子极大熵方法》文中认为对于支持向量机的小样本识别问题,给出了一个近似算法—乘子极大熵算法.首先把支持向量机模型的Wolfe对偶问题转化为极大极小模型,然后利用乘子极大熵算法来求这个极大极小问题的解.支持向量机的乘子极大熵算法是一个集极大熵法和乘子法两者优点于一身的算法,它可以把非光滑的问题变成光滑的,能在一定程度上减少迭代次数,提高计算速度,并且可以避免海森阵病态的问题.对于文中的两个例子,该算法都得到了比较好的实验结果,表明了该算法的有效性.乘子极大熵算法比较适用于小样本的识别问题,特别是医学上的癌前诊断问题的判别.
李文法,孙连英,刘畅,马小军[4](2013)在《GATS-LSVM:新的网络入侵检测方法》文中研究表明针对现有网络入侵检测方法的不足,提出了一种新的网络入侵检测方法——GATS-LSVM算法。该方法采用遗传算法(GA)与禁忌搜索(TS)相混合的搜索策略对特征子集空间进行随机搜索,利用提供的数据在无约束优化线性支持向量机(LSVM)上的分类错误率作为特征子集的评估标准获取最优特征子集,从而有效地对入侵进行检测。大量基于着名的KDD Cup 1999数据集的实验表明,该新方法相对于其它一些传统的网络入侵检测方法,能在保证较高检测率的前提下,有效地降低误报率、入侵检测的计算复杂度和提高检测速度,能更适用于现实高速网络应用环境。
许建琼[5](2013)在《支持向量机的调节熵函数法研究》文中研究指明在统计学基础上提出的机器学习方法SVM (Support Vector Machine)在训练学习机器时,其学习方式是SRM (Structural Risk Minimization)准则,因此,学习机器不光具有简洁的数学形式,还使得其几何解释直观,易泛化。除此之外,它还将一般的学习问题与凸二次规划问题建立关联,凸二次规划问题的解即为原问题的解,从而保证所得解并非局部极值,而是全局最优解。SVM是一种集多种标准的机器学习技术于一身的新技术,它集成了最大间隔超平面、Mercer核、凸二次规划、稀疏解和松弛变量等技巧。在解决各种挑战性的实际问题中都有它成功的应用,譬如它可以用来预测、分类和线性与非线性回归。在对SVM研究中,学者们提出了各种各样的算法,这些算法要么有某一方面的优势,要么有一定的应用范围,且都是采用二次规划或线性方程组来求解相应的最优化问题。在模式识别中,SVM利用二次规划对偶技巧把优化问题转化为高维特征空间中一个简单约束的二次规划问题。虽然,通过分解训练样本集或序贯输入样本的方式能够处理这种高维的对偶规划,由此产生的算法既节省了存储空间,又提高了计算效率。但是,这些算法的设计和实现都比较复杂。极大熵方法是近几年提出的新算法,对于多约束非线性规划、极大极小等问题,通过该方法都能快速处理,与已有方法相比,其特点是:更易实现、更稳定、收敛更快。除此之外,极大熵方法在求解不可微和大型多约束等问题时也是有效的,因此,该方法有很高的应用价值。但其不足之处是对问题的精确解只有在参数p→∞时才能得到,当p取较大值时,又容易产生数值的溢出现象。针对这种弊端,本文在对SVM的理论基础----统计学理论和最优化理论,以及SVM本身的分类思想、方法和回归原理做了较为详细的研究和阐述后,根据SVC的分类方法和SVR的回归原理,提出了一种新的求解SVM优化问题的带调节因子的熵函数法。它克服了现有熵函数法只有参数p取得很大才能逼近问题的精确解的不足。将它应用在SVM的模式分类和回归问题中,能在低存储需求条件下有效地提高SVC的分类精度和SVR的回归性能。
雍睿[6](2012)在《基于物流车队应用SVM文本挖掘研究》文中认为随着计算机技术和系统工程学的飞速发展,在全球信息化大潮的推动下,数据挖掘已成为研究中活跃份子之一,从数据中发现有价值的知识模式已成为具有重要意义的研究领域。支持向量机是一种新型机器学习方法,它较好地解决了非线性、高维数等问题,已经应用在许多领域,如手写数字识别、对象识别、文本分类等。但是新的方法也存在问题需要解决,如文本分类具有类别和样本数目多、噪音多、各类别样本数目不均衡等特点,使得支持向量机用于文本分类时存在训练速度和分类速度较慢的缺点。为了解决实体物流公司车队车辆使用情况不易监控,保养维护不能及时到位等问题,本文针对物流公司车队行车记录进行文本挖掘,监控每一次运输任务对车辆使用强度,利用信息技术对车辆保养维修做到精细化管理。行车记录挖掘基于中文分词处理技术,利用TF×IDF方法将特征项进行加权,并用向量空间方法将行车记录文本表达为数学方式经行后续挖掘计算。在特征项降维处理中,通过实验对信息增益、交叉熵、互信息和χ2统计四种降维方法进行比较,观察出信息增益和互信息最合适行车记录特点,最终作为降维方法。行车记录分类采用支持向量机算法。标准支持向量机只能用于单标号样本分类,本文针对多类分类问题,提出了树形结构构建多类支持向量机分类器。为了优化分类器效率,提出使用聚类算法思想,构造平衡二叉树结构,以提高分类器分类速度。还对常用的h次多项式核函数,高斯径向基核函数和S型核函数三种核函数经行实验,找出准确性较高的核函数。在系统设计上,各个模块采用低耦合方式设计,便于监视文本挖掘过程中各个环节的输出值,并提高系统灵活性,使各个模块便于维护和修改。
张岩[7](2011)在《基于SVM算法的文本分类器的实现》文中认为支持向量机(Support Vector Machine,SVM)是一种新型机器学习方法,它是以统计学习理论为基础,较好地解决了非线性、高维数、局部小样本等实际问题。文本分类是基于内容的自动信息管理的核心技术。文本向量的最大特点是稀疏性大和维数高,支持向量机对于处理高维数的问题具有较大的优势。因此,支持向量机非常适用于文本分类问题,在文本分类中具有很大的应用潜力。由于支持向量机具有全局最优、结构简单、推广能力强等优点,近几年成为机器学习领域的研究热点并且广泛应用于文本分类等领域。本文简单介绍了文本分类的发展、研究现状、以及文本分类的过程。并在此基础上对SVM算法的理论进行了深入的研究,同时在该算法的基础上研究了基于SVM算法的文本分类系统,并对系统结构和运行结果进行了简单的分析。
刘叶青[8](2009)在《原始空间中支持向量机若干问题的研究》文中认为支持向量机成为一种主要的机器学习技术已经有十多年了,然而它的大部分学习算法都是在对偶空间针对其对偶问题提出的。近年来的研究表明,直接在原始空间对支持向量机的原始问题进行求解也是训练支持向量机的一种有效途径。随着人们在原始空间对支持向量机研究的深入,实际应用中碰到的各种问题也开始在原始空间进行求解,如半监督学习问题等。但总体来说,支持向量机在原始空间中的研究还不是很多,也不够完善。因此,本文重点研究了原始空间中支持向量机分类算法的以下四个问题。1.针对光滑支持向量机中现有的光滑函数逼近精度不高的问题,将正号函数变形并展开为无穷多项式级数,由此得到了一族多项式光滑函数,并证明了这类光滑函数的优良性能,它既能满足任意阶光滑的要求,也能达到任意给定的逼近精度。最后将得到的多项式光滑函数用于求解广义支持向量机。2.半监督支持向量机利用大量的未标记样本和少量的标记样本共同学习以改进其泛化性能,最后得到一个非凸优化问题,对其优化采取两种策略:组合优化和连续优化。组合优化的具体方法是给出了一个自训练半监督支持向量机分类算法,它的子程序是用前面得到的多项式光滑函数在原始空间求解标准支持向量机。接下来用连续优化的方式给出了一个多项式光滑的半监督支持向量机分类算法,给出的多项式函数有严格的理论基础,并且在样本的高密度区逼近精度高,而当逼近精度低时,则出现在样本的低密度区。3.直接方法是一类常用的无约束优化技术,简便实用,它和之前用于支持向量机的循环算法不同,不是一次更新w的所有分量,而是每次通过解一个单变量的子问题来更新w的一个分量。本文分别用Hooke and Jeeves模式搜索法、Rosenbrock转轴法和Powell方向加速法求解线性支持向量机,并分析了算法的复杂性。4.支持向量机采用的线性Hinge损失函数对噪声样本产生的损失没有限制,这是支持向量机对噪声敏感的根本原因。由于特殊的损失函数能有效抑制噪声产生的损失,本文据此给出了一个全新的双曲正切损失函数,并在此基础上给出了相应的健壮支持向量机。实验表明上述方法和结果在支持向量机算法中均具有较好的学习性能。
李文法,段洣毅,陈友,程学旗[9](2009)在《基于MRMHC-LSVM的IP流分类》文中研究指明提出了一种构建轻量级的IP流分类器的wrapper型特征选择算法MRMHCLSVM。该算法采用改进的随机变异爬山(MRMHC)搜索策略对特征子集空间进行随机搜索,然后利用提供的数据在无约束优化线性支持向量机(LSVM)上的分类错误率作为特征子集的评价标准来获取最优特征子集。在IP流数据集上进行了大量的实验,实验结果表明基于MRMHC-LSVM的流分类器在不影响分类准确度的情况下能够提高检测速度,与当前典型的流分类器NBK-FCBF相比,基于MRMHC-LSVM的IP流分类器具有更小的计算复杂度与更高的检测率。
吴青[10](2009)在《基于优化理论的支持向量机学习算法研究》文中进行了进一步梳理支持向量机是借助优化方法解决机器学习问题的新工具.近年来,支持向量机越来越受到人们的广泛关注,在其理论研究和算法实现方面都取得了重大进展,成为机器学习领域的前沿热点课题.支持向量机将机器学习问题转化为优化问题,并应用优化理论构造算法.优化理论是支持向量机的重要理论基础之一,本文主要从优化理论和方法的角度对支持向量机进行研究.主要内容如下:1.对最小二乘支持向量机进行研究.提出一类训练最小二乘支持向量机的条件预优共轭梯度法.当训练样本的个数较大时,最小二乘支持向量机需要求解高阶线性方程组,利用分块矩阵的思想将该高阶线性方程组系数矩阵降阶,为了提高收敛速度,克服数值的不稳定性,采用条件预优共轭梯度法求解低阶的线性方程组,大大提高了最小二乘支持向量机的训练速度.2.对光滑支持向量机进行研究.无约束支持向量机模型是非光滑不可微的,许多优化算法无法直接用来求解该模型.采用CHKS函数作为光滑函数,提出了光滑的CHKS支持向量机模型,并用Newton-Armijo算法来训练该模型.该算法通过批处理训练来提高训练速度,节省存储空间,可以有效求解高维、大规模的分类问题.3.基于优化理论中的KKT互补条件,分别建立了支持向量分类机和支持向量回归机的无约束不可微优化模型,并给出了有效的光滑化近似解法.建立了支持向量分类机的无约束不可微优化模型,给出了求解支持向量分类机的调节熵函数法.该方法不需要参数取值很大就可以逼近问题的最优解,避免了一般熵函数法为了逼近精确解,参数取得过大而导致数值的溢出现象;调节熵函数法同样可以用来训练无约束不可微的支持向量回归机,提出了求解支持向量回归机的调节熵函数法,有效避免了数值的溢出现象.这两个算法分别为求解支持向量分类机和支持向量回归机提供了新的思路.4.对模糊支持向量机进行研究.针对支持向量分类机对训练样本中的噪声和孤立点特别敏感的问题,提出了一类基于边界向量提取的模糊支持向量机方法.选择可能成为支持向量的边界向量作为新样本,减少了参与训练的样本数目,提高了训练速度.样本的隶属度根据边界样本和噪声点与所在超球球心的距离分别确定,减弱了噪声点的影响,增强了支持向量对支持向量机分类的作用;为了克服最小二乘支持向量机对于孤立点过分敏感的问题,将模糊隶属度概念引入最小二乘支持向量机中,提出了基于支持向量域描述的模糊最小二乘支持向量回归机.新的隶属度的定义减弱了噪声点的影响.把所要求解的约束凸二次优化问题转化为正定线性方程组,并采用快速Cholesky分解的方法求解该方程组.在不牺牲训练速度的前提下,比支持向量机和最小二乘支持向量机具有更高的预测精度.5.对半监督支持向量机进行研究.为了改进?TSVM的分类性能,引进了一个光滑分段函数,给出了光滑分段半监督支持向量机模型.光滑分段函数的逼近性能优于高斯近似函数.根据光滑分段半监督支持向量机的非凸特性,首次采用保证收敛的线性粒子群算法来训练半监督支持向量机,光滑分段半监督支持向量机在分类性能上优于?TSVM.
二、训练支持向量机的极大熵方法(论文开题报告)
(1)论文研究背景及目的
此处内容要求:
首先简单简介论文所研究问题的基本概念和背景,再而简单明了地指出论文所要研究解决的具体问题,并提出你的论文准备的观点或解决方法。
写法范例:
本文主要提出一款精简64位RISC处理器存储管理单元结构并详细分析其设计过程。在该MMU结构中,TLB采用叁个分离的TLB,TLB采用基于内容查找的相联存储器并行查找,支持粗粒度为64KB和细粒度为4KB两种页面大小,采用多级分层页表结构映射地址空间,并详细论述了四级页表转换过程,TLB结构组织等。该MMU结构将作为该处理器存储系统实现的一个重要组成部分。
(2)本文研究方法
调查法:该方法是有目的、有系统的搜集有关研究对象的具体信息。
观察法:用自己的感官和辅助工具直接观察研究对象从而得到有关信息。
实验法:通过主支变革、控制研究对象来发现与确认事物间的因果关系。
文献研究法:通过调查文献来获得资料,从而全面的、正确的了解掌握研究方法。
实证研究法:依据现有的科学理论和实践的需要提出设计。
定性分析法:对研究对象进行“质”的方面的研究,这个方法需要计算的数据较少。
定量分析法:通过具体的数字,使人们对研究对象的认识进一步精确化。
跨学科研究法:运用多学科的理论、方法和成果从整体上对某一课题进行研究。
功能分析法:这是社会科学用来分析社会现象的一种方法,从某一功能出发研究多个方面的影响。
模拟法:通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。
三、训练支持向量机的极大熵方法(论文提纲范文)
(1)基于自适应调节极大熵的孪生支持向量回归机(论文提纲范文)
1 孪生支持向量回归机 |
2 自适应调节极大熵的孪生支持向量回归机 |
2.1 无约束TSVR模型 |
2.2 自适应调节参数的极大熵函数 |
2.3 基于自适应调节极大熵的孪生支持向量回归机(AEF-TSVR) |
3 数值实验与分析 |
3.1 人工数据集上的实验 |
3.2 UCI数据集上的实验 |
4 结论 |
(2)入侵生物适生区与种群动态中的数学方法(论文提纲范文)
1物种适生区研究中的统计方法 |
1.1线性回归模型 (Linear Regression Model)及广义线性 回归模型 (Generalized Linear Regression Model) |
1.2广义可加模型(GeneralizedAdditiveModel) |
1.3广义线性模型的其他拓展模型 |
1.4多元自适 应回归样 条函数 (Multivariate Adaptive Regression Splines, MARS) |
1.5分类回归树(ClassificationandRegressionTrees) |
1.6助推树(BoostedTrees) |
1.7极大熵方法(MaximumEntropyMethod) |
1.8支持向量机(SupportVectorMachines) |
2种群动态过程及传播扩散中的数学方法 |
3总结和展望 |
(4)GATS-LSVM:新的网络入侵检测方法(论文提纲范文)
0 引言 |
1 GATS-LSVM算法 |
1.1 GATS搜索策略 |
1.2 无约束优化线性支持向量机 |
2 基于GATS-LSVM的入侵检测 |
3 实验研究 |
3.1 数据集及实验环境 |
3.2 真阳性率和假阳性率的对比 |
3.3 检测速度的对比 |
4 结论 |
(5)支持向量机的调节熵函数法研究(论文提纲范文)
摘要 |
Abstract |
目录 |
第1章 绪论 |
1.1 研究背景及意义 |
1.2 支持向量机研究现状 |
1.3 本论文的主要研究内容 |
1.4 本文的章节安排 |
第2章 统计学习理论 |
2.1 机器学习问题 |
2.2 统计学习理论 |
2.3 本章小结 |
第3章 最优化理论 |
3.1 KKT条件 |
3.2 Lagrange对偶 |
3.3 Wolfe对偶 |
3.4 本章小结 |
第4章 支持向量机分类机 |
4.1 最优分类超平面 |
4.2 线性支持向量分类机 |
4.3 非线性支持向量分类机 |
4.4 本章小结 |
第5章 支持向量回归机 |
5.1 损失函数 |
5.2 支持向量回归机 |
5.3 本章小结 |
第6章 支持向量机的调节熵函数法 |
6.1 支持向量分类机的调节熵函数法 |
6.2 支持向量回归机的调节熵函数法 |
6.3 本章小结 |
总结与展望 |
致谢 |
参考文献 |
(6)基于物流车队应用SVM文本挖掘研究(论文提纲范文)
内容摘要 |
Abstract |
第1章 引言 |
1.1 研究背景 |
1.2 本文内容安排 |
1.3 研究方法 |
第2章 文献综述 |
2.1 国外研究现状 |
2.2 国内研究现状 |
第3章 中文文本分类技术 |
3.1 本文分类概述 |
3.2 文本预处理及中文分词 |
3.3 向量空间模型表示文本 |
3.4 文本分类算法 |
3.5 分类器性能评估 |
第4章 基于SVM文本分类的研究 |
4.1 SVM概述 |
4.2 线性可分的SVM |
4.3 非线性可分的SVM |
4.4 SVM训练算法 |
第5章 基于支持向量机的多类分类研究 |
5.1 多类SVM研究现状 |
5.2 一种改进的多类SVM |
5.3 基于聚类算法改进的二叉树SVM |
第6章 系统建模和设计 |
6.1 系统背景及目的 |
6.2 系统模型设计及改进 |
6.3 系统结构 |
6.4 分词模块研究与设计 |
6.5 文本表示模块研究与设计 |
6.6 SVM训练模块研究与设计 |
第7章 实验分析 |
7.1 实验环境及评价指标 |
7.2 降维算法实验 |
7.3 支持向量机核函数实验 |
第8章 总结与展望 |
8.1 总结 |
8.2 研究工作展望 |
参考文献 |
后记 |
(7)基于SVM算法的文本分类器的实现(论文提纲范文)
摘要 |
ABSTRACT |
第一章 绪论 |
1.1 研究目的与意义 |
1.2 国内外研究现状与评述 |
1.2.1 文本分类理论的研究现状 |
1.2.2 支持向量机(SVM)理论的研究现状 |
1.3 文本分类存在问题 |
1.4 本文工作 |
1.4.1 本文研究内容 |
1.4.2 本文组织结构 |
第二章 自动文本分类技术 |
2.1 文本分类问题描述 |
2.2 文本分类过程 |
2.3 文本预处理 |
2.4 文本表示 |
2.5 文本特征选择 |
2.6 文本特征加权 |
2.7 常用的文本分类算法 |
2.8 文本分类性能评估 |
第三章 基于支持向量机(SVM)文本分类相关理论研究 |
3.1 支持向量机(SVM)定义 |
3.2 支持向量机(SVM)的优势 |
3.3 支持向量机(SVM)在文本分类应用中存在的主要问题 |
3.4 分类问题和分类机 |
3.4.1 分类的定义 |
3.4.2 分类机定义 |
3.5 支持向量机(SVM)的主要思想 |
3.6 线性可分支持向量机分类的相关理论 |
3.6.1 最大间隔法 |
3.6.2 线性可分支持向量机(SVM)的理论证明 |
3.7 线性不可分支持向量机分类的相关理论 |
3.7.1 最大间隔法 |
3.7.2 线性支持向量机与线性可分支持向量机算法比较 |
3.8 非线性可分支持向量机分类的相关理论 |
3.8.1 非线性分划的例子 |
3.8.2 非线性分划的分类算法 |
3.8.3 核函数的介绍 |
3.9 常用支持向量机训练算法 |
第四章 SVM文本分类器系统的设计与实现 |
4.1 系统的意义 |
4.2 系统实现的功能 |
4.3 系统的总体结构 |
4.3.1 系统的结构 |
4.3.2 系统主要算法流程图 |
4.3.3 系统各模块函数功能分析 |
第五章 SVM文本分类器系统的实验分析 |
5.1 系统运行环境 |
5.2 系统运行过程 |
5.3 系统运行结果及分析 |
5.3.1 训练文本的运行结果及分析 |
5.3.2 测试文本的运行结果及分析 |
结论 |
致谢 |
参考文献 |
(8)原始空间中支持向量机若干问题的研究(论文提纲范文)
摘要 |
ABSTRACT |
第一章 绪论 |
1.1 研究背景 |
1.2 支持向量机分类算法研究现状 |
1.2.1 分解算法 |
1.2.2 增量学习算法 |
1.2.3 多类别分类算法 |
1.2.4 支持向量机改进算法 |
1.2.5 支持向量机变形算法 |
1.2.6 原始空间中的求解算法 |
1.3 研究内容与结构安排 |
第二章 支持向量机理论基础 |
2.1 机器学习 |
2.1.1 学习问题的表示 |
2.1.2 经验风险最小化 |
2.1.3 学习机器的泛化能力 |
2.2 统计学习理论 |
2.2.1 学习过程的一致性条件 |
2.2.2 VC 维 |
2.2.3 泛化性的界 |
2.2.4 结构风险最小化 |
2.3 优化理论 |
2.3.1 KKT 条件 |
2.3.2 Wolf 对偶 |
2.3.3 相关的基本定义 |
2.4 支持向量机 |
2.4.1 线性支持向量机 |
2.4.2 核函数和再生核 Hilbert 空间 |
2.4.3 非线性支持向量机 |
第三章 光滑支持向量机多项式函数的研究 |
3.1 引言 |
3.2 光滑支持向量机 |
3.3 多项式光滑支持向量机 |
3.3.1 多项式光滑函数 |
3.3.2 多项式光滑函数的性能 |
3.4 多项式光滑支持向量机的算法和实验 |
3.4.1 最优光滑因子 |
3.4.2 算法选取 |
3.4.3 实验 |
3.5 多项式光滑函数的应用——求解广义支持向量机 |
3.5.1 广义支持向量机及其求解 |
3.5.2 实验 |
3.6 小结 |
第四章 半监督支持向量机分类算法 |
4.1 引言 |
4.2 半监督支持向量机的研究现状 |
4.3 自训练半监督支持向量机 |
4.3.1 自训练半监督支持向量机算法 |
4.3.2 实验 |
4.4 多项式光滑的半监督支持向量机 |
4.4.1 多项式光滑函数 |
4.4.2 逼近误差分析 |
4.4.3 算法 |
4.4.4 非线性多项式光滑的半监督支持向量机 |
4.4.5 实验 |
4.5 小结 |
第五章 线性支持向量机的直接算法 |
5.1 引言 |
5.2 线性支持向量机的并行下降方法 |
5.3 线性支持向量机的 Hooke and Jeeves 方法 |
5.3.1 Hooke and Jeeves 算法 |
5.3.2 Hooke and Jeeves 算法的性能分析 |
5.3.3 实验 |
5.4 线性支持向量机的 Rosenbrock 算法 |
5.4.1 Rosenbrock 方法 |
5.4.2 Rosenbrock 算法的性能分析 |
5.4.3 实验 |
5.5 线性支持向量机的 Powell 算法 |
5.5.1 原始 Powell 法 |
5.5.2 Powell 法 |
5.5.3 线性支持向量机的 Powell 算法 |
5.5.4 Powell 算法的性能分析 |
5.5.5 实验 |
5.6 小结 |
第六章 健壮支持向量机 |
6.1 引言 |
6.2 健壮支持向量机的研究现状 |
6.3 双曲正切支持向量机 |
6.4 实验 |
6.4.1 在人工数据上的实验 |
6.4.2 在 UCI 数据集上的实验 |
6.5 小结 |
结束语 |
致谢 |
参考文献 |
在读博士期间撰写(发表)的论文 |
(9)基于MRMHC-LSVM的IP流分类(论文提纲范文)
0 引言 |
1 相关工作 |
2 特征选择算法的数学模型 |
3 MRMHC-LSVM特征选择算法 |
3.1 无约束优化线性支持向量机 |
3.2 MRMHC搜索策略 |
4 基于MRMHC-LSVM的流分类器 |
5 实验研究 |
5.1 IP流数据集与IP流特征 |
5.2 实验方案 |
5.3 特征选择 |
5.4 特征选择在计算能力与分类能力上的效果 |
5.5 MRMHC-LSVM与NBK-FCBF在计算能力与分类能力上的比较 |
6 结论 |
(10)基于优化理论的支持向量机学习算法研究(论文提纲范文)
摘要 |
ABSTRACT |
第一章 绪论 |
1.1 选题的背景及意义 |
1.2 SVM的研究与进展 |
1.2.1 SVM的产生 |
1.2.2 支持向量分类机(SVC)算法研究 |
1.2.3 支持向量回归机(SVR)算法研究 |
1.2.4 SVM的应用研究 |
1.3 论文的研究目的、意义和主要工作 |
1.3.1 研究目的和意义 |
1.3.2 本文的主要工作 |
第二章 支持向量机及其理论基础 |
2.1 最优化理论 |
2.1.1 KKT条件 |
2.1.2 Lagrange对偶 |
2.1.3 Wolfe对偶 |
2.2 统计学习理论的基本思想 |
2.2.1 经验风险 |
2.2.2 VC维 |
2.2.3 结构风险 |
2.3 支持向量分类机 |
2.3.1 最优分类超平面 |
2.3.2 线性支持向量分类机 |
2.3.3 非线性支持向量分类机 |
2.3.4 支持向量 |
2.3.5 核函数 |
2.4 支持向量回归机 |
2.4.1 损失函数 |
2.4.2 支持向量回归机 |
2.5 小结 |
第三章 最小二乘支持向量机的一类快速算法 |
3.1 引言 |
3.2 变形支持向量机模型 |
3.2.1 标准SVM模型 |
3.2.2 二次损失函数SVM模型 |
3.2.3 LSSVM模型 |
3.3 最小二乘支持向量机的条件预优共轭梯度法 |
3.3.1 对称正定线性方程组的求解 |
3.3.2 条件预优共轭梯度法 |
3.4 数值实验 |
3.5 小结 |
第四章 一类新的光滑CHKS支持向量机 |
4.1 引言 |
4.2 光滑支持向量机及其发展 |
4.2.1 光滑支持向量机的原理 |
4.2.2 光滑支持向量机的优势 |
4.2.3 光滑支持向量机的发展现状 |
4.3 光滑CHKS支持向量机 |
4.3.1 光滑CHKS支持向量机及其性质 |
4.3.2 光滑CHKS-SSVM的Newton-Armijo算法 |
4.3.3 非线性光滑CHKS-SSVM |
4.3.4 数值实验 |
4.4 小结 |
第五章 支持向量机的调节熵函数法 |
5.1 引言 |
5.2 支持向量分类机的调节熵函数法 |
5.2.1 无约束SVC模型 |
5.2.2 调节熵函数法 |
5.2.3 支持向量分类机的调节熵函数法(AEF-SVC) |
5.2.4 数值实验 |
5.3 支持向量回归机的调节熵函数法 |
5.3.1 无约束SVR模型 |
5.3.2 调节熵函数法 |
5.3.3 支持向量回归机的调节熵函数法(AEF-SVR) |
5.3.4 数值实验 |
5.4 小结 |
第六章 模糊支持向量机算法 |
6.1 引言 |
6.2 模糊支持向量机 |
6.2.1 模糊支持向量分类机 |
6.2.2 模糊支持向量回归机 |
6.3 基于边界向量提取的模糊支持向量分类机 |
6.3.1 支持向量数据域描述 |
6.3.2 提取边界向量 |
6.3.3 构造模糊隶属度函数 |
6.3.4 数值实验 |
6.4 模糊最小二乘支持向量回归机 |
6.4.1 最小二乘支持向量回归机 |
6.4.2 模糊最小二乘支持向量回归机 |
6.4.3 模糊最小二乘支持向量回归机的训练 |
6.4.4 基于支持向量数据域描述的模糊隶属度的构造 |
6.4.5 数值实验 |
6.5 小结 |
第七章 训练半监督支持向量机的粒子群算法 |
7.1 引言 |
7.2 (?)TSVM算法 |
7.3 光滑分段半监督支持向量机 |
7.3.1 SPS~3VM 模型 |
7.3.2 标准PSO算法 |
7.3.3 线性等式约束问题的CLPSO算法 |
7.3.4 训练SPS3VM的CLPSO算法 |
7.3.5 数值实验 |
7.4 小结 |
总结与展望 |
参考文献 |
致谢 |
在读博士期间撰写(发表)的论文 |
参加的科研项目与获奖情况 |
四、训练支持向量机的极大熵方法(论文参考文献)
- [1]基于自适应调节极大熵的孪生支持向量回归机[J]. 黄华娟,韦修喜. 南京大学学报(自然科学), 2019(06)
- [2]入侵生物适生区与种群动态中的数学方法[J]. 张秀玲,黄英,朱水芳,杨瑛,潘绪斌. 植物检疫, 2015(02)
- [3]支持向量机的乘子极大熵方法[J]. 于乐源,张勇. 济宁学院学报, 2014(06)
- [4]GATS-LSVM:新的网络入侵检测方法[J]. 李文法,孙连英,刘畅,马小军. 高技术通讯, 2013(05)
- [5]支持向量机的调节熵函数法研究[D]. 许建琼. 四川师范大学, 2013(05)
- [6]基于物流车队应用SVM文本挖掘研究[D]. 雍睿. 天津财经大学, 2012(06)
- [7]基于SVM算法的文本分类器的实现[D]. 张岩. 电子科技大学, 2011(12)
- [8]原始空间中支持向量机若干问题的研究[D]. 刘叶青. 西安电子科技大学, 2009(04)
- [9]基于MRMHC-LSVM的IP流分类[J]. 李文法,段洣毅,陈友,程学旗. 高技术通讯, 2009(06)
- [10]基于优化理论的支持向量机学习算法研究[D]. 吴青. 西安电子科技大学, 2009(01)