从神经网络到支撑矢量机(上)

【摘要】：在统计模式识别中，Ｂａｙｅｓ决策规则从理论上解决了最优分类器的设计问题，然而其实施却必须首先解决更困难的概率密度估计问题，ＢＰ神经网络直接从观测数据（训练样本）学刁，是更简便有效的方法，因而获得了广泛的应用．但它是一种启发式技术，缺乏指导工程实践的坚实理论基础。统计推断理论研究所取得的突破性成果导致现代统什学习理论──ＶＣ理论的建立．该理论不仅在严格的数学基础上圆满地回答了人工神经网络中出现的理论问题，而且导出了一种新的学习人法──支撑矢量机（ＳＶＭ）。ＳＶＭ已经在一些实际问题中获得了成功的应用，性能优于传统的神经网络方法。本文以模式识别问题为背景，介绍ＶＣ理论的主要内容及支撑矢量机方法。