将机器学习领域的研究成果应用到数字通信技术中,可以增强其抗干扰性。核Fisher判别方法是基于
基于数据的机器学习是现代智能技术中的重要方面,它是从观测数据出发寻找规律,并利用这些规律对不方便直接观测的数据进行预测[1]。核Fisher 判别方法就是基于Fisher 线性判别提出的一种非线性分类方法[1]。随着社会和科学技术的发展,电磁环境越来越复杂,无线电通信面临的干扰问题也日益严重。本文尝试将核Fisher 判别方法应用在数字通信领域,并用MATLAB 对其进行了仿真和分析,取得了较好的检测识别效果,提高了数字通信的抗干扰能力。
2. 核Fisher 判别方法基本原理 核Fisher判别方法由Mika等人于1999年提出[2]。假设有一集合X包含n个d维数据{}12, , , nXx xx=, 其中1n 个属于1w 类的样本记为{}111112, , , nXx xx=, 2n 个属于2w 类的数据记为{}222212, , , nXxxx=。
Fisher 线性判别所要解决的最基本问题是找到一个最好的投影方向,使样本在这个投影方向上能最容易分开。从数学的角度分析,寻找最好投影方向的问题就是寻找最好的变换向量*w 的问题,即最大化下列广义Rayleigh 熵[3]: ( )() ()TTbwJ ww S ww S w= (1) 式中 ()()T1212, bSmmmm=−− ()()T1,2wiiixSxmxmχ=∈=−−∑∑ 上述两式分别是样本的类间离散度矩阵和类内离散度矩阵,而im 是各类样本的均值向量 ()1, 1,2iiix Xmnxi∈==∑ (2) 因此最大化( )J w 的本质是要找到一个最好的投影方向来最大化类间离散度, 同时最小化这个方向上的类内离散度。
对于非线性分类[3],首先就是用一个非线性映射函数φ ,把数据从原始空间F映射到一个特征空间H (图1),再在特征空间H建立一个优化超平面。特征空间H的维数有时非常高,而核函数则利用点积运算解决了这个问题。例如,常用的RBF核函数为: ()()()22, exp2k x yxyσ=−− 核Fisher判别方法首先把数据非线性地映射到某个特征空间,然后在这个特征空间中进行Fisher线性判别, 这样就间接地实现了对原始输入空间的非线性判别。
假设φ 是输入空间到某个特征空间H的非线性映射。要找到H中的线性判别就需要最大化