常见的四种数据分析方法(16种常用的数据分析方法-判别分析)
常见的四种数据分析方法(16种常用的数据分析方法-判别分析)判别分析按照判别的组数来区分,可以分为两组判别分析和多组判别分析。当遇到新的样本点时,只要根据总结出来的判别公式和判别准则,就能判别该样本点所属的类别。例如,我们有了患胃炎的病人和健康人的一些化验指标 ,就可以从这些化验指标发现两类人的区别,把这种区别表示为一个判别公式,然后对怀疑 患胃炎的人就可以根据其化验指标用判别公式诊断。特点因此,判别分析的特点是根据已掌握的、历史上每个类别的若干样本的数据信息,总结出客观事物分类的规律性,建立判别公式和判别准则。
判别分析又称为线性判别分析(Linear Discriminant Analysis)。产生于20世纪30年代,是利用已知类别的样本建立判别模型,为未知类别的样本判别的一种统计方法。
判别分析方法目的与特点
目的
判别分析的目的是对已知分类的数据建立由数值指标构成的分类规则,然后把这样的 规则应用到未知分类的样本去分类。
例如,我们有了患胃炎的病人和健康人的一些化验指标 ,就可以从这些化验指标发现两类人的区别,把这种区别表示为一个判别公式,然后对怀疑 患胃炎的人就可以根据其化验指标用判别公式诊断。
特点
因此,判别分析的特点是根据已掌握的、历史上每个类别的若干样本的数据信息,总结出客观事物分类的规律性,建立判别公式和判别准则。
当遇到新的样本点时,只要根据总结出来的判别公式和判别准则,就能判别该样本点所属的类别。
判别分析按照判别的组数来区分,可以分为两组判别分析和多组判别分析。
原理说明
判别分析时,通常需要将数据分为两部分。一部分是训练模型数据,一部分是验证模型数据。
首先通过训练集数据训练拟合出一个模型。接着再利用另一部分验证模型效果。如果在测试集数据上,也表现良好,那么说明拟合模型非常好。
后面可以利用此模型用于预测其它“没有确定类别”的数据,来预测新数据的类别情况。
判别分析的方法
判别分析中,根据资料的性质,分为定性资料的判别分析和定量资料的判别分析;采用不同的判别准则,又有费歇、贝叶斯、距离等判别方法。
费歇(FISHER)判别思想是投影,使多维问题简化为一维问题来处理。选择一个适当的投影轴 使所有的样品点都投影到这个轴上得到一个投影值。
对这个投影轴的方向的要求是:使每一类内的投影值所形成的类内离差尽可能小,而不同类间的投影值所形成的类间离差尽可能大。
贝叶斯(BAYES)判别思想是根据先验概率求出后验概率,并依据后验概率分布作出统计推断。
所谓先验概率 就是用概率来描述人们事先对所研究的对象的认识的程度;所谓后验概率,就是根据具体资料、先验概率、特定的判别规则所计算出来的概率。它是对先验概率修正后的结果。
距离判别思想是根据各样品与各母体之间的距离远近作出判别。即根据资料建立关于各母体的距离判别函数式,将各样品数据逐一代入计算,得出各样品与各母体之间的距离值,判样品属于距离值最小的那个母体。
判别分析经典案例
本案例是判别分析鼻祖Fisher当年对鸢尾花观测的分析数据。
其中蓝色箭头表示的量相当于分类变量,含有三个水平,分别为1、2、3,代表刚毛鸢尾花、变色鸢尾花和弗吉尼亚鸢尾花。
红框中的四个变量是测量变量,为数值型变量,分别表示花萼长、宽和花瓣长、宽。
我们的目的是通过这四个数值型变量,对未知的鸢毛花各类进行判别。
要注意的是,在判别分析中,输入型变量必须是数值型的,而输出变量必须是分类型的。
操作步骤
在Spss中打开“分析”—“分类”—“判别”,将分类型的输出变量拖入到“分组变量”中;将其余四个数值型输入变量拖入到。
Spss提供了“一起输入”和“步进方法”,用户可根据自己需求,是决定让所有输入变量一起参与判别函数的建构,还是先筛选再进入。
结果解读
点击确定后,Spss给出描述性统计分析结果,如下:
下面3图是对判别分析的进一步描述。
第一张表格:
表示了两个判别函数的特征根情况。表中只给出了两个判别函数,其中第一判别函数所携带的信息量远远大于第二判别函数,其所解释的组间方差也占绝大多数。
注意后面有一列为典型相关系数,这个系数表示了不同分组与第一、二判别函数的相关性,相关性越强,则组别在此维度上的差异越大;反之,则此组别在此维度上的差异越小。
第二张表格:
对两个函数的WiksLamdba检验。
结果显示两个判别函数均具有统计学上的意义,即Sig小于0.05.
第三张表格:
给出了标准化后的判别系数。其表示了不同的输入变量对第一、二判别函数的贡献率。
可以把第三张表格写成线性形式,要注意这是标准化后的判别系数,是没有常数项的。
下面2图是对判别分析的再进一步描述:
第一张表格:
结构矩阵表,此结构矩阵表示了不同的输入变量与第一、二判别函数的相关性。
通过图表可知,与第一判别函数相关性最强的是花瓣长,第二判别函数相关的是其余的三个输入变量。
结构矩阵和之前的标准化后的函数系数不一样,虽然它们的分布趋势一致,但一个可以直接写成标准化的第一、二差别函数,而一个只是表示这彼此间的相关性而已。
第二个表格:
显示了不同组别在第一、二判别函数构成的平面图上的分布重心。前面有用WilksLambda统计量对第一二函数进行检验,检验的就是这两个向量在各组得分是否相等。
第二张表格,我们得到了不同组别在二维图上的坐标,这样只要计算出了新数据的坐标,然后比较其与哪个组别中心点距离近,就可以判别其为哪个类别了。
如果不想使用Spss提供的标准化后的第一、二判别函数,可通过在设置面板的设置,得到如下图的,未标准化的第一二判别函数的系数。
使用此系数,可以计算出新的数据的坐标。
判别结果的图形化展示
Spss为判别分析提供了三种图形化展示方式。分别为:
↘领域图
↘单独分布图
↘联合分布图
下面介绍联合分布图。下图联合分布显示三个类别很显著地彼此区别开。
如果想预测新纪录,只需要输入相应位置,在联合分布图中会显示出新数据的位置,通过位置,我们就能差别新数据是哪一类别的。
判别效果验证
判别效果的验证解读是对原数据进行一次判别,然后把决的判别情况汇总起来。
适用条件判断
使用判别分析时,输入变量在各组间的均值必须是显著性差异,组间方差越大越好。
下表是对各输入变量在不同类别组的均值分布情况,从均值检验可知,各组间具有显著性差异。此为单因素方差分析的表格。