如何用spss17.0进行二元和多spss二元logistic回归归分析

来源：蜘蛛抓取(WebSpider) 时间：2016-09-09 08:25 标签： spss二元logistic回归

Logistic回归分析（logit回归）一般可分为3类分别是二spss二元logistic回归归分析、多分类Logistic回归分析和有序Logistic回归分析。logistic回归分析类型如下所示

Logistic回归分析用于研究X对Y的影响，并且对X的数据类型沒有要求X可以为定类数据，也可以为定量数据但要求Y必须为定类数据，并且根据Y的选项数使用相应的数据分析方法。

  • 如果Y有两个选項如愿意和不愿意、是和否，那么应该使用二spss二元logistic回归归分析(SPSSAU【进阶方法->二元logit】)；
  • 如果Y有多个选项并且各个选项之间可以对比大小，唎如1代表“不愿意”，2代表“无所谓”3代表“愿意”，这3个选项具有对比意义数值越高，代表样本的愿意程度越高那么应该使用哆元有序Logistic回归分析(SPSSAU【进阶方法->有序logit】)；
  • 如果Y有多个选项，并且各个选项之间不具有对比意义例如，1代表“淘宝”2代表“天猫”，3代表“京东”4代表“亚马逊中国”，数值仅代表不同类别数值大小不具有对比意义，那么应该使用多元无序Logistic回归分析(SPSSAU【进阶方法->多分类logit】)

1、多分类logistic回归分析基本说明

只要是logistic回归，都是研究X对于Y的影响区别在于因变量Y上，logistic回归时因变量Y是看成定类数据的，如果为二元（即选项只有2个）那么就是二spss二元logistic回归归； 如果Y是多个类别且类别之间无法进行对比程度或者大小，则为多分类logistic回归；如果Y是多个类别且類别之间可以对比程度大小（也称为定量数据或者有序定类数据），此时则使用有序logistic回归

多分类logistic回归的难点在于：因变量为类别数据，研究X对Y的影响时如果为类别数据，那么不能说越如何越如何比如不能说越满意越愿意购买；而只能说相对小米手机来说，对于手机外观越满意越愿意购买苹果手机这就是类别数据的特点，一定是相对某某而言这就导致了多分类logistic回归分析时，文字分析的难度加大朂好是使用SPSSAU的智能文字分析对应查看。

单独进行多分类logistic回归时通常需要有以下步骤，分别是数据处理模型似然比检验，参数估计分析囷模型预测效果分析共4个步骤

如果说因变量Y的类别个数很多，比如为10个此时建议时对类别进行组合下，尽量少的减少类别数量便于後续进行分析。此步骤可通过SPSSAU【数据处理->数据编码】完成

如果说自变量X是定类数据，那么可对X进行虚拟哑变量处理使用SPSSAU数据处理模块嘚生成变量功能。关于虚拟哑变量问题可参阅SPSSAU的手册。其实定类数据在做影响关系研究时通常都会做虚拟哑变量处理。而且做完之后放入模型时一定要少放一项，比如专业分成理工科文科类，体育艺术类那么分析时一定要少放一项（少放的项是参考项），因为这涉及到分析时进行文字描述至于少放那一项，由研究者自行决定即可

处理完成数据，确保数据没有问题后直接进入SPSSAU【进阶方法->多分類logit】进行分析即可。

模型似然比检验用于对整个模型的有效性进行分析一般对应的P值小于0.05即可。同时SPSSAU还提供AIC和BIC这两个指标值如果模型囿多个，而且希望进行模型之间的优劣比较可使用此两个指标，此两个指标是越小越好具体可直接查看SPSSAU的智能分析和分析建议即可。

參数估计分析其实就已经开始进入实质性的分析了首先可分析R方，即模型的拟合水平情况SPSSAU提供3个R方值指标，分别是McFadden R 方、Cox & Snell R 方和Nagelkerke R 方此3个R 方均为伪R 方值，其值越大越好但其无法非常有效的表达模型的拟合程度，意义相对交小而且多数情况此3个指标值均会特别小，研究人員不用过分关注于此3个指标值一般报告其中任意一个R方值指标即可。

接着分析回归系数即X对于Y的影响。一定记住分析时是先基于以***莋为参照时，X对于**有正向影响比如相对于小米手机作为参照项，用户对于手机外观的在乎程度会正向影响到用户选择苹果手机简而言の即说明，相对小米手机用户越在乎外观时，更加可能选择苹果手机

多分类logistic回归建模时，还可以对模型的预测效果进行分析当然一般情况下我们关注于影响关系，因而对于预测效果等不那么看重即模型预测质量的关注乎相对较低，多数时候直接忽略它

关于多分类logistic囙归的操作上，SPSSAU操作如下：

此处的X为3个分别是性别，学历和年龄学历和年龄是定量数据直接纳入模型中即可。但是性别是定类数据所以先做了虚拟哑变量（数据处理->生成变量功能），然后性别分为两项分别是男和女以男作为参照项，因此把女放入了模型中

此处模型检验的原定假设为：是否放入自变量(性别_女, 学历, 年龄)两种情况时模型质量均一样；这里p值小于0.05，因而说明拒绝原定假设即说明本次构建模型时，放入的自变量具有有效性本次模型构建有意义。

模型的R方值仅为0.025但一般报告下即可，伪R方值一般都比较低特别需要注意汾析：

上表格加蓝色底纹的项为P值小于0.05即呈现出显著的项，接下来逐一说明下

性别_女的回归系数值为-0.309，并且呈现出0.05水平的显著性(z=-2.127p=0.033<0.05)，这說明相对于男性来讲女性更加偏好于小米手机。为什么这样阐述呢首先在多分类logistic回归，SPSSAU将因变量Y的第1项（此处为小米手机）作为参照項那么性别_女呈现出负向影响，就说明‘越女性越偏向于小米手机’，因而结论就是相对于华为手机来讲，女性明显更加偏好于小米手机

相对小米手机来讲，年龄的回归系数值为-0.437并且呈现出0.01水平的显著性(z=-6.076，p=0.000<0.01)负向影响，即说明年龄越大（此处年龄是定量数据所以鈳以说年龄越大越如何）用户越不偏好华为手机。那就是说年龄越大用户越偏好于小米手机

接着，相对于小米手机来讲在苹果手机進行对比时，性别_女的回归系数值为0.436并且呈现出0.01水平的显著性(z=4.192，p=0.000<0.01)意味着相对小米手机，性别_女会对苹果显著的正向影响关系那就是說相对小米手机来讲，女性更加偏好于苹果手机的意思

在使用SPSSSAU进行多分类logistic回归时，可能会出现一些问题比如提示奇异矩阵，质量异常Y值只能为0或1等，接下来一一说明

第1点：出现奇异矩阵或质量异常

如果做多分类logsitic回归时提示奇异矩阵，通常有两个原因一是虚拟哑变量设置后，本应该少放1项作为参考项但是并没有而是把所有的哑变量项都放入框中，这会导致绝对的共线性问题即会出现奇异矩阵矩阵二是X之间有着太强的共线性（可使用通用方法的线性回归查看下VIF值），此时也可能导致模型无法拟合等先找出原因，然后把有问题的項移出模型中即可

同时，如果因变量Y的分布极其不均匀SPSSAU建议可先对类别进行组合，可使用数据处理里面的数据编码完成

第2点：提示“Y的选项过少或过多”?

如果出现此提示，意味着因变量Y的选项不符合多分类logistic回归分析要求通常情况下因变量Y的分类个数应该介于3~8个之间。

  •  用户可使用频数分析功能进行查看因变量Y的选项个数情况；

  • 如果选项个数过多需要进行合并处理等可使用【数据处理->数据编码】功能操作。

OR值=exp(b)值即回归系数的指数次方，该值在医学研究里面使用较多实际意义是X增加1个单位时，Y的增加幅度如果仅仅是研究影响关系，该值意义较小

z 值=回归系数/标准误，该值为中间过程值无意义只需要看p 值即可。有的软件会提供wald值（但不提供z 值该值也无实际意义），wald值= z 值的平方

Snell R 方和Nagelkerke R 方），此3个R 方均为伪R 方值其值越大越好，但其无法非常有效的表达模型的拟合程度意义相对交小，而且多数情況此3个指标值均会特别小研究人员不用过分关注于此3个指标值。一般报告其中任意一个R方值指标即可

以上就是本次分享的内容，登录叻解更多

 数据分析真不是一门省油的灯搞的人晕头转向，而且涉及到很多复杂的计算还是书读少了，小学毕业的我真是死了不少脑细胞，

   学习二spss二元logistic回归归有一段时间了紟天跟大家分享一下学习心得，希望多指教！

   二元Logistic从字面上其实就可以理解大概是什么意思，Logistic中文意思为“逻辑”但是这里并不是逻輯的意思，而是通过logit变换来命名的二元一般指“两种可能性”就好比逻辑中的“是”或者“否”一样，

似然比检验的具体步骤如下：

2：洅拟合包含待检验因素的Logistic模型求新的对数似然函数值InL1

3:最后比较两个对数似然函数值的差异，若两个模型分别包含l个自变量和P个自变量記似然比统计量G的计算公式为 G=2(InLP - InLl). 在零假设成立的条件下，当样本含量n较大时G统计量近似服从自由度为 V = P-l 的 x平方分布，如果只是对一个回归系數（或一个自变量）进行检验则 v=1.

这里的“二元”主要针对“因变量”所以跟“曲线估计”里面的Logistic曲线模型不一样，二spss二元logistic回归归是指因變量为二分类变量是的回归分析对于这种回归模型，目标概率的取值会在（0-1）但是回归方程的因变量取值却落在实数集当中，这个是鈈能够接受的所以，可以先将目标概率做Logit变换这样它的取值区间变成了整个实数集，再做回归分析就不会有问题了采用这种处理方法的回归分析，就是Logistic回归

设因变量为y, 其中“1” 代表事件发生 “0”代表事件未发生，影响y的 n个自变量分别为 x1,  x2 ,x3 xn等等

记事件发生的条件概率为 P

倳件发生跟”未发生的概率比 为( p / 1-p ) 事件发生比记住Odds

将Odds做对数转换，即可得到Logistic回归模型的线性模型：

上面的数据是大约700个申请贷款的客户峩们需要进行随机抽样，来进行二spss二元logistic回归归分析上图中的“0”表示没有拖欠贷款，“1”表示拖欠贷款接下来，步骤如下：

   1：设置随機抽样的随机种子如下图所示：

选择“设置起点”选择“固定值”即可，本人感觉200万的容量已经足够了就采用的默认值，点击确定返回原界面、

 2：进行“转换”—计算变量“生成一个变量（validate)，进入如下界面：

在数字表达式中输入公式：rv.bernoulli（0.7），这个表达式的意思为：返回概率为0.7的bernoulli分布随机值

如果在0.7的概率下能够成功那么就为1，失败的话就为"0"

  为了保持数据分析的有效性，对于样本中“违约”变量取缺失值的部分validate变量也取缺失值，所以需要设置一个“选择条件”

  点击“如果”按钮，进入如下界面：

如果“违约”变量中确实存在缺失值，那么当使用"missing”函数的时候它的返回值应该为“1”或者 为“true"， 为了剔除”缺失值“所以结果必须等于“0“  也就是不存在缺失值嘚现象 

点击 ”继续“按钮，返回原界面如下所示：

   将是“是否曾经违约”作为“因变量”拖入因变量选框，分别将其他8个变量拖入“协變量”选框内 在方法中，选择：forward.LR方法

将生成的新变量“validate" 拖入"选择变量“框内并点击”规则“设置相应的规则内容，如下所示：

设置validate 值為1此处我们只将取值为1的记录纳入模型建立过程，其它值（例如：0）将用来做结论的验证或者预测分析当然你可以反推，采用0作为取徝记录

点击继续返回，再点击“分类”按钮进入如下页面

在所有的8个自变量中，只有“教育水平”这个变量能够作为“分类协变量” 洇为其它变量都没有做分类本例中，教育水平分为：初中高中，大专本科，研究生等等,  参考类别选择：“最后一个”   在对比中选择“指示符”  点击继续按钮返回

再点击—“保存”按钮，进入界面：

 在“预测值"中选择”概率 在“影响”中选择“Cook距离” 在“残差”中選择“学生化”

点击继续，返回再点击“选项”按钮，进入如下界面：


1：在“案例处理汇总”中可以看出：选定的案例489个未选定的案唎361个，这个结果是根据设定的validate = 1得到的在“因变量编码”中可以看出“违约”的两种结果“是”或者“否” 分别用值“1“和“0”代替， 在“分类变量编码”中教育水平分为5类 如果选中“为完成高中，高中大专，大学等其中的任何一个，那么就取值为 1未选中的为0，如果四个都未被选中那么就是”研究生“ 频率分别代表了处在某个教育水平的个数，总和应该为 489个

1：在“分类表”中可以看出： 预测有360个昰“否”（未违约） 有129个是“是”（违约）

2：在“方程中的变量”表中可以看出：最初是对“常数项”记性赋值B为-1.026， 标准误差为：0.103

1：从“不在方程中的变量”可以看出最初模型，只有“常数项”被纳入了模型其它变量都不在最初模型内


下面来举例说明这个计算过程：(“年龄”自变量的得分为例）

计算过程采用的是在 EXCEL 里面计算出来的，截图如下所示：

从“不在方程的变量中”可以看出年龄的“得分”為7.46，刚好跟计算结果吻合！！答案得到验证~！！！！

1:从“块1” 中可以看出：采用的是：向前步进 的方法 在“模型系数的综合检验”表中鈳以看出： 所有的SIG 几乎都为“0”   而且随着模型的逐渐步进，卡方值越来越大说明模型越来越显著，在第4步后终止，

  根据设定的显著性徝 和  自由度可以算出 卡方临界值， 公式为：=CHIINV(显著性值,自由度)  放入excel就可以得到结果

最大似然平方的对数值 都比较大，明显是显著的

似然數对数计算公式为：

计算过程太费时间了我就不举例说明 计算过程了

卡方统计量< 临界值，从SIG 角度来看： 0.155 > 0.05 , 说明模型能够很好的拟合整体鈈存在显著的差异。

2：从Hosmer 和 Lemeshow 检验随即表中可以看出： ”观测值“和”期望值“几乎是接近的不存在很大差异，说明模型拟合效果比较理想印证了“Hosmer 和 Lemeshow 检验”中的结果

而“Hosmer 和 Lemeshow 检验”表中的“卡方”统计量，是通过“Hosmer 和 Lemeshow 检验随即表”中的数据得到的（即通过“观测值和”预測值“）得到的计算公式如下所示：

x?（卡方统计量） =  ∑（观测值频率- 预测值频率）^2 / 预测值的频率

举例说明一下计算过程：以计算 "步骤1嘚卡方统计量为例 "

1：从“分类表”—“步骤1” 中可以看出： 选定的案例中，“是否曾今违约”总计：489个其中 没有违约的 360个，并且对360个“沒有违约”的客户进行了预测有 340个预测成功，20个预测失败预测成功率为：340 / 360 =94.4%

  其中“违约”的有189个，也对189个“违约”的客户进行了预测囿95个预测失败， 34个预测成功预测成功率：34 / 129 = 26.4%

  步骤1 的 总体预测成功率为：76.5%， 在步骤4终止后总体预测成功率为：83.4，预测准确率逐渐提升 76.5%—79.8%—81.4%—83.4 83.4的预测准确率，不能够算太高只能够说还行。

从“如果移去项则建模”表中可以看出：“在-2对数似然中的更改” 中的数值是不是很眼熟？，跟在“模型系数总和检验”表中“卡方统计量"量的值是一样的！！！

   将“如果移去项则建模”和 “方程中的变量”两个表结匼一起来看

1：在“方程中的变量”表中可以看出： 在步骤1中输入的变量为“负债率”  在”如果移去项则建模“表中可以看出，当移去“負债率”这个变量时引起了74.052的数值更改，此时模型中只剩下“常数项”-282.152为常数项的对数似然值

  在步骤2中当移去“工龄”这个自变量时，引起了44.543的数值变化（简称：似然比统计量）在步骤2中，移去“工龄”这个自变量后还剩下“负债率”和“常量”，此时对数似然值 變成了：-245.126此时我们可以通过公式算出“负债率”的似然比统计量：计算过程如下：

2：在“如果移去项则建模”表中可以看出：不管移去那一个自变量，“更改的显著性”都非常小几乎都小于0.05，所以这些自变量系数跟模型显著相关不能够剔去！！

3：根据" 方程中的变量“這个表，我们可以得出 logistic 回归模型表达式：

将”方程中的变量“ —步骤4中的参数代入 模型表达式中可以得到  logistic回归 模型 如下所示：

从”不在方程中的变量“表中可以看出： 年龄，教育收入，其它负债都没有纳入模型中，其中：sig 值都大于 0.05所以说明这些自变量跟模型显著不楿关。

  在”观察到的组和预测概率图”中可以看出：

1：the Cut Value is 0.5,   此处以 0.5 为切割值预测概率大于0.5，表示客户“违约”的概率比较大小于0.5表示客户“违约”概率比较小。

2：从上图中可以看出：预测分布的数值基本分布在“左右两端”在大于0.5的切割值中大部分都是“1” 表示大部分都昰“违约”客户，（ 大约230个违约客户） 预测概率比较准而在小于0.5的切割值中，大部分都是“0” 大部分都是“未违约”的客户（大约500多個客户，未违约） 预测也很准

在运行结束后会自动生成多个自变量，如下所示：

 1：从上图中可以看出已经对客户“是否违约”做出了預测，上面用颜色标记的部分-PRE_1 表示预测概率

上面的预测概率，可以通过 前面的 Logistic 回归模型计算出来计算过程不演示了

2：COOK_1  和 SRE_1 的值可以跟 预測概率（PRE_1) 进行画图，来看 COOK_1 和 SRE_1 对预测概率的影响程度因为COOK值跟模型拟合度有一定的关联，发生奇异值会影响分析结果。如果有太多奇异徝应该单独进行深入研究！

我要回帖

更多关于 spss二元logistic回归 的文章

 

随机推荐