数据分析之Logistic回归分析中的【二元逻辑回归】

在研究X对于Y的影响时：

结合实际情况，可以将Logistic回归分析分为3类：

Logistic回归分析用于研究X对Y的影响，并且对X的数据类型没有要求，X可以为定类数据，也可以为定量数据，但要求Y必须为定类数据，并且根据Y的选项数，使用相应的数据分析方法。

因变量为二分类变量，自变量可以为连续型变量也可以为分类变量，预测自变量和因变量之间的显著关系。

使用二元Logistic回归模型前，需判断是否满足以下七个研究假设：

参考链接：https://www.zhihu.com/question/34502688/answer/329779658

在进行二元logistic回归分析之前，需要进行一些准备工作，来提高分析结果的准确性。准备工作包括进行分析项即自变量的确定、多重共线性判断、以及变量处理三方面。

因为影响因素比较多，并不能确定单个影响因素是否会对因变量产生影响，为了筛选确实对因变量有影响的自变量进行分析，可以在进行二元logistic回归分析之前就单个因素的影响情况进行分析（非必要步骤）。根据影响因素类型不同，可以分别进行方差分析（t检验）、卡方检验进行分析。

从方差分析和卡方检验的结果来看，如果显著性差异P0.05的变量都要摒弃，一般我们可以将显著性水平P值放宽至0.1、0.2都可以，这是为了以防遗漏重要因素，当然也可以在不满足显著性水平的自变量中挑选现实中或临床上觉得有意义的指标，但是纳入模型的自变量不是越多越好，原因如下：

在模型纳入模型时，纳入的变量也要考虑到变量之间的多重共线性，如果模型中的变量之间存在高度相关性，可能需要考虑移除一些相关性高的变量，以减少模型的复杂性，原因如下：

为了判断多重共线性，常用的统计量包括方差膨胀因子（Variance Inflation Factor, VIF）和容忍度（Tolerance）。VIF值大于10通常被认为是严重的多重共线性。如果发现模型中存在多重共线性，可以采取以下措施：

在进行二元逻辑回归之前，确保模型中没有严重的多重共线性，可以帮助提高模型的稳定性、解释能力和预测能力。

共线性诊断SPSS流程：

在进行二元逻辑回归之前，进行数据预处理是一个关键步骤，原因包括：

数据哑变量处理：

二元logistic回归分析的模型拟合情况判断可以分为两类，分别是：

从上图可以看出，模型系数的综合检验的p值小于0.05，说明模型是有效的，反之说明模型无效。

在二元逻辑回归分析中，Cox & Snell R方和Nagelkerke R方都是用来衡量模型拟合优度的指标，它们提供了模型解释变量对响应变量变异性的量化度量。由于逻辑回归模型的输出是概率，而不是线性回归中的直接响应变量，因此不能直接使用传统的R方来衡量模型的拟合优度。Cox& Snell R方和Nagelkerke R方作为伪R方，提供了一种替代的方法。

Cox & Snell R方：

Cox & Snell R方衡量的是模型相对于一个只有截距的模型（即没有自变量的模型）的改进程度。

Cox & Snell R方的值范围在0到1之间，值越大表示模型的拟合越好。但是，它的最大值通常小于1，这意味着它不能完全反映模型的解释能力。

Nagelkerke R方：

在实际应用中，Cox & Snell R方和Nagelkerke R方通常都会被报告，因为它们提供了从不同角度评估模型拟合优度的方法。然而，需要注意的是，这些伪R方值并不像线性回归中的R方那样直接反映模型解释的方差比例，它们的值通常较小，且在比较不同模型时需要谨慎。此外，这些指标的值不应该被用来跨数据集比较模型的拟合优度，而应该在同一数据集内比较不同模型的拟合程度。在解释这些指标时，应该结合模型的其他方面，如预测准确性、变量的显著性以及模型的实际应用价值。

Hosmer-Lemeshow拟合度检验是用于评估二元逻辑回归模型拟合优度的一种统计方法。这种检验的目的是检查模型预测的概率与实际观测到的概率之间是否存在显著差异。如果模型预测的概率与实际概率非常接近，那么我们可以认为模型拟合得较好；如果存在显著差异，则表明模型可能没有很好地捕捉到数据中的信息。

Hosmer-Lemeshow检验的步骤如下：

计算预测概率：对于模型中的每个观测值，使用逻辑回归模型计算出因变量发生的概率。

分组：将所有观测值根据预测概率分成若干组（通常为10组），每组包含大约10%的观测值。分组的目的是将预测概率相近的观测值放在一起。

计算观察频率和预期频率：对于每组，计算实际发生因变量的观测频率（即实际发生的事件数除以该组的总观测数）和预期频率（即根据模型预测概率计算的预期事件数）。

计算卡方统计量：使用观察频率和预期频率计算卡方统计量。这个统计量衡量了观察到的事件数与预期事件数之间的差异。

确定P值：将计算出的卡方统计量与相应的卡方分布进行比较，以确定P值。P值表示在模型正确的情况下，观察到当前或更极端的卡方统计量的概率。

做出决策：如果P值大于预先设定的显著性水平（通常为0.05），则没有足够的证据拒绝模型拟合良好的假设，即模型拟合度可接受。如果P值小于显著性水平，则拒绝模型拟合良好的假设，表明模型可能不适合数据。

Hosmer-Lemeshow检验的一个关键点是选择分组的数量。分组数量的选择可能会影响检验的结果，因此在实际应用中需要谨慎选择。此外，这种检验假设模型中的预测变量与因变量之间存在线性关系，如果这种假设不成立，检验结果可能不准确。

Hosmer-Lemeshow拟合度检验（简写为HL检验）用于判断模型拟合优度。p值大于0.05则说明通过HL检验，反之则说明模型没有通过HL检验，模型拟合优度差。从上表可知：检验对应的 p值大于0.05，说明本次模型通过HL检验，模型拟合优度较好。

在二元逻辑回归结果中，“B” 通常指的是回归系数，也就是偏回归系数。在逻辑回归模型中，这些系数表示的是自变量（解释变量）对因变量（通常是二分类的响应变量）的对数几率（log odds）的影响。每个回归系数代表了在其他自变量保持不变的情况下，相应自变量每增加一个单位，对数几率的变化量。

偏回归系数是在控制了模型中所有其他自变量的影响后，单个自变量对因变量的影响。在逻辑回归中，由于模型的性质，回归系数和偏回归系数是相同的。这意味着，当我们谈论 “B” 值时，我们实际上是在讨论在给定其他自变量的情况下，每个自变量对因变量对数几率的边际影响。

在输出结果中，每个自变量的回归系数（B）旁边通常会有一个标准误差（SE）和P值，用于评估该系数的统计显著性。如果P值小于显著性水平（如0.05），则认为该自变量在统计上显著，即它对因变量有显著的影响。

B（或称为回归系数）的大小和符号代表了自变量（解释变量）对因变量（响应变量）的影响程度和方向。具体来说：

B的大小：

B的符号：

在解释逻辑回归模型的系数时，还需要注意以下几点：

总之，B的大小和符号在二元逻辑回归中提供了自变量对因变量影响程度和方向的重要信息，但这些信息需要结合模型的其他统计指标和背景来综合解释。

在二元逻辑回归分析中，"Wald"通常指的是Wald统计量，这是一种用于检验模型中单个自变量系数显著性的统计方法。Wald统计量是基于最大似然估计（MLE）的，它衡量的是模型中某个特定参数的估计值与零的差异程度。

在二元逻辑回归模型中，Wald统计量用于检验每个自变量的系数是否显著不为零。如果一个自变量的Wald统计量显著（即对应的P值小于预先设定的显著性水平，如0.05），则认为该自变量对因变量有显著影响。换句话说，这个自变量在模型中是重要的，不应该被移除。

Wald统计量的计算公式通常如下： 其中：

Wald统计量遵循卡方分布，其自由度等于自变量的系数个数。在实际应用中，Wald统计量的结果通常与P值一起报告，P值提供了在零假设（自变量系数为零）下观察到当前统计量或更极端情况的概率。如果P值小于显著性水平，我们拒绝零假设，认为自变量对因变量有显著影响。

Wald统计量的大小代表了自变量系数估计值相对于其标准误差的大小。具体来说，Wald统计量是一个比值，它衡量的是估计的系数（β)与零（即没有影响）之间的差异程度，相对于估计系数的标准误差(SE( β^))。

Wald统计量的大小可以解释如下：

如果Wald统计量较大，意味着估计的系数与零的差异较大，这通常表明自变量对因变量有较强的影响，且这种影响在统计上不太可能是偶然发生的。在这种情况下，对应的P值通常较小，表明自变量在统计上是显著的。

如果Wald统计量较小，意味着估计的系数与零的差异不大，这可能表明自变量对因变量的影响较弱或不显著。在这种情况下，对应的P值较大，可能不会拒绝零假设，即认为自变量对因变量没有显著影响。

在实际应用中，Wald统计量的大小可以帮助研究者理解每个自变量在模型中的重要性。然而，需要注意的是，Wald统计量的大小并不直接反映影响的大小或方向，它只是用来检验系数是否显著不为零。影响的大小和方向通常通过系数的估计值（β^）和其解释（如比值比（Odds Ratio））来解释。

在二元逻辑回归结果中，EXP(B) 通常指的是回归系数（B）的指数化，也就是比值比（Odds Ratio，简称OR）。这个值用于解释自变量对因变量的影响强度和方向。EXP(B) 的95%置信区间（C.I.）提供了一个范围，用于估计这个比值比的真实值在多大程度上是可信的。

EXP(B)： EXP(B) 表示的是自变量每变化一个单位，因变量发生的几率比（odds ratio）的变化。如果 EXP(B) 大于1，表示自变量的增加与因变量发生几率的增加相关；如果 EXP(B) 小于1，表示自变量的增加与因变量发生几率的减少相关；如果 EXP(B) 等于1，表示自变量的变化与因变量发生几率无关。

在逻辑回归中，OR值（Odds Ratio）用于衡量自变量与因变量之间关联的强度和方向。OR值的解释依赖于其数值大小（如果因变量代表的是一个不希望发生的结果时）：

在二元逻辑回归中，当OR值（Odds Ratio，几率比）大于1时，确实表示自变量与因变量之间存在正向关联。这意味着自变量的增加与因变量发生的几率增加相关。然而，是否将这种正向关联解释为“危险性因素”取决于因变量的性质：

95% C.I. 上下限： 95%置信区间的上下限提供了一个范围，表示我们可以有95%的把握认为真实的比值比落在这个区间内。如果这个区间不包含1，那么我们可以认为自变量对因变量的影响在统计上是显著的。

大小和符号的解释：

例如: