机器学习中解决不平衡分类的10种技术

参考：

关键词: Classification Intermediate Machine Learning Python Structured Data Technique

作为一名数据科学家，二分类是最常见的分类模型之一。在解决这些问题时，一个常见的问题是类不平衡(class imbalance)。当一个类别的观察结果高于其他类别时，就会存在类别失衡。示例：检测欺诈性信用卡交易。如下图所示，欺诈性交易约为400笔，而非欺诈性交易为约90000笔。

类不平衡是机器学习中的一个常见问题，尤其是在分类问题中。不平衡的数据会严重影响我们的模型准确性。它出现在许多领域，包括欺诈检测、垃圾邮件过滤、疾病筛查、软件即服务(SaaS)订阅流失、广告点击等。让我们了解如何处理机器学习中的不平衡数据。

学习目标:

目录:

当每个类中的样本数量大致相等时，大多数机器学习算法的效果最好。这是因为大多数算法都是为了最大限度地提高精度和减少误差而设计的。

然而，如果数据框具有不平衡的类，那么在这种情况下，仅通过预测多数类(majority class)就可以获得相当高的精度，但无法捕获少数类(minority)，这通常是首先创建模型的关键。例如，如果类别分布显示99%的数据具有多数类别，那么任何基本分类模型（如逻辑回归或决策树）都将无法识别次要类别数据点。

假设我们有一个信用卡公司的数据集(https://www.kaggle.com/datasets/mlg-ulb/creditcardfraud)，基于这个数据集我们想要查明信用卡交易是否存在欺诈行为, 从而保证消费者不会为他们没有购买的东西付费。

该数据集包含2013年9月欧洲信用卡持卡人通过信用卡进行的交易。

该数据集显示了两天内发生的交易，在284807笔交易中，我们有492笔欺诈。数据集高度不平衡，正类（欺诈）占所有交易的0.172%。【本博客中，作者选用了部分数据, 其中欺诈交易占6%。】

它只包含数值输入变量，这些变量是主成分分析变换的结果。不幸的是，由于保密问题，我们无法提供有关数据的原始功能和更多背景信息。特征V1、V2、…V28是用PCA获得的主要成分，唯一没有用PCA转换的特征是“时间”和“数量”。特征“Time”包含每个事务与数据集中第一个事务之间的秒数。特征“Amount”是交易金额，此功能可用于例如依赖成本敏感的学习。特征“Class”是响应变量，如果发生欺诈，它的值为1，否则为0。

考虑到类别不平衡率，我们建议使用精度召回曲线下面积（AUPRC）来测量精度。混淆矩阵的准确性对不平衡分类没有意义。

但问题是…欺诈交易相对罕见。只有6%的交易是欺诈性的。

现在，在你开始之前，你看到问题可能会如何解决吗？想象一下，如果你根本不去训练一个模特。相反，如果你只写了一行代码，总是预测“没有欺诈交易”，会怎么样：

你猜怎么着？您的“解决方案”将有94%的准确率！

不幸的是，这种准确性具有误导性:

这显然是一个问题，因为许多机器学习算法都是为了最大限度地提高整体精度而设计的。在本文中，我们将看到处理不平衡数据的不同技术。

我们将在本文中使用信用卡欺诈检测数据集。你可以在这里找到数据集。

加载数据后，显示数据集的前五行。

您可以清楚地看到，数据集之间存在着巨大的差异。9000笔非欺诈性交易和492笔欺诈性交易。

新开发人员用户在处理不平衡数据集时遇到的主要问题之一与用于评估其机器学习模型的评估指标有关。使用更简单的指标，如准确度得分(accuracy score)，可能会产生误导。在具有高度不平衡类的数据集中，分类器总是“预测”最常见的类，而不执行任何特征分析，并且它的准确率很高，显然不是正确的。 让我们使用简单的XGBClassifier进行这个实验，而不使用特征工程：

输出为:

我们可以看到99%的准确性，我们得到了非常高的准确性，因为它主要预测的是0（非欺诈）的大多数类别。

用于处理高度不平衡数据集的一种广泛采用的类不平衡技术称为重采样。它包括从多数类中删除样本（欠采样）和/或从少数类中添加更多样本（过采样）。

尽管平衡类别有好处，但这些技巧也有缺点（没有免费午餐定理）。

**过采样(over-sampling)**的最简单实现是复制少数类别的随机记录，这可能会导致过度捕捞(overfishing)。

在**欠采样(under-sampling)**中，最简单的技术包括从多数类中删除随机记录，这可能会导致信息丢失。

让我们以信用卡欺诈检测为例来实现这一点。

我们将从分离将为0和1的类开始。

欠采样(Undersampling)可以定义为删除多数类的一些观测值(removing some observations of the majority class)。这样做直到多数类和少数类得到平衡。

当您有大量数据时，欠采样可能是一个不错的选择——想想数百万行。但欠采样的一个缺点是，我们正在删除可能有价值的信息。

**过采样(Oversampling)**可以定义为向少数类添加更多副本。当您没有大量数据可供处理时，过采样可能是一个不错的选择。

过采样时需要考虑的一个缺点是，它会导致过度拟合和测试集的泛化能力差。

科学文献中提出了许多更复杂的重新采样技术。

例如，我们可以对大多数类的记录进行聚类，并通过从每个聚类中删除记录来进行欠采样，从而寻求保留信息。在过度采样中，我们可以在这些副本中引入小的变化，从而创建更多样的合成样本，而不是创建少数类记录的精确副本。

让我们使用Python库imbalanced-learn来应用其中一些重采样技术。它与scikit-learn兼容，是scikit-learn-contrib项目的一部分。

在学习数据科学时，您可能听说过pandas、numpy、matplotlib等。但还有另一个库：imblearn，它用于对不平衡的数据集进行采样，并提高模型性能。

RandomUnderSampler是一种快速而简单的方法，可以通过随机选择目标类的数据子集来平衡数据。通过随机抽取带有或不带有替换的样本，对大多数类别进行欠采样。

对抗不平衡数据的一种方法是在少数类中生成新的样本(generate new samples)。最幼稚的策略是通过随机采样生成新的样本，并替换当前可用的样本。RandomOverSampler提供了这样一个方案。

Tomek links是一对非常接近的实例，但属于相反的类。删除每对中大多数类的实例会增加两个类之间的空间，从而促进分类过程。

如果两个样本是彼此最近的邻居，则存在Tomek’s link。

在下面的代码中，我们使用ratio='majority'来重采样大多数类。

这项技术为少数类别生成合成数据。

SMOTE（合成少数过采样技术）通过从少数类中随机选择一个点并计算该点的k个最近邻居来工作。**合成点(synthetic points)**被添加到所选择的点及其相邻点之间。

SMOTE算法分为4个简单步骤：

NearMiss是一种欠采样技术。使用距离将使多数类与少数类相等，而不是对少数类进行重新采样。

在评估不平衡的数据集时，**准确性(Accuracy)**不是最好的衡量标准，因为它可能会产生误导。

可以提供更好见解的指标有：

换句话说，如果你从每一类中随机选择一个观察结果，那么你的模型能够正确地对它们进行“排序”的概率是多少？

下一个策略是使用惩罚学习算法，增加少数类分类错误的成本。

该技术的一个流行算法是惩罚支持向量机(Penalized-SVM)。

在训练过程中，我们可以使用参数class_weight='balanced'来惩罚少数类的错误，惩罚量与它的代表性不足程度成比例。

如果我们想启用SVM算法的概率估计，我们还想包括自变量probability=True。

让我们在原始不平衡数据集上使用Penalized-SVM训练模型：

虽然在每一个机器学习问题中，尝试各种算法都是一个很好的经验法则，但对于不平衡的数据集来说，这尤其有益。

决策树通常在不平衡的数据上表现良好。在现代机器学习中，树集成（随机森林、梯度增强树等）几乎总是优于单个决策树，所以我们将直接进入这些：基于树的算法通过学习if/else问题的层次结构来工作。这可能会强制处理这两个类。

优点：

缺点：

优点：

缺点：

总之，在本文中，我们看到了处理数据集中类不平衡的各种技术。在处理不平衡的数据时，实际上有很多方法可以尝试。您可以在我的GitHub存储库(https://github.com/benai9916/Handle-imbalanced-data)中查看这些代码的实现情况。

关键收获

Q1.如何在Python中对不平衡的数据进行采样？

答：有多种方法可以对不平衡数据进行采样，您可以将过采样方法应用于多数类，也可以将欠采样方法用于解决不平衡分类问题。

Q2.数据中类别的比例是多少？你如何才能发现你的数据是否平衡？

答：数据集中类的比例是一个类与其他类的比例。应用采样技术的阈值根据您的问题陈述而有所不同，但通常情况下，如果一个类占数据集的比例小于10%，则该类被视为少数。

Q3.如何对不平衡数据进行分类？

答：我们在本文中讨论的所有方法都可以用于不平衡数据集的分类问题。这就是为什么对数据科学家来说，了解像imblearn库这样的采样库是有利的。