目录
写在前面1 .covariance.EllipticEnvelope2 .feature_selection.RFECV3 .ensemble.ExtraTrees4 .impute.IterativeImputer 和 .impute.KNNImputer5 .linear_model.HuberRegressor6 .tree.plot_tree7 .linear_model.Perceptron8 .feature_selection.SelectFromModel9 .metrics.ConfusionMatrixDisplay10 .Generalized Linear Models11 .ensemble.IsolationForest12 .preprocessing.PowerTransformer13 .preprocessing.RobustScaler14 .compose.make_column_transformer15 .compose.make_column_selector16 .preprocessing.OrdinalEncoder17 .metrics.get_scorer18 .model_selection.HalvingGrid 和 HalvingRandomSearchCV19 .sklearn.utils总结今天跟大家介绍19 个 Sklearn 中超级实用的隐藏的功能，这些功能虽然不常见，但非常实用，它们可以直接优雅地替代手动执行的常见操作。接下来我们就一个一个介绍这些功能，希望对大家有所帮助！
(资料图)
写在前面
通过查看 Sklearn 的 API，发现最常用的模型和函数只是众多库中的一小部分。尽管某些功能的使用范围非常小并且一般用于一些边缘情况，但我发现很多评估器、转换器和实用程序功能可以很好地处理手动执行的常见操作。
https://scikit-learn.org/stable/modules/classes.html#api-reference
因此，接下来我将列出最重要的一些功能并做个简要的解释，这样可以我们扩展一些 Sklearn 工具集，以便在学习工作中可以更好地更快地处理事务。
1 .covariance.EllipticEnvelope
通常，在我们的所处理的数据分布中有异常值是很常见的，并且许多算法都可以处理离群值，而 EllipticalEnvelope 就是 Sklearn 中直接内置的一个例子。该算法的优势在于，它在检测正态分布(高斯)特征中的异常点时表现得非常好:
import numpy as np from sklearn.covariance import EllipticEnvelope # 创建一个样本正态分布 X = np.random.normal(loc=5, scale=2, size=50).reshape(-1, 1) # 拟合估计量 ee = EllipticEnvelope(random_state=0) _ = ee.fit(X) # 测试 test = np.array([6, 8, 20, 4, 5, 6, 10, 13]).reshape(-1, 1) # Predict返回1作为内嵌值，返回-1作为异常值 >>> ee.predict(test) array([ 1, 1, -1, 1, 1, 1, -1, -1])
为了检验评估结果，我们创建了一个均值为5，标准差为2的正态分布。训练完成后，将一些随机数传递给它的预测方法。该方法返回-1表示测试中的异常值，即20、10、13。
2 .feature_selection.RFECV
我们在做数据挖掘，做特征工程时，选择对预测最有帮助的特征是防止过拟合和降低模型复杂性的必要步骤。Sklearn提供的最健壮的算法之一是递归特征消除(RFE)。它通过使用交叉验证自动找到最重要的特性，并丢弃其余的。
这个评估器的一个优点是它是一个包装器——它可以用于返回特征重要性或系数分数的任何 Sklearn 算法。下面是一个关于合成数据集的例子:
from sklearn.datasets import make_regression from sklearn.feature_selection import RFECV from sklearn.linear_model import Ridge # 构建一个合成数据集 X, y = make_regression(n_samples=10000, n_features=15, n_informative=10) # 初始化和拟合选择器 rfecv = RFECV(estimator=Ridge(), cv=5) _ = rfecv.fit(X, y) # 转换特性阵列 >>> rfecv.transform(X).shape (10000, 10)
数据集有 15 个特征，其中 10 个特征是信息丰富的，其余都是冗余的。我们用岭回归拟合 5-fold RFECV 作为评估器。训练后，可以使用变换方法丢弃冗余特征。最后调用.shape查看评估器删除了所有 5 个冗余的特性。
3 .ensemble.ExtraTrees
我们都知道，尽管随机森林非常强大，但过度拟合的风险非常高。因此，Sklearn提供了称为ExtraTrees(分类器和回归器)的 RF 替代方案。
"Extra"这个词并不是指更多的树，而是指更多的随机性。该算法使用了另一种类似于决策树的树。唯一的区别是，不同于在构建每棵树时计算分割阈值，这些阈值是为每个特征随机绘制的，并选择最佳阈值作为分割规则。这允许以偏差略微增加的代价来降低方差:
from sklearn.ensemble import ExtraTreesRegressor, RandomForestRegressor from sklearn.model_selection import cross_val_score from sklearn.tree import DecisionTreeRegressor X, y = make_regression(n_samples=10000, n_features=20) # 决策树 clf = DecisionTreeRegressor(max_depth=None, min_samples_split=2, random_state=0) scores = cross_val_score(clf, X, y, cv=5) >>> scores.mean() 0.6376080094392635 # 随机森林 clf = RandomForestRegressor( n_estimators=10, max_depth=None, min_samples_split=2, random_state=0 ) scores = cross_val_score(clf, X, y, cv=5) >>> scores.mean() 0.8446103607404536 # ExtraTrees clf = ExtraTreesRegressor( n_estimators=10, max_depth=None, min_samples_split=2, random_state=0 ) scores = cross_val_score(clf, X, y, cv=5) >>> scores.mean() 0.8737373931608834
如结果所示，ExtraTreesRegressor 在合成数据集上的表现优于随机森林。
4 .impute.IterativeImputer 和 .impute.KNNImputer
如果你正在寻找比SimpleImputer更健壮、更先进的imputation技术，Sklearn再次为你提供了支持。impute 子包包括两个基于模型的 impute 算法KNNImputer和IterativeImputer。
顾名思义，KNNImputer使用k-Nearest-Neighbors算法来寻找缺失值的最佳替代:
from sklearn.impute import KNNImputer # 代码取自Sklearn用户指南 X = [[1, 2, np.nan], [3, 4, 3], [np.nan, 6, 5], [8, 8, 7]] imputer = KNNImputer(n_neighbors=2) imputer.fit_transform(X)
输出：
array([[1. , 2. , 4. ],
[3. , 4. , 3. ],
[5.5, 6. , 5. ],
[8. , 8. , 7. ]])
另一个更健壮的算法是IterativeImputer。它通过将每个特征的缺失值建模为其他特征的函数来寻找缺失值。这个过程是按循序渐进的循环方式完成的。在每一步中，选择一个具有缺失值的特征作为目标(y)，其余的作为特征数组(X)。然后，使用回归函数预测 y 中的缺失值，并对每个特征继续这个过程，直到max_iter次数 (IterativeImputer的一个参数)。
因此，会为一个缺失的值生成多个预测。这样做的好处是，可以将每个缺失的值视为随机变量，并将其与固有的不确定性联系起来:
from sklearn.experimental import enable_iterative_imputer from sklearn.impute import IterativeImputer from sklearn.linear_model import BayesianRidge imp_mean = IterativeImputer(estimator=BayesianRidge()) imp_mean.fit([[7, 2, 3], [4, np.nan, 6], [10, 5, 9]]) X = [[np.nan, 2, 3], [4, np.nan, 6], [10, np.nan, 9]] imp_mean.transform(X)
输出：
array([[ 6.95847623, 2. , 3. ],
[ 4. , 2.6000004 , 6. ],
[10. , 4.99999933, 9. ]])
结果表明，使用IterativeImputer缺失值填补算法的BayesianRidge和ExtraTree算法性能效果变现更加优秀。
5 .linear_model.HuberRegressor
虽然正常情况下，数据分布中存在异常值是非常常见的， 但异常值的存在会严重破坏任何模型的预测。许多异常值检测算法会丢弃异常值并将其标记为缺失。虽然这有助于模型的学习，但它完全消除了异常值对分布的影响。
另一种算法是HuberRegressor回归算法。它不是完全去除它们，而是在拟合数据期间给予异常值更小的权重。它有超参数epsilon来控制样本的数量，这些样本应该被归类为异常值。参数越小，对异常值的鲁棒性越强。它的API与任何其他线性回归函数相同。下面，你可以看到它与贝叶斯岭回归器在一个有大量异常值的数据集上的比较:
可以看到，设置参数 epsilon 为1.35 1.5, 1.75的huberregressionor算法设法捕获不受异常值影响的最佳拟合线。
6 .tree.plot_tree
Sklearn 中可以使用plot_tree函数绘制单个决策树的结构。这个特性可能对刚开始学习基于树的模型和集成模型的初学者很方便，通过该方法，对决策树的决策过程可视化，对其决策过程和原理更加一目了然。
from sklearn.datasets import load_iris from sklearn.tree import DecisionTreeClassifier, plot_tree iris = load_iris() X, y = iris.data, iris.target clf = DecisionTreeClassifier() clf = clf.fit(X, y) plt.figure(figsize=(15, 10), dpi=200) plot_tree(clf, feature_names=iris.feature_names, class_names=iris.target_names);
还有其他绘制树的方法，比如 Graphviz。
7 .linear_model.Perceptron
尽管感知机是一个奇特的名字，但它是一个简单的线性二进制分类器。算法的定义特征是适合大规模学习，默认为:
它不需要学习速率。不要实现正则化。它只在分类错误的情况下更新模型。它等价于SGDClassifier，loss="perceptron"，eta0=1，learning_rate="constant"，penalty=None，但略快:
from sklearn.datasets import make_classification from sklearn.linear_model import Perceptron # 创建一个更大的数据集 X, y = make_classification(n_samples=100000, n_features=20, n_classes=2) # Init/Fit/Score clf = Perceptron() _ = clf.fit(X, y) clf.score(X, y)
输出：
0.91928
8 .feature_selection.SelectFromModel
Sklearn 中另一个基于模型的特征选择模型是 SelectFromModel。它不像RFECV那样健壮，但由于它具有较低的计算成本，可以作为大规模数据集的一个很好的选择。它也是一个包装器模型，适用于任何具有.feature_importance_或.coef_属性的模型:
from sklearn.feature_selection import SelectFromModel # 创建一个包含40个无信息特征的数据集 X, y = make_regression(n_samples=int(1e4), n_features=50, n_informative=10) # 初始化选择器并转换特性数组 selector = SelectFromModel(estimator=ExtraTreesRegressor()).fit(X, y) selector.transform(X).shape
输出：
(10000, 8)
如结果所示，算法成功地删除了所有40个冗余特征。
9 .metrics.ConfusionMatrixDisplay
总所周知，混淆矩阵是用于评估分类问题的常用方法。我们通常使用的大多数指标都来自于它，如精度、召回率、F1、ROC AUC等等。Sklearn中可以计算和绘制一个默认的混淆矩阵:
from sklearn.metrics import plot_confusion_matrix from sklearn.model_selection import train_test_split # 创建一个二元分类问题 X, y = make_classification(n_samples=200, n_features=5, n_classes=2) X_train, X_test, y_train, y_test = train_test_split( X, y, test_size=0.5, random_state=1121218 ) clf = ExtraTreeClassifier().fit(X_train, y_train) fig, ax = plt.subplots(figsize=(5, 4), dpi=100) plot_confusion_matrix(clf, X_test, y_test, ax=ax);
老实说，我不喜欢默认的混淆矩阵。它的格式是固定的—行是true labels，列是predictions label。第一行和第一列是负类，第二行和第二列是正类。有些人可能更喜欢不同格式的矩阵，可能是转置或翻转的。
例如，我喜欢将正类作为第一行和第一列。这有助于我更好地隔离 4 矩阵项 --TP, FP, TN, FN。幸运的是，你可以用另一个函数ConfusionMatrixDisplay绘制自定义矩阵:
from sklearn.metrics import ConfusionMatrixDisplay, confusion_matrix clf = ExtraTreeClassifier().fit(X_train, y_train) y_preds = clf.predict(X_test) fig, ax = plt.subplots(figsize=(5, 4), dpi=100) cm = confusion_matrix(y_test, y_preds) cmp = ConfusionMatrixDisplay(cm, display_labels=["Positive", "Negative"]) cmp.plot(ax=ax);
在传递给ConfusionMatrixDisplay之前，可以把混淆矩阵cm放在任何格式中。
10 .Generalized Linear Models
一般情况下，如果有可用于其他类型分布的替代方案，则将目标(y)转换为正态分布是没有意义的。
例如，Sklearn 为目标变量提供了3种广义线性模型，分别是泊松、Tweedie或Gamma分布，而不是所期望的正态分布，poissonregressionor, TweedieRegressor 和 GammaRegressor可以生成具有各自分布的目标的稳健结果。
除此之外，他们的api与任何其他Sklearn模型一样。为了找出目标的分布是否与上述三个相匹配，可以将它们的PDF(概率密度函数)绘制在相同轴上。
例如，要查看目标是否遵循泊松分布，可以使用 Seaborn 的kdeploy绘制它的 PDF，并在相同的轴上使用np.random_poisson从 Numpy 中采样，绘制完美的泊松分布。
11 .ensemble.IsolationForest
一般情况下，基于树的模型和集合模型通常产生更稳健的结果，它们在异常点检测方面也被证明是有效的。Sklearn 中的IsolationForest使用一个极端随机树 (tree.ExtraTreeRegressor) 来检测异常值。每棵树试图通过选择一个单一的特征，并在所选特征的最大值和最小值之间随机选择一个分裂值来隔离每个样本。
这种随机分区会在每棵树的根节点和终止节点之间产生明显更短的路径。
因此，当随机树组成的森林为特定样本共同产生更短的路径长度时，它们极有可能是异常——Sklearn用户指南。
from sklearn.ensemble import IsolationForest X = np.array([-1.1, 0.3, 0.5, 100]).reshape(-1, 1) clf = IsolationForest(random_state=0).fit(X) clf.predict([[0.1], [0], [90]])
输出：
array([ 1, 1, -1])
12 .preprocessing.PowerTransformer
许多线性模型需要在数值特征上进行一些转换才能使其服从正态分布。StandardScaler和MinMaxScaler在大多数发行版中都比较适用。然而，当数据存在高偏度时，分布的核心指标，如平均值、中位数、最小值和最大值，就会受到影响。因此，简单的标准化和标准化对倾斜分布不起作用。
相反，Sklearn 实现中提供了一个名为PowerTransformer的方法，它使用对数变换将任何倾斜的特征尽可能地转化为正态分布。考虑 Diamonds 数据集中的两个特征:
import seaborn as sns
diamonds = sns.load_dataset("diamonds")
diamonds[["price", "carat"]].hist(figsize=(10, 5));
两者都严重倾斜。我们用对数变换PowerTransformer来解决这个问题:
from sklearn.preprocessing import PowerTransformer pt = PowerTransformer() diamonds.loc[:, ["price", "carat"]] = pt.fit_transform(diamonds[["price", "carat"]]) diamonds[["price", "carat"]].hist(figsize=(10, 5));
13 .preprocessing.RobustScaler
Sklearn 中的另一个数字转换器是RobustScaler，我们可以从它的名称猜出它的用途——可以以一种健壮到异常值的方式转换特性。如果一个特征中存在异常值，就很难使其服从正态分布，因为它们会严重扭曲均值和标准差。
与使用均值/标准不同，RobustScaler使用中值和IQR(四分位数范围)来衡量数据，因为这两个指标都不会因为异常值而有偏差。
14 .compose.make_column_transformer
在 Sklearn 中，有一个用make_pipeline函数创建 Pipeline 实例的简写。该函数不需要为Pipeline中的每一步命名，而是只接受变形器和估计器并执行它的工作，从而不需要使代码那么长:
from sklearn.impute import SimpleImputer from sklearn.pipeline import make_pipeline from sklearn.preprocessing import StandardScaler pipeline = make_pipeline(SimpleImputer(), StandardScaler(), ExtraTreesRegressor()) pipeline
Pipeline(steps=[("simpleimputer",
SimpleImputer()),
("standardscaler",
StandardScaler()),
("extratreesregressor",
ExtraTreesRegressor())])对于更复杂的场景，使用ColumnTransformer，这有相同的问题——每个预处理步骤都应该命名，这会使代码变得冗长且不可读。Sklearn提供了与make_pipeline类似的函数:
import seaborn as sns
from sklearn.compose import make_column_transformer
from sklearn.preprocessing import OneHotEncoder
# 负载钻石数据集
diamonds = sns.load_dataset("diamonds")
X, y = diamonds.drop("price", axis=1), diamonds.price.values.reshape(-1, 1)
# 拆分数字和类别标签
num_cols = X.select_dtypes(include=np.number).columns
cat_cols = X.select_dtypes(exclude=np.number).columns
make_column_transformer((StandardScaler(), num_cols),
(OneHotEncoder(), cat_cols))
ColumnTransformer(
transformers=[("standardscaler",
StandardScaler(),
Index(["carat", "depth",
"table", "x", "y", "z"],
dtype="object")),
("onehotencoder",
OneHotEncoder(),
Index(["cut", "color",
"clarity"],
dtype="object"))]
)如上所示，使用make_column_transformer要短得多，并且它自己负责命名每个转换器步骤。
15 .compose.make_column_selector
上文中，我们使用select_dtypes函数和pandas DataFrames的columns属性来拆分数值列和分类列。虽然这当然有效，但使用 Sklearn 有一个更灵活、更优雅的解决方案。
make_column_selector函数创建一个可以直接传递到 ColumnTransformer 实例中的列选择器。它的工作原理与select_dtypes类似，甚至更好。它有dtype_include和dtype_exclude参数，可以根据数据类型选择列。如果需要自定义列筛选器，可以将正则表达式传递给 pattern，同时将其他参数设置为 None。下面是它的工作原理:
from sklearn.compose import make_column_selector make_column_transformer( (StandardScaler(), make_column_selector(dtype_include=np.number)), (OneHotEncoder(), make_column_selector(dtype_exclude=np.number)), )
只是传递一个实例 make_column_selector 与由你设置相关参数，而不是传递一个列名称列表!
16 .preprocessing.OrdinalEncoder
在我们刚学习机器学习时，常见的一个错误是使用LabelEncoder来编码有序的分类特征。注意到，LabelEncoder一次只允许转换一个列，而不是像OneHotEncoder那样同时转换。你可能会认为 Sklearn 犯了一个错误!
实际上，LabelEncoder应该只用于按照LabelEncoder文档中指定的方式对响应变量(y)进行编码。要编码特征数组(X)，应该使用OrdinalEncoder，它将有序分类列转换为具有(0, n_categories - 1)类的特性。它在一行代码中跨所有指定列执行此操作，使得在管道中包含它成为可能。
from sklearn.preprocessing import OrdinalEncoder oe = OrdinalEncoder() X = [ ["class_1", "rank_1"], ["class_1", "rank_3"], ["class_3", "rank_3"], ["class_2", "rank_2"], ] oe.fit_transform(X)
输出：
array([[0., 0.],
[0., 2.],
[2., 2.],
[1., 1.]])
17 .metrics.get_scorer
Sklearn 内置了 50 多个指标，它们的文本名称可以在Sklearn.metrics.scores.keys中看到。在单个项目中，如果单独使用它们，则可能需要使用多个指标并导入它们。
从sklearn.metrics中导入大量指标可能会污染你的名称空间，使其变得不必要的长。一种解决方案是可以使用metrics.get_scorer函数使用其文本名称访问任何度量，而不需要导入它:
from sklearn.metrics import get_scorer
>>> get_scorer("neg_mean_squared_error")
make_scorer(mean_squared_error,
greater_is_better=False)
>>> get_scorer("recall_macro")
make_scorer(recall_score,
pos_label=None,
average=macro)
>>> get_scorer("neg_log_loss")
make_scorer(log_loss,
greater_is_better=False,
needs_proba=True)
18 .model_selection.HalvingGrid 和 HalvingRandomSearchCV
在 sklearn 的 0.24 版本中，引入了两个实验性超参数优化器：HalvingGridSearchCV和HalvingRandomSearchCV类。
与它们详尽的同类GridSearch和RandomizedSearch不同，新类使用了一种称为连续减半的技术。不是在所有数据上训练所有候选集，而是只将数据的一个子集提供给参数。通过对更小的数据子集进行训练，筛选出表现最差的候选人。每次迭代后，训练样本增加一定的因子，而可能的候选个数减少尽可能多的因子，从而获得更快的评估时间。
快多少呢？在我做过的实验中，HalvingGridSearch比普通GridSearch快11倍，HalvingRandomSearch甚至比HalvingGridSearch快10倍。
19 .sklearn.utils
Sklearn在sklearn.utils中有一整套实用程序和辅助功能。Sklearn本身使用这个模块中的函数来构建我们使用的所有变形器transformers和估计器transformers。
这里有许多有用的方法，如class_weight.compute_class_weight、estimator_html_repr、shuffle、check_X_y等。你可以在自己的工作流程中使用它们，使你的代码更像 Sklearn，或者在创建适合 Sklearn API 的自定义转换器和评估器时，它们可能会派上用场。
总结
尽管像CatBoost, XGBoost, LightGBM等库正在慢慢从 Sklearn 中抢走领先的 ML 库的头把交椅，但它仍然是现代 ML工程师技能堆栈中不可估量的一部分。
一致的 API、卓越的代码设计以及创建强大的 ML 工作流的能力仍然使 Sklearn 在功能和灵活性方面无与伦比。尽管我们可以在基础知识方面完成很多工作，但本文表明 Sklearn 提供的不仅仅是表面上的东西！
以上就是19个Python Sklearn中超实用的隐藏功能分享的详细内容，更多关于Python Sklearn的资料请关注脚本之家其它相关文章！
X 关闭
X 关闭
- 1转转集团发布2022年二季度手机行情报告：二手市场“飘香”
- 2充电宝100Wh等于多少毫安？铁路旅客禁止、限制携带和托运物品目录
- 3好消息！京东与腾讯续签三年战略合作协议 加强技术创新与供应链服务
- 4名创优品拟通过香港IPO全球发售4100万股 全球发售所得款项有什么用处？
- 5亚马逊云科技成立量子网络中心致力解决量子计算领域的挑战
- 6京东绿色建材线上平台上线 新增用户70%来自下沉市场
- 7网红淘品牌“七格格”chuu在北京又开一家店 潮人新宠chuu能红多久
- 8市场竞争加剧，有车企因经营不善出现破产、退网、退市
- 9北京市市场监管局为企业纾困减负保护经济韧性
- 10市场监管总局发布限制商品过度包装标准和第1号修改单