一文彻底掌握自动机器学习 AutoML：PyCaret
The following article is from 机器学习研习院 Author 小猴子
这是一个对于机器学习新手非常友好的自动机器学习框架工具。本文中，我们将和大家一起了解 PyCaret 到底是什么，如何安装它，并深入研究使用 PyCaret 构建可解释的机器学习模型，包括集成模型。接下来一起加速构建你的机器学习模型吧
PyCaret 简介
PyCaret[1]是 Python 中的开源机器学习库，可帮助你从数据准备到模型部署。它易于使用，只需一行代码即可完成几乎所有数据科学项目任务。是众多自动机器学习成员中的一名大将！
使用 PyCaret 构建模型非常方便。以下是我们推荐大家使用的两个主要原因：
PyCaret 是一个低代码库，可以提高工作效率。可以花更少的时间在编码上，可以做更多的实验。 它是一个易于使用的机器学习库，可帮助执行端到端机器学习实验，无论是计算缺失值、编码分类数据、实施特征工程、超参数调整还是构建集成模型，都可以非常方便的执行。
安装与警告
pip install pycaret
# 检查版本
from pycaret.utils import version
version()
'2.3.10'
安装方法同一般Python 库，一键pip即可。但需要注意的是，'scikit-learn==0.23.2'，如果版本不对，则会报错：
另外，有一些模块要求 scikit-learn >= 0.24 的，因此，模块间有所冲突，可以使用anaconda创建另一个虚拟环境，以防破坏原有环境。
入门 PyCaret
在本文中，我们将解决一个分类问题。我们有一个银行数据集，其中包含客户年龄、经验、收入、教育程度以及他/她是否有信用卡等特征。该银行希望建立一个机器学习模型，帮助他们识别更有可能购买个人贷款的潜在客户。
# importing pandas to read the CSV file
import pandas as pd
# read the data
data_classification = pd.read_csv('datasets/loan_train_data.csv')
# view the top rows of the data
data_classification.head()
在PyCaret 中开始机器学习项目之前的第一步是设置环境。这只是一个两步过程：
① 导入模块：根据要解决的问题类型，首先需要导入模块。在 PyCaret 的第一个版本中，有 6 个不同的模块可用 ---> 回归、分类、聚类、自然语言处理 (NLP)、异常检测和关联挖掘规则。在本文中，我们将解决一个分类问题，因此我们将导入分类模块
# import the classification module
from pycaret import classification
# setup the environment
classification_setup = classification.setup(
data= data_classification, target='Personal Loan')
当你运行 setup 函数时，它会首先确认数据类型，然后如果你按下回车，它会为你创建环境让你继续。
环境创建完成后，会列出分类函数所有参数的设置。
上下滑动查看更多
还可以设置更多的自定义参数
上下滑动查看更多源码
data_amend = exp_mclf101 = setup(
data= data_classification,
target='Personal Loan',
train_size = 0.80,
ignore_features = ["session_id",...],
numeric_features =["Age",...],
combine_rare_levels= False,
rare_level_threshold=0.1,
categorical_imputation = 'mode',
imputation_type ='simple',
feature_interaction = True,
feature_ratio= True,
interaction_threshold=0.01,
session_id=123,
fold_shuffle=True,
use_gpu=True,
fix_imbalance=True,
remove_outliers=False,normalize = True,
transformation = False,
transformation_method='quantile',
feature_selection= True,
feature_selection_threshold = 0.8,
feature_selection_method='boruta',
remove_multicollinearity = True,
multicollinearity_threshold=0.8
normalize_method = 'robust')使用 PyCaret 训练机器学习模型
在 PyCaret 中训练模型非常简单。你只需要使用create_model函数，它只接受一个参数 ---> 模型缩写作为字符串。它将返回一个表格，其中包含用于分类模型的常用评估指标的 k 倍交叉验证分数。
分类：Accuracy、AUC、Recall、Prec.、F1、Kappa 回归：MAE、MSE、RMSE、R2、RMSLE、MAPE
这里给出一个表格，里面包含了各类模型（聚类、分类、回归、异常检测及时间序列模型）模块所需要的模型缩写字符串，在后面用到时可以快速查找：
接下来简单列举两个例子：训练决策树模型及 XGBoost 模型。
训练决策树模型
首先训练一个决策树模型，须为其传递参数"dt "
# build the decision tree model
classification_dt = classification.create_model('dt')上下滑动查看更多
训练 XGBoost 模型
只需要传递字符串"xgboost"：
classification_xgb = classification.create_model('xgboost')
超参数调优
我们可以通过使用 tune_model 函数来调整机器学习模型的超参数，该函数接受一个参数——模型缩写字符串 (与在 create_model 函数中使用的相同)。
PyCaret 提供了很大的灵活性。例如，可以使用 tune_model 函数中的 fold 参数定义折叠次数。或者我们可以使用 n_iter 参数更改迭代次数。增加 n_iter 参数显然会增加训练时间，但会提供更好的性能。
训练一个调整好的 CatBoost 模型：
# build and tune the xgboost model
tune_xgboost = classification.tune_model(
classification_xgb,
n_iter=50, optimize='AUC')
使用 PyCaret 构建集成模型
机器学习中的集成模型结合了来自多个模型的决策以提高整体性能。
在 PyCaret 中，我们只需一行代码就可以创建 bagging、boosting、blending 和 stacking 集成模型。
在这里训练一个提升集成模型。它还将返回一个表格，其中包含常见评估指标的 k折交叉验证分数：
# ensemble boosting
boosting = classification.ensemble_model(
classification_dt,
method= 'Boosting')
另一种非常著名的集成技术是混合。只需要传递在blend_models函数列表中创建的模型。
# Ensemble: blending
blender = classification.blend_models(
estimator_list=[classification_dt,
classification_xgb])
比较模型
这是 PyCaret 库的另一个有用功能。如果不想一一尝试不同的模型，可以使用比较模型功能，它会为导入的模块库中的所有可用模型训练和比较通用评估指标。
此功能仅在 pycaret.classification 和 pycaret.regression 模块中可用。
# compare performance of different classification models
classification.compare_models()上下滑动查看更多
分析模型
在训练模型之后的下一步就是分析结果。从商业角度来看，这特别有用。在 PyCaret 中分析模型同样非常简单。只需一行代码就可以执行以下操作：
plot_model一样简单。可以绘制决策边界、精确召回曲线、验证曲线、残差图等。此外，对于聚类模型，可以绘制肘部图和轮廓图。对于文本数据，可以绘制词云、二元三元频率图等。绘制模型结果
可以通过提供模型对象作为参数和所需的绘图类型来绘制模型结果。
绘制 AUC-ROC 曲线和决策边界：
# AUC-ROC plot
classification.plot_model(classification_dt,
plot = 'auc')
# Decision Boundary
classification.plot_model(classification_dt,
plot = 'boundary')
制训练模型的精确召回曲线和验证曲线：
# Precision Recall Curve
classification.plot_model(classification_dt,
plot = 'pr')
# Validation Curve
classification.plot_model(classification_dt,
plot = 'vc')
混淆矩阵
# Validation Curve
classification.plot_model(classification_dt,
plot = 'confusion_matrix')
特征重要性top10
# Validation Curve
classification.plot_model(classification_dt,
plot = 'feature')
更多评估模型可视化详细文档可参见：https://pycaret.gitbook.io/docs/get-started/functions/analyze#plot_model
评估模型
如果不想单独绘制所有这些可视化，那么 PyCaret 库还有另一个优秀的功能 ---> evaluate_model。在这个函数中，只需要传递模型对象，PyCaret 就会创建一个交互式窗口，让你以所有可能的方式查看和分析模型：
# evaluate model
classification.evaluate_model(classification_dt)
解释模型
在大多数机器学习项目中，解释复杂模型非常重要。它通过分析模型认为重要的内容来帮助调试模型。在PyCaret中，这一步就像编写 translate_model来获取 Shapley 值一样简单。
可以在此处阅读有关 Shapley 值的信息
# interpret_model: SHAP
classification.interpret_model(
classification_xgb)上下滑动查看更多
绘制相关图
# interpret model : Correlation
classification.interpret_model(
classification_xgb,
plot='correlation')
模型预测
最后，我们将对陌生数据进行预测。为此，我们只需要传递将用于预测的数据集的模型。注意的是，确保它与之前设置环境时提供的格式相同。PyCaret 构建了所有步骤的管道，并将预测数据传递到管道中并输出结果。
# read the test data
test_data_classification = pd.read_csv(
'datasets/loan_test_data.csv')
# make predictions
predictions = classification.predict_model(
classification_dt,
data=test_data_classification)
# view the predictions
predictions
保存和加载模型
一旦模型被构建和测试，可以使用 save_model 函数将它保存在 pickle 文件中。传递要保存的模型和文件名，就是这样：
# save the model
classification.save_model(classification_dt, 'decision_tree_1')
Transformation Pipeline and Model Succesfully Saved
可以稍后加载这个模型并预测看不见的数据上的标签。
# load model
dt_model = classification.load_model(model_name='decision_tree_1')
Transformation Pipeline and Model Succesfully Loaded
PyCaret 中易被忽略的 5 件事
compare_models 做的比你想象的要多
PyCaret 1.0 版时，compare_models函数正在比较库中的所有模型以返回平均交叉验证的性能指标。基于此，使用create_model来训练性能最佳的模型并获得可用于预测的训练模型输出。
而后来在 2.0 版中，compare_models 根据 n_select 参数默认设置为 1返回最佳模型。
best_model = compare_models()
print(best_model)
<catboost.core.CatBoostClassifier object
at 0x7fe9db1ad340>
通过将n_select参数更改为 3，可以获得前 3 个模型的列表。例如
top3 = compare_models(n_select=3)
print(top3)
返回的对象是经过训练的模型，不需要再次调用create_model来训练它们。可以使用这些模型来生成诊断图，甚至可以将它们用于预测。例如：
predict_model(top3[0], data=data)
不限于 scikit-learn 模型
有不少用户没有意识到，PyCaret 不仅限于默认模型。除了模型库中可用模型的 ID 之外，create_model函数还接受未经训练的模型对象。只要你定义的对象与 scikit-learn fit/predict API 兼容，它就可以正常工作。例如，简单地导入未经训练的 NGBClassifier 来训练和评估来自 ngboost[2]库的 NGBClassifier。
注意⚠️，安装ngboost后会有一些不兼容，谨慎使用！
from ngboost import NGBClassifier
ngc = NGBClassifier()
ngboost = create_model(ngc)
print(ngboost)
也可以在compare_models的 include参数中传递未经训练的模型，它一样会正常工作。
best = compare_models(include=['lr', 'dt', 'knn', ngboost])
该函数 compare_models 中包含参数包括模型库中三个未训练模型的 ID，即逻辑回归、决策树和 KNN 以及 ngboost 库中的一个未训练对象。另外注意结果表中索引表示在 include 参数中输入的模型的位置。
易被忽略的pull() 函数
PyCaret 中的所有训练函数（create_model、tune_model、ensemble_model 等）都显示分数网格，但不返回分数网格。因此，你不能将分数网格存储在像 pandas.DataFrame 这样的对象中。但是，有一个名为pull的函数可以让你执行此操作。
dt = create_model('dt')
dt_result = pull()
type(dt_result)
pandas.core.frame.DataFrame
在使用predict_model函数时，也同样适用返回分数网格。
predictions = predict_model(dt)
holdout_score = pull()
type(holdout_score)
现在可以像 pandas.DataFrame 一样访问指标内容，从而可以以此做不少事。例如，可以创建一个循环来训练具有不同参数的模型，并使用以下简单代码创建一个比较表。
lr = [0.1, 0.2, 0.3, 0.4, 0.5, 0.6]
AUC = []
for i in lr:
lightgbm = create_model('lightgbm', learning_rate=i)
AUC.append(pull()['AUC']['Mean'])
import pandas as pd
pd.DataFrame(AUC, index=lr, columns=['AUC'])
PyCaret不是黑盒子
你以为PyCaret的预处理都在幕后进行，用户无法访问，也无法查看运行设置功能时发生的情况。其实不然！
PyCaret 中有两个函数get_config 和 set_config 允许你在后台访问和更改所有内容，从训练集到模型的随机状态。可以通过调用help(get_config)查看get_config函数的文档来帮助你了解可以访问哪些变量：
help(get_config)上下滑动查看更多
Help on function get_config in module pycaret.classification:
get_config(variable: str)
This function retrieves the global variables created when initializing the
``setup`` function. Following variables are accessible:
- X: Transformed dataset (X)
- y: Transformed dataset (y)
- X_train: Transformed train dataset (X)
- X_test: Transformed test/holdout dataset (X)
- y_train: Transformed train dataset (y)
- y_test: Transformed test/holdout dataset (y)
- seed: random state set through session_id
- prep_pipe: Transformation pipeline
- fold_shuffle_param: shuffle parameter used in Kfolds
- n_jobs_param: n_jobs parameter used in model training
- html_param: html_param configured through setup
- create_model_container: results grid storage container
- master_model_container: model storage container
- display_container: results display container
- exp_name_log: Name of experiment
- logging_param: log_experiment param
- log_plots_param: log_plots param
- USI: Unique session ID parameter
- fix_imbalance_param: fix_imbalance param
- fix_imbalance_method_param: fix_imbalance_method param
- data_before_preprocess: data before preprocessing
- target_param: name of target variable
- gpu_param: use_gpu param configured through setup
- fold_generator: CV splitter configured in fold_strategy
- fold_param: fold params defined in the setup
- fold_groups_param: fold groups defined in the setup
- stratify_param: stratify parameter defined in the setup
Example
-------
>>> from pycaret.datasets import get_data
>>> juice = get_data('juice')
>>> from pycaret.classification import *
>>> exp_name = setup(data = juice, target = 'Purchase')
>>> X_train = get_config('X_train')
Returns:
Global variable
可以通过在get_config函数中调用这些变量来访问它。例如，要访问X_train转换后的数据集，可以这样编写：
get_config("X_train")
以使用set_config函数来更改环境变量。借助目前对pull、get_config和set_config函数的了解， 可以创建一些非常复杂的工作流。例如，可以对测试集重新采样 N 次 以评估平均性能指标，而不是仅仅依赖于一个测试集：
import numpy as np
Xtest = get_config('X_test')
ytest = get_config('y_test')
AUC = []
for i in np.random.randint(0,1000,size=10):
Xtest_sampled = Xtest.sample(n = 100, random_state = i)
ytest_sampled = ytest[Xtest_sampled.index]
set_config('X_test', Xtest_sampled)
set_config('y_test', ytest_sampled)
predict_model(dt);
AUC.append(pull()['AUC'][0])
print(AUC)
print(np.array(AUC).mean())
[0.9944, 0.9944, 0.9944, 0.9944, 0.9944,
0.9944, 0.9944, 0.9944, 0.9944, 0.9944]
0.9944000000000001
记录实验日志
当使用get_logs函数时，PyCaret 的日志记录功能将生成一个漂亮、轻量级、易于理解的 Excel 电子表格。
# loading dataset
from pycaret.datasets import get_data
data = get_data('juice')
# initializing setup
from pycaret.classification import *
s = setup(data, target = 'Purchase', silent = True, log_experiment = True, experiment_name = 'juice1')
# compare baseline models
best = compare_models()
# generate logs
get_logs()
在这个非常简短的实验中，生成了超过 3,000 个元数据点（指标、超参数、运行时间等）。而我们并不可能手动跟踪这些数据。在 PyCaret 中，有一种简单的方法来跟踪这些元数据点。只需在函数setup中将参数log_experiment设置为 True 。
写在最后
它真的很容易使用。我个人发现 PyCaret 对于在时间紧迫的情况下快速生成结果非常有用。
练习在不同类型的数据集上使用它——你使用得越多，你就会真正掌握它的实用性！它甚至支持在云服务上进行模型部署，也只需一行代码。
参考资料
- EOF -
觉得本文对你有帮助？请分享给更多人
推荐关注「Python开发者」，提升Python技能
点赞和在看就是最大的支持❤️