Python多项式回归实战：原理、代码与可视化详解

多项式回归原理与适用场景

多项式回归属于线性回归的一种特殊形式，其核心在于将自变量x与因变量y之间的关系建模为n次多项式。该方法旨在拟合x值与y的条件均值之间存在的非线性关系，数学上表示为E（y | x）。

为什么选择多项式回归：

• 当研究人员假设某些变量间的关系呈现曲线形态时，显然需要引入多项式项来准确描述这种关系。
• 检查残差分布。如果强行将线性模型拟合到具有曲线特征的数据上，残差散点图（以预测变量X轴、残差Y轴）会在中间区域显示出大量正残差的聚集斑块。这表明线性模型在此类情况下并不适用。
• 在常规的多元线性回归分析中，通常假设所有自变量之间相互独立。然而，在多项式回归模型中，由于存在x的高次项（如x和x²），自变量之间往往存在多重共线性，因此不满足这一独立性假设。

多项式回归的使用场景：

多项式回归主要用于定义或描述那些呈现非线性特征的现象，具体包括：

• 生物组织的生长速度变化。
• 疾病流行病的发展进程。
• 湖泊沉积物中碳同位素的分布规律。

回归分析的基本目标是根据自变量x的值来模拟因变量y的期望值。在简单线性回归中，我们通常使用以下方程：y = a + bx + e

其中，y代表因变量，a是y轴的截距，b是斜率，e则是误差项。

在许多实际场景中，简单的线性模型无法解决问题。例如，若我们要根据合成温度分析化学合成的产量，使用二次模型更为合适，其方程为：y = a + b1x + b2x² + e

在此方程中，y是x的因变量，a是y截距，e是误差率。

通常情况下，我们可以将其推广为n次多项式模型：y = a + b1x + b2x² + .... + bnxⁿ

尽管涉及高次项，但由于回归函数在未知参数方面是线性的，因此这些模型在估计角度上仍被视为线性模型。

因此，我们可以通过最小二乘法技术来计算y的响应值。

Python实现多项式回归全流程

Python中的多项式回归实现：

如需获取用于分析多项式回归的数据集，请点击此处下载。

步骤1：导入必要的库和数据集

导入执行多项式回归所需的重要库以及对应的数据集。

# Importing the libraries 
import numpy as np 
import matplotlib.pyplot as plt 
import pandas as pd 

# Importing the dataset 
datas = pd.read_csv('data.csv') 
datas 

第2步：将数据集划分为两个组件

将数据集拆分为X和y两部分。X将包含第1列到第2列之间的数据（即索引1:2），而y将包含第2列的数据。

X = datas.iloc[:, 1:2].values 
y = datas.iloc[:, 2].values 

第3步：将线性回归模型拟合到数据集

在X和y两个组件上拟合线性回归模型。

# Fitting Linear Regression to the dataset 
from sklearn.linear_model import LinearRegression 
lin = LinearRegression() 

lin.fit(X, y) 

第4步：将多项式回归模型拟合到数据集

将多项式回归模型分别拟合到分量X和y上。

# Fitting Polynomial Regression to the dataset 
from sklearn.preprocessing import PolynomialFeatures 

poly = PolynomialFeatures(degree = 4) 
X_poly = poly.fit_transform(X) 

poly.fit(X_poly, y) 
lin2 = LinearRegression() 
lin2.fit(X_poly, y) 

步骤5：在此步骤中，我们使用散点图来可视化线性回归的结果。

# Visualising the Linear Regression results 
plt.scatter(X, y, color = 'blue') 

plt.plot(X, lin.predict(X), color = 'red') 
plt.title('Linear Regression') 
plt.xlabel('Temperature') 
plt.ylabel('Pressure') 

plt.show() 

步骤6：使用散点图可视化多项式回归的结果。

# Visualising the Polynomial Regression results 
plt.scatter(X, y, color = 'blue') 

plt.plot(X, lin2.predict(poly.fit_transform(X)), color = 'red') 
plt.title('Polynomial Regression') 
plt.xlabel('Temperature') 
plt.ylabel('Pressure') 

plt.show() 

步骤7：利用线性回归和多项式回归分别预测新结果。

# Predicting a new result with Linear Regression 
lin.predict(110.0) 

# Predicting a new result with Polynomial Regression 
lin2.predict(poly.fit_transform(110.0)) 

多项式回归的优缺点分析

使用多项式回归的优点：

• 它具有广泛的功能适应性。
• 多项式模型能够很好地拟合宽范围的曲率。
• 多项式提供了因变量与自变量之间关系的最佳近似解。

使用多项式回归的缺点：

• 这类模型对异常值过于敏感。
• 数据中若存在一个或两个异常值，会严重影响非线性分析的结果。
• 此外，遗憾的是，用于检测非线性回归中异常值的模型验证工具比线性回归要少。

以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持本站。