博客
关于我
python_线性回归,最小二乘法
阅读量:375 次
发布时间:2019-03-05

本文共 1460 字,大约阅读时间需要 4 分钟。

python_线性回归,最小二乘法

  1. 线性回归(又名普通最小二乘法)
    线性回归,或者普通最小二乘法(ordinary least squares,OLS),是回归问题最简单也最经
    典的线性方法。线性回归寻找参数 w 和 b,使得对训练集的预测值与真实的回归目标值 y
    之间的均方误差最小。均方误差(mean squared error)是预测值与真实值之差的平方和除
    以样本数。线性回归没有参数,这是一个优点,但也因此无法控制模型的复杂度。
Linear Regression aka Ordinary Least Squares# 线性回归,最小二乘法# 生成测试数据from sklearn.linear_model import LinearRegressionX, y = mglearn.datasets.make_wave(n_samples=60)X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=42)​lr = LinearRegression().fit(X_train, y_train)# 查看斜率  ,截距print("lr.coef_: {}".format(lr.coef_))print("lr.intercept_: {}".format(lr.intercept_))lr.coef_: [0.394]lr.intercept_: -0.031804343026759746# 查看训练集和测试集的性能print("Training set score: {:.2f}".format(lr.score(X_train, y_train)))print("Test set score: {:.2f}".format(lr.score(X_test, y_test)))# 查看R方# R2 约为 0.66,这个结果不是很好,但我们可以看到,训练集和测试集上的分数非常接近。# 这说明可能存在欠拟合,而不是过拟合。​# 然而,对于更高维的数据集(即有大量特征的数据集),线# 性模型将变得更加强大,过拟合的可能性也会变大Training set score: 0.67Test set score: 0.66​# 我们来看一下 LinearRegression 在更# 复杂的数据集上的表现,比如波士顿房价数据集。记住,这个数据集有 506 个样本和 105# 个导出特征。首先,加载数据集并将其分为训练集和测试集。然后像前面一样构建线性回# 归模型:X, y = mglearn.datasets.load_extended_boston()​X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=0)lr = LinearRegression().fit(X_train, y_train)print("Training set score: {:.2f}".format(lr.score(X_train, y_train)))print("Test set score: {:.2f}".format(lr.score(X_test, y_test)))# 训练集和测试集之间的性能差异是过拟合的明显标志,Training set score: 0.95Test set score: 0.61``

转载地址:http://qtrg.baihongyu.com/

你可能感兴趣的文章
MySQL、HBase 和 Elasticsearch:特点与区别详解
查看>>
MySQL、Redis高频面试题汇总
查看>>
MYSQL、SQL Server、Oracle数据库排序空值null问题及其解决办法
查看>>
mysql一个字段为空时使用另一个字段排序
查看>>
MySQL一个表A中多个字段关联了表B的ID,如何关联查询?
查看>>
MYSQL一直显示正在启动
查看>>
MySQL一站到底!华为首发MySQL进阶宝典,基础+优化+源码+架构+实战五飞
查看>>
MySQL万字总结!超详细!
查看>>
Mysql下载以及安装(新手入门,超详细)
查看>>
MySQL不会性能调优?看看这份清华架构师编写的MySQL性能优化手册吧
查看>>
MySQL不同字符集及排序规则详解:业务场景下的最佳选
查看>>
Mysql不同官方版本对比
查看>>
MySQL与Informix数据库中的同义表创建:深入解析与比较
查看>>
mysql与mem_细说 MySQL 之 MEM_ROOT
查看>>
MySQL与Oracle的数据迁移注意事项,另附转换工具链接
查看>>
mysql丢失更新问题
查看>>
MySQL两千万数据优化&迁移
查看>>
MySql中 delimiter 详解
查看>>
MYSQL中 find_in_set() 函数用法详解
查看>>
MySQL中auto_increment有什么作用?(IT枫斗者)
查看>>