没有合适的资源?快使用搜索试试~ 我知道了~
logistic回归与线性回归的比较.doc
需积分: 9 1 下载量 89 浏览量
2022-10-20
07:41:43
上传
评论
收藏 112KB DOC 举报
温馨提示
试读
15页
logistic回归与线性回归的比较.doc
资源推荐
资源详情
资源评论
logistic 回归与线性回归的比较
1 logistic 回归
logistic 回归又称 logistic 回归分析,是一种广义的线性回归分析模型,常用于数据挖掘,疾病自动诊
断,经济预测等领域。例如,探讨引发疾病的危险因素,并根据危险因素预测疾病发生的概率等。以胃癌病
情分析为例,选择两组人群,一组是胃癌组,一组是非胃癌组,两组人群必定具有不同的体征与生活方式等。
因此因变量就为是否胃癌,值为“是”或“否”,自变量就可以包括很多了,如年龄、性别、饮食习惯、幽
门螺杆菌感染等.自变量既可以是连续的,也可以是分类的.然后通过 logistic 回归分析,可以得到自变量
的权重,从而可以大致了解到底哪些因素是胃癌的危险因素.同时根据该权值可以根据危险因素预测一个人
患癌症的可能性。
1.1 logistic 回归概述
logistic 回归是一种广义线性回归(generalized linear model),因此与多重线性回归分
析有很多相同之处。它们的模型形式基本上相同,都具有 w‘x+b,其中 w 和 b 是待求参数,其
区别在于他们的因变量不同,多重线性回归直接将 w‘x+b 作为因变量,即 y =w‘x+b,而
logistic 回归则通过函数 L 将 w‘x+b 对应一个隐状态 p,p =L(w‘x+b),然后根据 p 与 1-p
的大小决定因变量的值。如果 L 是 logistic 函数,就是 logistic 回归,如果 L 是多项式函数
就是多项式回归.
logistic 回归的因变量可以是二分类的,也可以是多分类的,但是二分类的更为常用,也更
加容易解释,多类可以使用 softmax 方法进行处理。实际中最为常用的就是二分类的 logistic
回归.
Logistic 回归模型的适用条件
1 因变量为二分类的分类变量或某事件的发生率,并且是数值型变量。但是需要注意,重
复计数现象指标不适用于 Logistic 回归。
2 残差和因变量都要服从二项分布。二项分布对应的是分类变量,所以不是正态分布,进而
不是用最小二乘法,而是最大似然法来解决方程估计和检验问题。
3 自变量和 Logistic 概率是线性关系
logistic 回归与线性回归的比较
4 各观测对象间相互独立.
原理:如果直接将线性回归的模型扣到 Logistic 回归中,会造成方程二边取值区间不同和
普遍的非直线关系。因为 Logistic 中因变量为二分类变量,某个概率作为方程的因变量估计值
取值范围为 0-1,但是,方程右边取值范围是无穷大或者无穷小。所以,才引入 Logistic 回归.
Logistic 回归实质:发生概率除以没有发生概率再取对数。就是这个不太繁琐的变换改变
了取值区间的矛盾和因变量自变量间的曲线关系。究其原因,是发生和未发生的概率成为了比
值 ,这个比值就是一个缓冲,将取值范围扩大,再进行对数变换,整个因变量改变。不仅如此,
这种变换往往使得因变量和自变量之间呈线性关系,这是根据大量实践而总结。所以,Logistic
回归从根本上解决因变量要不是连续变量怎么办的问题.还有,Logistic 应用广泛的原因是许多
现实问题跟它的模型吻合.例如一件事情是否发生跟其他数值型自变量的关系。
注意:如果自变量为字符型,就需要进行重新编码。一般如果自变量有三个水平就非常难
对付,所以,如果自变量有更多水平就太复杂。这里只讨论自变量只有三个水平.非常麻烦,需
要再设二个新变量。共有三个变量,第一个变量编码 1 为高水平,其他水平为 0.第二个变量编码
1 为中间水平,0 为其他水平.第三个变量,所有水平都为 0。实在是麻烦,而且不容易理解。最
好不要这样做,也就是,最好自变量都为连续变量。
spss 操作:进入 Logistic 回归主对话框,通用操作不赘述。
发现没有自变量这个说法,只有协变量,其实协变量就是自变量。旁边的块就是可以设置
很多模型。
“方法”栏:这个根据词语理解不容易明白,需要说明。
共有 7 种方法.但是都是有规律可寻的。
“向前”和“向后":向前是事先用一步一步的方法筛选自变量,也就是先设立门槛。称作
“前”。而向后,是先把所有的自变量都进来,然后再筛选自变量。也就是先不设置门槛,等进
来了再一个一个淘汰。
logistic 回归与线性回归的比较
“LR”和“Wald”,LR 指的是极大偏似然估计的似然比统计量概率值,有一点长。但是其中
重要的词语就是似然.
Wald 指 Wald 统计量概率值。
“条件”指条件参数似然比统计量概率值。
“进入”就是所有自变量都进来,不进行任何筛选
将所有的关键词组合在一起就是 7 种方法,分别是“进入”“向前 LR”“向前 Wald”"向后
LR”“向后 Wald”“向后条件”“向前条件”
下一步:一旦选定协变量,也就是自变量,“分类”按钮就会被激活。其中,当选择完分类
协变量以后,“更改对比”选项组就会被激活。一共有 7 种更改对比的方法.
“指示符"和“偏差”,都是选择最后一个和第一个个案作为对比标准,也就是这二种方法能
够激活“参考类别”栏。“指示符”是默认选项.“偏差”表示分类变量每个水平和总平均值进
行对比,总平均值的上下界就是”最后一个”和"第一个”在“参考类别”的设置。
“简单”也能激活“参考类别”设置.表示对分类变量各个水平和第一个水平或者最后一个
水平的均值进行比较。
“差值”对分类变量各个水平都和前面的水平进行作差比较。第一个水平除外,因为不能
作差。
“Helmert”跟“差值”正好相反.是每一个水平和后面水平进行作差比较。最后一个水平
除外。仍然是因为不能做差。
“重复”表示对分类变量各个水平进行重复对比.
“多项式”对每一个水平按分类变量顺序进行趋势分析,常用的趋势分析方法有线性,二
次式.
剩余14页未读,继续阅读
资源评论
智慧安全方案
- 粉丝: 3619
- 资源: 59万+
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
最新资源
- 一种改进的Goldstei...-InSAR干涉图滤波算法-于晓歆.pdf
- 陈慧琳 - 今生你作伴 [mqms2].mp3
- The Experiment 2 of Engineering Electromagnetics.pdf
- Engineering-Electromagnetic-Theory-Lab-4.pdf
- Engineering electromagnetic theory-1.docx
- The Experiment 4 of Engineering Electromagnetics.pdf
- Engineering-Electromagnetic-Theory-Lab-3.pdf
- The Experiment 3 of Engineering Electromagnetics.pdf
- Engineering electromagnetic theory-2.docx
- tensorflow-gpu-2.7.0-cp37-cp37m-manylinux2010-x86-64.whl
资源上传下载、课程学习等过程中有任何疑问或建议,欢迎提出宝贵意见哦~我们会及时处理!
点击此处反馈
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功