史上最直白的logistic regression教程整理稿
4星 · 超过85%的资源 需积分: 9 102 浏览量
2015-11-22
15:54:43
上传
评论 2
收藏 575KB PDF 举报 
Logistic Regression
November 22, 2015
1 LR是是是什什什么么么
LR是Logistic Regession的缩写，Logistic Regression是Logistic回归。 它从
样本集中学习拟合参数，将目标值拟合到(0,1)之间。
LR的Logistic，是因为它使用了Logisitic函数，也就是：
f(z) =
e
z
e
z
+ 1
=
1
1 + e
−z
(1)
2 线线线性性性回回回归归归
先从线性回归开始。
假如有n个样本，形如:
{x
1
, y
1
}, {x
2
, y
2
}, ..., {x
i
, y
i
}, ...{x
n
, y
n
} (2)
x
i
的值决定y
i
的值，也就是说x
i
是自变量，y
i
是因变量。
x
i
是列向量:
x
i
= [x
i,1
, x
i,2
, ..., x
i,j
, ..., x
i,k
]
T
(3)
k表示x
i
的第k维， x
i
∈ R
k×1
。x
i
表示成列向量或者行向量不重要，也可以
写成行向量:
x
i
= [x
i,1
, x
i,2
, ..., x
i,j
, ...x
i,k
] (4)
这只对推导过程的中间结果形式有一些影响，不影响最终结果。
拟合x
i
和y
i
的线性关系，就可以根据x
i
计算y
i
。线性拟合形如：
y
i
= w
0
+ w
1
x
i,1
+ w
2
x
i,2
+ ... + w
k
x
i,k
(5)
w
0
看起来不够和谐，跟其 他元素不太一样，为推导流畅，对x
i
做一点修
改，也就是将所有的x
i
重新表示成:
x
i
= [1, x
i,1
, x
i,2
, ..., x
i,j
, ..., x
i,k
]
T
(6)
这样，就得到：
y
i
= w
0
1 + w
1
x
i,1
+ w
2
x
i,2
+ ... + w
k
x
i,k
(7)
1
剩余11页未读，继续阅读
资源评论
dofaster2018-05-09不值这么多积分，都是博客上可以看到的东西
未济20192018-12-18系统设定的积分。不是我设置的。
zqxN2017-12-19貌似不值这么多积分啊 未济20192018-12-18这个是系统设定的积分。不是我设置的。
baibl_gmail2017-12-15焕然大明白
寄居之蟹2017-10-27讲的非常清楚 推导有理有据！！！
赫连玄卮2016-06-11讲解清楚，简单明了
