R语言逻辑回归

发布于 2016-01-02 09:32:25 | 529 次阅读 | 评论: 0 | 来源: 网络整理

逻辑回归是回归模型，其中响应变量(因变量)具有明确的值，如：True/False或0/1。 它实际测量二元响应作为响应变量，是基于与预测变量有关它的数学方程的值的概率。

逻辑回归一般的数学公式是：

y = 1/(1+e^-(a+b1x1+b2x2+b3x3+...))

以下是所使用的参数的说明：

• y 是响应变量。
• x 是预测变量。
• a 和 b 是数字常量系数。

用于创建回归模型的功能是 glm()函数。

语法

glm()函数在逻辑回归的基本语法是：

glm(formula,data,family)

以下是所使用的参数的说明：

• formula 是呈现所述变量之间的关系的标志。
• data 在数据集给出这些变量的值.
• family 为R对象以指定模型的细节。它的值是二项分布逻辑回归。

示例

在内置的数据集“mtcars”描述了他们不同的发动机规格的不同型号汽车。在“mtcars”数据集，传输模式（自动或手动）由列点它是一个二进制值描述（0或1）。我们可以创建列“am”和另外3列之间的逻辑回归模型- 马力(hp)，重量(wt)和缸(cyl)。

# Select some columns form mtcars.
input <- mtcars[,c("am","cyl","hp","wt")]

print(head(input))

当我们上面的代码执行时，它产生以下结果：

                  am cyl  hp    wt
Mazda RX4          1   6 110 2.620
Mazda RX4 Wag      1   6 110 2.875
Datsun 710         1   4  93 2.320
Hornet 4 Drive     0   6 110 3.215
Hornet Sportabout  0   8 175 3.440
Valiant            0   6 105 3.460

建立回归模型

我们用 glm()函数来创建回归模型，并得到了汇总分析。

input <- mtcars[,c("am","cyl","hp","wt")]

am.data = glm(formula=am ~ cyl + hp + wt , 
		  data=input, 
		  family=binomial)

print(summary(am.data))

当我们上面的代码执行时，它产生以下结果：

Call:
glm(formula = am ~ cyl + hp + wt, family = binomial, data = input)

Deviance Residuals: 
     Min        1Q    Median        3Q       Max  
-2.17272  -0.14907  -0.01464   0.14116   1.27641  

Coefficients:
            Estimate Std. Error z value Pr(>|z|)  
(Intercept) 19.70288    8.11637   2.428   0.0152 *
cyl          0.48760    1.07162   0.455   0.6491  
hp           0.03259    0.01886   1.728   0.0840 .
wt          -9.14947    4.15332  -2.203   0.0276 *
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

(Dispersion parameter for binomial family taken to be 1)

    Null deviance: 43.2297  on 31  degrees of freedom
Residual deviance:  9.8415  on 28  degrees of freedom
AIC: 17.841

Number of Fisher Scoring iterations: 8

结论

在汇总中的最后一列的 p值大于0.05为变量"cyl" 和 "hp"，我们认为它们是微不足道地促进变量“am”的值。只有重量（wt）在影响这个回归模型“am”的值。