R语言数据分析系列之六，数据分析之六


R语言数据分析系列之六

—— by comaple.zhang


上一节讲了R语言作图，本节来讲讲当你拿到一个数据集的时候如何下手分析，数据分析的第一步，探索性数据分析。

统计量，即统计学里面关注的数据集的几个指标，常用的如下：最小值，最大值，四分位数，均值，中位数，众数，方差，标准差，极差，偏度，峰度

先来解释一下各个量得含义，浅显就不说了，这里主要说一下不常见的

众数：出现次数最多的

方差：每个样本值与均值的差得平方和的平均数

标准差：又称均方差，是方差的二次方根，用来衡量一个数据集的集中性

极差：最大值与最小值只差

偏度：相对于正态分布而言如果波峰出现在左边，就表明长尾出现在右边，成为右偏态（正偏态）偏度值>0，分布反之为左偏太（负偏态）偏度值<0

峰度：也是相对于正太分布的，正态分布的峰度为3，如果峰度>3图形越胖，越矮，称为厚尾，峰度<3 图形越瘦，越高，称为瘦尾

 

本节数据集：

我们采用MASS包的Insurance数据集，该数据集为某保险公司的车险数据。

"District"  "Group"    "Age"      "Holders"  "Claims" 

按列一次表示：家庭住址区域，投保汽车排量，投保人年龄，投保人数量，要求索赔的数量

安装包与加载数据集：

install.pacakges('MASS') # 安装包
library(MASS) #加载包
data(Insurance) # 加载数据集
ins <- Insurance #拷贝一份数据


 

探索行数据分析

 R包自带的函数summary可以给出数据的概括：

summary(ins)

District   Group       Age        Holders            Claims     

 1:16    <1l   :16   <25 :16   Min.   :  3.00   Min.   : 0.00 

 2:16    1-1.5l:16   25-29:16   1st Qu.: 46.75   1st Qu.:  9.50 

 3:16    1.5-2l:16   30-35:16   Median : 136.00   Median : 22.00 

 4:16    >2l   :16   >35 :16   Mean   : 364.98  Mean   : 49.23 

                                 3rd Qu.:327.50   3rd Qu.: 55.50 

                                 Max.   :3582.00  Max.   :400.00

 

我们发现对于因子类型向量该方法给出了频度分布，对于连续型变量该方法给出了,最小值，第一四分位数，中位数，均值，第三四分位数，最大值

从结果中我们可以看到Holders列的数据中位数明显远小于均值，这说明这个数据集是个偏数据集，整体数据集中在3——327.5之间，我们可以通过点图来继续查看：

 

plot(ins$Holders)


 

点图看的可能不是很直观，我们期望直观的看到数据的变化，可以通过直方图来展示：

col <- c(brewer.pal(9,'YlOrRd')[1:9])
h<-hist(ins$Holders,breaks=12,col=col)
xfit <-seq(min(ins$Holders),max(ins$Holders),length=40)
yfit <-dnorm(xfit,mean=mean(ins$Holders),sd=sd(ins$Holders))
yfit <- yfit*diff(h$mids[1:2]) *length(ins$Holders)
lines(xfit,yfit,col='red',lwd=2)


 

 

方差与标准差

来计算Holders列的方差和标准差：

var(ins$Holders)
sd(ins$Holders)


其实单变量的方差和标准差是没有太大意义的，对比才可以看出数据集的异同。

如果我们要分析用户按照年龄分组后的统计值该如何计算呢，aggregate函数为我们提供了很好的方法如下：

agg<-aggregate(ins[4:5],by=list(age=ins$Age),sd)
pie(agg$Claims,labels=agg$age)
agg


 

   age   Holders    Claims

1  <25  80.41797  16.55181

2 25-29 141.11414  22.63184

3 30-35 177.34353  24.23694

4  >35 941.66603 103.52228

 

相当于按照age列 group by 后的分组统计量。


偏度和峰度：

为了计算偏度和峰度我们可以自己实现函数stat如下：

 

stat <- function(x,na.omit=F){
 if(na.omit)  x <- x[!is.na(x)]
  m<- mean(x)
  n<- length(x)
  s<- sd(x)
 skew <- sum((x-m)^3/s^3)/n
 kurt <- sum((x-m)^4/s^4)/n - 3
 return(c(n=round(n),mean=m,stdev=s,skew=skew,kurtosis=kurt))
}
 
sapply(ins[4:5],stat)


 

 

 

           Holders    Claims

n        64.000000 64.000000

mean    364.984375 49.234375

stdev   622.770601 71.162399

skew      3.127833  2.877292

kurtosis 10.999610  9.377258

 

我们可以看到，Holders和Claims的偏度都是大于零的，那么就是说明，这两个变量都是正偏态分布也就是说数据偏向左边，而峰度值都很高，那么说明这两个变量都存在离群点。

同理我们可以利用箱型图来观察，上节已经介绍过了这里不再赘述。

相关内容