交叉检验的实现

在k重交叉验证中，样本被分为k个子样本，轮流将k–1个子样本组合作为训练集，另外1个子样本作为保留集。这样会获得k个预测方程，记录k个保留样本的预测表现结果，然后求其平均值。（当n是观测总数目，且k为n时，该方法又称作刀切法，jackknifing。）

目前实现了交叉检验的两种实现方法：

1.boot包里的cv.glm()函数

主要用来做广义线性模型的交叉验证，一般与glm（）函数一起使用。

glm()函数中的参数family = “binomial”用来执行逻辑斯蒂回归，但如果用glm()函数拟合模型时没有设定family参数，那么它就跟lm()函数一样执行的是线性回归。

library(boot)
cv.err <- cv.glm(total_train, total.glm, K = 5)
cv.err$delta
# 返回的向量是交叉验证的结果，包含两个值，分别为原始的交叉验证和调整的交叉验证值。(《统计学习导论》讲过)

bootstrap包里的crossval()函数

通用的交叉验证法。

library(bootstrap)
x <- total_train2[,-2]
y <- total_train2[,2]
theta.fit <- function(x,y) {lsfit(x,y)}
theta.predict <- function(fit, x){
cbind(1,x)%*%fit$coef
}

results <- crossval(x,y,theta.fit,theta.predict,ngroup=5)

result返回的是每个观测值的交叉验证的预测值results$cv.fit，再带入均方误差公式，求出交叉验证的预测误差。

详见： 《R实战2》