您的位置:首页 > 其它

用R进行文档层次聚类完整实例(tm包)

2012-07-19 17:00 197 查看
##R对文档进行层次聚类的尝试
##连接数据库,将数据库中的文件读取出来
#加载包
library(RMySQL)
#建立连接
conn <- dbConnect(dbDriver("MySQL"), dbname = "eswp", user="root", password="root")
#读取 表2008yearnew
text = dbReadTable(conn, "2008yearnew")[,2:2]#只读取mesh词的那一列,通过前面的第一个下标修改读取的行数

#加载tm包
library(tm)
#建立语料库
corpus=Corpus(VectorSource(text))
#从语料库建立文档-词矩阵,用tf-idf来表示,stopwords = stopwords("mesh")表示使用mesh停用词表,停用词表放在tm包中的stopwords文件夹中
dtm = DocumentTermMatrix(corpus,control = list(stopwords=stopwords("mesh"), weighting = weightTfIdf))
#用夹角余弦计算文档之间相似度
dist_dtm <- dissimilarity(dtm, method = 'cosine')
#根据相似度进行层次聚类,距离使用average即类平均法距离,可以使用的其他距离有,single,complete,median,mcquitty,average,centroid,ward等
hc <- hclust(dist_dtm, method = 'ave')
#聚类图
plot(hc)
#如果类数目较多,则会重合看不清楚,使用下列方法画出大像素图形
png(width=4000,height=3000) #将输出设备改为png,像素尽可能的大,这个是200个文档的看着很清楚的设置
#cex为标签的大小,同时,可以使用cex.axis属性来改变坐标系上数字的大小,使用cex.lab改变下面矩阵名字的大小
#使用cex.main改变上方标题的大小,使用cex.sub改变下方聚类方法名称的大小,lwd是图形中线的宽度,此时图形将会在工作目录中看到
plot(hc,cex=2,cex.axis=3,cex.lab=3,cex.main=3,cex.sub=3,lwd=1.5)
dev.off()

#使用cutree函数查看聚类结果,k=2表示将结果分成2类,这种方式效果不好,往往是某一类特别多,某一类特别少
ct = cutree(hc,k=2)
#使用cutree函数按高度查看聚类结果
ct1 = cutree(hc,h=0.9)
#结果统计信息
table(ct)
#查看第一类中的文档,如果要查看其他类,以此类推
ct1 <- ct[ct==1];ct1
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: