hive中的内部表、外部表、分区表
2017-12-14 19:37
1646 查看
内部表和外部表
hive的表分为内部表(管理表)和外部表(托管表),对于外部表,在创建的时候,需要加上EXTERNAL关键字,不使用EXTERNAL关键字创建的表为内部表:create EXTERNAL table IF NOT EXISTS bhive.people ( id string COMMENT 'student id', //字段描述 name string , sex string ) COMMENT 'student table' //表的描述 ROW FORMAT DELIMITED FIELDS TERMINATED BY ' ' //从文件中将数据导入数据表的时候,文件中的数据每行各个字段之间的分隔符 STORED AS TEXTFILE //从文件中获取数据时,指定文件所属的类型(默认是文本文件,企业开发一般使用ORC和PARQUET) LOCATION /user/hive/warehouse/bhive/people; //指定数据表在hdfs文件系统中的存储的位置
现在假设hive表的元数据信息存储在mysql数据库中,不管是内部表和外部表,在表的创建的时候,将会在mysql数据库中存储hive表的元数据信息,在hdfs文件系统中存储真正的数据信息。
对于内部表来说,如果删除创建的hive表时,此时会将mysql数据库中的元数据信息删除的同时也会将hdfs文件系统中的真正的数据信息删除。
对于外部表来说,删除创建的hive、表的时候,只会删除mysql数据库中的元数据信息,不会删除hdfs文件系统中的真正的数据信息。
分区表
分区表就是在创建的时候使用PARTITIONED BY指定表的分区,所谓分区,就是在hdfs文件系统中的相应的目录下创建相应的分区目录。在查询时候通过where子句中条件指定相应的分区。//创建分区表 create table IF NOT EXISTS bhive.people ( name string , sex string ) PARTITIONED BY (col_name data_type, ...... ); //加载数据 load data local inpath '/path' into table table_name partition (part_name = 'part_name'); //查询分区数据 select * from table_name where part_name = 'part_name';
注意:在加载数据的时候需要指定将数据加载到那个分区下,此时加载数据的时候会自动创建分区目录。
如果在加载数据之前在相应的目录下创建分区目录,如果将数据上传到相应的分区目录下,此时查询将会无法查询到数据。
原因是,自动创建的分区,在mysql数据库的元数据信息中将会添加分区的元数据信息,而手动创建的分区,分区的元数据信息将不会保存到mysql数据库中。此时通过以下操作可以解决:
(1)方式一:修复表
msck repair table table_name
(2)方式二:为指定的表添加分区
alert table dept_name add partition(part_name = 'part_name');
相关文章推荐
- Hive关于内部表外部表以及分区表数据删除总结
- Hive数据加载(内部表,外部表,分区表)
- Hive学习笔记 3 Hive的数据模型:内部表、分区表、外部表、桶表、视图
- Hive中管理表(内部表)和外部表的区别是什么,及分区表使用场景
- Hive内部表,外部表,分区表的创建
- Hive内部表、外部表、分区表以及外部分区表创建以及导入数据实例讲解
- Hive关于内部表外部表以及分区表数据删除总结
- 一起学Hive——创建内部表、外部表、分区表和分桶表及导入数据
- Hive内部表、外部表、分区表介绍
- hive内部表,外部表,分区表,桶表,函数及自定义函数
- Hive的数据存储(内部表,外部表,分区表,桶表,视图)
- Hadoop学习笔记(十八)---Hive内部表,外部表,分区表,桶表
- hive内部表、外部表、分区表、视图
- Hive笔记三之内部表,外部表,分区表,桶表
- hive内部表、外部表、分区表、视图
- Overwrite在hive内部表及外部表特性
- Hive建Hdfs外部分区表
- 分区表,桶表,外部表,以及hive一些命令行小工具
- hive内部表与外部表区别详细介绍
- Hive的表的创建及外部表、分区表介绍