您的位置:首页 > 其它

hive中的内部表、外部表、分区表

2017-12-14 19:37 1646 查看

内部表和外部表

hive的表分为内部表(管理表)和外部表(托管表),对于外部表,在创建的时候,需要加上EXTERNAL关键字,不使用EXTERNAL关键字创建的表为内部表:

create EXTERNAL table IF NOT EXISTS bhive.people
(
id string COMMENT 'student id',         //字段描述
name string ,
sex string
)
COMMENT 'student table'     //表的描述
ROW FORMAT DELIMITED FIELDS TERMINATED BY ' '       //从文件中将数据导入数据表的时候,文件中的数据每行各个字段之间的分隔符
STORED AS TEXTFILE      //从文件中获取数据时,指定文件所属的类型(默认是文本文件,企业开发一般使用ORC和PARQUET)
LOCATION /user/hive/warehouse/bhive/people;     //指定数据表在hdfs文件系统中的存储的位置


现在假设hive表的元数据信息存储在mysql数据库中,不管是内部表和外部表,在表的创建的时候,将会在mysql数据库中存储hive表的元数据信息,在hdfs文件系统中存储真正的数据信息。

对于内部表来说,如果删除创建的hive表时,此时会将mysql数据库中的元数据信息删除的同时也会将hdfs文件系统中的真正的数据信息删除。

对于外部表来说,删除创建的hive、表的时候,只会删除mysql数据库中的元数据信息,不会删除hdfs文件系统中的真正的数据信息。

分区表

分区表就是在创建的时候使用PARTITIONED BY指定表的分区,所谓分区,就是在hdfs文件系统中的相应的目录下创建相应的分区目录。在查询时候通过where子句中条件指定相应的分区。

//创建分区表
create table IF NOT EXISTS bhive.people
(
name string ,
sex string
)
PARTITIONED BY (col_name data_type, ...... );

//加载数据
load data local inpath '/path' into table table_name partition (part_name = 'part_name');

//查询分区数据
select * from table_name where part_name = 'part_name';


注意:在加载数据的时候需要指定将数据加载到那个分区下,此时加载数据的时候会自动创建分区目录。

如果在加载数据之前在相应的目录下创建分区目录,如果将数据上传到相应的分区目录下,此时查询将会无法查询到数据。

原因是,自动创建的分区,在mysql数据库的元数据信息中将会添加分区的元数据信息,而手动创建的分区,分区的元数据信息将不会保存到mysql数据库中。此时通过以下操作可以解决:

(1)方式一:修复表

msck repair table table_name


(2)方式二:为指定的表添加分区

alert table dept_name add partition(part_name = 'part_name');
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: