3. Hive 类型
3. Hive数据类型¶
3.1 基本数据类型¶
| Hive数据类型 | Java数据类型 | 长度 | 例子 |
|---|---|---|---|
| TINYINT | byte | 1byte有符号整数 | 20 |
| SMALINT | short | 2byte有符号整数 | 20 |
| INT | int | 4byte有符号整数 | 20 |
| BIGINT | long | 8byte有符号整数 | 20 |
| BOOLEAN | boolean | 布尔类型，true或者false | TRUE FALSE |
| FLOAT | float | 单精度浮点数 | 3.14159 |
| DOUBLE | double | 双精度浮点数 | 3.14159 |
| STRING | string | 字符系列。可以指定字符集。可以使用单引号或者双引号。 | ‘now is the time’ “for all good men” |
| TIMESTAMP | 时间类型 | ||
| BINARY | 字节数组 |
对于Hive的String类型相当于数据库的varchar类型，该类型是一个可变的字符串，不过它不能声明其中最多能存储多少个字符，理论上它可以存储2GB的字符数。
3.2 集合数据类型¶
| 数据类型 | 描述 | 语法示例 |
|---|---|---|
| STRUCT | 和c语言中的struct类似，都可以通过“点”符号访问元素内容。例如，如果某个列的数据类型是STRUCT | struct() |
| MAP | MAP是一组键-值对元组集合，使用数组表示法可以访问数据。例如，如果某个列的数据类型是MAP，其中键->值对是’first’->’John’和’last’->’Doe’，那么可以通过字段名[‘last’]获取最后一个元素 | map() |
| ARRAY | 数组是一组具有相同类型和名称的变量的集合。这些变量称为数组的元素，每个数组元素都有一个编号，编号从零开始。例如，数组值为[‘John’, ‘Doe’]，那么第2个元素可以通过数组名[1]进行引用。 | Array() |
Hive有三种复杂数据类型ARRAY、MAP 和 STRUCT。ARRAY和MAP与Java中的Array和Map类似，而STRUCT与C语言中的Struct类似，它封装了一个命名字段集合，复杂数据类型允许任意层次的嵌套。
案例操作：
- 假设某表有如下一行，我们用JSON格式来表示其数据结构。在Hive下访问的格式为
{
"name": "summer",
"friends": ["leco" , "ICPC"] , //列表Array,
"children": { //键值Map,
"loocha": 20 ,
"realcloud": 30
}
"address": { //结构Struct,
"street": "南京新模范马路" ,
"city": "南京"
}
}
- 基于上述数据结构，我们在Hive里创建对应的表，并导入数据。
创建本地测试文件test.txt
summer,leco_ICPC,loocha:20_realcloud:30,南京新模范马路_南京
注意：MAP，STRUCT和ARRAY里的元素间关系都可以用同一个字符表示，这里用“_”。
- Hive上创建测试表summer
create table summer(
name string,
friends array<string>,
children map<string, int>,
address struct<street:string, city:string>
)
row format delimited fields terminated by ','
collection items terminated by '_'
map keys terminated by ':'
lines terminated by '\n';
字段解释
row format delimited fields terminated by ',' -- 列分隔符 collection items terminated by '_' --MAP STRUCT 和 ARRAY 的分隔符(数据分割符号) map keys terminated by ':' -- MAP中的key与value的分隔符 lines terminated by '\n'; -- 行分隔符
MAP STRUCT 和 ARRAY 的分隔符(数据分割符号)，数据不一样，一定要之前 清洗
详细操作
hive (default)> create table summer(
> name string,
> friends array<string>,
> children map<string, int>,
> address struct<street:string, city:string>
> )
> row format delimited fields terminated by ','
> collection items terminated by '_'
> map keys terminated by ':'
> lines terminated by '\n';
OK
Time taken: 0.348 seconds
hive (default)> show tables like 'summer';
OK
tab_name
summer
Time taken: 0.05 seconds, Fetched: 1 row(s)
hive (default)> desc summer;
OK
col_name data_type comment
name string
friends array<string>
children map<string,int>
address struct<street:string,city:string>
Time taken: 0.267 seconds, Fetched: 4 row(s)
- 导入文本数据到测试表
[root@master test]# ls /root/hive/sgg/test/test.txt /root/hive/sgg/test/test.txt [root@master test]# cat /root/hive/sgg/test/test.txt summer,leco_ICPC,loocha:20_realcloud:30,南京新模范马路_南京 hive (default)> load data local inpath '/root/hive/sgg/test/test.txt' into table summer; Loading data to table default.summer Table default.summer stats: [numFiles=1, totalSize=69] OK Time taken: 0.756 seconds
- 访问三种集合列里的数据，以下分别是ARRAY，MAP，STRUCT的访问方式
hive (default)> select * from summer;
OK
summer.name summer.friends summer.children summer.address
summer ["leco","ICPC"] {"loocha":20,"realcloud":30} {"street":"南京新模范马路","city":"南京"}
Time taken: 0.057 seconds, Fetched: 1 row(s)
hive (default)> select friends[1],children['loocha'],address.street from summer where name='summer';
OK
_c0 _c1 street
ICPC 20 南京新模范马路
Time taken: 0.053 seconds, Fetched: 1 row(s)
0: jdbc:hive2://master:10000> show databases;
+----------------+--+
| database_name |
+----------------+--+
| cmz |
| default |
| hivedemo |
| loocha |
| test |
+----------------+--+
5 rows selected (0.071 seconds)
0: jdbc:hive2://master:10000> use default;
No rows affected (0.05 seconds)
0: jdbc:hive2://master:10000> show tables;
+---------------+--+
| tab_name |
+---------------+--+
| cmz_external |
| student |
| student2 |
| summer |
| u_info |
| visters_wai |
+---------------+--+
6 rows selected (0.059 seconds)
0: jdbc:hive2://master:10000> select * from summer;
+--------------+------------------+-------------------------------+-----------------------------------+--+
| summer.name | summer.friends | summer.children | summer.address |
+--------------+------------------+-------------------------------+-----------------------------------+--+
| summer | ["leco","ICPC"] | {"loocha":20,"realcloud":30} | {"street":"南京新模范马路","city":"南京"} |
+--------------+------------------+-------------------------------+-----------------------------------+--+
1 row selected (0.205 seconds)
0: jdbc:hive2://master:10000> select friends[1],children['loocha'],address.street from summer where name='summer';
+-------+------+----------+--+
| _c0 | _c1 | street |
+-------+------+----------+--+
| ICPC | 20 | 南京新模范马路 |
+-------+------+----------+--+
1 row selected (0.437 seconds)
3.3 类型转化¶
Hive的原子数据类型是可以进行隐式转换的，类似于Java的类型转换，例如某表达式使用INT类型，TINYINT会自动转换为INT类型，但是Hive不会进行反向转化，例如，某表达式使用TINYINT类型，INT不会自动转换为TINYINT类型，它会返回错误，除非使用CAST操作。
3.3.1 隐式类型转换规则如下¶
-
任何整数类型都可以隐式地转换为一个范围更广的类型，如TINYINT可以转换成INT，INT可以转换成BIGINT。
-
所有整数类型、FLOAT和STRING类型都可以隐式地转换成DOUBLE。
-
TINYINT、SMALLINT、INT都可以转换为FLOAT。
-
BOOLEAN类型不可以转换为任何其它的类型。
3.3.2 可以使用CAST操作显示进行数据类型转换¶
例如CAST('1' AS INT)将把字符串'1' 转换成整数1；如果强制类型转换失败，如执行CAST('X' AS INT)，表达式返回空值 NULL。