当前位置: 代码迷 >> 综合 >> 大数据技术之Hive 第1章 Hive基本概念
  详细解决方案

大数据技术之Hive 第1章 Hive基本概念

热度:16   发布时间:2024-01-22 01:19:01.0

1.1 什么是Hive

Hive:由Facebook开源用于解决海量结构化日志的数据统计。

Hive是基于Hadoop的一个数据仓库工具,可以将结构化的数据文件映射为一张表,并提供类SQL查询功能。

本质是:将HQL转化成MapReduce程序

1)Hive处理的数据存储在HDFS

2)Hive分析数据底层的实现是MapReduce

3)执行程序运行在Yarn上

1.2 Hive的优缺点

1.2.1 优点

1)操作接口采用类SQL语法,提供快速开发的能力(简单、容易上手)

2)避免了去写MapReduce,减少开发人员的学习成本。

3)Hive的执行延迟比较高,因此Hive常用于数据分析,对实时性要求不高的场合;

4)Hive优势在于处理大数据,对于处理小数据没有优势,因为Hive的执行延迟比较高。

5)Hive支持用户自定义函数,用户可以根据自己的需求来实现自己的函数。

1.2.2 缺点

1)Hive的HQL表达能力有限

(1)迭代式算法无法表达

(2)数据挖掘方面不擅长

2)Hive的效率比较低

(1)Hive自动生成的M