Hive基本原理及环境怎么搭建

Hive基本原理及环境怎么搭建，很多新手对此不是很清楚，为了帮助大家解决这个难题，下面小编将为大家详细讲解，有这方面需求的人可以来学习下，希望你能有所收获。

创新互联公司专业为企业提供忻城网站建设、忻城做网站、忻城网站设计、忻城网站制作等企业网站建设、网页设计与制作、忻城企业网站模板建站服务，10余年忻城做网站经验，不只是建网站，更提供有价值的思路和整体网络服务。

今天我主要是在折腾这个Hive，早上看了一下书，最开始有点凌乱，后面慢慢地发现，hive其实挺简单的，以我的理解就是和数据库有关的东西，那这样的话对我来说就容易多啦，因为我对sql语法应该是比较熟悉了，而这个是HQL的，其实很多都差不多。先来看一下Hive的基本介绍：

一、Hive基本原理

hive是基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张数据库表，并提供简单的sql查询功能，可以将sql语句转换为MapReduce任务进行运行。其优点是学习成本低，可以通过类SQL语句快速实现简单的MapReduce统计，不必开发专门的MapReduce应用，十分适合数据仓库的统计分析。

Hive将元数据存储在数据库（RDBMS）中，比如MySQL、Derby中。Hive有三种模式连接到数据，其方式是：单用户模式，多用户模式和远程服务模式。（也就是内嵌模式
、本地模式、远程模式）。

1.1 Hive体系结构：

Hive体系结构图：主要分为：用户接口、Thrift服务器、元数据存储、解析器、Hadoop

Hive基本原理及环境怎么搭建

1.2 Hive数据类型

Hive的存储是建立在Hadoop文件系统之上的，它本身没有专门的数据存储格式，其主要包括四类数据模型：
表（Table）
分区（Partition）
桶（Bucket）
外部表（External Table）

Hive基本原理及环境怎么搭建

1.3Hive的执行流程要点
操作符（Operator）是Hive的最小处理单位；
每个操作符处理代表HDFS操作或MR作业；
编译器把Hive SQL转换成一组操作符；
Hive通过ExecMapper和ExecReducer来执行MapReduce任务；
执行MapReduce时有两种模式：本地模式和分布式模式；

常见的Hive操作符（部分）如下：

1.4 Hive的HQL操作

hive基本的运行操作其实和sql差不多，例如：

select u.name, o.orderid from order o join user u on o.uid = u.uid;

select dealid, count(distinct uid), count(distinct date) from order group by dealid;

简单Hive表语句：
create table student
(
   name string,
   sex string,
   age int
);

二、Hive基本配置

1、从apache官网的hadoop找到hive，目前最新版本是2.0.1，我下的就是这个，http://hive.apache.org/downloads.html，

2、下载mysql驱动，目前是5.1.38的，我已经把这需要的两个整理好一个压缩包了，可以通过以下链接下载：（我后续贴出）

3、分别解压到你需要的目录中，我是放置在/home/admin1/下载/hive-2.0.1中的，把mysql驱动也放到hive的这个lib包中，然后在hive-2.0.1/conf中对以下文件进行配置：

新建一个文件hive-env.sh

把里面的目录改成你的hadoop放置的目录就可以了。

export HIVE_HOME=/home/admin1/下载/hive-2.0.1
export PATH=$PATH:$HIVE_HOME/bin
HADOOP_HOME=/home/admin1/下载/hadoop-2.5.2
export HIVE_CONF_DIR=/home/admin1/下载/hive-2.0.1/conf
export HIVE_AUX_JARS_PATH=/home/admin1/下载/hive-2.0.1/lib

还需要新建一个hive-site.xml：

这里我用的是mysql的账号和密码来配置的，其他的你也可以参照配置。







javax.jdo.option.ConnectionURL



jdbc:mysql://localhost:3306/hive?=createDatabaseIfNotExist=true

JDBC connect string for a JDBCmetastore

 



javax.jdo.option.ConnectionDriverName



com.mysql.jdbc.Driver

Driver class name for a JDBCmetastore

 



javax.jdo.option.ConnectionUserName

hive

username to use against metastoredatabase





javax.jdo.option.ConnectionPassword

a

password to use against metastoredatabase

启动：在/home/admin1/下载/hive-2.0.1中执行：
bin/hive
若无法初始化，则：
bin/schematool -dbType mysql -initSchema

在hive2.0以上版本都需要initSchema一下，否则会报错，我也是因为这个问题折腾了好几个小时，最后发现很简单就解决了。

最后说一下的就是在安装mysql的时候，你可以直接用ubuntu里面的uk软件下载就可以了，在里面搜索mysql，然后下载mysql的服务器，客户端和工作平台就可以了，这里不再重复啰嗦了，就是需要在控制台创建一下新用户：

mysql -uroot

create user 'hive' identify by 'hive';

create database hive;

grant all privileges on *.* to 'hive'@'localhost' identified by 'hive';

flush privileges

然后可以通过hive账号进行登陆就可以了，

mysql -u hive -p

然后输入密码hive就成功登陆，把这个登陆信息配置到hive-site.xml中就可以了。

接下来就可以愉快的进行hive的使用了，创建表等。记得要把hadoop的服务打开哦 , sbin/start-all.sh

总结：今天遇到的两个主要问题就是，1：bin/hive后一直报错，最后初始化之后就可以了。2、在linux中的sublim-text无法输入中文，且无法下载gpk解决，无法编译sublime_imfix.c，后来通过在github上面发现已经编译好的库，然后导入，经过一系列复杂的操作最后成功解决了这个问题。找对方法，找对工具。

看完上述内容是否对您有帮助呢？如果还想对相关知识有进一步的了解或阅读更多相关文章，请关注创新互联行业资讯频道，感谢您对创新互联的支持。

分享文章：Hive基本原理及环境怎么搭建
标题链接：http://6mz.cn/article/jsjhse.html

网站建设知识

Hive基本原理及环境怎么搭建

其他资讯