-
hadoop3.2.4安装 sqoop1.4.7
- 网站名称:hadoop3.2.4安装 sqoop1.4.7
- 网站分类:技术文章
- 收录时间:2025-07-06 10:45
- 网站地址:
“hadoop3.2.4安装 sqoop1.4.7” 网站介绍
sqoop功能是非常完善的,兼容性也很好。但是hadoop3版本没有官方的集成jar包版本,所以我通过阅读sqoop的官方文档,解决了如何在配置hadoop3版本的sqoop。核心就两点,从集成包里获取必须的jar包,其余必须的jar包从hadoop和hive中引用即可。
sqoop官方地址:
https://sqoop.apache.org/docs/1.4.7/SqoopUserGuide.html?spm=
a2c63.p38356.0.0.7ffe76db8MdNDv#_syntax
1.下载sqoop1.4.7两个版本
http://archive.apache.org/dist/sqoop/1.4.7
下载这两个文:
sqoop-1.4.7.bin__hadoop-2.6.0.tar.gz # 只用到里面的jar包
sqoop-1.4.7.tar.gz # 上传到服务器
我这里finalshell为例,服务器环境centos7+hadoop3.2.4+hive3.1.2
将sqoop-1.4.7.tar.gz上传到/home/hadoop/sqoop/目录,并解压
[hadoop@localhost sqoop]$ tar -zxvf sqoop-1.4.7.tar.gz
2.提取sqoop-1.4.7.bin__hadoop-2.6.0.tar压缩包里的部分jar包
提取sqoop-1.4.7.jar放到sqoop-1.4.7根目录,正常纯净版sqoop是没有这个jar包的
提取lib目录下的这三个必须的jar包放到sqoop-1.4.7/lib/目录下,正常纯净版sqoop的lib目录下是没有文件的。我的是存在了前两个
其余的jar包我们不用导入,其余的从本地环境里的hadoop和hive中引用即可。
3.添加sqoop配置信息,引用hadoop,hive的lib库
打开sqoop-1.4.7/conf 目录下的sqoop-env.sh文件追加如下信息
其中HADOOP_COMMON_HOME HADOOP_MAPRED_HOME 环境变量要写你自己的hadoop目录地址
hive的HIVE_HOME HIVE_CONF_DIR同样要写你自己的hive目录地址
最后一条是引用你hive里的lib库
[hadoop@localhost conf]$ mv sqoop-env-template.sh sqoop-env.sh
[hadoop@localhost conf]$ vim sqoop-env.sh
export HADOOP_COMMON_HOME=/home/hadoop/hadoop-3.2.4
export HADOOP_MAPRED_HOME=/home/hadoop/hadoop-3.2.4
export HIVE_HOME=/home/hadoop/apache-hive-3.1.2-bin
export HIVE_CONF_DIR=/home/hadoop/apache-hive-3.1.2-bin/conf
export HADOOP_CLASSPATH=$HADOOP_CLASSPATH:$HIVE_HOME/lib/*
4.配置环境变量
[hadoop@localhost conf]$ vim ~/.bashrc
#sqoop
export HBASE_HOME=/home/hadoop/sqoop/sqoop-1.4.7
export PATH=$PATH:$HBASE_HOME/bin
[hadoop@localhost conf]$ source /etc/profile
[hadoop@localhost conf]$ sqoop version
bash: sqoop: 未找到命令...
[hadoop@localhost conf]$ source ~/.bashrc
导入数据相关命令
sqoop的 import-all-tables使用要求
要使import-all-tables工具有用,必须满足以下条件:
1.每个表必须具有主键或使用--autoreset-to-one-mapper选项。
2.导入每张表的所有列。
3.使用默认拆分列,不能使用WHERE。
全库导入
sqoop import-all-tables "-Dorg.apache.sqoop.splitter.allow_text_splitter=true" \
--connect jdbc:mysql://10.22.171.188:3306/AIDM40W \
--username root \
--password 890iop*()IOP \
--hive-import \
--hive-overwrite \
--hive-database dz \
--fields-terminated-by '\t' \
--exclude-tables 'CASE_FUN_TABLE,a1,all_type_label_tables' \
--as-parquetfile
sqoop import-all-tables --connect "jdbc:mysql://10.22.171.188:3306/AIDM40W" \
--username root \
--password 123456 \
--hive-import \
--hive-overwrite \
--hive-database dz \
--exclude-tables 'user_part_501,user_part_601,user_part_701,user_part_801,CASE_FUN_TABLE,a1,all_type_label_tables,tb_user,test,log,s1,test_t,db_object_constraint_test_01,user_101,user_301,user_302,user_303,user_304,user_part_102,user_part_101,user_part_201,user_part_301,user_part_401,user_part_index_101,user_part_index_102,user_part_index_103,user_part_index_104,user_part_index_201,user_part_index_202,user_part_index_301,user_part_index_302,user_part_index_401,user_part_index_402,user_a3,user_201,user_202,user_203,user_204,user_401,user_402,user_403,user_501,user_502,user_a1,user_a2' \
--create-hive-table
#带主键
aa
all_type_label_tables
db_object_constraint_test_01
tb_user
test
user_201
user_202
user_203
user_204
user_401
user_402
user_403
user_501
user_502
user_a1
user_a2
#--exclude-tables 'drop_table' \ (此参数可以 exclude掉不需要import的表(多个表逗号分隔))
#--create-hive-table \ (不能和as-parquetfile共用)
#--direct \ (只支持文本格式,不能和as-parquetfile共用)
#--as-textfile \
sqoop import --connect "jdbc:mysql://10.22.171.188:3306/AIDM40W" \
--username root \
--password 123456 \
--table all_type_label_tables \
--delete-target-dir \
--fields-terminated-by '\t' \
--m 1 \
--hive-import \
--hive-overwrite \
--hive-database dz \
--create-hive-table \
--hive-table all_type_label_tables
全量备份(hive表不存在,导入时自动创建hive表)
sqoop import --connect jdbc:mysql://10.22.171.188:3306/AIDM40W \
--username root --password 123456 --table users \
--hive-import \
--hive-database dz \
--create-hive-table \
--fields-terminated-by '\t' \
--null-string '\\N' \
--null-non-string '\\N' \
--split-by id \
-m 1
更多相关网站
- CentOS7安装MySQL:使用RPM安装包方式(推荐)
- 非常详细的CentOS7安装Elasticsearch7.6
- CentOS7下yum方式安装MySQL5.7数据库
- Kali与编程:Centos7上搭建web服务器
- CentOS 7 搭建 Harbor2.4.1 Docker镜像仓库
- CentOS 7从零开始:2、网络设置与安装
- centos7 停服后yum源无法使用的解决办法
- CentOS 7下安装Python 3.10的完整过程
- CentOS7下制作OpenSSH 8.4p1 RPM包
- CentOS7安装iTop
- DPDK-20.11.1版本在Centos8上安装和测试
- 如何在Linux系统上安装官方最新版QQ音乐
- CentOS 7 升级 GCC 版本
- centos7 进行系统升级和系统降级
- 如何在 Windows 系统电脑中安装 CentOS 7 虚拟机
- CentOS7.5系统更新yum源的详细过程
- docker 系列四、部署centos7操作系统
- Centos7 安装详细过程图解
- 最近发表
- 标签列表
-
- c++论坛 (14)
- mydisktest_v298 (35)
- sql 日期比较 (33)
- document.appendchild (35)
- 头像打包下载 (35)
- 二调符号库 (23)
- acmecadconverter_8.52绿色版 (25)
- f12019破解 (16)
- 流星蝴蝶剑修改器 (18)
- np++ (17)
- 梦幻诛仙表情包 (36)
- 魔兽模型 (23)
- java面试宝典2019pdf (26)
- beamoff下载 (17)
- disk++ (30)
- vncviewer破解版 (20)
- word文档批量处理大师破解版 (19)
- pk10牛牛 (20)
- 加密与解密第四版pdf (29)
- pcm文件下载 (15)
- jemeter官网 (16)
- iteye (26)
- parsevideo (22)
- ckeditor4中文文档 (20)
- centos7.4下载 (32)