CentOS7 部署DataX及DataX-web
创始人
2025-06-01 11:29:38
0

一、基础环境安装

  • JDK
  • MySQL
  • Python2(本文使用默认2.x)

JDK安装:CentOS安装JDK

Python安装:CentOS安装Python

MySQL安装:CentOS安装MySQL

注:MySQL必须允许dataX-web所在的服务器访问,否则会连不上mysql一直报错。

二、安装DataX

1、下载并解压datax

wget http://datax-opensource.oss-cn-hangzhou.aliyuncs.com/datax.tar.gz
tar -zxvf datax.tar.gz
  1. 调试
#进入相应目录
cd /opt/datax/bin
python datax.py../job/job.json

在这里插入图片描述

# 这里有reader和writer会显示报错,需要执行删除相应的文件即可(文件没看见,但还是执行一下)
在这里插入图片描述
执行 # rm -rf/opt/datax/plugin/reader/._*
在这里插入图片描述

执行 # python datax.py…/job/job.json
在这里插入图片描述
报错后再删除writer的相应目录

# rm -rf/opt/datax/plugin/writer/._*

最后再执行datax验证任务就能成功

# python datax.py…/job/job.json

出现以下信息说明datax安装成功
在这里插入图片描述

三、datax-web安装配置

1、下载免编译包(在git地址上)
在这里插入图片描述

  1. 解压安装
# 解压
tar -zxvf datax-web-2.1.2.tar.gz
# 安装
cd datax-web-2.1.2/bin
sh install.sh
#一直Y确认,即可安装完成
  1. 创建数据库执行脚本
datax-web-2.1.2/bin/db/datax_web.sql
  1. 修改admin配置
vim datax-web-2.1.2/modules/datax-admin/conf/bootstrap.propertiesDB_HOST=mysql
DB_PORT=3306
DB_USERNAME=datax
DB_PASSWORD=datax
DB_DATABASE=datax_web
  1. 配置executor
#配置datax.py运行脚本位置
vim /datax-web-2.1.2/modules/datax-executor/bin/datax-executor.sh
  1. 启动
cd /datax-web-2.1.2/bin
./start-all.sh
  1. 访问web页面

http://host:9527/index.html 账密(admin/123456)

DataX配置Mysql8访问

datax源码内引入的MySQL驱动是5的版本,因此只支持连接mysql5版本,如果我们想要连接mysql8需要自己下载源码更改驱动并重新编译打包

  1. 下载源码

  2. idea打开项目,进入mysqlreadermysqlwriter模块修改pom.xml内的mysql驱动版本

8.0.30
mysqlmysql-connector-java${mysql.driver.version}

  1. 进入plugin-rdbms-util模块找到DataBaseType类,修改
1.全文替换 convertToNull 为 CONVERT_TO_NULL
2.全文替换mysql驱动类com.mysql.jdbc.Driver 为 com.mysql.cj.jdbc.Driver
  1. 进行maven打包
mvn -U clean package assembly:assembly -Dmaven.test.skip=true

注:如果maven打包失败,提示test失败,可以吧对应的test包删除重新打包即可

  1. 将对应的jar包上传到mysqlReader和mysqlWriter模块
#mysqlreader
cd datax/plugin/reader/mysqlreader/libs/
#删除mysql5的驱动jar,去自己maven仓库吧mysql8的驱动上传
#上传并覆盖原有文件 mysqlreader-0.0.1-SNAPSHOT.jar 和 plugin-rdbms-util-0.0.1-SNAPSHOT.jar #mysqlwirter
cd datax/plugin/writer/mysqlwriter/libs/
#删除mysql5的驱动jar,去自己maven仓库吧mysql8的驱动上传
#上传并覆盖原有文件 mysqlreader-0.0.1-SNAPSHOT.jar 和 plugin-rdbms-util-0.0.1-SNAPSHOT.jar 

相关内容

热门资讯

太刺激!收入,要涨了! 你们应该都刷到过12月16日 《求是》上刊发《坚定实施扩大内需战略》的文章 。但是,你们应该没意识到...
小米17 Ultra发布,69... 2025年12月25日,小米×徕卡影像战略合作升级暨小米17 Ultra新品发布会在北京召开,小米集...
美国“创世纪”决战打响!24巨... 美国“收编”了全部AI巨头。2025年末,美国能源部牵头启动的“创世纪计划”在全球科技界投下了一枚战...
上交所与三大石油石化集团将进一... 11月23日消息,近日,上海证券交易所与中国石油天然气集团有限公司(中国石油)、中国石油化工集团有限...
维护基金平稳运作保障持有人利益... 11月14日消息,近期,QDII(合格境内机构投资者)基金市场迎来一波申购调整动作,多家基金公司旗下...
OpenAI向美国政府分享AI... 11月14日消息,OpenAI已向美国政府官员分享了有关如何建造一个人工智能(AI)数据中心的信息,...
经济日报:抢抓机遇培育中间品贸... 11月14日消息,经济日报文章称,中间品供应的稳定性和质量,影响整个产业链的竞争力和最终产品市场表现...
EIA:11月份美国石油产量将... 11月14日消息,EIA月度短期能源展望报告显示,11月份美国石油产量将平均为1344万桶/日,较1...
存储成本暴涨,小米17 Ult... 本文来源:时代周报 作者:谢斯临 图片来源:时代周报记者摄存储疯狂涨价,小米17 Ultra起售价...
2025年公募基金十大新闻来了... 编者按:回望2025,公募基金行业奋楫前行,在时代变革的浪潮中焕发蓬勃生机。历经27载耕耘的公募行业...