Java通过python命令执行DataX任务的实例

 更新时间:2019年08月22日 14:12:54   作者:王绍桦  
今天小编就为大家分享一篇Java通过python命令执行DataX任务的实例,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧

1.安装datax

2.安装python并配置环境变量

3.把mysql2odps.json文件放在datax安装目录的job文件夹下

4.运行Test.java测试

mysql2odps.json文件:

{
  "job": {
    "content": [
      {
        "reader": {
          "name": "mysqlreader",
          "parameter": {
            "username": "$username",
            "password": "$password",
            "where": "optime>='$startDate $startTime' and optime<'$endDate $endTime'",
            "column": ["id","xm"],
            "connection": [
              {
                "table": [
                  "test"
                ],
                "jdbcUrl": [
                  "$jdbcUrl"
                ]
              }
            ]
          }
        },
        "writer": {
          "name": "odpswriter",
          "parameter": {
            "accessId": "****************",
            "accessKey": "******************************",
            "column": ["id","xm"],
            "odpsServer": "http://service.odps.xxx.com/api",
            "partition": "bt=$bt,region=$region",
            "project": "dst_project_name",
            "table": "test"
          }
        }
      }
    ],
    "setting": {
      "speed": {
        "channel": 10
      }
    }
  }
}

测试程序(我的datax安装路径为F盘根目录):

import java.io.BufferedReader;
import java.io.InputStreamReader;

public class Test {

  public static void main(String[] args) {
    try {
      System.out.println("start");
      String windowcmd = "cmd /c python F:/datax/bin/datax.py -p \" -Dusername=root -Dpassword=1234 -DjdbcUrl=jdbc:mysql://192.168.1.122:3306/center -Dwhere=left(optime,10)=CURDATE() -Dbt=20171214 -Dregion=beijing \" F:/datax/job/mysql2odps.json";
      System.out.println(windowcmd);
      Process pr = Runtime.getRuntime().exec(windowcmd);
      BufferedReader in = new BufferedReader(new InputStreamReader(pr.getInputStream()));
      String line;
      while ((line = in.readLine()) != null) {
        System.out.println(line);
      }
      in.close();
      pr.waitFor();
      System.out.println("end");
    } catch (Exception e) {
      e.printStackTrace();
    }
  }

}

以上这篇Java通过python命令执行DataX任务的实例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持脚本之家。

相关文章

  • 浅谈java中字符串数组、字符串、整形之间的转换

    浅谈java中字符串数组、字符串、整形之间的转换

    这篇文章主要介绍了浅谈java中字符串数组、字符串、整形之间的转换,具有一定参考价值,需要的朋友可以了解下。
    2017-11-11
  • java并发学习-CountDownLatch实现原理全面讲解

    java并发学习-CountDownLatch实现原理全面讲解

    这篇文章主要介绍了java并发学习-CountDownLatch实现原理全面讲解,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2021-02-02
  • java 解析user-agent 信息

    java 解析user-agent 信息

    这篇文章主要介绍了java 解析http user-agent的信息的相关资料,需要的朋友可以参考下
    2016-07-07
  • 详解Java实现缓存(LRU,FIFO)

    详解Java实现缓存(LRU,FIFO)

    本篇文章主要介绍了详解Java实现缓存(LRU,FIFO) ,小编觉得挺不错的,现在分享给大家,也给大家做个参考。一起跟随小编过来看看吧
    2017-04-04
  • IDEA .iml文件及.idea文件夹超详细讲解

    IDEA .iml文件及.idea文件夹超详细讲解

    iml文件是IntelliJ IDEA自己创建的模块文件,用于java应用开发,存储一些模块相关的信息,比如一个Java组建,插件组建,Maven组建等,这篇文章主要介绍了IDEA .iml文件及.idea文件夹,需要的朋友可以参考下
    2023-09-09
  • Java程序测试上传Maven工程代码示例解析

    Java程序测试上传Maven工程代码示例解析

    这篇文章主要介绍了Java程序测试上传Maven工程代码示例解析,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2020-08-08
  • JAVA关键字及作用详解

    JAVA关键字及作用详解

    本文主要介绍了Java关键字及作用,具有很好的参考价值,下面跟着小编一起来看下吧
    2017-02-02
  • java的package和import机制原理解析

    java的package和import机制原理解析

    这篇文章主要介绍了java的package和import机制原理解析,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2020-01-01
  • Maven工程引入依赖失败Dependencies全部飘红问题

    Maven工程引入依赖失败Dependencies全部飘红问题

    这篇文章主要介绍了Maven工程引入依赖失败Dependencies全部飘红问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教
    2024-08-08
  • 与众不同的 Java 日期格式化大全

    与众不同的 Java 日期格式化大全

    这篇文章主要介绍了与众不同的 Java 日期格式化大全,在 Java 中,经常要将时间字符串转换为日期,或者要将日期转换为时间字符串。,需要的朋友可以参考下
    2019-06-06

最新评论