使用Kettle从FTP拉取文件
2016-02-01 14:53
696 查看
1、业务场景简要说明
对接方式:FTP文件。
客户的FTP目录路径:
/201602/01/xxx.txt
/201602/01/xxx.txt
注意点
对方在写文件的时候,应先将文件写入到临时文件,写完后,再rename文件名。
如:先写xxx.txt.tmp->xxx.txt
2、流程
2.1转换流程构造路径
//获得当前系统时间,此处得到初始化时间
var dateFormatYearAndMonth= java.text.SimpleDateFormat("yyyyMM");
var dateFormatDay =java.text.SimpleDateFormat("dd");
var yearAndMonth =dateFormatYearAndMonth.format(newjava.util.Date());
var day = dateFormatDay.format(newjava.util.Date());
var sourcePath =
'/' + yearAndMonth + '/'+ day;
var targetPath =
'/'+ yearAndMonth + '/' + day +
'_bak';
2.2拉取流程
注意点:
1、在该例子中,抽取的时间颗粒度是天,时间在切换的时候,应将时间向前推几分钟,这样数据就不会漏了,后进来的数据会晚几分钟抽取到。
对接方式:FTP文件。
客户的FTP目录路径:
/201602/01/xxx.txt
/201602/01/xxx.txt
注意点
对方在写文件的时候,应先将文件写入到临时文件,写完后,再rename文件名。
如:先写xxx.txt.tmp->xxx.txt
2、流程
2.1转换流程构造路径
//获得当前系统时间,此处得到初始化时间
var dateFormatYearAndMonth= java.text.SimpleDateFormat("yyyyMM");
var dateFormatDay =java.text.SimpleDateFormat("dd");
var yearAndMonth =dateFormatYearAndMonth.format(newjava.util.Date());
var day = dateFormatDay.format(newjava.util.Date());
var sourcePath =
'/' + yearAndMonth + '/'+ day;
var targetPath =
'/'+ yearAndMonth + '/' + day +
'_bak';
2.2拉取流程
注意点:
1、在该例子中,抽取的时间颗粒度是天,时间在切换的时候,应将时间向前推几分钟,这样数据就不会漏了,后进来的数据会晚几分钟抽取到。
相关文章推荐
- ThinkPHP - 连贯操作
- 【原创】在Windows系统中使用VC9、VC11编译32位、64位PHP及其扩展
- php函数ob_start()、ob_end_clean()、ob_get_contents()
- ThinkPHP - 连贯操作 - 【实现机制】
- window下面搭建php集成环境xampp
- php session 会话控制[转]
- php strtotime一个小功能需要注意
- Yii2 使用 RESTful 写API接口 实例
- PHP数组传给js
- ntp 配置详解(转载后整理汇总)
- PHP自带方法验证邮箱是否存在
- laravel安装
- PHP 采集大全
- FTP服务器架设(1)简介
- PHP学习(3)—在HTML中嵌入PHP
- PHP学习(3)—在HTML中嵌入PHP
- PHP和MySQL Web开发学习笔记介绍
- PHP和MySQL Web开发学习笔记介绍
- 关于XAMPP下使用PHPBB或者Discuz!
- Matplotlib 生成不同大小的subplots