使用 Kettle 同步数据 作者:husthxd
1 / 8
使用 Kettle 同步数据
同步数据常见的应用场景包括以下 4 个种类型:
只增加、无更新、无删除
只更新、无增加、无删除
增加+更新、无删除
增加+更新+删除
只增加、无更新、无删除
对于这种只增加数据的情况,可细分为以下 2 种类型:
1) 基表存在更新字段。
通过获取目标表上最大的更新时间或最大 ID,在“表输入”步骤中加入条件限制
只读取新增的数据。
这里要注意的是,获取最大更新时间或最大 ID 时,如果目标表还没有数据,最大
值会获取不了。其中的一个解决方法是在“获取最大 ID”步骤的 SQL 中,加入最
小日期或 ID 的联合查询即可,如:
SELECT MAX(ID) FROM
(SELECT MAX(ID) AS ID FROM T1 UNION ALL SELECT 0 AS ID FROM DUAL)
2) 基表不存在更新字段。
通过“插入/更新”步骤进行插入。