数据整合

最近更新时间: 2019-10-28 03:06:07

结合多年数据处理行业经验,沉淀固化通用数据整合模型,将贴源数据的处理过程从繁复的代码逻辑中解放,仅需简单配置既可完成复杂贴源数据整合。同时数据整合在应用时不同算法对于源表和目标表有一定的配置要求,一般来说目标表比源表需要新增特定字段,具体新增字段如下。除了新增字段外其他字段需完全保持一致。

数据整合
全量切片 业务日期字段 ty_data_date
批次号字段 ty_batch_number
来源标识 ty_src_flag
运行job字段 ty_job_name
增量切片 业务日期字段 ty_data_date
批次号字段 ty_batch_numbe
删除标识 ty_del_flag
删除日期 ty_del_date
删除批次 ty_del_batch
运行job字段 ty_job_name
拉链表 开始业务日期 ty_start_date
开始批次号 ty_start_batch
结束业务日期 ty_end_date
结束批次号 ty_end_batch
删除标识 ty_del_flag
运行job字段 ty_job_name
当前表 业务日期字段 ty_data_date
批次号字段 ty_batch_number
运行job字段 ty_job_name
删除标识 ty_del_flag
删除日期字段 ty_del_date
删除批次字段 ty_del_batch
首次加载日期 ty_rec_init_date
当前全量表 业务日期字段 ty_data_date
批次号字段 ty_batch_number
运行job字段 ty_job_name
删除标识 ty_del_flag
删除日期字段 ty_del_date
删除批次字段 ty_del_batch
首次加载日期 ty_rec_init_date