|
|
@@ -449,13 +449,13 @@
|
|
|
- **决策**:dwd 补数走独立任务流,与日调度(ADR-09)分离。核心是 **宽扫窄落** —— ods.dt 宽扫(捞回漂移到后续分区的版本)、payment 业务时间窄落(锁定覆盖哪些 dwd 分区):
|
|
|
|
|
|
- 独立 SQL `jobs/dwd/trd/dwd_trd_order_pay_apd_d_backfill.sql`
|
|
|
- - 独立 DS workflow,手动触发传 `start` / `end`,不挂 schedule,不加 DEPENDENT(补数时 ods 已就绪)
|
|
|
- - payment 业务时间过滤 `[start, end]`(双边,决定覆盖哪些 dwd 分区)
|
|
|
+ - 独立 DS workflow,手动触发**只传 `start`**(end 隐含昨日),不挂 schedule,不加 DEPENDENT
|
|
|
+ - payment 业务时间过滤 `[start, today-1]`(补到最后完整业务日;today 当天不落,交日调度)
|
|
|
- ods.dt 扫描 `[start-1, 不限]`:
|
|
|
- 下界 `start-1`:往前 1 天对齐 ADR-09 日调度 pdt buffer(cover create_time 早于 payment 落前一天的边缘)
|
|
|
- - 上界不限:扫到最新 ods,无论 `update_time` 漂多远都捞到(核心 —— 不猜漂移天数)
|
|
|
+ - 上界不限:扫到 ods 最新分区(today)。payment ∈ [start, today-1] 的订单,其 ods 版本落点必 ≤ today,故全部捞到 —— 不依赖"猜漂移天数"
|
|
|
- 范围内每个 dwd 分区全覆盖(`INSERT OVERWRITE` 冲掉旧 / 缺失版本)
|
|
|
- - 前提:ods 已完整(raw/ods 同步已 cover 漂移后的 `update_time`)
|
|
|
+ - 前提:ods 已补到 today-1(raw_ods 补数到位 / 今日 sche 已跑)—— dwd 补数从 ods 重新归位,ods 有多少落多少
|
|
|
|
|
|
- **后果**:
|
|
|
|