S0DimAutoRefreshJob.cs 7.0 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129
  1. using Admin.NET.Plugin.AiDOP.DataPlatform.S0Dim;
  2. using Furion.Schedule;
  3. using Microsoft.Extensions.DependencyInjection;
  4. using Microsoft.Extensions.Logging;
  5. using System.Text.Json;
  6. namespace Admin.NET.Plugin.AiDOP.Job;
  7. /// <summary>
  8. /// S0 主数据标准层自动刷新:逐租户跑一轮全量 FULL REPLACE(source → mdp_stg_s0_* → dim_*/ref_*/bridge_*)。
  9. ///
  10. /// <para><b>为什么必须有它</b>:在此之前 <c>S0DimRefreshService</c> 全仓唯一调用方是
  11. /// <c>AdoS0DimRefreshController</c>,零 Cron、零 Job、零 Scheduler;
  12. /// <c>mdp_transform_run_log</c> 156 条记录的 <c>trigger_type</c> 100% 是 <c>MANUAL</c>。
  13. /// 后果是标准层的覆盖面完全取决于有没有人手工点过 ——
  14. /// 实测 92 个「源有数据」的 (对象 × 租户) 组合里 <b>28 个目标表为 0 行</b>,
  15. /// 默认租户 <c>1300000000001</c> 的 7 个对象**从未刷过一次**。
  16. /// 消费者一旦迁到标准层,这些租户会直接看到空列表。</para>
  17. ///
  18. /// <para><b>租户与维度都是动态枚举,不维护第二份清单</b>:见 <see cref="S0DimScopeCatalog"/>——
  19. /// 租户取 <c>SysTenant.Status = Enable</c>(**含默认租户**,理由见该类注释),
  20. /// 维度取 <see cref="S0DimCatalog.All"/> 减去 <c>mdp_entity.status != 1</c> 的已停用对象。</para>
  21. ///
  22. /// <para><b>逐 (租户 × 维度) 组合调用</b>,而不是整租户一次 <c>key=null</c>:
  23. /// ① <c>mdp_transform_run_log</c> 没有 <c>entity_key</c> 独立列,维度 key 只存在于
  24. /// <c>summary_json</c> 里;一组合一行 run log 才能让 <c>summary_json-&gt;&gt;'$[0].Key'</c> 可查、可索引;
  25. /// ② 单个维度失败不会把整租户的 run log status 拖成 FAILED;
  26. /// ③ 与现状天然一致 —— 既有 156 条 run log 里 155 条本来就是单 key。</para>
  27. ///
  28. /// <para><b>失败隔离</b>分两层,都已存在、本类只是不破坏它们:
  29. /// ① 维度级 —— <c>S0DimMaterializer.RunAsync</c> 内部捕获异常并把该维度置 <c>FAILED</c>;
  30. /// ② 组合级 —— 本类逐 (租户,维度) try/catch,一个组合炸掉不阻断其余组合。
  31. /// 两层都不静默:维度级进 <c>mdp_transform_run_log.summary_json</c>,组合级进日志。</para>
  32. ///
  33. /// <para><b>失败快照语义保持不变</b>:刷新失败 → 事务回滚 → 目标表停在上一轮完整快照,
  34. /// **绝不清空**(见 <c>S0DimMaterializer</c> 的阶段 III 注释)。</para>
  35. ///
  36. /// <para><b>并发</b>:<c>Concurrent = false</c> 由 Furion 保证同一作业不并行;
  37. /// 本类内部对 (租户 × 维度) 组合**严格串行**,不叠加任何并行度。
  38. /// 这不是保守,是有实证约束的:<c>ISqlSugarClient</c> 是单例
  39. /// (<c>SqlSugarSetup.cs:74</c>),而 dim 写入走显式事务
  40. /// (<c>MdpStdFullReplace</c> 的 BeginTran/Commit),在同一 scope 上并行开事务是明确的踩雷点;
  41. /// 且主库连接池上限只有 20。—— 单租户全量最慢约 90s
  42. /// (<c>ITEM_BOM</c> 57199 行 27s + <c>ITEM</c> 21s + <c>ITEM_ROUTING_OP</c> 15s + 其余),
  43. /// 全租户一轮约数分钟,远小于调度间隔,无需并行。
  44. /// 并行反而会让多个租户同时对同一张目标表做 <c>DELETE ... WHERE tenant_id</c> + INSERT,
  45. /// 徒增锁竞争。</para>
  46. ///
  47. /// <para><b>频率</b>:默认每小时一次(错开整点,避开 <c>job_s5_t8_kpi_refresh</c> 的 :00)。
  48. /// 该值只是**默认值** —— Furion 的 <c>[JobDetail]</c>/<c>[Cron]</c> 会自动持久化到
  49. /// <c>sys_job_detail</c> / <c>sys_job_trigger</c>,运行期可在作业管理页直接改 Cron 表达式,
  50. /// **无需改代码、无需发版**。故这里不再另建配置文件。
  51. /// 主数据变更频率低,且写路径校验类消费者已判定继续直读源表(不依赖标准层的 read-after-write),
  52. /// 小时级新鲜度对「看板筛选下拉」这类消费场景是够的。</para>
  53. /// </summary>
  54. [JobDetail("job_s0_dim_auto_refresh",
  55. Description = "S0 主数据标准层自动刷新(逐租户 FULL:source → mdp_stg_s0_* → dim_*/ref_*/bridge_*)",
  56. GroupName = "default",
  57. Concurrent = false)]
  58. [Cron("15 * * * *",
  59. TriggerId = "trigger_s0_dim_auto_refresh",
  60. Description = "每小时第 15 分触发(5 字段:分 时 日 月 周)。错开整点以避开 S5/T8 作业。")]
  61. public class S0DimAutoRefreshJob : IJob
  62. {
  63. private readonly IServiceScopeFactory _scopeFactory;
  64. private readonly ILogger _logger;
  65. /// <summary>构造。</summary>
  66. public S0DimAutoRefreshJob(IServiceScopeFactory scopeFactory, ILoggerFactory loggerFactory)
  67. {
  68. _scopeFactory = scopeFactory;
  69. _logger = loggerFactory.CreateLogger(nameof(S0DimAutoRefreshJob));
  70. }
  71. /// <inheritdoc />
  72. public async Task ExecuteAsync(JobExecutingContext context, CancellationToken stoppingToken)
  73. {
  74. using var scope = _scopeFactory.CreateScope();
  75. var catalog = scope.ServiceProvider.GetRequiredService<S0DimScopeCatalog>();
  76. var refresh = scope.ServiceProvider.GetRequiredService<S0DimRefreshService>();
  77. var sc = await catalog.ResolveAsync(stoppingToken);
  78. if (sc.DisabledKeys.Count > 0)
  79. _logger.LogInformation("S0DimAutoRefreshJob 跳过已停用维度 {Keys}(mdp_entity.status != 1)",
  80. string.Join(",", sc.DisabledKeys));
  81. int ok = 0, warned = 0, failed = 0;
  82. foreach (var tenantId in sc.Tenants)
  83. {
  84. foreach (var def in sc.Definitions)
  85. {
  86. stoppingToken.ThrowIfCancellationRequested();
  87. try
  88. {
  89. // triggerType=AUTO:与手工触发在 run log 里可区分,
  90. // 便于回答「这次陈旧是没人点,还是自动刷挂了」。
  91. var result = await refresh.RefreshAsync(
  92. tenantId, key: def.Key, triggerType: "AUTO", ct: stoppingToken);
  93. if (result.Status == "FAILED") failed++;
  94. else if (result.Status == "SUCCESS_WITH_WARNING") warned++;
  95. else ok++;
  96. }
  97. catch (OperationCanceledException)
  98. {
  99. // 应用停机 / 作业被取消:直接向上抛,让 Furion 记为取消,不吞。
  100. throw;
  101. }
  102. catch (Exception ex)
  103. {
  104. // 组合级隔离:一个 (租户,维度) 炸掉不阻断其余组合,但必须留痕。
  105. failed++;
  106. _logger.LogError(ex, "S0DimAutoRefreshJob 组合失败 tenant={Tenant} key={Key}",
  107. tenantId, def.Key);
  108. }
  109. }
  110. }
  111. _logger.LogInformation("S0DimAutoRefreshJob 完成 {Payload}", JsonSerializer.Serialize(new
  112. {
  113. tenants = sc.Tenants.Count,
  114. definitions = sc.Definitions.Count,
  115. combinations = sc.Tenants.Count * sc.Definitions.Count,
  116. ok, warned, failed,
  117. skippedDisabled = sc.DisabledKeys.Count
  118. }));
  119. }
  120. }