数据平台像公司的“数据总厨房”:订单、报表和模型都从这里取数。本期 Data Engineering Weekly #283 的共同线索,是先把底层规则理顺,再谈更快、更智能。周报介绍了一本数据平台入门电子书,重点涉及可组合架构——把存储、计算、质量检查等拆成可替换组件——以及数据质量和可观测性,后者相当于持续监控数据是否新鲜、完整,并追查故障源头。
几篇案例把这条主线落到具体问题上。Uber 的支付平台强调,先用不可变支付指令和复式记账确定数据契约,再考虑 Kafka 消息或微服务;另一篇则通过排序查找键和列统计,缩小 Hudi 历史查询的扫描范围。Depop 复盘其最大 Spark 数据管线,称通过降低聚类频率、采用写入时原生指标和仅追加去重,将成本削减 52%。此外,Anthropic 讨论多智能体系统时把难点指向协调:当多个 AI 智能体共享环境,状态隔离、通信协议和人工介入会成为平台必须处理的基础能力。以上效果与判断均来自周报及其所引文章,未作独立核查。