曾文秋
滴滴数据平台高级技术专家
个人介绍:
8年大数据平台研发经验,2011-2018 阿里巴巴dataworks的技术负责人,负责一站式的大数据开发平台、工作流任务调度、任务智能监控、数据质量、数据管理等。2018 加入滴滴,负责滴滴的大数据平台的架构&设计。
议题:
滴滴大数据研发中台的最佳实践
议题介绍:
背景 滴滴大数据研发中台致力于数据赋能业务,一站式完成数据的同步、开发、调度、数据质量、监控运维等操作,让数据开发过程顺畅高效,让数据运维省心省力
主体大纲 1、介绍滴滴的大数据发展史 2、介绍一站式研发中台的组成部分、整体架构,产生的价值 3、核心组件设计剖析:开发生产隔离、多时区时令的全球化任务依赖调度机制、实时表元数据化、数据安全列权限方案 4、举例说明如何利用一站式的研发中台进行数据治理,包括存储和计算:废弃表、同源导入、生命周期过长、暴利扫描、数据倾斜、参数不合理等等。
听众收益 1、了解大数据平台一站式研发中台的建设思路和架构 2、了解滴滴数据治理的实践经验 3、了解滴滴如何实现离线、实时、机器学习一体化的研发平台