精华内容
下载资源
问答
  • 2022-05-07 14:48:52

    随着互联网的发展从红海时代进入蓝海时代,数据的时效性对企业的精细化运营越来越重要,在每天产生的海量数据中,如何挖掘出实时有效的信息,对于公司的快速决策、产品的快速迭代都非常重要。在本地生活服务领域的两大巨头,滴滴在自己的业务如顺风车、美团在自己的业务如团购外卖中进行实时数仓的建设,为消费者提供更好的服务,如我们在滴滴上可以更快的打到更便宜的车、在美团上可以更快的取到最想要吃的餐,这其中的功劳也要算实时数仓一份。那么实时数仓到底是什么呢?与传统数仓有什么区别?如何建设实时数仓呢?

    数仓,即存放数据的仓库,包括全量数据、历史数据。类型上又分为实时数仓、离线数仓,所谓实时数仓是指数据的实时性更高、延迟性低,一般是统计一天以内的数据,支持毫秒级的统计,在建设工具上一般采用Flink,而离线数仓则统计历史数据,在建设工具上一般采用Hive。对于实时性要求比较高的场景,如实时的交易分析、实时数据看板(比如双十一的成交额看板)、实时业务监控、实时数据接口服务等,我们就需要实时数仓了。

    在数仓的开发实现中包含四个模块,即物理存储、数据抽象、runtime作业执行、编程接口。那么离线数仓和实时数仓有什么区别呢?在物理存储模块,离线数仓一般使用HDFS存储,实时数仓使用Kafka消息队列进行存储,在数据抽象模块,离线数仓使用HIve表,实时数仓使用streamtable。在作业执行模块,离线数仓使用mapreudce,而实时数仓使用FlinkStreaming。在编程模块,离线数仓使用HiveSQL进行开发,实时数仓使用FlinkSQL 进行开发。这就是实时数仓和离线数仓在开发实现上的区别了。

    介绍完了数仓概念、实时数仓和传统数仓的区别之后,我们再来看看技术选型。

    在实时数仓的建设中对于大规模数据的处理架构有Lambda架构、Kappa架构,从业界使用情况、灵活性、容错性、成熟度、迁移成本、批/流处理代码来看,Lambda都是最佳的方案。在实时计算引擎上,Flink是最佳的选择方案,因为比较准确、延时低、业界内使用多、易用性高。在实时存储引擎上,综合业务维度索引、高并发情况、高性能查询特征,一般推荐ClickHouse。

    介绍完技术选型之后,我们来看看实时数仓和实时存储两块如何实现?

    在实时数仓中包含四层,即数据接入层ODS、数据明细层DWM、数据汇总层DWS、数据应用层APP。如下图所示,ODS层是数据的源头,包含系统的消息队列数据、系统日志、流量埋点数据、系统消息,不同业务线可能采用的方式存储数据,但是在接入数仓时需要统一来源接入,这样可以方便数据的处理以及数据一致性。在数据明细层,一般分两类进行数据建设,一类是业务数据明细、一类是按维度进行数据拆分,比如在美团中,商家的地理位置、评分、菜品、价格就是明细数据,也可以按地域维度、商家维度、菜品维度、价格维度进行建设。在汇总层主要基于共性维度进行建模分析,比如系统的日活、月活等数据,在汇总层就可以统一的运算。在APP层主要就是把实时数据写入应用系统的数据库,用于建设实时看板、实时特征应用、实时分析。

    在整个业务系统的架构设计中分为两部分,即实时数仓和实时存储。对于实时数仓我们已经介绍了,而对于实时存储,一般满足三个需求,即支持海量数据存储、支持分布式高可用、支持高性能查询。对于海量数据的写入,业界内一般采用clickhouse大数据库存储。为了保障系统的高可用,互联网通用的模式是分布式部署,一般借助分布式协调框架Zookeeper来进行实现,数据写入某一个分片时,zookeeper告诉同一个分片的其它副本,副本来拉取数据,保障同一分片内的数据是一致的。在数据查询中,借助于存储数据库clickhouse的稀疏索引优势,将时间维度和内容进行稀疏索引建立,之后就可以基于内容进行查询了。

    在互联网流量为王的时代,通过数据精准的了解用户情况,进行准确的营销和运营才能把用户长久的留在自己平台,从而保障业务的长久发展,在滴滴的打车业务中采用实时数仓,可以知道某个时间点某个区域的乘客发单情况、司机应答情况,从而采取对应的优惠券触发或加派司机进行调度支持等策略,现在滴滴推出的特惠快车背后也有实时数仓的功劳呢,系统通过实时数仓发现该时间点乘客较少、司机比较空闲,于是通过比较优惠价格,提高乘客打车欲望、增加司机收入。

    通过本文的介绍,相信你已经了解了BAT、TMD等互联网巨头都在建设的实时数仓到底是什么样了吧?如果是准备从事数据分析行业的朋友,实时数仓是一个不错的方向噢;而对于待在互联网圈、使用互联网服务的朋友,在享受服务的同时了解一些背后的逻辑也是不错噢!

    更多相关内容
  • 《Flink1.8实时数仓项目实战》课程主要基于Flink**稳定版本进行讲解,课程包含Flink DataSet、容错、Connector、Flink SQL以及实时数仓项目。希望通过本课程的学习,大家能快速掌握Flink 批处理和Flink SQL,并通过...
  • clickhouse
  • 重磅,实时数仓技术资料与最佳实践资料合集,共46份。 一、阿里云实时数仓入门资料合集 阿里云实时数仓视频课程 基于 Apache Flink + Hologres 的实时推荐系统架构解析 基于Hologres的实时数仓新架构 实时计算 ...
  • 05_实时数仓_ClickHouse_V2.0.pdf
  • OPPO 作为手机厂商,基于 Android 定制了自己的 ColorOS 系统,当前日活跃用户超过 2 亿。围绕 ColorOS,OPPO 构建了很多互联网应用,比如应用商店、浏览器、信息流等。在运营这些互联网应用的过程中,OPPO 积累了...
  • 本文主要讲述知乎的实时数仓实践以及架构的演进,这包括以下几个方面实时数仓1.0版本,主题:ETL逻辑实时化,技术方案:SparkStreaming。实时数仓2.0版本,主题:数据分层,指标计算实时化,技术方案:Flink...
  • 在开源盛世的今天,实时数仓的建设业界已经有了成熟的方案。技术选型上实时计算、消息队列都有最优解,唯独在 OLAP领域,百家争鸣,各有所长。 大数据领域开源OLAP引擎包括不限于Hive、Hawq、Presto、Kylin、Impala...
  • 本文主要介绍一种通用的实时数仓构建的方法与实践。实时数仓以端到端低延迟、SQL标准化、快速响应变化、数据统一为目标。美团外卖数据智能组总结的最佳实践是:一个通用的实时生产平台跟一个通用交互式实时分析引擎...
  • 导读:在开源盛世的今天,实时数仓的建设已经有了较为成熟的方案,技术选型上也都各有优劣。菜鸟作为物流供应链的主力军,时效要求已经成为了核心竞争力,离线数仓已不能满足发展的需要,在日益增长的订单和时效挑战...
  • 离线数仓与实时数仓的比较

    01数仓架构演变

    20世纪70年代,MIT(麻省理工)的研究员致力于研究一种优化的技术架构,该架构试图将业务处理系统和分析系统分开,即将业务处理和分析处理分为不同层次,针对各自的特点采取不同的架构设计原则,MIT的研究员认为这两种信息处理的方式具有显著差别,以至于必须采取完全不同的架构和设计方法。但受限于当时的信息处理能力,这个研究仅仅停留在理论层面。

    1991年,比尔·恩门(Bill Inmon)出版了他的第一本关于数据仓库的书《Building the Data Warehouse》,标志着数据仓库概念的确立。该书定义了数据仓库非常具体的原则,这些原则到现在仍然是指导数据仓库建设的最基本原则。比尔·恩门(Bill Inmon)主张自上而下的建设企业级数据仓库EDW (Enterprise Data Warehouse),这个过程中信息存储符合第三范式,结构如下:

    由于企业级数据仓库的设计、实施很困难,很重要的原因是因为其数据模型设计,在企业级数据仓库中,Inmon推荐采用3范式进行数据建模,从而无法支持决策支持(DSS -Decision Suport System )系统的性能和数据易访问性的要求,即:数据存储方式严格按照范式建模方式,导致数据分析效率低下。很多公司按照这种方式构建数据仓库遭到失败。

    同时期,拉尔夫·金博尔(Ralph Kimball)提出自下而上的建立数据仓库,整个过程中信息存储采用维度建模而非三范式,思路如下:

    维度建模方式没有采用三范式方式设计存储数据,适用于数据分析场景,以上设计方式构建数据仓库实施难度大大降低,并且能够满足公司内部部分业务部门的迫切需求,在初期获得了较大成功。但是很快,他们也发现自己陷入了某种困境:随着数据集市的不断增多,这种架构的缺陷也逐步显现,公司内部独立建设的数据集市由于遵循不同的标准和建设原则,以致多个数据集市的数据混乱和不一致,解决以上问题,还需回归到范式建模。

    1998年,Bill Inmon提出了新的BI架构CIF(Corporation information factory),CIF的核心是将数仓架构划分为不同的层次以满足不同场景的需求,比如常见的ODS、DW、DM等,每层根据实际场景采用不同的建设方案,现在CIF已经成为建设数据仓库的框架指南。

    随着时代的发展,到今天数据仓库建设理论也是基于CIF架构建设方案演化而来。同时数据仓库的概念越来越精确,数据仓库定义如下:

    数据仓库,Data Warehouse,可简写为DW或DWH。数据仓库是面向主题的、集成的(非简单的数据堆积)、相对稳定的、反应历史变化的数据集合,数仓中的数据是有组织有结构的存储数据集合,用于对管理决策过程的支持。

    02传统离线大数据架构

    21世纪初随着互联网时代的到来,数据量暴增,大数据时代到来。Hadoop生态群及衍生技术慢慢走向“舞台”,Hadoop是以HDFS为核心存储,以MapReduce(简称MR)为基本计算模型的批量数据处理基础设施,围绕HDFS和MR,产生了一系列的组件,不断完善整个大数据平台的数据处理能力,例如面向KV操作的HBase、面向SQL分析的Hive、面向工作流的PIG等。以Hadoop为核心的数据存储及数据处理技术逐渐成为数据处理中的“中流砥柱”,部分技术栈如下图所示:

    这个时期,在企业信息化的过程中,随着信息化工具的升级和新工具的应用,数据量变的越来越大,数据格式越来越多,决策要求越来越苛刻,数据仓库技术在大数据场景中被广泛使用。大数据中的数据仓库构建就是基于经典数仓架构而来,使用大数据中的工具来替代经典数仓中的传统工具,架构建设上没有根本区别。在离线大数据架构中离线数仓结构如下:

    随着数据处理能力和处理需求的不断变化,越来越多的用户发现,批处理模式无论如何提升性能,也无法满足一些实时性要求高的处理场景,流式计算引擎应运而生,例如Storm、Spark Streaming、Flink等。

    以上离线大数据架构不能够处理实时性业务,早期,很过公司都是基于Storm来处理处理实时性比较强的业务场景,随着越来越多的应用上线,大家发现,其实批处理和流计算配合使用,才能满足大部分应用需求。而对于用户而言,其实他们并不关心底层的计算模型是什么,用户希望无论是批处理还是流计算,都能基于统一的数据模型来返回处理结果,于是Lambda架构被提出。

    03Lambda架构

    在Lambda架构中,为了计算一些实时指标,就在原来的离线数仓基础之上增加了一个实时计算的链路,并对数据源做流式改造:把消息发送到消息队列中(大数据中常用Kafka),实时计算去消费消息队列中的数据,完成实时指标计算,推送到下游的数据服务中去,由数据服务层完成离线与实时结果的合并。

    Lambda架构中数据从底层的数据源开始,经过各种各样的格式进入大数据平台,在大数据平台中经过Kafka、Flume等数据组件进行收集,然后分成两条线进行计算。一条线是进入流式计算平台(例如 Storm、Flink或者Spark Streaming),去计算实时的一些指标,保证数据实时性;另一条线进入批量数据处理离线计算平台(例如Mapreduce、Hive,Spark SQL),去计算T+1的相关业务指标,这些指标需要隔日才能看见,保证数据有效、准确性。

    根据实时业务统计的复杂程度Lambda架构也分为以下两种情况。

    • 离线数据+实时处理链路(传统实时开发)

    根据实时链路中实时指标计算的复杂程度,开始实时业务不复杂,都是“烟囱(cong)式”开发设计,不需要构建实时数仓,我们可以选择不分层,这种场景下Lambda架构中是由离线数仓和实时业务处理部分组成,这部分实时还达不到叫做实时数仓阶段,只能叫做实时处理链路,其结构如下:

    注意:“烟囱式”开发:在一个有一定规模的企业中,通常都会存在各种各样的应用系统,它们分别由企业的各个不同部门、在各种不同历史时期、为满足各种不同业务目的而开发。由于数据格式没有统一规范,相互之间没有联通、数据更没有整合,像一个个烟囱,因此称其为“烟囱式系统”。同样,在数据处理过程中,各个数据处理程序之间不能很好做到数据规范统一、处理数据流程统一、数据复用,各自独立,叫做“烟囱式”开发。

    • 离线数仓+实时数仓

    随着企业实时业务增多,统计的实时指标越来越多,复杂程度也越来越高,为了在实时链路中更好的复用数据,这是就有必要在实时链路中加入数据分层设计,构建真正的实时数仓。这种场景下Lambda架构中是由离线数仓和实时数仓两部分组成,其结构如下:

    以上Lambda架构中“实时处理链路”这种传统实时与“实时数仓”区别在于,传统实时“烟囱式”开发导致代码耦合问题严重,当需求越来越多,有时需要明细数据,有时需要OLAP分析,这种模式难以应付这些需求,缺少完善的规范。“实时数仓”在保证数据实时性的前提下,实现了数据基于数据仓库管理,更加统一规范化,稳定性和业务性更强。

    在Lambda架构中流处理计算的指标批处理依然计算,最终以批处理结果为准,即每次批处理计算后会覆盖流处理的结果,这是由于流处理过程中不完善做的折中办法,由数据服务处理,其功能主要是合并离线计算和实时计算结果。例如:在统计实时交易订单时,可能实时统计的结果需要当日分钟级别向外展示,T+1后才能展示昨日总的交易订单数,显然,后者是T+1每日离线批处理统计结果,那么假设当日有些用户进行了订单取消有可能T+1后统计统计结果与当日实时展示数据出现不一致问题,那么这里就需要使用数据服务来进行处理,统一数据,决定如何使用数据。

    Lambda数据架构成为每一个公司大数据平台必备的架构,它解决了一个公司大数据批量离线处理和实时数据处理的需求。Lambda架构的核心理念是“流批一体”,如上图所示,整个数据流向自左向右流入平台。进入平台后一分为二,一部分走批处理模式,一部分走流式计算模式。无论哪种计算模式,最终的处理结果都通过统一服务层对应用提供,确保访问的一致性,底层到底是批或流对用户透明。经历多年的发展,Lambda架构优点是稳定,对于实时计算部分的计算成本可控,批量处理可以用晚上的时间来整体批量计算,这样把实时计算和离线计算高峰分开,但是它也有一些致命缺点:

    1)同样的需求需要开发两套一样的代码

    这是Lambda架构最大的问题,针对同一个需求需要开发两套代码,一个在批处理引擎上实现,一个在流处理引擎上实现,在写好代码后还需构造数据测试保证两者结果一致,另外,两套代码对于后期维护也非常麻烦,一旦需求变更,两套代码都需要修改,并且两套代码也需同时上线。

    2)集群资源使用增多

    同样的逻辑需要计算两次,整体占用资源会增多。虽然离线部分是在凌晨运行,但是有可能任务多,在凌晨时造成集群资源使用暴增,报表产出效率就有可能下降,报表延迟对后续展示也有影响。

     3)离线结果和实时结果不一致

    在此架构中经常我们看到次日统计的结果比昨晚的结果要少,原因就在于次日统计结果和昨日统计结果走了两条线的计算方式:次日统计结果是按照批处理得到了更为准确的批量处理结果。昨晚看的结果是通过流式运行的结果,依靠实时链路统计出的实时结果(实时结果统计累加),牺牲了部分准确性。对于这种来自批量和实时的数据结果对不上的问题,无解。

    4)批量计算T+1可能计算不完

    随着物联网时代的到来,一些企业中数据量级越来越大,经常发现夜间运行批量任务已经无法完成白天20多个小时累计的数据,保证早上上班前准时出现数据已成为部分大数据团队头疼的问题。

    5)服务器存储大

    由于批流两个过程都需要将数据存储在集群中,并且中间也会产生大量临时数据,会造成数据急速膨胀,加大服务器存储压力。

    04Kappa架构

    随着Flink等流式处理引擎的不断完善,流处理技术相关的技术成熟发展(例如:Kafka、ClickHouse),针对Lambda架构的需要维护两套程序等以上缺点,LinkedIn的Jay Kreps结合实际经验和个人体会提出了Kappa架构。

    Kappa架构的核心思想是通过改进流计算系统来解决数据全量处理的问题,使得实时计算和批处理过程使用同一套代码。此外Kappa架构认为只有在有必要的时候才会对历史数据进行重复计算,而如果需要重复计算时,Kappa架构下可以启动很多个实例进行重复计算,方式是通过上游重放完成(从数据源拉取数据重新计算)。

    Kappa架构就是基于流来处理所有数据,流计算天然的分布式特征,注定了他的扩展性更好,通过加大流计算的并发性,加大流式数据的“时间窗口”,来统一批处理与流式处理两种计算模式。其架构如下:

    Kappa架构构建的数仓当之无愧称为实时数仓,Kappa架构最大的问题是流式重新处理历史的吞吐能力会低于批处理,但这个可以通过增加计算资源来弥补。重新处理数据看似比较麻烦,但在Kappa架构中并不复杂,其步骤如下:

    1. 选择一个具有重放功能,能够保存历史数据的消息队列,根据要求设置历史数据保存时长,例如:Kafka,可以设置保存全部历史数据。

    2. 当某个或某些指标有重新处理的需求时,按照新逻辑编写新的作业,然后从上游消息队列最开始地方重新消费数据,把结果写往一个新的下游结果表。

    3. 当新作业赶上进度后,切换数据源,读取新作业产生的结果表。

    4. 停止老的作业,删除老的结果表。

    另外,Kappa 架构并不是中间结果完全不落地,现在很多大数据系统都需要支持机器学习(离线训练),所以实时中间结果需要落地对应的存储引擎供机器学习使用,另外有时候还需要对明细数据查询,这种场景也需要把实时明细层写出到对应的引擎中。

    Kappa架构也有一定的缺点,其缺点例如:Kappa架构由于采集的数据格式不统一,每次都需要开发不同的Streaming程序,导致开发周期长。更多Kappa架构的问题在实时数仓发展趋势中讨论。

    05混合结构

    传统离线大数据架构已经不能满足一些公司中实时业务需求,因为随着互联网及物联网发展,越来越多的公司多多少少涉及一些流式业务处理场景。由Lambda离线数仓+实时数仓架构到Kappa实时数仓架构,都涉及到实时数仓开发,那么现实业务开发中到底使用Lambda架构还是Kappa架构?

    我们可以先看下以上三个架构之间的区别:

    通过以上对比来看,三者对比结果如下:

    从架构上来看,三套架构有比较明显区别,真正的实时数仓以Kappa架构为主,而离线数仓以传统离线大数据架构为主,Lambda架构可以认为是两者的中间态。目前在业界中所说的实时数仓大多是Lambda架构,这是由需求决定的。

    从建设方法上来看,实时数仓和离线数仓基本还是沿用传统的数仓主题建模理论,产出事实宽表。另外实时数仓中实时流数据的join有隐藏时间语义,在建设中需注意。

    从数据保障上来看,实时数仓因为要保证实时性,所以对数据量的变化较为敏感,在大促等场景下需要提前做好压测和主备保障工作,这是与离线数仓较为明显的一个区别。

    目前在一些没有实时数据处理场景公司中,使用传统离线大数据架构居多,在这些公司中离线大数据架构性价比高,比较实用。

    在一些涉及到实时业务场景的公司,在实际工作中到底选择哪种架构,需要根据具体业务需求来决定。很多时候并不是完全规范的Lambda架构或者Kappa架构,可以是两者的混合,比如大部分实时指标统计使用Kappa架构完成计算,少量关键指标使用Lambda架构用批处理重新计算,增加一次校对过程。为了应对更广泛的场景,大多数公司采用这种混合架构,离线和实时数据链路都存在,根据每个业务需求选择在合适的链路上来实现。注意:这种方式并不是Lambda架构,例如:某企业有多个业务模块,某些业务模块需要运行在Lambda架构中,某些业务模块需要运行在Kappa架构中。

    离线数仓与实时数仓区别

    离线数据与实时数仓区别如下:

    实时数仓建设思路

    在实时数仓中计算框架选型建议优先选择Flink,其具有“流批一体”特性,并且在处理复杂业务场景上性能优异,在实时处理中有逐渐替代spark的趋势。

    实时数仓分层方面,实时数仓可采用离线数仓的数据模型进行分层处理,目前建议选择Kafka,实时数仓的数据来源可以为kafka消息队列,这样可以做到队列中的数据既可以写入HDFS用于批量分析,也可以实时处理,下游可以写入数据集市供业务使用。如果实时数据量不大也可以将实时明细层写入ClickHouse、Druid等查询效率高的存储方便下游使用,轻度汇总层对数据进行汇总分析后供下游使用。

    数据存储选型中首要考虑查询效率,其次是插入、更新等问题,这里说的存储时最终计算数据结果的存储,可选择ClickHouse、Hbase、apache Druid、Redis等,频繁更新的数据建议不要采用ClickHouse与Druid。当然存储这块需要具体问题具体分析,不同场景下hbase、redis等都是可选项。

    实时数仓发展趋势

    01实时数仓现状

    当前基于Hive的离线数据仓库已经非常成熟,随着实时计算引擎的不断发展以及业务对于实时报表的产出需求不断膨胀,业界最近几年就一直聚焦并探索于实时数仓建设。根据数仓架构演变过程,在Lambda架构中含有离线处理与实时处理两条链路,其架构图如下:

    正是由于两条链路处理数据导致数据不一致等一些列问题所以才有了Kappa架构,Kappa架构如下:

    Kappa架构可以称为真正的实时数仓,目前在业界最常用实现就是Flink + Kafka,然而基于Kafka+Flink的实时数仓方案也有几个非常明显的缺陷,所以在目前很多企业中实时数仓构建中经常使用混合架构,没有实现所有业务都采用Kappa架构中实时处理实现。Kappa架构缺陷如下:

    1. Kafka无法支持海量数据存储。

      对于海量数据量的业务线来说,Kafka一般只能存储非常短时间的数据,比如最近一周,甚至最近一天。

    2. Kafka无法支持高效的OLAP查询,大多数业务都希望能在DWD\DWS层支持即席查询的,但是Kafka无法非常友好地支持这样的需求。

    3. 无法复用目前已经非常成熟的基于离线数仓的数据血缘、数据质量管理体系。

      需要重新实现一套数据血缘、数据质量管理体系。

    4. Kafka不支持update/upsert,目前Kafka仅支持append。

      实际场景中在DWS轻度汇聚层很多时候是需要更新的,DWD明细层到DWS轻度汇聚层一般会根据时间粒度以及维度进行一定的聚合,用于减少数据量,提升查询性能。

      假如原始数据是秒级数据,聚合窗口是1分钟,那就有可能产生某些延迟的数据经过时间窗口聚合之后需要更新之前数据的需求。

      这部分更新需求无法使用Kafka实现。

    所以实时数仓发展到现在的架构,一定程度上解决了数据报表时效性问题,但是这样的架构依然存在不少问题,随着技术的发展,相信基于Kafka+Flink的实时数仓架构也会进一步往前发展,那么到底往哪些方向发展,我们可以结合大公司中技术选型可以推测实时数仓的发展大致会走向“批流一体”。

    02批流一体

    最近一两年中和实时数仓一样火的概念是“批流一体”,那么到底什么是“批流一体”?在业界中很多人认为批和流在开发层面上都统一到相同的SQL上处理是批流一体,也有一些人认为在计算引擎层面上批和流可以集成在同一个计算引擎是批流一体,比如:Spark/SparkStreaming/Structured Streaming/Flink框架在计算引擎层面上实现了批处理和流处理集成。

    以上无论是在业务SQL使用上统一还是计算引擎上的统一,都是批流一体的一个方面,除此之外,批流一体还有一个最核心的方面就是存储层面上的统一。这个方面上也有一些流行的技术:delta/hudi/iceberg,存储一旦能够做到统一,例如:一些大型公司使用Iceberg作为存储,那么Kappa架构中很多问题都可以得到解决,Kappa架构将变成个如下模样:

    这条架构中无论是流处理还是批处理,数据存储都统一到数据湖Iceberg上,这一套结构将存储统一后,解决了Kappa架构很多痛点,解决方面如下:

    1. 可以解决Kafka存储数据量少的问题。

      目前所有数据湖基本思路都是基于HDFS之上实现的一个文件管理系统,所以数据体量可以很大。

    2. DW层数据依然可以支持OLAP查询。

      同样数据湖基于HDFS之上实现,只需要当前的OLAP查询引擎做一些适配就可以进行OLAP查询。

    3. 批流存储都基于Iceberg/HDFS存储之后,就完全可以复用一套相同的数据血缘、数据质量管理体系。

    4. 实时数据的更新。

    上述架构也可以认为是Kappa架构的变种,也有两条数据链路,一条是基于Spark的离线数据链路,一条是基于Flink的实时数据链路,通常数据都是直接走实时链路处理,而离线链路则更多的应用于数据修正等非常规场景。这样的架构要成为一个可以落地的实时数仓方案、可以做到实时报表产生,这得益于Iceberg技术:

    • 支持流式写入-增量拉取

    流式写入其实现在基于Flink就可以实现,无非是将checkpoint间隔设置的短一点,比如1分钟,就意味每分钟生成的文件就可以写入到HDFS,这就是流式写入。但是这里有两个问题,第一个问题是小文件很多,但这不是最关键的,第二个问题才是最致命的,就是上游每分钟提交了很多文件到HDFS上,下游消费的Flink是不知道哪些文件是最新提交的,因此下游Flink就不知道应该去消费处理哪些文件。这个问题才是离线数仓做不到实时的最关键原因之一,离线数仓的玩法是说上游将数据全部导入完成了,告诉下游说这波数据全部导完了,你可以消费处理了,这样的话就做不到实时处理。

    数据湖就解决了这个问题。实时数据链路处理的时候上游Flink写入的文件进来之后,下游就可以将数据文件一致性地读走。这里强调一致性地读,就是不能多读一个文件也不能少读一个文件。上游这段时间写了多少文件,下游就要读走多少文件。我们称这样的读取叫增量拉取。

    • 解决小文件多的问题

    数据湖实现了相关合并小文件的接口,Spark/Flink上层引擎可以周期性地调用接口进行小文件合并。

    • 支持批量以及流式的Upsert(Delete)功能

    批量Upsert/Delete功能主要用于离线数据修正。流式upsert场景上文介绍了,主要是流处理场景下经过窗口时间聚合之后有延迟数据到来的话会有更新的需求。这类需求是需要一个可以支持更新的存储系统的,而离线数仓做更新的话需要全量数据覆盖,这也是离线数仓做不到实时的关键原因之一,数据湖是需要解决掉这个问题的。

    • 支持比较完整的OLAP生态

    比如支持Hive/Spark/Presto/Impala等OLAP查询引擎,提供高效的多维聚合查询性能。

    目前Iceberg部分功能还在开发中,有一些功能还不完善,但是整体实时数仓的发展会大致朝着这个方向行进。目前业界大多数公司还是处于Lambda架构,使用Kappa架构的公司一般都是实时业务居多的公司,随着数据湖技术的发展,这些公司实时数仓的构建慢慢会走向最终的“批流一体”。

     

    展开全文
  • 千亿级实时数仓
  • 京东实时数仓治理与实战
  • 实时数仓建设实践.pdf

    2022-06-19 21:48:07
    实时数仓实践
  • Flink电商实时数仓.html

    2021-12-21 09:37:33
    Flink电商实时数仓.html
  • 实时数仓Hologres技术入门一本通》
  • 离线数仓和实时数仓的区别

    千次阅读 2022-02-27 22:14:10
    作者介绍 @车云祥 大宇无限 数据产品负责人 主要负责全公司底层数据治理,构建统一指标体系; 主导 BI 系统、用户画像系统、广告投放平台、广告...01数仓架构演变 20世纪70年代,MIT(麻省理工)的研究员致力于..

    作者介绍

    @车云祥

    大宇无限  数据产品负责人

    主要负责全公司底层数据治理,构建统一指标体系;

    主导 BI 系统、用户画像系统、广告投放平台、广告流量优化等设计工作;

    推动 Snaptube、LarkPlayer、Zapee 等明星产品与数据紧密结合,实现高效运转;通过对业务需求深度梳理、数据方案高质量设计、数据分析洞察与优化、营销策略闭环输出的不断实践,帮助公司实现数据驱动业务增长;

    “数据人创作者联盟”成员。

    01 数仓架构演变

    20世纪70年代,MIT(麻省理工)的研究员致力于研究一种优化的技术架构,该架构试图将业务处理系统和分析系统分开,即将业务处理和分析处理分为不同层次,针对各自的特点采取不同的架构设计原则,MIT的研究员认为这两种信息处理的方式具有显著差别,以至于必须采取完全不同的架构和设计方法。但受限于当时的信息处理能力,这个研究仅仅停留在理论层面。

    1991年,比尔·恩门(Bill Inmon)出版了他的第一本关于数据仓库的书《Building the Data Warehouse》,标志着数据仓库概念的确立。该书定义了数据仓库非常具体的原则,这些原则到现在仍然是指导数据仓库建设的最基本原则。比尔·恩门(Bill Inmon)主张自上而下的建设企业级数据仓库EDW (Enterprise Data Warehouse),这个过程中信息存储符合第三范式,结构如下:

    由于企业级数据仓库的设计、实施很困难,很重要的原因是因为其数据模型设计,在企业级数据仓库中,Inmon推荐采用3范式进行数据建模,从而无法支持决策支持(DSS -Decision Suport System )系统的性能和数据易访问性的要求,即:数据存储方式严格按照范式建模方式,导致数据分析效率低下。很多公司按照这种方式构建数据仓库遭到失败。

    同时期,拉尔夫·金博尔(Ralph Kimball)提出自下而上的建立数据仓库,整个过程中信息存储采用维度建模而非三范式,思路如下:

    维度建模方式没有采用三范式方式设计存储数据,适用于数据分析场景,以上设计方式构建数据仓库实施难度大大降低,并且能够满足公司内部部分业务部门的迫切需求,在初期获得了较大成功。但是很快,他们也发现自己陷入了某种困境:随着数据集市的不断增多,这种架构的缺陷也逐步显现,公司内部独立建设的数据集市由于遵循不同的标准和建设原则,以致多个数据集市的数据混乱和不一致,解决以上问题,还需回归到范式建模。

    1998年,Bill Inmon提出了新的BI架构CIF(Corporation information factory),CIF的核心是将数仓架构划分为不同的层次以满足不同场景的需求,比如常见的ODS、DW、DM等,每层根据实际场景采用不同的建设方案,现在CIF已经成为建设数据仓库的框架指南。

    随着时代的发展,到今天数据仓库建设理论也是基于CIF架构建设方案演化而来。同时数据仓库的概念越来越精确,数据仓库定义如下:

    数据仓库,Data Warehouse,可简写为DW或DWH。数据仓库是面向主题的、集成的(非简单的数据堆积)、相对稳定的、反应历史变化的数据集合,数仓中的数据是有组织有结构的存储数据集合,用于对管理决策过程的支持。

    01 传统离线大数据架构

    21世纪初随着互联网时代的到来,数据量暴增,大数据时代到来。Hadoop生态群及衍生技术慢慢走向“舞台”,Hadoop是以HDFS为核心存储,以MapReduce(简称MR)为基本计算模型的批量数据处理基础设施,围绕HDFS和MR,产生了一系列的组件,不断完善整个大数据平台的数据处理能力,例如面向KV操作的HBase、面向SQL分析的Hive、面向工作流的PIG等。以Hadoop为核心的数据存储及数据处理技术逐渐成为数据处理中的“中流砥柱”,部分技术栈如下图所示:

    这个时期,在企业信息化的过程中,随着信息化工具的升级和新工具的应用,数据量变的越来越大,数据格式越来越多,决策要求越来越苛刻,数据仓库技术在大数据场景中被广泛使用。大数据中的数据仓库构建就是基于经典数仓架构而来,使用大数据中的工具来替代经典数仓中的传统工具,架构建设上没有根本区别。在离线大数据架构中离线数仓结构如下:

    随着数据处理能力和处理需求的不断变化,越来越多的用户发现,批处理模式无论如何提升性能,也无法满足一些实时性要求高的处理场景,流式计算引擎应运而生,例如Storm、Spark Streaming、Flink等。

    以上离线大数据架构不能够处理实时性业务,早期,很过公司都是基于Storm来处理处理实时性比较强的业务场景,随着越来越多的应用上线,大家发现,其实批处理和流计算配合使用,才能满足大部分应用需求。而对于用户而言,其实他们并不关心底层的计算模型是什么,用户希望无论是批处理还是流计算,都能基于统一的数据模型来返回处理结果,于是Lambda架构被提出。

    02 Lambda架构

    在Lambda架构中,为了计算一些实时指标,就在原来的离线数仓基础之上增加了一个实时计算的链路,并对数据源做流式改造:把消息发送到消息队列中(大数据中常用Kafka),实时计算去消费消息队列中的数据,完成实时指标计算,推送到下游的数据服务中去,由数据服务层完成离线与实时结果的合并。

    Lambda架构中数据从底层的数据源开始,经过各种各样的格式进入大数据平台,在大数据平台中经过Kafka、Flume等数据组件进行收集,然后分成两条线进行计算。一条线是进入流式计算平台(例如 Storm、Flink或者Spark Streaming),去计算实时的一些指标,保证数据实时性;另一条线进入批量数据处理离线计算平台(例如Mapreduce、Hive,Spark SQL),去计算T+1的相关业务指标,这些指标需要隔日才能看见,保证数据有效、准确性。

    根据实时业务统计的复杂程度Lambda架构也分为以下两种情况。

    • 离线数据+实时处理链路(传统实时开发)

    根据实时链路中实时指标计算的复杂程度,开始实时业务不复杂,都是“烟囱(cong)式”开发设计,不需要构建实时数仓,我们可以选择不分层,这种场景下Lambda架构中是由离线数仓和实时业务处理部分组成,这部分实时还达不到叫做实时数仓阶段,只能叫做实时处理链路,其结构如下:

    注意:“烟囱式”开发:在一个有一定规模的企业中,通常都会存在各种各样的应用系统,它们分别由企业的各个不同部门、在各种不同历史时期、为满足各种不同业务目的而开发。由于数据格式没有统一规范,相互之间没有联通、数据更没有整合,像一个个烟囱,因此称其为“烟囱式系统”。同样,在数据处理过程中,各个数据处理程序之间不能很好做到数据规范统一、处理数据流程统一、数据复用,各自独立,叫做“烟囱式”开发。

    • 离线数仓+实时数仓

    随着企业实时业务增多,统计的实时指标越来越多,复杂程度也越来越高,为了在实时链路中更好的复用数据,这是就有必要在实时链路中加入数据分层设计,构建真正的实时数仓。这种场景下Lambda架构中是由离线数仓和实时数仓两部分组成,其结构如下:

    以上Lambda架构中“实时处理链路”这种传统实时与“实时数仓”区别在于,传统实时“烟囱式”开发导致代码耦合问题严重,当需求越来越多,有时需要明细数据,有时需要OLAP分析,这种模式难以应付这些需求,缺少完善的规范。“实时数仓”在保证数据实时性的前提下,实现了数据基于数据仓库管理,更加统一规范化,稳定性和业务性更强。

    在Lambda架构中流处理计算的指标批处理依然计算,最终以批处理结果为准,即每次批处理计算后会覆盖流处理的结果,这是由于流处理过程中不完善做的折中办法,由数据服务处理,其功能主要是合并离线计算和实时计算结果。例如:在统计实时交易订单时,可能实时统计的结果需要当日分钟级别向外展示,T+1后才能展示昨日总的交易订单数,显然,后者是T+1每日离线批处理统计结果,那么假设当日有些用户进行了订单取消有可能T+1后统计统计结果与当日实时展示数据出现不一致问题,那么这里就需要使用数据服务来进行处理,统一数据,决定如何使用数据。

    Lambda数据架构成为每一个公司大数据平台必备的架构,它解决了一个公司大数据批量离线处理和实时数据处理的需求。Lambda架构的核心理念是“流批一体”,如上图所示,整个数据流向自左向右流入平台。进入平台后一分为二,一部分走批处理模式,一部分走流式计算模式。无论哪种计算模式,最终的处理结果都通过统一服务层对应用提供,确保访问的一致性,底层到底是批或流对用户透明。经历多年的发展,Lambda架构优点是稳定,对于实时计算部分的计算成本可控,批量处理可以用晚上的时间来整体批量计算,这样把实时计算和离线计算高峰分开,但是它也有一些致命缺点:

    1)同样的需求需要开发两套一样的代码

    这是Lambda架构最大的问题,针对同一个需求需要开发两套代码,一个在批处理引擎上实现,一个在流处理引擎上实现,在写好代码后还需构造数据测试保证两者结果一致,另外,两套代码对于后期维护也非常麻烦,一旦需求变更,两套代码都需要修改,并且两套代码也需同时上线。

    2)集群资源使用增多

    同样的逻辑需要计算两次,整体占用资源会增多。虽然离线部分是在凌晨运行,但是有可能任务多,在凌晨时造成集群资源使用暴增,报表产出效率就有可能下降,报表延迟对后续展示也有影响。

     3)离线结果和实时结果不一致

    在此架构中经常我们看到次日统计的结果比昨晚的结果要少,原因就在于次日统计结果和昨日统计结果走了两条线的计算方式:次日统计结果是按照批处理得到了更为准确的批量处理结果。昨晚看的结果是通过流式运行的结果,依靠实时链路统计出的实时结果(实时结果统计累加),牺牲了部分准确性。对于这种来自批量和实时的数据结果对不上的问题,无解。

    4)批量计算T+1可能计算不完

    随着物联网时代的到来,一些企业中数据量级越来越大,经常发现夜间运行批量任务已经无法完成白天20多个小时累计的数据,保证早上上班前准时出现数据已成为部分大数据团队头疼的问题。

    5)服务器存储大

    由于批流两个过程都需要将数据存储在集群中,并且中间也会产生大量临时数据,会造成数据急速膨胀,加大服务器存储压力。

    03 Kappa架构

    随着Flink等流式处理引擎的不断完善,流处理技术相关的技术成熟发展(例如:Kafka、ClickHouse),针对Lambda架构的需要维护两套程序等以上缺点,LinkedIn的Jay Kreps结合实际经验和个人体会提出了Kappa架构。

    Kappa架构的核心思想是通过改进流计算系统来解决数据全量处理的问题,使得实时计算和批处理过程使用同一套代码。此外Kappa架构认为只有在有必要的时候才会对历史数据进行重复计算,而如果需要重复计算时,Kappa架构下可以启动很多个实例进行重复计算,方式是通过上游重放完成(从数据源拉取数据重新计算)。

    Kappa架构就是基于流来处理所有数据,流计算天然的分布式特征,注定了他的扩展性更好,通过加大流计算的并发性,加大流式数据的“时间窗口”,来统一批处理与流式处理两种计算模式。其架构如下:

    Kappa架构构建的数仓当之无愧称为实时数仓,Kappa架构最大的问题是流式重新处理历史的吞吐能力会低于批处理,但这个可以通过增加计算资源来弥补。重新处理数据看似比较麻烦,但在Kappa架构中并不复杂,其步骤如下:

    1. 选择一个具有重放功能,能够保存历史数据的消息队列,根据要求设置历史数据保存时长,例如:Kafka,可以设置保存全部历史数据。

    2. 当某个或某些指标有重新处理的需求时,按照新逻辑编写新的作业,然后从上游消息队列最开始地方重新消费数据,把结果写往一个新的下游结果表。

    3. 当新作业赶上进度后,切换数据源,读取新作业产生的结果表。

    4. 停止老的作业,删除老的结果表。

    另外,Kappa 架构并不是中间结果完全不落地,现在很多大数据系统都需要支持机器学习(离线训练),所以实时中间结果需要落地对应的存储引擎供机器学习使用,另外有时候还需要对明细数据查询,这种场景也需要把实时明细层写出到对应的引擎中。

    Kappa架构也有一定的缺点,其缺点例如:Kappa架构由于采集的数据格式不统一,每次都需要开发不同的Streaming程序,导致开发周期长。更多Kappa架构的问题在实时数仓发展趋势中讨论。

    04 混合结构

    传统离线大数据架构已经不能满足一些公司中实时业务需求,因为随着互联网及物联网发展,越来越多的公司多多少少涉及一些流式业务处理场景。由Lambda离线数仓+实时数仓架构到Kappa实时数仓架构,都涉及到实时数仓开发,那么现实业务开发中到底使用Lambda架构还是Kappa架构?

    我们可以先看下以上三个架构之间的区别:

    通过以上对比来看,三者对比结果如下:

    从架构上来看,三套架构有比较明显区别,真正的实时数仓以Kappa架构为主,而离线数仓以传统离线大数据架构为主,Lambda架构可以认为是两者的中间态。目前在业界中所说的实时数仓大多是Lambda架构,这是由需求决定的。

    从建设方法上来看,实时数仓和离线数仓基本还是沿用传统的数仓主题建模理论,产出事实宽表。另外实时数仓中实时流数据的join有隐藏时间语义,在建设中需注意。

    从数据保障上来看,实时数仓因为要保证实时性,所以对数据量的变化较为敏感,在大促等场景下需要提前做好压测和主备保障工作,这是与离线数仓较为明显的一个区别。

    目前在一些没有实时数据处理场景公司中,使用传统离线大数据架构居多,在这些公司中离线大数据架构性价比高,比较实用。

    在一些涉及到实时业务场景的公司,在实际工作中到底选择哪种架构,需要根据具体业务需求来决定。很多时候并不是完全规范的Lambda架构或者Kappa架构,可以是两者的混合,比如大部分实时指标统计使用Kappa架构完成计算,少量关键指标使用Lambda架构用批处理重新计算,增加一次校对过程。为了应对更广泛的场景,大多数公司采用这种混合架构,离线和实时数据链路都存在,根据每个业务需求选择在合适的链路上来实现。注意:这种方式并不是Lambda架构,例如:某企业有多个业务模块,某些业务模块需要运行在Lambda架构中,某些业务模块需要运行在Kappa架构中。

    02 离线数仓与实时数仓区别

    离线数据与实时数仓区别如下:

    03 实时数仓建设思路

    在实时数仓中计算框架选型建议优先选择Flink,其具有“流批一体”特性,并且在处理复杂业务场景上性能优异,在实时处理中有逐渐替代spark的趋势。

    实时数仓分层方面,实时数仓可采用离线数仓的数据模型进行分层处理,目前建议选择Kafka,实时数仓的数据来源可以为kafka消息队列,这样可以做到队列中的数据既可以写入HDFS用于批量分析,也可以实时处理,下游可以写入数据集市供业务使用。如果实时数据量不大也可以将实时明细层写入ClickHouse、Druid等查询效率高的存储方便下游使用,轻度汇总层对数据进行汇总分析后供下游使用。

    数据存储选型中首要考虑查询效率,其次是插入、更新等问题,这里说的存储时最终计算数据结果的存储,可选择ClickHouse、Hbase、apache Druid、Redis等,频繁更新的数据建议不要采用ClickHouse与Druid。当然存储这块需要具体问题具体分析,不同场景下hbase、redis等都是可选项。

    04 实时数仓发展趋势

    01 实时数仓现状

    当前基于Hive的离线数据仓库已经非常成熟,随着实时计算引擎的不断发展以及业务对于实时报表的产出需求不断膨胀,业界最近几年就一直聚焦并探索于实时数仓建设。根据数仓架构演变过程,在Lambda架构中含有离线处理与实时处理两条链路,其架构图如下:

    正是由于两条链路处理数据导致数据不一致等一些列问题所以才有了Kappa架构,Kappa架构如下:

    Kappa架构可以称为真正的实时数仓,目前在业界最常用实现就是Flink + Kafka,然而基于Kafka+Flink的实时数仓方案也有几个非常明显的缺陷,所以在目前很多企业中实时数仓构建中经常使用混合架构,没有实现所有业务都采用Kappa架构中实时处理实现。Kappa架构缺陷如下:

    1. Kafka无法支持海量数据存储。

      对于海量数据量的业务线来说,Kafka一般只能存储非常短时间的数据,比如最近一周,甚至最近一天。

    2. Kafka无法支持高效的OLAP查询,大多数业务都希望能在DWD\DWS层支持即席查询的,但是Kafka无法非常友好地支持这样的需求。

    3. 无法复用目前已经非常成熟的基于离线数仓的数据血缘、数据质量管理体系。

      需要重新实现一套数据血缘、数据质量管理体系。

    4. Kafka不支持update/upsert,目前Kafka仅支持append。

      实际场景中在DWS轻度汇聚层很多时候是需要更新的,DWD明细层到DWS轻度汇聚层一般会根据时间粒度以及维度进行一定的聚合,用于减少数据量,提升查询性能。

      假如原始数据是秒级数据,聚合窗口是1分钟,那就有可能产生某些延迟的数据经过时间窗口聚合之后需要更新之前数据的需求。

      这部分更新需求无法使用Kafka实现。

    所以实时数仓发展到现在的架构,一定程度上解决了数据报表时效性问题,但是这样的架构依然存在不少问题,随着技术的发展,相信基于Kafka+Flink的实时数仓架构也会进一步往前发展,那么到底往哪些方向发展,我们可以结合大公司中技术选型可以推测实时数仓的发展大致会走向“批流一体”。

    02 批流一体

    最近一两年中和实时数仓一样火的概念是“批流一体”,那么到底什么是“批流一体”?在业界中很多人认为批和流在开发层面上都统一到相同的SQL上处理是批流一体,也有一些人认为在计算引擎层面上批和流可以集成在同一个计算引擎是批流一体,比如:Spark/SparkStreaming/Structured Streaming/Flink框架在计算引擎层面上实现了批处理和流处理集成。

    以上无论是在业务SQL使用上统一还是计算引擎上的统一,都是批流一体的一个方面,除此之外,批流一体还有一个最核心的方面就是存储层面上的统一。这个方面上也有一些流行的技术:delta/hudi/iceberg,存储一旦能够做到统一,例如:一些大型公司使用Iceberg作为存储,那么Kappa架构中很多问题都可以得到解决,Kappa架构将变成个如下模样:

    这条架构中无论是流处理还是批处理,数据存储都统一到数据湖Iceberg上,这一套结构将存储统一后,解决了Kappa架构很多痛点,解决方面如下:

    1. 可以解决Kafka存储数据量少的问题。

      目前所有数据湖基本思路都是基于HDFS之上实现的一个文件管理系统,所以数据体量可以很大。

    2. DW层数据依然可以支持OLAP查询。

      同样数据湖基于HDFS之上实现,只需要当前的OLAP查询引擎做一些适配就可以进行OLAP查询。

    3. 批流存储都基于Iceberg/HDFS存储之后,就完全可以复用一套相同的数据血缘、数据质量管理体系。

    4. 实时数据的更新。

    上述架构也可以认为是Kappa架构的变种,也有两条数据链路,一条是基于Spark的离线数据链路,一条是基于Flink的实时数据链路,通常数据都是直接走实时链路处理,而离线链路则更多的应用于数据修正等非常规场景。这样的架构要成为一个可以落地的实时数仓方案、可以做到实时报表产生,这得益于Iceberg技术:

    • 支持流式写入-增量拉取

    流式写入其实现在基于Flink就可以实现,无非是将checkpoint间隔设置的短一点,比如1分钟,就意味每分钟生成的文件就可以写入到HDFS,这就是流式写入。但是这里有两个问题,第一个问题是小文件很多,但这不是最关键的,第二个问题才是最致命的,就是上游每分钟提交了很多文件到HDFS上,下游消费的Flink是不知道哪些文件是最新提交的,因此下游Flink就不知道应该去消费处理哪些文件。这个问题才是离线数仓做不到实时的最关键原因之一,离线数仓的玩法是说上游将数据全部导入完成了,告诉下游说这波数据全部导完了,你可以消费处理了,这样的话就做不到实时处理。

    数据湖就解决了这个问题。实时数据链路处理的时候上游Flink写入的文件进来之后,下游就可以将数据文件一致性地读走。这里强调一致性地读,就是不能多读一个文件也不能少读一个文件。上游这段时间写了多少文件,下游就要读走多少文件。我们称这样的读取叫增量拉取。

    • 解决小文件多的问题

    数据湖实现了相关合并小文件的接口,Spark/Flink上层引擎可以周期性地调用接口进行小文件合并。

    • 支持批量以及流式的Upsert(Delete)功能

    批量Upsert/Delete功能主要用于离线数据修正。流式upsert场景上文介绍了,主要是流处理场景下经过窗口时间聚合之后有延迟数据到来的话会有更新的需求。这类需求是需要一个可以支持更新的存储系统的,而离线数仓做更新的话需要全量数据覆盖,这也是离线数仓做不到实时的关键原因之一,数据湖是需要解决掉这个问题的。

    • 支持比较完整的OLAP生态

    比如支持Hive/Spark/Presto/Impala等OLAP查询引擎,提供高效的多维聚合查询性能。

    目前Iceberg部分功能还在开发中,有一些功能还不完善,但是整体实时数仓的发展会大致朝着这个方向行进。目前业界大多数公司还是处于Lambda架构,使用Kappa架构的公司一般都是实时业务居多的公司,随着数据湖技术的发展,这些公司实时数仓的构建慢慢会走向最终的“批流一体”。

    展开全文
  • 时数仓主要是为了解决传统数仓数据时效性低的问题,实时数仓通常会用在实时的OLAP分析、实时的数据看板、业务指标实时监控等场景。虽然关于实时数仓的架构及技术选型与传统的离线数仓会存在差异,但是关于数仓建设的...

             时数仓主要是为了解决传统数仓数据时效性低的问题,实时数仓通常会用在实时的OLAP分析、实时的数据看板、业务指标实时监控等场景。虽然关于实时数仓的架构及技术选型与传统的离线数仓会存在差异,但是关于数仓建设的基本方法论是一致的。本文会分享基于Flink SQL从0到1搭建一个实时数仓的demo,涉及数据采集、存储、计算、可视化整个处理流程。通过本文你可以了解到:

    • 实时数仓的基本架构
    • 实时数仓的数据处理流程
    • Flink1.11的SQL新特性
    • Flink1.11存在的bug
    • 完整的操作案例

    案例简介

            本文会以电商业务为例,展示实时数仓的数据处理流程。另外,本文旨在说明实时数仓的构建流程,所以不会涉及太复杂的数据计算。为了保证案例的可操作性和完整性,本文会给出详细的操作步骤。为了方便演示,本文的所有操作都是在Flink SQL Cli中完成的

    架构设计

            具体的架构设计如图所示:首先通过canal解析MySQL的binlog日志,将数据存储在Kafka中。然后使用Flink SQL对原始数据进行清洗关联,并将处理之后的明细宽表写入kafka中。维表数据存储在MySQL中,通过Flink SQL对明细宽表与维表进行JOIN,将聚合后的数据写入MySQL,最后通过FineBI进行可视化展示。

    业务数据准备

    • 订单表(order_info)
    CREATE TABLE `order_info` (
      `id` bigint(20) NOT NULL AUTO_INCREMENT COMMENT '编号',
      `consignee` varchar(100) DEFAULT NULL COMMENT '收货人',
      `consignee_tel` varchar(20) DEFAULT NULL COMMENT '收件人电话',
      `total_amount` decimal(10,2) DEFAULT NULL COMMENT '总金额',
      `order_status` varchar(20) DEFAULT NULL COMMENT '订单状态',
      `user_id` bigint(20) DEFAULT NULL COMMENT '用户id',
      `payment_way` varchar(20) DEFAULT NULL COMMENT '付款方式',
      `delivery_address` varchar(1000) DEFAULT NULL COMMENT '送货地址',
      `order_comment` varchar(200) DEFAULT NULL COMMENT '订单备注',
      `out_trade_no` varchar(50) DEFAULT NULL COMMENT '订单交易编号(第三方支付用)',
      `trade_body` varchar(200) DEFAULT NULL COMMENT '订单描述(第三方支付用)',
      `create_time` datetime DEFAULT NULL COMMENT '创建时间',
      `operate_time` datetime DEFAULT NULL COMMENT '操作时间',
      `expire_time` datetime DEFAULT NULL COMMENT '失效时间',
      `tracking_no` varchar(100) DEFAULT NULL COMMENT '物流单编号',
      `parent_order_id` bigint(20) DEFAULT NULL COMMENT '父订单编号',
      `img_url` varchar(200) DEFAULT NULL COMMENT '图片路径',
      `province_id` int(20) DEFAULT NULL COMMENT '地区',
      PRIMARY KEY (`id`)
    ) ENGINE=InnoDB AUTO_INCREMENT=1 DEFAULT CHARSET=utf8 COMMENT='订单表';
    
    • 订单详情表(order_detail) 
    CREATE TABLE `order_detail` (
      `id` bigint(20) NOT NULL AUTO_INCREMENT COMMENT '编号',
      `order_id` bigint(20) DEFAULT NULL COMMENT '订单编号',
      `sku_id` bigint(20) DEFAULT NULL COMMENT 'sku_id',
      `sku_name` varchar(200) DEFAULT NULL COMMENT 'sku名称(冗余)',
      `img_url` varchar(200) DEFAULT NULL COMMENT '图片名称(冗余)',
      `order_price` decimal(10,2) DEFAULT NULL COMMENT '购买价格(下单时sku价格)',
      `sku_num` varchar(200) DEFAULT NULL COMMENT '购买个数',
      `create_time` datetime DEFAULT NULL COMMENT '创建时间',
      PRIMARY KEY (`id`)
    ) ENGINE=InnoDB AUTO_INCREMENT=1 DEFAULT CHARSET=utf8 COMMENT='订单详情表';
    
    • 商品表(sku_info)
    CREATE TABLE `sku_info` (
      `id` bigint(20) NOT NULL AUTO_INCREMENT COMMENT 'skuid(itemID)',
      `spu_id` bigint(20) DEFAULT NULL COMMENT 'spuid',
      `price` decimal(10,0) DEFAULT NULL COMMENT '价格',
      `sku_name` varchar(200) DEFAULT NULL COMMENT 'sku名称',
      `sku_desc` varchar(2000) DEFAULT NULL COMMENT '商品规格描述',
      `weight` decimal(10,2) DEFAULT NULL COMMENT '重量',
      `tm_id` bigint(20) DEFAULT NULL COMMENT '品牌(冗余)',
      `category3_id` bigint(20) DEFAULT NULL COMMENT '三级分类id(冗余)',
      `sku_default_img` varchar(200) DEFAULT NULL COMMENT '默认显示图片(冗余)',
      `create_time` datetime DEFAULT NULL COMMENT '创建时间',
      PRIMARY KEY (`id`)
    ) ENGINE=InnoDB AUTO_INCREMENT=1 DEFAULT CHARSET=utf8 COMMENT='商品表';
    

    数据处理流程

    ODS层数据同步

    关于ODS层的数据同步参见我的另一篇文章章基于Canal与Flink实现数据实时增量同步(一)。主要使用canal解析MySQL的binlog日志,然后将其写入到Kafka对应的topic中。由于篇幅限制,不会对具体的细节进行说明。同步之后的结果如下图所示:基于Canal与Flink实现数据实时增量同步(一)

    DIM层维表数据准备

    本案例中将维表存储在了MySQL中,实际生产中会用HBase存储维表数据。我们主要用到两张维表:区域维表商品维表。处理过程如下:

    • 区域维表

    首先将mydw.base_provincemydw.base_region这个主题对应的数据抽取到MySQL中,主要使用Flink SQL的Kafka数据源对应的canal-json格式,注意:在执行装载之前,需要先在MySQL中创建对应的表,本文使用的MySQL数据库的名字为dim,用于存放维表数据。如下:

    DWD层数据处理

    经过上面的步骤,我们已经将所用的维表已经准备好了。接下来我们将对ODS的原始数据进行处理,加工成DWD层的明细宽表。具体过程如下:

    -- -------------------------
    --   订单详情
    --   Kafka Source
    -- ------------------------- 
    
    DROP TABLE IF EXISTS `ods_order_detail`;
    CREATE TABLE `ods_order_detail`(
      `id` BIGINT,
      `order_id` BIGINT,
      `sku_id` BIGINT,
      `sku_name` STRING,
      `img_url` STRING,
      `order_price` DECIMAL(10,2),
      `sku_num` INT,
      `create_time` TIMESTAMP(0)
    ) WITH(
     'connector' = 'kafka',
     'topic' = 'mydw.order_detail',
     'properties.bootstrap.servers' = 'kms-3:9092',
     'properties.group.id' = 'testGroup',
     'format' = 'canal-json' ,
     'scan.startup.mode' = 'earliest-offset' 
    ) ; 
    
    -- -------------------------
    --   订单信息
    --   Kafka Source
    -- -------------------------
    DROP TABLE IF EXISTS `ods_order_info`;
    CREATE TABLE `ods_order_info` (
      `id` BIGINT,
      `consignee` STRING,
      `consignee_tel` STRING,
      `total_amount` DECIMAL(10,2),
      `order_status` STRING,
      `user_id` BIGINT,
      `payment_way` STRING,
      `delivery_address` STRING,
      `order_comment` STRING,
      `out_trade_no` STRING,
      `trade_body` STRING,
      `create_time` TIMESTAMP(0) ,
      `operate_time` TIMESTAMP(0) ,
      `expire_time` TIMESTAMP(0) ,
      `tracking_no` STRING,
      `parent_order_id` BIGINT,
      `img_url` STRING,
      `province_id` INT
    ) WITH(
    'connector' = 'kafka',
     'topic' = 'mydw.order_info',
     'properties.bootstrap.servers' = 'kms-3:9092',
     'properties.group.id' = 'testGroup',
     'format' = 'canal-json' ,
     'scan.startup.mode' = 'earliest-offset' 
    ) ; 
    
    -- ---------------------------------
    -- DWD层,支付订单明细表dwd_paid_order_detail
    -- ---------------------------------
    DROP TABLE IF EXISTS dwd_paid_order_detail;
    CREATE TABLE dwd_paid_order_detail
    (
      detail_id BIGINT,
      order_id BIGINT,
      user_id BIGINT,
      province_id INT,
      sku_id BIGINT,
      sku_name STRING,
      sku_num INT,
      order_price DECIMAL(10,0),
      create_time TIMESTAMP(0),
      pay_time TIMESTAMP(0)
     ) WITH (
        'connector' = 'kafka',
        'topic' = 'dwd_paid_order_detail',
        'scan.startup.mode' = 'earliest-offset',
        'properties.bootstrap.servers' = 'kms-3:9092',
        'format' = 'changelog-json'
    );
    -- ---------------------------------
    -- DWD层,已支付订单明细表
    -- 向dwd_paid_order_detail装载数据
    -- ---------------------------------
    INSERT INTO dwd_paid_order_detail
    SELECT
      od.id,
      oi.id order_id,
      oi.user_id,
      oi.province_id,
      od.sku_id,
      od.sku_name,
      od.sku_num,
      od.order_price,
      oi.create_time,
      oi.operate_time
    FROM
        (
        SELECT * 
        FROM ods_order_info
        WHERE order_status = '2' -- 已支付
        ) oi JOIN
        (
        SELECT *
        FROM ods_order_detail
        ) od 
        ON oi.id = od.order_id;
    

    ADS层数据

    经过上面的步骤,我们创建了一张dwd_paid_order_detail明细宽表,并将该表存储在了Kafka中。接下来我们将使用这张明细宽表与维表进行JOIN,得到我们ADS应用层数据。

    • ads_province_index

    首先在MySQL中创建对应的ADS目标表:ads_province_index

    CREATE TABLE ads.ads_province_index(
      province_id INT(10),
      area_code VARCHAR(100),
      province_name VARCHAR(100),
      region_id INT(10),
      region_name VARCHAR(100),
      order_amount DECIMAL(10,2),
      order_count BIGINT(10),
      dt VARCHAR(100),
      PRIMARY KEY (province_id, dt) 
    ) ;
    

     向MySQL的ADS层目标装载数据:

    -- Flink SQL Cli操作
    -- ---------------------------------
    -- 使用 DDL创建MySQL中的ADS层表
    -- 指标:1.每天每个省份的订单数
    --      2.每天每个省份的订单金额
    -- ---------------------------------
    CREATE TABLE ads_province_index(
      province_id INT,
      area_code STRING,
      province_name STRING,
      region_id INT,
      region_name STRING,
      order_amount DECIMAL(10,2),
      order_count BIGINT,
      dt STRING,
      PRIMARY KEY (province_id, dt) NOT ENFORCED  
    ) WITH (
        'connector' = 'jdbc',
        'url' = 'jdbc:mysql://kms-1:3306/ads',
        'table-name' = 'ads_province_index', 
        'driver' = 'com.mysql.jdbc.Driver',
        'username' = 'root',
        'password' = '123qwe'
    );
    -- ---------------------------------
    -- dwd_paid_order_detail已支付订单明细宽表
    -- ---------------------------------
    CREATE TABLE dwd_paid_order_detail
    (
      detail_id BIGINT,
      order_id BIGINT,
      user_id BIGINT,
      province_id INT,
      sku_id BIGINT,
      sku_name STRING,
      sku_num INT,
      order_price DECIMAL(10,2),
      create_time STRING,
      pay_time STRING
     ) WITH (
        'connector' = 'kafka',
        'topic' = 'dwd_paid_order_detail',
        'scan.startup.mode' = 'earliest-offset',
        'properties.bootstrap.servers' = 'kms-3:9092',
        'format' = 'changelog-json'
    );
    
    -- ---------------------------------
    -- tmp_province_index
    -- 订单汇总临时表
    -- ---------------------------------
    CREATE TABLE tmp_province_index(
        province_id INT,
        order_count BIGINT,-- 订单数
        order_amount DECIMAL(10,2), -- 订单金额
        pay_date DATE
    )WITH (
        'connector' = 'kafka',
        'topic' = 'tmp_province_index',
        'scan.startup.mode' = 'earliest-offset',
        'properties.bootstrap.servers' = 'kms-3:9092',
        'format' = 'changelog-json'
    );
    -- ---------------------------------
    -- tmp_province_index
    -- 订单汇总临时表数据装载
    -- ---------------------------------
    INSERT INTO tmp_province_index
    SELECT
          province_id,
          count(distinct order_id) order_count,-- 订单数
          sum(order_price * sku_num) order_amount, -- 订单金额
          TO_DATE(pay_time,'yyyy-MM-dd') pay_date
    FROM dwd_paid_order_detail
    GROUP BY province_id,TO_DATE(pay_time,'yyyy-MM-dd')
    ;
    -- ---------------------------------
    -- tmp_province_index_source
    -- 使用该临时汇总表,作为数据源
    -- ---------------------------------
    CREATE TABLE tmp_province_index_source(
        province_id INT,
        order_count BIGINT,-- 订单数
        order_amount DECIMAL(10,2), -- 订单金额
        pay_date DATE,
        proctime as PROCTIME()   -- 通过计算列产生一个处理时间列
     ) WITH (
        'connector' = 'kafka',
        'topic' = 'tmp_province_index',
        'scan.startup.mode' = 'earliest-offset',
        'properties.bootstrap.servers' = 'kms-3:9092',
        'format' = 'changelog-json'
    );
    
    -- ---------------------------------
    -- DIM层,区域维表,
    -- 创建区域维表数据源
    -- ---------------------------------
    DROP TABLE IF EXISTS `dim_province`;
    CREATE TABLE dim_province (
      province_id INT,
      province_name STRING,
      area_code STRING,
      region_id INT,
      region_name STRING ,
      PRIMARY KEY (province_id) NOT ENFORCED
    ) WITH (
        'connector' = 'jdbc',
        'url' = 'jdbc:mysql://kms-1:3306/dim',
        'table-name' = 'dim_province', 
        'driver' = 'com.mysql.jdbc.Driver',
        'username' = 'root',
        'password' = '123qwe',
        'scan.fetch-size' = '100'
    );
    
    -- ---------------------------------
    -- 向ads_province_index装载数据
    -- 维表JOIN
    -- ---------------------------------
    
    INSERT INTO ads_province_index
    SELECT
      pc.province_id,
      dp.area_code,
      dp.province_name,
      dp.region_id,
      dp.region_name,
      pc.order_amount,
      pc.order_count,
      cast(pc.pay_date as VARCHAR)
    FROM
    tmp_province_index_source pc
      JOIN dim_province FOR SYSTEM_TIME AS OF pc.proctime as dp 
      ON dp.province_id = pc.province_id;
    

     当提交任务之后:观察Flink WEB UI:

     查看ADS层的ads_province_index表数据:

    • ads_sku_index

    首先在MySQL中创建对应的ADS目标表:ads_sku_index

    向MySQL的ADS层目标装载数据:

    -- ---------------------------------
    -- 使用 DDL创建MySQL中的ADS层表
    -- 指标:1.每天每个商品对应的订单个数
    --      2.每天每个商品对应的订单金额
    --      3.每天每个商品对应的数量
    -- ---------------------------------
    CREATE TABLE ads_sku_index
    (
      sku_id BIGINT,
      sku_name VARCHAR,
      weight DOUBLE,
      tm_id BIGINT,
      price DOUBLE,
      spu_id BIGINT,
      c3_id BIGINT,
      c3_name VARCHAR ,
      c2_id BIGINT,
      c2_name VARCHAR,
      c1_id BIGINT,
      c1_name VARCHAR,
      order_amount DOUBLE,
      order_count BIGINT,
      sku_count BIGINT,
      dt varchar,
      PRIMARY KEY (sku_id,dt) NOT ENFORCED
    ) WITH (
        'connector' = 'jdbc',
        'url' = 'jdbc:mysql://kms-1:3306/ads',
        'table-name' = 'ads_sku_index', 
        'driver' = 'com.mysql.jdbc.Driver',
        'username' = 'root',
        'password' = '123qwe'
    );
    
    -- ---------------------------------
    -- dwd_paid_order_detail已支付订单明细宽表
    -- ---------------------------------
    CREATE TABLE dwd_paid_order_detail
    (
      detail_id BIGINT,
      order_id BIGINT,
      user_id BIGINT,
      province_id INT,
      sku_id BIGINT,
      sku_name STRING,
      sku_num INT,
      order_price DECIMAL(10,2),
      create_time STRING,
      pay_time STRING
     ) WITH (
        'connector' = 'kafka',
        'topic' = 'dwd_paid_order_detail',
        'scan.startup.mode' = 'earliest-offset',
        'properties.bootstrap.servers' = 'kms-3:9092',
        'format' = 'changelog-json'
    );
    
    -- ---------------------------------
    -- tmp_sku_index
    -- 商品指标统计
    -- ---------------------------------
    CREATE TABLE tmp_sku_index(
        sku_id BIGINT,
        order_count BIGINT,-- 订单数
        order_amount DECIMAL(10,2), -- 订单金额
    	order_sku_num BIGINT,
        pay_date DATE
    )WITH (
        'connector' = 'kafka',
        'topic' = 'tmp_sku_index',
        'scan.startup.mode' = 'earliest-offset',
        'properties.bootstrap.servers' = 'kms-3:9092',
        'format' = 'changelog-json'
    );
    -- ---------------------------------
    -- tmp_sku_index
    -- 数据装载
    -- ---------------------------------
    INSERT INTO tmp_sku_index
    SELECT
          sku_id,
          count(distinct order_id) order_count,-- 订单数
          sum(order_price * sku_num) order_amount, -- 订单金额
    	  sum(sku_num) order_sku_num,
          TO_DATE(pay_time,'yyyy-MM-dd') pay_date
    FROM dwd_paid_order_detail
    GROUP BY sku_id,TO_DATE(pay_time,'yyyy-MM-dd')
    ;
    
    -- ---------------------------------
    -- tmp_sku_index_source
    -- 使用该临时汇总表,作为数据源
    -- ---------------------------------
    CREATE TABLE tmp_sku_index_source(
        sku_id BIGINT,
        order_count BIGINT,-- 订单数
        order_amount DECIMAL(10,2), -- 订单金额
        order_sku_num BIGINT,
        pay_date DATE,
        proctime as PROCTIME()   -- 通过计算列产生一个处理时间列
     ) WITH (
        'connector' = 'kafka',
        'topic' = 'tmp_sku_index',
        'scan.startup.mode' = 'earliest-offset',
        'properties.bootstrap.servers' = 'kms-3:9092',
        'format' = 'changelog-json'
    );
    -- ---------------------------------
    -- DIM层,商品维表,
    -- 创建商品维表数据源
    -- ---------------------------------
    DROP TABLE IF EXISTS `dim_sku_info`;
    CREATE TABLE dim_sku_info (
      id BIGINT,
      sku_name STRING,
      c3_id BIGINT,
      weight DECIMAL(10,2),
      tm_id BIGINT,
      price DECIMAL(10,2),
      spu_id BIGINT,
      c3_name STRING,
      c2_id BIGINT,
      c2_name STRING,
      c1_id BIGINT,
      c1_name STRING,
      PRIMARY KEY (id) NOT ENFORCED
    ) WITH (
        'connector' = 'jdbc',
        'url' = 'jdbc:mysql://kms-1:3306/dim',
        'table-name' = 'dim_sku_info', 
        'driver' = 'com.mysql.jdbc.Driver',
        'username' = 'root',
        'password' = '123qwe',
        'scan.fetch-size' = '100'
    );
    -- ---------------------------------
    -- 向ads_sku_index装载数据
    -- 维表JOIN
    -- ---------------------------------
    INSERT INTO ads_sku_index
    SELECT
      sku_id ,
      sku_name ,
      weight ,
      tm_id ,
      price ,
      spu_id ,
      c3_id ,
      c3_name,
      c2_id ,
      c2_name ,
      c1_id ,
      c1_name ,
      sc.order_amount,
      sc.order_count ,
      sc.order_sku_num ,
      cast(sc.pay_date as VARCHAR)
    FROM
    tmp_sku_index_source sc 
      JOIN dim_sku_info FOR SYSTEM_TIME AS OF sc.proctime as ds
      ON ds.id = sc.sku_id
      ;
    

    当提交任务之后:观察Flink WEB UI:

     查看ADS层的ads_sku_index表数据:

     FineBI结果展示

    实时数仓|基于Flink1.11的SQL构建实时数仓探索实践_jmx_bigdata的博客-CSDN博客

    展开全文
  • 实时数仓

    千次阅读 2019-04-30 21:15:49
    从智能商业的角度来讲,数据的结果代表了用户的反馈,获取结果的及时性就显得尤为重要,快速的获取数据反馈能够帮助公司更快的做出决策,更好的进行产品迭代,实时数仓在这一过程中起到了不可替代的作用。...
  • 美团外卖实时数仓建设实践
  • 实时数仓建设案例

    千次阅读 2022-03-14 16:53:06
    ⼀、实时数仓建设背景 实时需求⽇趋迫切 ⽬前各⼤公司的产品需求和内部决策对于数据实时性的要求越来越迫切,需要实时数仓的能⼒来赋能。传统离 线数仓的数据时效性是 T+1,调度频率以天为单位,⽆法⽀撑实时场景的...
  • 目录 1、数据仓库的发展趋势 1.1数据仓库的趋势 1.2 数据仓库的发展 2、数据仓库架构的演变 2.1 传统数仓架构 ...4、实时数仓建设思路 5、菜鸟实时数仓案例 5.1 整体设计 5.2 数据模型 6、美团点评基于...
  • 菜鸟进口实时数仓2.0
  • 数据仓库的趋势:实时数据仓库以满足实时化&自动化决策需求;大数据&数据湖以支持大量&复杂数据类型(文本、图像、视频、音频);数据仓库有两个环节:数据仓库的构建与数据仓库的应用。早期数据仓库构建主要指的是...
  • 基于Flink的严选实时数仓实践文档,是将项目PPT转成pdf文档,原作者以网易实际数据作为基础进行分享搭建过程。
  • 一、滴滴实时数仓项目在公司内部,我们数据团队有幸与顺风车业务线深入合作,在满足业务方实时数据需求的同时,不断完善实时数仓内容,通过多次迭代,基本满足了顺风车业务方在实时侧的各类业务需求,初步建立起顺风...
  • Flink _ Iceberg 全场景实时数仓的建设实践 - 知乎 (2021_9_15 下午8_42_18).html
  • 近些年,企业对数据服务实时化服务的需求日益增多。本文整理了常见实时数据组件的性能特点和适用场景,介绍了美团如何通过Flink引擎构建实时数据仓库,从而提供高效、稳健的实时数据服务。本文主要阐述使用Flink在...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 11,997
精华内容 4,798
关键字:

实时数仓

友情链接: SAM5504B.zip