从 晶 科 技
CONGJINGTECHNOLOGY
设为首页 | 收藏本站
新闻详情

什么是数据中台?数据中台的重要组成部分有哪些?

关于数据中台


什么是数据中台?这是一个千人千面的问题。网易大数据认为“数据中台是高质量、高效赋能数据前台的一系列数据系统和数据服务的组合”。数据中台的核心职责是高效地赋能数据前台为业务提供价值。


sh152f28.jpg

那么数据中台和大数据平台有什么区别?可以通过一个例子来说明。


如果我们把数据中台看作是一个汽车工厂,那大数据平台就是工厂中的设备,Hadoop 集群则是工厂运作所必须的水、电、煤。Hadoop 提供的是大数据生产所必须的计算和存储资源,大数据平台使得数据开发人员具备了对数据的加工和处理能力,类比设备使得工人具备了对原材料的加工能力,但是大数据平台还不能提供产品,这么多的原始数据,要按照一定的方法论,进行良好的组织,加工,才能生成最终的指标,就如只有切割机、油漆机还不能生产汽车,各个零部件要按照一定的规则,通过设备组装在一起,才是一辆完整的汽车。


数据中台是企业级大数据通过系统化的方式实现统一、标准、安全、共享的数据组织,以服务化的方式赋能前台数据应用,提高数据的使用效率。


数据中台与数据平台最本质的区别在于数据中台是具备业务属性的,输入的是原始数据,输出的是指标。数据中台包含了业务对数据的组织方法论,体现在主题域,业务过程的划分,数据模型的设计,指标、维度、度量的管理,如果我们想确定一个数据是指标还是维度,就必须理解业务。大数据平台提供的是与业务属性无关的工具集合,是数据的加工能力,至于加工的什么数据,平台并不关心。


数据中台不是一套系统,也不是一套产品,而是一种机制。在传统IT架构中,不同部门,不同业务系统和不同的数据中心会产生大量数据。这些数据如果烟囱一样是垂直划分的,彼此之间无法连接,我们也把这种数据叫做数据孤岛。分散在各个孤岛上的数据彼此独立,无法很好的支撑企业的经营决策,也无法很好地应对快速变化的前端业务。因此,我们需要一套机制,利用这一套机制整合这些分散在各个孤岛上的数据,为企业经营决策、精细化运营提供支撑,这套机制就是数据中台。


zhognte049f28.jpg


xx公司根据多年大数据经验的累积及数据中台的项目实践总结出来的数据中台技术架构,主要分为以下5个部分:数据汇聚、数据存储计算、数据治理、数据资产管理、数据服务


数据汇聚


数据中台不产生数据,数据其实来源于各个业务系统、数据库、网络环境等,是日常操作所产生的数据,多数存储在网络环境和存储平台中,且各个系统之间独立存在,很难直接使用,需要去进行数据抽取、采集、整合和处理,将异构数据采集到统一的平台进行存储,进而通过建模将数据进行加工处理,变为对业务有用的数据,只有这样才能有效汇聚数据,形成数据中台的统一数据资源。


数据存储计算


将采集补录、抽取整合的业务数据汇聚后,以数据形态存储,当下大数据发展的节奏让数据库技术也由传统关系型数仓架构,向Hadoop分布式架构演变,并随着业务实时性决策需要,推动融合MPP、SQL on Hadoop、流处理等大数据技术服务的实时流式计算存储应用,实现海量数据高效统一管理,为企业提供实时数据支撑。


数据治理


数据平台建好后,业务数据可能杂乱无章,数据质量低,需要经过一系列的治理提高数据质量,将数据统一起来进行管控,这个过程中就包括数据模型管理、数据标准管理、元数据管理、数据质量管理、生命周期管理、数据安全管理。数据模型管理是根据业务对数据进行分层、整合处理,方便数据的分析应用;元数据管理方便技术人员进行分析数据来龙去脉以及对数据库底层数据质量进行把控;数据标准用来指定一系列标准,对元数据进行标准的检查;数据质量是根据一系列规则,对库表数据进行校验和整改;数据生命周期和安全贯穿整个流程,为数据保驾护航。


数据资产管理


经过数据汇聚、数据治理,已经形成的数据资源需要有统一的地方去进行管理,方便业务人员理解数据,这时就需要建立数据资产管理体系,需要先根据业务先形成资产目录,数据拥有者将自己的数据资产挂到对应的类目树,梳理成一套完整的资产目录,将数据资产开放出去,展示给业务人员或外部人员,提供企业的数据意识。


数据服务


经过前期一系列梳理工作,数据还没有真正发挥它的价值,而数据服务则是将数据资产转化成一种服务能力,那么如果我们需要调用某个数据资产要怎么操作使用?数据提供方又如何将数据资产提供给别人使用?这就是我们说的数据服务功能,帮助用户实现数据规划咨询,数据资产服务开放及数据可视化展示应用等。


从晶科技作为专业公安大数据前端信息采集提供商,能在各种行业和场所广泛搜集社会信息,并对其进行采集、清洗融合、输出的系统。欢迎咨询,洽谈!13500042283


联系客服