当前位置: 首页 > 动态
大数据平台公司讲述平台的整体架构
时间:2019.05.08 浏览:

大数据(big data),指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合,是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。大数据需要有数据平台作为基础,今天就由大数据平台公司亚宁传媒来讲述一下平台的整体架构。

大数据平台的整体架构可以由以下几个部分组成:

从底层逐步往上,如图所示表示这么几个环节:

一、业务应用:其实指的是数据采集,你通过什么样的方式收集到数据。互联网收集数据相对简单,通过网页、App就可以收集到数据,比如很多银行现在都有自己的App。

更深层次的还能收集到用户的行为数据,可以切分出来很多维度,做很细的分析。但是对于涉及到线下的行业,大数据平台公司亚宁传媒表示数据采集就需要借助各类的业务系统去完成。

二、数据集成:大数据平台公司表示其指的其实是ETL,指的是用户从数据源抽取出所需的数据,经过数据清洗,最终按照预先定义好的数据仓库模型,将数据加载到数据仓库中去。而这里的Kettle只是ETL的其中一种。

三、数据存储:指的就是数据仓库的建设了,简单来说可以分为业务数据层(DW)、指标层、维度层、汇总层(DWA)。

四、数据共享层:表示在数据仓库与业务系统间提供数据共享服务。大数据平台公司表示Web Service和Web API ,代表的是一种数据间的连接方式,还有一些其他连接方式,可以按照自己的情况来确定。

五、数据分析层:分析函数就相对比较容易理解了,就是各种数学函数,比如K均值分析、聚类、RMF模型等等。

列存储让磁盘中的各个Page仅存储单列的值,并非整行的值。这样压缩算法会更加高效。大数据平台公司进一步说,这样能够减少磁盘的I/O、提升缓存利用率,因此,磁盘存储会被更加高效的利用。

而分布式计算能够把一个需要非常大的算力才能解决的问题分成很多小部分,接着把这些部分给到许多计算机同时处理,然后把这些计算结果综合起来,得到最终的结果。

大数据平台公司综合这两种技术,就能够大幅度提高分析环节的效率。Yonghong MPP可以说是目前在这两方面做的最出色的了。

六、数据展现:结果以什么样的形式呈现,其实就是数据可视化。这里大数据平台公司建议用敏捷BI,和传统BI不同的是,它能通过简单的拖拽就生成报表,学习成本较低。国内的敏捷BI中,个人用户推荐Tableau,像银行这类的企业级需求推荐Yonghong BI。


关于亚宁 | 服务 | 案例 | 团队 | 动态 | 客户 | 联系 | 网站地图 | XML

  Copyright © 2019.YaNing All rights reserved. 备案号 : 鲁ICP备12015922号

0531-62336018
0531-62336028
返回顶部