阿里云数据仓库体系
目前构建数据仓库的技术主要为开源框架,像Hadoop,hive,kafka,flink,spark等等,如果自己从0到1去搭建整个数据仓库工作量比较大,且对于性价比不高,故我们采用现成的阿里云提供的数据仓库,阿里云技术框架如下:
| 阿里云产品 | 介绍 | 类比 |
|---|---|---|
| DataHub | 数据总线 | Kafka+datax |
| E-MapReduce | 开源大数据计算框架 | 上面所说的从0到1用开源框架去搭建数据仓库,适用于已搭建了数据仓库的公司进行改造升级。 |
| MaxCompute | 阿里黑盒大数据计算框架 | E-MapReduce差不多,但是其主要是阿里自己研发的,相当于一个黑盒,即开即用,适合没有搭建过数据仓库的公司使用。 |
| DataWorks | 可视化的开发管理平台 | 相当于我们之前海度系统 |
| RDS | 关系型数据库 | MySQL |
| QuickBI,datav | 可视化数据展示工具 | Tableau,Echarts,powerbi,帆软BI |
我们项目的技术选型主要是:
- 数据采集传输:datax
- 数据存储:MaxCompute,DataWorks
- 数据计算:MaxCompute,DataWorks
- 数据可视化:Superset,Finebi(好像暂时没有)
- 任务调度:DolphinScheduler
Dataworks
新手入门
由于Dataworks和maxcompute有按量计费的特性,我们可以先用自己的阿里云账号进行体验。
控制台入口:Dataworks产品入口
购买体验
可以通过支付宝进行扫描登陆

建议先点击免费开通基础版和本教程一步步学,旁边免费体验的教程太快了,很难跟上。

本文介绍了如何使用阿里云产品构建数据仓库,包括DataHub、E-MapReduce、MaxCompute和DataWorks等。重点讲解了DataWorks的使用,从创建工作空间、配置表主题到数据仓库分层命名规范,以及数据开发和临时查询的操作。此外,还展示了MaxCompute的建表过程和数据导入。
&spm=1001.2101.3001.5002&articleId=124205545&d=1&t=3&u=03f9951bb5e6459baaafb80736d3fcec)
6568

被折叠的 条评论
为什么被折叠?



