手把手教数据仓库建设dataworks(小白版)

本文介绍了如何使用阿里云产品构建数据仓库,包括DataHub、E-MapReduce、MaxCompute和DataWorks等。重点讲解了DataWorks的使用,从创建工作空间、配置表主题到数据仓库分层命名规范,以及数据开发和临时查询的操作。此外,还展示了MaxCompute的建表过程和数据导入。
阿里云数据仓库体系

目前构建数据仓库的技术主要为开源框架,像Hadoop,hive,kafka,flink,spark等等,如果自己从0到1去搭建整个数据仓库工作量比较大,且对于性价比不高,故我们采用现成的阿里云提供的数据仓库,阿里云技术框架如下:

阿里云产品 介绍 类比
DataHub 数据总线 Kafka+datax
E-MapReduce 开源大数据计算框架 上面所说的从0到1用开源框架去搭建数据仓库,适用于已搭建了数据仓库的公司进行改造升级。
MaxCompute 阿里黑盒大数据计算框架 E-MapReduce差不多,但是其主要是阿里自己研发的,相当于一个黑盒,即开即用,适合没有搭建过数据仓库的公司使用。
DataWorks 可视化的开发管理平台 相当于我们之前海度系统
RDS 关系型数据库 MySQL
QuickBI,datav 可视化数据展示工具 Tableau,Echarts,powerbi,帆软BI

我们项目的技术选型主要是:

  • 数据采集传输:datax
  • 数据存储:MaxCompute,DataWorks
  • 数据计算:MaxCompute,DataWorks
  • 数据可视化:Superset,Finebi(好像暂时没有)
  • 任务调度:DolphinScheduler
Dataworks
新手入门

由于Dataworks和maxcompute有按量计费的特性,我们可以先用自己的阿里云账号进行体验。

控制台入口:Dataworks产品入口

购买体验

可以通过支付宝进行扫描登陆

img

建议先点击免费开通基础版和本教程一步步学,旁边免费体验的教程太快了,很难跟上。

一、项目简介 本项目教程以国内电商巨头实际业务应用场景为依托,同时以阿里云ECS服务器为技术支持,紧跟大数据主流场景,对接企业实际需求,对电商数仓的常见实战指标进行了详尽讲解,让你迅速成长,获取最前沿的技术经验。 二、项目架构 本框架:Flume、DateHub、DataWorks、MaxCompute、MySql以及QuickBI等; Flume:大数据领域被广泛运用的日志采集框架; DateHub:类似于传统大数据解决方案中Kafka的角色,提供了一个数据队列功能。对于离线计算,DataHub除了供了一个缓冲的队列作用。同时由于DataHub提供了各种与其他阿里云上下游产品的对接功能,所以DataHub又扮演了一个数据的分发枢纽工作; 据上传和下载通道,提供SQL及MapReduce等多种计算分析服务,同时还提供完善的安全解决方案; DataWorks:是基于MaxCompute计算引擎,从工作室、车间到工具集都齐备的一站式大数据工厂,它能帮助你快速完成数据集成、开发、治理、服务、质量、安全等全套数据研发工作; QuickBI & DataV:专为云上用户量身打造的新一代智能BI服务平台。 三、项目场景 数仓项目广泛应用于大数据领域,该项目技术可以高度适配电商、金融、医疗、在线育、传媒、电信、交通等各领域; 四、项目特色 本课程结合国内多家企业实际项目经验。从集群规模的确定到框架本选型以及服务器选型,手把手你从零开始搭建基于阿里云服务器的大数据集群。采用阿里云ECS服务器作为数据平台,搭建高可用的、高可靠的Flume数据采集通道,运用阿里云DateHub构建中间缓冲队列并担任数据分发枢纽将数据推送至阿里自主研发的DataWorks对数据进行分层处理,采用MaxCompute作为处理海量数据的方案,将计算结果保存至MySQL并结合阿里的QuickBI工作做最终数据展示。
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值