DataWorks学习之旅

第一阶段:功能介绍

Dataworks第一课:入门

一站式大数据开发治理平台DataWorks入门_大数据开发治理平台 DataWorks(DataWorks)-阿里云帮助中心

Dataworks第二课:数据开发介绍 

DataWorks数据开发之界面介绍_大数据开发治理平台 DataWorks(DataWorks)-阿里云帮助中心

Dataworks第三课:数据集成介绍 

DataWorks数据集成介绍及实践_大数据开发治理平台 DataWorks(DataWorks)-阿里云帮助中心

Dataworks第四课:运维中心介绍

DataWorks任务运维介绍_大数据开发治理平台 DataWorks(DataWorks)-阿里云帮助中心

Dataworks第五课:数据服务介绍

DataWorks数据服务介绍及实践_大数据开发治理平台 DataWorks(DataWorks)-阿里云帮助中心

Dataworks第六课:数据质量介绍

DataWorks数据质量介绍_大数据开发治理平台 DataWorks(DataWorks)-阿里云帮助中心

Dataworks第七课:数据安全介绍

DataWorks数据安全之MaxCompute数据访问控制介绍_大数据开发治理平台 DataWorks(DataWorks)-阿里云帮助中心

Dataworks第八课:迁移助手介绍

DataWorks迁移助手介绍_大数据开发治理平台 DataWorks(DataWorks)-阿里云帮助中心

 第二阶段:运维入门

Dataworks第十一课:运维ppt

Dataworks第十二课:运维视频资料

Dataworks第十三课:Feature介绍

Dataworks第十四课:SR(ServiceRole)介绍 

Dataworks第十五课:运维基础操作

如何重启服务

配置文件路径

日志文件路径

如何登录后端数据库

如何登录base_meta项目

如何查找commitid

如何根据commitid查看dataworks版本

如何查看反向vpc的信息

Dataworks第十六课:集群维护

第三阶段:运维进阶

Dataworks第十七课:清理日志相关

Dataworks第十八课:任务积压问题

Dataworks第十九课:转实例相关问题

Dataworks第二十课:数据库清理相关

Dataworks - 清理dwphoenix历史实例

Dataworks - 清理dwcdp实例

Dataworks - 清理dpbizalisa脏数据

Dataworks - 清理dwmario实例

Dataworks第二十一课:SR不终态问题

Dataworks第二十二课:数据集成相关

Dataworks第二十三课:资源隔离相关

第四阶段:成果考核

如何创建project?创建project分为哪几部?

ASCM添加用户/角色、dataworks添加用户/角色,查询用户/角色列表及权限、删除/角色用户
创建分区表/非分区表,新增分区/记录,创建相似表,复制表,重写表,删除表/分区,恢复表/分区
查询表数据:查询指定分区数据、查询最新分区数据、查询当月分区的数据
查询表数据:仅显示符合条件的前100条数据,对指定列排序,每张表每个分区内的数据量
设置/查询 表/分区 生命周期
logview导入、导出
如何查看base集群有哪些服务
如何查看base集群的服务状态是否正常
如何重启base集群的各个服务
如何登陆服务
如何查看base各个服务的日志
如何查看base各个服务的配置文件
如何判断base服务是否正常
如何判断gateway集群有多少台机器,正常/异常的有多少,若有异常:异常状态是什么,怎么处理
如何判断一台机器是否属于base集群
如何判断机器状态是否正常
如何导出表数据、项目数据
如何查询gateway机器黑名单,什么情况下需要拉黑/释放机器;
如何创建一个任务,如何查询任务占用了多少槽位,如何结束任务
如何判断任务是走一级调度还是二级调度
如何查看任务所属的项目空间、owner
如何查看任务运行在那台gateway上面
任务异常:如何查找异常原因
任务异常:如何判断是否任务积压,怎么解决
同步任务慢/任务失败可能有哪些原因
简述base重启服务的流程,及其注意事项和风险
简述base机器上下电流程,及其注意事项和风险
简述base机器扩缩容流程,及其注意事项和风险

一、项目简介 本项目教程以国内电商巨头实际业务应用场景为依托,同时以阿里云ECS服务器为技术支持,紧跟大数据主流场景,对接企业实际需求,对电商数仓的常见实战指标进行了详尽讲解,让你迅速成长,获取最前沿的技术经验。 二、项目架构 版本框架:Flume、DateHub、DataWorks、MaxCompute、MySql以及QuickBI等; Flume:大数据领域被广泛运用的日志采集框架; DateHub:类似于传统大数据解决方案中Kafka的角色,提供了一个数据队列功能。对于离线计算,DataHub除了供了一个缓冲的队列作用。同时由于DataHub提供了各种与其他阿里云上下游产品的对接功能,所以DataHub又扮演了一个数据的分发枢纽工作; 据上传和下载通道,提供SQL及MapReduce等多种计算分析服务,同时还提供完善的安全解决方案; DataWorks:是基于MaxCompute计算引擎,从工作室、车间到工具集都齐备的一站式大数据工厂,它能帮助你快速完成数据集成、开发、治理、服务、质量、安全等全套数据研发工作; QuickBI & DataV:专为云上用户量身打造的新一代智能BI服务平台。 三、项目场景 数仓项目广泛应用于大数据领域,该项目技术可以高度适配电商、金融、医疗、在线教育、传媒、电信、交通等各领域; 四、项目特色 本课程结合国内多家企业实际项目经验。从集群规模的确定到框架版本选型以及服务器选型,手把手教你从零开始搭建基于阿里云服务器的大数据集群。采用阿里云ECS服务器作为数据平台,搭建高可用的、高可靠的Flume数据采集通道,运用阿里云DateHub构建中间缓冲队列并担任数据分发枢纽将数据推送至阿里自主研发的DataWorks对数据进行分层处理,采用MaxCompute作为处理海量数据的方案,将计算结果保存至MySQL并结合阿里的QuickBI工作做最终数据展示。
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值