当前位置:网站首页>数仓第一篇:基础架构
数仓第一篇:基础架构
2022-08-09 02:03:00 【浊酒南街】
01. 架构演进
离线数据仓库到实时数据仓库,从lambda架构到kappa架构、再到混合架构。
02. 逻辑分层
数仓分层,一般按ods->dw->dm整体架构。不同的企业,不同的业务场景,有衍生出不同的分层架构模式。例如经典四层架构:ods->dwd->dws-ads等;
技术选型,传统数仓一般以Oracle、greenplum、teradata 等,互联网数仓一般以Hadoop生态圈为主,离线以Hive为核心,准实时以spark为核心,实时以flink为核心构建。
03. 数据调研
技术选型,传统数仓一般以Oracle、greenplum、teradata 等,互联网数仓一般以Hadoop生态圈为主,离线以Hive为核心,准实时以spark为核心,实时以flink为核心构建。
需求调研,现有BI报表需求,统计需求,用户画像,推荐系统等数据应用。
数据库调研,了解数据库表数据结构、数据形态,全局把握业务流程数据流向,做到真正业务流程和数据结构结合。
04. 主题域划分
业务高度抽象,可先确定企业业务bu模块,然后可根据概念模型(cdm)进行一级主题划分,确定一致性维度和事实流程,构建总线矩阵。
按照kimball大师经典建模四步骤:选择业务过程->声明粒度->确定维度->确定事实 进行维度建模。
05. 数仓规范
构建企业级数据仓库,必不可少的就是制定数仓规范。包括 命名规范,流程规范,设计规范,开发规范 等。无规矩不成方圆,建设数仓也是这样。
开发规范 示例:
06. 数据治理
大数据时代必不可少的一个重要环节,可从数据质量、元数据管理、数据安全、数据生命周期等方面开展实施。数据治理是一个企业安身立命的根本。
数据质量,必须保证完整性、准确性、一致性、时效性。每一个任务都应该配置数据质量监控,严禁任务裸奔。可建设统一数据质量告警中心从以下四个方面进行监控、预警和优化任务。
元数据管理,关于数据的数据。可分为技术元数据和业务元数据。对于数仓开发和维护,模型血缘关系尤为重要。
数据安全,可包含以下五方面的内容,即数据的保密性、真实性、完整性、未授权拷贝和所寄生系统的安全性。
07. 数仓理念
从80年代到现在,数据仓库流派之争已趋于稳缓,比较经典的就是数仓大师Kimball的维度建模、数仓之父Inmon的范式(E-R)建模,另外还有Data Vault建模、Anchor模型等。
结语:数仓是一种思想,数仓是一种规范,数仓是一种解决方案。
边栏推荐
猜你喜欢
虹科技术|如何阻止供应链攻击?
谷歌翻译下载-免费谷歌翻译软件下载
MT4/MQ4L入门到精通EA教程第二课-MQL语言常用函数(二)-账户信息常用功能函数
JDBC技术(三)——使用Druid数据库连接池测试
如何最大限度地减少企业受到供应链攻击的风险
使网络安全威胁风险更高和成本更高的五个趋势
Likou Brush Question Record 5.1-----59. Spiral Matrix II
JDBC technology (3) - use Druid database connection pool test
2022 PMP Project Management Certification Exam Registration Guide (1)
js实现数组去重的方式(7种)
随机推荐
MT4 / MQ4L entry to the master of EA tutorial lesson two (2) - - MQL language commonly used function account information commonly used functions
HNUMSC-C语言第一课
考研人总结的时间管理7大忌,你中了几条?
yii2的安装之路
Electromagnetic radiation safety standards and detection methods
ZCMU--5115: Buying Keys(C语言)
电磁辐射安全标准及检测方法
Several ways to use JS to achieve array flattening
MT4/MQL4入门到精通EA课程第二课-常用的功能函数
Etcd realize large-scale application service management of actual combat
右键新建缺少word、excel选项问题处理
数字孪生+燃气管理,开启智慧燃气管理新模式
为什么应用程序依赖关系映射对于云迁移至关重要
2022 Eye Health Brand Franchise Exhibition, Beijing Vision Care Exhibition, China Ophthalmology Technology Summit
力扣刷题记录3.1-----977. 有序数组的平方
2022眼康品牌加盟展,北京视力保健展,中国眼科医学技术峰会
typescript91-添加任务基本实现
UsernameAuthenticationFilter授权成功后调用AuthenticationSuccessHandler时的解析
mysql连接超过八小时报错
Go-11 - Process Control