查看原文
其他

面试,数据仓库的元数据包含哪些?

数据一哥 数据社 2022-07-29

小B是一名数据分析师,他问小A XXX的所有指标项给我一下,小A“鄙视的”给了我一份文档……

                                                                                by小AA

元数据知多少

小B作为一名数据分析师,为什么自己没能去找到数据呢?

这就要说下数据仓库的元数据管理。我们都知道传统的数据库中每张表都有注释,包括表注释,字段注释,你拿到一个不熟悉的表肯定要先看注释,然后才知道每个字段的意思。就像你学习英语的时候查那本牛津字典一样,你能很快查到每个单词的意思,不久你还能看单词“猜出”一个单词的意思。同样数据仓库也有这样一套“注释”,我们称之为元数据。

数据仓库的元数据是负责记录和管理数据的含义、格式、血缘关系等。

作为数据分析师,做分析之前,你都要先知道自己需要什么数据,去哪找到这些数据。没错,就是数据仓库的元数据管理系统。所以,理解数据仓库,需要从元数据开始。

数据分析师看的元数据

  • 模型说明,模型的业务含义,所属主题,数据分析师可以通过说明知道模型存储的是什么数据

  • 模型字段,模型中每个字段代表的意思,数据分析师可以了解模型中有哪些指标数据和维度信息

  • 模型需求来源,这个模型的需求谁提出来的,还是建模人员自己规划的,可以帮助数据分析师了解模型建立的初衷

  • 模型开发者,就像你代码一样,最上面都是author 。数据分析师可以找到对应的模型开发者了解一切他想要的信息。

  • 模型存储信息,包括分区信息,数据大小信息,数据波动情况等,数据分析师了解后,不至于一个SQL把即席查询搞死。

  • 血缘关系,数据分析师可以了解模型里面字段的来龙去脉,在出现数据问题时,进行追踪溯源,找出“始作俑者”。

  • 变更记录,数据分析师后续进行大时间范围的分析时,方便确定数据的有效可用范围。比如,20200101变更模型,增加注释“2020增加字段a,2020年之前无该字段数据”。

模型开发者看的元数据上面的元数据很大意义上是给数据分析师看的,其实还有一部分元数据是给模型开发人员看的。
  • 模型中字段的合法值类型、范围等

  • ETL程序使用的转换规则

  • UDF(自定义函数)说明

  • ETL报错代码含义

  • ……

   模型开发人员除了做好“数据分析师眼中的”元数据,还要管理好“开发的”元数据。

元数据承担着数据治理的重任,完整的元数据管理系统是数据仓库建设成功的根基,也是数据仓库发挥作用大小的决定项之一。

最为数据分析师,使用好元数据,可以快速帮助你更快的构建特征工程。

大家的元数据建设都是怎样的,有什么困惑,可以留言分享下。




您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存