广纳百科
当前位置: 首页 > 常识 >

元数据管理——企业数据治理的基石

100次浏览     发布时间:2023-04-29 13:07:05    

一、什么是元数据?


1.元数据起源

元数据,英文名叫meta,起源于1968年,用来表明更加抽象的事。元数据,在历史上被称为图书馆目录信息。

公司的数据可以看作图书馆的书籍,我们管理公司数据类似于管理一个大的图书馆。

现实生活中,我们需要通过书籍分类区域,书名,简介,作者,出版社,出版时间等信息,对书籍进行排序归类;新增书籍,减少书籍,借书还书,均需要记录,以保证书籍易查找,不会丢失。

同理,企业想要管理数据,则和我们管理图书馆类似,必须对数据进行分类,定义,创建数据处理流程,保障数据的安全隐私,监督数据流通等,这些问题都是属于元数据管理的范畴。

2.元数据概念

那么何为元数据呢? 元数据,官方定义,是关于数据的组织,数据域及其关系的信息。简单来说,元数据是对潜在信息的信息,是关于数据的更高层次抽象,是对数据的描述。

比如我们通过简历了解一个人,需要用姓名,性别,民族, 年龄,身份证号,职业等方向来描述一个人。姓名,性别,民族这些,就是描述一个人的元数据。如果没有这些元数据,我们就无法了解区分这个人。

同理,对于数字18,我们可以理解为成交了18个单子?产品重量18公斤?产品运货时间18天?还是部门有18个人?这个数值具体代表什么,含义不清楚。

我们发现,如果没有数据的类型,名称,数据关系这些元数据管理,那么数据无法被组织有效准确理解分析,数据价值无法发挥,数据反而变成组织的数据负债。

所以,元数据,是发挥数据价值的前提,是数据治理的基石!


3.元数据管理不善常见问题

很多企业,因元数据管理不善,易发生以下3个问题:

(1)组织存在冗余的数据和数据管理流程

比如企业没有对用户数据进行更新分类删减,导致很多无效用户数据一直占用企业资源;没有合理的数据管理流程,产品部想了解销售数据,但数据流程繁琐,导致组织效率降低,

(2)数据来龙去脉不清晰

当业务部门发现数据错误时,无法发现数据的源头在哪里,数据流通引发的结果在哪里,无法快速解决问题。

(3)数据安全,数据隐私等问题发生频繁

部门和个人访问权限,访问流程不清楚,追责机制不清晰,易导致公司机密信息泄露,引发数据安全问题。


二、元数据分类和管理目标


1.元数据分类

根据元数据的来源渠道,我们通常把元数据分为3类,分别是业务元数据,操作元数据,技术元数据。

(1)业务元数据

业务元数据,指的是描述业务含义,业务规则等,让人更好理解和使用的元数据,为后续的数据分析和应用提供支撑。

常见的业务元数据有:

  • 术语名称,定义,缩写,计算口径
  • 数据概念模型和逻辑模型
  • 数据血缘和影响分析
  • 数据的安全或敏感级别
  • 业务规则引擎的规则,数据质量检测规则,数据挖掘算法


(2)技术元数据

技术元数据,指的是对数据结构化,方便数据库对数据进行识别,存储,传输和交换的元数据。

技术元数据,可以帮助开发人员明确数据存储和结构,为应用开发奠定基础,也可以让业务人员,快速了解数据的来龙去脉,支持数据血缘追溯和影响分析。

常见的技术元数据有:

  • 物理数据库名称,列名称,列属性,备注,约束信息等
  • 数据存储类型,位置,数据存储文件格式或数据压缩类型等
  • 数据访问权限,组和角色
  • 字段级血缘关系,ETL抽取加载转换信息
  • 调度依赖关系,进度和数据更新频率


(3)操作元数据

操作元数据,是描述数据的操作管理属性,它可以明确数据管理的部门,责任人,使用者,数据责任明晰,为数据安全管理奠定了基础。

常见的操作元数据有:

  • 数据所有者,使用者
  • 数据访问方式,访问时间,访问限制
  • 数据访问权限,组和角色
  • 数据处理作业的结果,系统执行日志
  • 数据备份,归档人,归档时间


2.元数据管理目标

通过对元数据进行分类,我们搭建出元数据管理体系,就可以处理企业组织海量数据,明确其位置,具体含义,流通方向,访问记录等,对数据有一个系统的管理。

企业建立元数据管理系统,主要为实现以下3个目标:

(1)搭建业务术语知识体系,赋予数据意义,实现数据知识信息共享

元数据管理系统对各种数据,通过业务,技术,操作3个方面,进行分类和定义,赋予意义,让使用者均看得懂。

(2)提高数据整合和溯源能力

元数据管理系统对所有的关键数据,进行系统整合和处理,用户可以通过元数据管理系统对数据追本溯源,了解业务处理规则,数据流通情况等。

(3)建立数据质量稽核体系

元数据管理系统通过建立筛选,核实,管理,报警,监控的机制,为数据质量和安全保驾护航,企业再也不用担心发生数据泄露,数据隐私等问题。


三、元数据管理5大步骤


我们已经知道了元数据既然这么重要,那么一个企业,应该如何从0到1搭建元数据管理体系呢?主要有5个步骤。

元数据管理步骤流程图


1.定义元数据战略


第一步,定义元数据战略。企业需要启动元数据战略计划,把关键利益相关方和部门都参与进来,评估现有的元数据资源和信息架构,对关键员工重点访谈,制定合理的战略目标。

管理层要优化和确认未来愿景,开发可以满足管理现阶段的元数据环境长期目标的元数据架构,最后发布元数据战略,制定阶段目标,以及具体的实施路径。


2.理解元数据需求


第二步,是理解元数据需求。元数据管理解决方案,需要由功能需求点满足。

元数据具体功能需求点,有更新频次,同步情况,历史信息,访问权限,存储结构,继承要求,运维要求,管理要求,质量要求和安全要求。企业根据实际情况,按照以下需求方向做,可搭建出一个数据管理体系。


3.定义元数据架构


第三步,定义元数据架构。元数据管理系统,需要对数据进行采集,流通,存储和处理,对数据的处理需要数据架构支撑。

元数据架构,通常分为3类,包括集中式,分布式和混合式,不同技术框架满足不同情境需求,企业根据自身情况因地制宜选择。


(1)集中式架构


集中式架构,指的是有一个集中的元数据系统,可以接收来自各个渠道的元数据,集中加工处理给其他场景提供服务。类似于我们自己做饭,自己买菜,统一处理加工,能够保证饭菜质量。

集中式架构优点是元数据统一管理,增强了数据统一性和一致性,提高了元数据质量,有利于元数据标准化统一管理和应用。缺点是,系统需要保证自身存储和其他元数据的一致性,需要处理大量数据,增加了流程处理复杂度和工作量。


(2)分布式架构


分布式架构,没有自己的元数据存储,使用的时候,直接查询其他数据源的元数据。类似于我们自己不做饭,想吃什么,就去相应的饭店,虽然简单方便,但无法保证饭店饭菜质量。

分布式架构的优点是,元数据总能保持最新且有效,查询简单;缺点则是统一性无法保证,各个数据源没有经过整合和标准化,且查询能力受限于元数据系统的可用性影响。


(3)混合式架构


混合式架构,是一种折中式方案,元数据从数据源进入存储存储库,但存储库设计只考虑用户新增加的,高度标准化以及手工获取的元数据。

混合式数据架构只存储经过特定处理的元数据,可以缩短系统处理流程,减少工作量,保证元数据的质量和一致性,同时也能保证元数据最新且有效状态,查询简单。

这三类架构各有千秋,但为了更好发挥数据价值,就需要对元数据标准化、集中整合化、统一化管理,如果企业做功能较为完善的数据资产管理平台可采用集中式元数据架构。


4.创建和维护元数据


第四步,则是创建和维护元数据。数据系统,要从企业范围内梳理和整合元数据,把技术元数据,与业务,流程和管理元数据集成在一起,使元数据处理变得规范统一,方便理解和分析。


5.查询,报告和分析元数据

第五步,是查询,报告和分析元数据。元数据是一个宝贵的资产,可以用于商务智能BI,商业决策方向。

元数据存储库,应具有前端应用程序,并支持查询和获取功能,从而满足以上各类数据资产管理的需求。


四、元数据应用


1.数据资产地图

数据资产地图,是按数据域对企业数据资源进行盘点和分类,由元数据字典自动生成的企业数据资产的全景地图。

数据资产地图可以告诉我们,企业有哪些数据,如何找到数据,可以用数据干什么。通常情况下,数据资产地图,用可视化方式展示各类元数据和数据处理过程,满足不同业务分析需求。


2.元数据血缘关系

元数据血缘关系,指的是不同数据之间的联系。当我们发现一个下游的错误数据,可以通过血缘关系追本溯源,快速找到上游的数据来源,了解数据处理过程,找到数据错误的原因。


3.元数据影响度分析


元数据影响度分析,可以告诉我们数据去了哪里,经过哪些加工和处理,哪些应用,数据库,或者部门使用了这个数据。

当数据出现问题的时候,可以迅速了解错误数据的传播链条,产生了什么影响,快速解决错误数据导致的错误结果。

血缘关系,是数据遇到问题,向上找问题,在乎的是数据错误导致的原因;而影响度分析,是数据出现问题,快速找到错误数据影响的业务和部门,在乎的是数据错误的导致结果。

相关文章
  • 时光旧巷保险柜团队由一群经验丰富、技术精湛的专业技师组成,他们不仅精通各类保险柜的内部结构与解锁技术,更对市面上主流及部分特殊型号产品的维护维修了如指掌。面对技术日新月异的市场,我们不断学习的安全技术和维修方法,确保服务始终处于行业前沿。时光旧巷保险柜24小时售后服务热线是:400-883-
  • 欧丹特保险柜24小时售后维修电话:400-883-2086上门时间:20分钟内响应上门收费标准:上门检测为准,报价后可选择是否维修。维修说明:1.上门维修时间(周一至周日8:00-22:00);2.客户报修后,师傅会尽快与您联系,确认上门时间;3.师傅按照
  • 金融界2025年4月4日消息,国家知识产权局信息显示,四川华川工业股份有限公司取得一项名为“一种熔断器或断电器的焊接定位装置”的专利,授权公告号CN 222711086 U,申请日期为2024年5月。专利摘要显示,本实用新型公开了一种熔断器或断电器的焊接定位装置,包括上壳体,上壳体下端设置有导电体合
  • 斯辰保险柜的全国售后服务电话是400-883-2086。拨打此电话,您可以预约售后服务,之后售后服务网点会根据您所在的地区进行就近安排,并与您联系,以安排上门维修。虽然不同地区的具体售后电话号码可能不同,但售后服务流程是一致的。如何进行斯辰保险柜的售后维修?1. 您可以拨打斯辰保险柜的全
  • 作为和平年代牺牲最多、奉献最大的队伍,政法战线英雄辈出、灿若繁星。 一个个熠熠生辉的名字,一段段感人至深的事迹,他们以生命赴使命、用热血铸忠诚,在激荡奋进的时代征程中构筑起一道巍峨挺拔的精神坐标。时值清明,慎终追远。让我们停下匆忙的脚步,共同追思在齐鲁大地上为政法事业献出宝贵生命的政法干警。
  • 全能-安能保险柜售后服务电话:400-883-2086全能-安能保险柜24小时维修热线:400-883-2086全能-安能保险柜,作为业内的践行者,不仅专注于高品质的研发与制造,更将客户服务体验提升至战略高度。我们的维修团队由一群技术精湛、素质卓越的专业人员组成,他们不仅拥有丰富的现场处
  • 4月3日,贵州通报8起违反中央八项规定精神问题。其中包括贵阳市委原常委、市委宣传部原部长孙绍雪违规收受礼品、礼金,公款报销应由个人承担的费用等问题。2017年至2024年,孙绍雪违规收受下属和管理服务对象所送高档白酒、茶叶等礼品,折合共计11.55万元。为解决其私人接待等产生的费用,安排企业和个人支
  • 观尼保险柜售后服务电话400-883-2086越来越多的人意识到家财安全的重要性,为了保护贵重物品的安全,观尼保险柜成为了很多家庭的必备品。而观尼保险柜作为国内知名品牌,其专业服务备受广大消费者的赞誉。观尼保险柜专业服务电话(以产品说明书或保修卡电话为准),全方位解决您的家财安全问题。专
  • 豫鼎鑫保险柜以其卓越的安全性能和可靠的品质,成为众多用户的选择。然而,在使用过程中,可能会遇到豫鼎鑫保险柜相关的问题,影响正常使用。本文将为您提供豫鼎鑫保险柜的售后联系方式,并分析豫鼎鑫保险柜的可能原因及解决方法。一、豫鼎鑫保险柜售后联系方式豫鼎鑫保险柜售后服务电话为 400-883
  • 最新文章
  • 在门诊,每个医生都可能被问过:我家宝宝老生病,免疫力差,有没有办法调理一下?该怎么讲清楚免疫力这件事情?免疫力到底能不能调理呢?首先我们先了解什么是免疫力?免疫力,简单地说就是人体保护自己的能力。为了对抗病原体,我们的免疫系统有两股力量:非特异性免疫特异性免
    2023-06-30 17:01:27 100浏览
  • 一、配置网络选择配置网络,这个时候打开机器人,长按机器人WIFI键三秒(智伴机器暂不支持5G网络)回到微信公众号点击配置网络,输入家里的无线网名称跟密码点击连接即可1, 记得长按机器人 3秒 2.密码的大小写要区分 。二、声波联网选择声波联网,这个时候打开机器人,长按机器人WIFI键三秒(智伴机器暂
    2024-08-18 10:20:05 100浏览
  • 呼伦贝尔之美美在壮丽的自然风光呼伦贝尔之美美在厚重的人文底蕴呼伦贝尔之美美在多彩的民俗风情依托丰富的自然资源和浓郁的文化底蕴,呼伦贝尔成为了游客们的热门目的地,在全域、全季、全业旅游发展新格局下,各大旅游景区提档升级、提质增效,吸引全国各地的游客纷至沓来。那么你准备好与呼伦贝尔来一场邂逅了吗?1海拉
    2024-09-11 08:05:37 100浏览
  • 崇州的土壤有:水稻土、紫色土、黄壤、潮土、棕壤、暗棕壤。其中,紫色土占耕地面积的5%,其主要分布在白头、道明、元通、街子、怀远、文井江一带。采样点位置崇州市文井江镇马家社区采样点成土环境地形为山地,海拔高度1012米,母岩为砾岩,植被类型为乔木,植被覆盖度为20%。土壤类型依据《中国土壤分类与代码(
    2024-10-05 08:50:54 100浏览
  • 什么是警察?中国的警察即人民警察。人民警察是国家公务员,实行公务员的各项管理制度和完整的警衔制度,现行警服以藏蓝为主色调。根据《中华人民共和国人民警察法》第一章第二条的规定:“人民警察包括公安机关、国家安全机关、监狱、劳动教养管理机关的人民警察和人民法院、人民检察院的司法警察。警察的种类很多。。。。
    2024-11-11 09:06:07 100浏览
  • 珠海著名景点之一石景山公园,山顶滑道。珠海著名景点之一石景山公园,山顶奇石。珠海著名景点之一石景山公园,半山腰滑道。珠海著名景点之一石景山公园,福石。珠海著名景点之一石景山公园,半山腰滑道。珠海著名景点之一石景山公园,山顶滑道。珠海著名景点之一石景山公园,高处俯瞰海湾。珠海著名景点之一石景山公园,许
    2024-12-11 08:06:27 100浏览