采购计划员拿到两份报价单:供应商报的是"钛白粉R996",仓库的领料单上写的是"R-996",到了配方系统里,它又变成了"996"。同一个东西,三个名字。为了确认这三份单据指向同一种原料,他花了半小时打电话、翻台账——而这半小时,只是制造企业每天无数个"对名字"动作里的一个。 一物多码不是编码问题,是治理问题。物料编码是制造业数据的"身份证",编码不统一,采购、库存、成本、质量、供应链分析全部对不上。对正在建设高质量数据集、推进AI应用的企业来说,这个问题更紧迫:实体标识不统一,数据集就无法构建,AI模型也无法稳定解析——把各系统数据"拉出来堆在一起"只是数据集建设的第一步。一物多码的背后,涉及物料分类、编码规则、数据责任、历史清洗、跨系统分发五个层面,任何一个层面缺位,治理都会落空。 一、一物多码:制造业数据治理的第一道坎 制造业是系统密度最高的行业之一。ERP管采购和财务,MES管生产执行,WMS管仓储,PLM管研发设计,配方系统管工艺……每个系统都有一份自己的物料档案,编码规则却各自为政。同一种物料,采购系统按供应商名称编,设计系统按图纸号编,车间按自己的习惯编。久而久之,"一物多码"与"多物一码"并存——前者是同一个物料对应多个编码,后者是不同物料共用一个编码,两条线都在污染数据。 三个场景能说明一物多码的代价。 集中采购推不动。 某大型综合制造集团的采购中心曾长期面临一个尴尬:各子公司报上来的采购需求用的是各自的物料编码,采购中心要先花大量时间"翻译"——哪些是不同的物料,哪些是同一个物料叫了不同的名字。等翻译完,采购窗口也过了。集中采购的规模优势,就这样被编码差异一点点吃掉。 成本核算对不上。 同一类原材料,A子公司记在"原材料-化工类",B子公司记在"辅料-生产用",C子公司干脆没分类。集团想做全集团的物料成本分析,第一步是"认谁是谁",而这个工作量几乎是天文数字。 批次追溯难。 跨系统的物料批次无法自动关联,追溯靠人工映射。一家精细化工企业曾有类似的经历:一批产品出现质量波动,质量部门要把原料批次、工艺参数、检验记录手工串起来找原因,一次批次数据整理要花半天。 很多制造企业以为自己缺的是系统,实际最大瓶颈往往是数据无法形成统一链路。再先进的MES、再漂亮的看板,底层物料编码对不上,跨系统的数据就关联不起来。在数据管理能力成熟度评估(DCMM 2.0,GB/T 36073-2025)[1]中,数据标准域的能力项——业务术语、主数据、参考数据、数据元、指标数据——指向的正是这套基础工作;DAMA-DMBOK 2.0[3]也把参考数据与主数据管理列为数据管理的基础能力领域。行业里普遍把主数据管理归入治理体系的"管"阶段:物料、客户、供应商等核心实体统一了,数据才谈得上管得住、用得好。需要说明的是,制造业场景中数据管理能力看DCMM,智能制造能力看CMMM(GB/T 39116-2020),两者各有侧重,主数据治理属于前者。 对AI应用而言,这一关更关键。智能采购、供应链预测等场景的第一步,是跨系统关联数据——历史采购量、库存、价格、供应商、质量表现——而关联的前提,是所有系统对同一物料使用同一标识。一物多码不解决,AI读到的"同一个物料"是几个不同的名字,预测和推荐都会失真。GB/T 36344-2018[2]定义的六个数据质量评价维度中,规范性、一致性等维度直接决定模型能否稳定解析、跨系统能否准确关联,一物多码恰恰破坏了这些维度,使数据集达不到"可训"的标准。主数据与数据标准,是AI应用的数据底座。 二、一个典型场景:钛白粉的三个名字 具体到一家企业,一物多码长什么样?华东某精细化工企业(流程制造,年产能超20万吨,生产环保涂料、树脂及助剂)的经历很有代表性。 这家企业的同一原材料"钛白粉",在采购系统里叫"钛白粉R996",在配方系统里写成"R-996",到了质检系统又被简化为"996"。三个系统,三个名字,数据源头各不相同。设备编号同样混乱:DCS里的反应釜编号,与MES工单里的设备字段对不上。主数据不统一,批次追溯时无法自动关联物料批次和设备参数,大量工作靠人工映射。前面提到的那次"半天整理一次批次数据",就发生在这家企业。 龙石顾问进场后的第一判断很直接:流程制造的数据治理,必须从主数据开始。物料编码不统一、设备编号不一致,后续的批次追溯、工艺分析都会遇到严重障碍。企业需要先为每一类原材料、每一台设备、每一道工序建立统一的数字身份,才能谈批次关联、参数分析和智能优化。 这并非孤例。某大型综合制造集团的情况如出一辙:ERP物料主数据重复率高,"一物多码"与"多物一码"并存,采购、库存、生产、财务模块的数据因编码不一致无法关联。集中采购"翻译"各子公司清单、成本核算"认谁是谁",问题比精细化工企业更大——几十套编码体系并存,物料数据总量达到数十万级。 三、怎么治:从标准、清洗到分发 治理路径说起来不复杂:统一标准、唯一标识、持续运营。做起来,每一步都有讲究。 先是梳理核心主数据实体。这家企业从原材料、中间体、成品、设备、工序、计量单位入手,制定统一的业务术语与编码规则,并明确每种主数据的归属部门——物料编码谁维护、改了通知谁、历史记录谁认,这些问题在项目一开始就要有答案。出乎意料的是,项目最大的障碍不在技术,而在"理":跨部门认责。编码规则的技术实现很快,但让采购、生产、质检各自让渡一部分"命名权",需要一轮轮沟通。 然后是清洗历史数据。采购、生产、质检系统中的记录被逐条比对,合并为唯一的"黄金记录",并建立编码映射表,让新旧编码在过渡期内共存。这一步漫长且不可跳过。某大型综合制造集团在治理时专门走过四段:摸清家底、建标准定规则(覆盖数十个大类、数百个小类)、清洗数据(数十万条物料逐条比对、去重、重新编码)、系统固化。参与项目的负责人说过一句话:"这一步不完成,后续所有工作都是空中楼阁。"同样走完这条路的华东某电子制造企业,其物料数据量已达百万级,清洗去重后采购、生产和财务才真正用上了"同一本账"。 再往后是跨系统分发。当技术部新增一种原材料时,编码自动同步至ERP、MES、LIMS,所有系统使用同一标识。数据在源头一次录入,向各系统分发,而不是每个系统各自维护一份——这正是"唯一数据源"原则的落地。 在统一主数据的基础上,企业建立了"原料批次—生产工单—反应工序—工艺参数—质量检验—成品批次"的六层数据模型,为每个中间体、每道工序、每个质量指标定义统一编码与计量单位。某批次产品出现质量异常时,通过批次ID即可一键关联所用原材料批次、各工序、操作人员和检验数据。 治理成果在这一步开始转化为AI可用的数据底座:统一编码加上标准代码集、六层模型,使每批产品的原料、工艺、质检数据可以跨系统一键关联。质量波动分析、配方优化、采购预测等AI应用,从此有了干净的训练与推理数据。 这个过程里,平台工具承担的是固化工作。主数据管理模块完成编码统一、数据清洗与映射、跨系统同步;数据标准管理维护代码集与属性模板;数据质量管理负责唯一性校验——新增物料时自动校验是否已存在类似物料,避免重复编码继续累积——并以旁路监测方式并行扫描存量数据,不影响业务系统正常运行。集团型企业还可以借助"一集团一中台、一公司一空间"的工作空间模型,在统一标准管控与子公司自治之间取得平衡。 配套的还有能力转移。项目采用"培训+陪跑"的方式:培训阶段在龙石公司集中进行,理论、模拟、实操三层递进;进入现场的陪跑阶段,顾问团队选定一个真实业务域,与客户团队一起跑——指导归指导,每一步都由客户团队自己动手完成。目标不是"帮你把数据治好了",而是"你们自己能治了"。 四、效果:从"对名字"到"一物一码" 治理完成后的变化,可以用几组前后对比来说明: 批次数据整理:从半天到几秒。* 批次追溯不再需要人工映射,系统自动关联原材料批次、设备参数、检验记录。 批次间质量波动(粘度、固含量):降低40%。* 工艺参数标准化后,同一配方不同批次的指标趋于稳定。 客户质量投诉率:下降60%。* 批次一致性提升,质量不稳定引发的投诉大幅减少。 新配方研发周期:从6个月到3个月以内。* 基于历史批次的工艺参数与质量结果建立相关性分析模型,工程师能快速找到最优工艺区间。 外部案例验证了同样的逻辑。某大型矿业集团完成主数据治理后,"一物多码"问题基本消除,建立起覆盖数万条物料、上万条客户供应商的标准化代码库,集团层面的经营统计与财务合并有了统一的基础数据支撑。前述综合制造集团的集中采购物料匹配效率明显提升,跨子公司的成本核算口径实现了统一。 客户原声最有说服力:"过去我们的生产更多依赖经验,配方调优靠试错,质量波动难以解释。现在通过这套体系,把每一批产品的原料、工艺参数和质量结果都串联起来,很多问题可以用数据说清楚。" 治理成果还直接转化为AI场景的落地条件。智能采购:统一物料编码后,各系统、各子公司的采购需求按同一标识自动汇总,采购中心无需再"翻译"清单;基于统一的历史采购数据,价格比对、供应商评估、采购量预测有了可靠依据。供应链预测:六层模型打通原料批次—工单—质检链路后,历史消耗、库存、质量波动数据可跨系统关联,需求预测与排产预测不再是无源之水。此时再看高质量数据集建设:2024年初,《"数据要素×"三年行动计划(2024—2026年)》[4]把工业制造列为重点领域,高质量数据集正是该行动落地的基础工程——统一标识的物料主数据已成为智能采购、供应链预测等应用的可信底座,数据集建设从"拉数"进入"可信"阶段;数据治理成果(标准、质量、主数据)将原始业务数据转化为模型可直接使用的训练集,能节省70%以上的数据准备工作量。 五、三点启示 回顾这些案例,有三点启示值得同行参考。 先治主数据,再谈数据应用与AI。 物料编码不统一,上层分析是沙上建塔,智能采购、供应链预测更是无从谈起。主数据与数据标准是数据治理的第一道关口,也是AI应用的数据底座。很多企业急于建大屏、上AI,而底层编码尚未统一——先把基础打牢,后面的路会顺很多。 主数据管理的本质不是管控,而是服务。 它的核心价值是"唯一数据源"——让每个业务系统都能从一个可信源头获取标准数据。这个原则一旦确立,后续的系统集成和数据分析就能少走很多弯路。 一物多码的治理是持续运营,不是一次项目。 标准要有人维护,质量要持续校验,分发要形成闭环。组织与机制缺一不可:专责岗位、审批流程、校验规则,缺了任何一环,编码会重新乱回去。这也是为什么越来越多的企业把主数据治理纳入常态化运营,而不是当一次性项目做完就散。从实践看,"产品+培训+陪跑"的组合——平台负责固化规则,培训与陪跑负责让企业自己接得住——是让治理成果持续下去的一种稳妥方式。 治理之后,同一物料在所有系统中只有一个名字——这个"唯一名字"正是高质量数据集的最小单元。数据集建设从"数据汇总"走向"可信、可训",AI应用才能从演示走向业务一线。对大多数制造企业来说,这一步从统一物料编码开始,是最稳妥的起点。 六、常见问题 Q1:一物多码和多物一码有什么区别?哪个危害更大? 一物多码是同一个物料对应多个编码,表现为数据重复、对账困难;多物一码是不同物料共用一个编码,表现为数据混淆、统计失真。两者的危害侧重点不同:一物多码抬高对账和协同成本,多物一码直接扭曲成本与库存统计。都需要靠唯一性校验从源头控制——新增物料时自动比对是否已存在类似物料,把重复编码挡在入口之外。 Q2:治理应该从哪类物料切入?所有物料类型一起治吗? 从业务影响最大的切入。原材料和关键物料通常最复杂,也最能见到效果,先跑通,再扩展到半成品、成品、备品备件。综合制造集团的经验是先治物料、再扩展客户、供应商、组织等其他主数据对象;矿业集团则选择优先做透对经营分析影响最大的几类主数据。小步快跑优于一步到位,用阶段性成果推动更大范围的覆盖。 Q3:存量数据清洗周期长,能不能先上系统再清洗? 不建议绕开。清洗存量数据是系统上线的前提——很多企业绕开清洗直接上系统,结果系统上线后数据照样乱。把存量数据理清楚,看似慢,实则是唯一的快;配合编码映射表让新旧编码过渡期共存,可以降低清洗阶段对业务的影响。 Q4:主数据统一后,各业务系统要跟着改造吗? 分阶段过渡。先建编码映射表,让新旧编码共存,再逐步推动各系统切换使用统一编码;分发机制确保新增数据源头唯一——源头一次录入,各系统同步获取,不需要每个系统各自维护一份编码档案。 Q5:单工厂、中小企业也需要做物料主数据治理吗? 需要,只是颗粒度不同。只要有多个业务系统、有跨部门对账,就存在一物多码的风险。可以从一个核心物料大类、几条校验规则起步,不必一上来就搭全套体系;随着业务系统增多再逐步扩充。 Q6:一物多码治理和智能采购、供应链预测这些AI应用有什么关系? 直接关系。AI场景的第一步是跨系统关联数据——历史采购量、库存、质量、供应商——而关联的前提是所有系统对同一物料使用同一标识。一物多码不解决,AI读到的"同一个物料"是几个不同的名字,预测和推荐都会失真,这正是GB/T 36344[2]一致性维度要解决的问题。主数据与数据标准治理的成果,就是AI应用的训练与推理底座。如果希望用工具把标准、清洗、分发、校验串成一条链路,部分数据治理平台已具备主数据管理能力(如龙石数据中台),可以从一个物料大类试点起步。 参考来源 [1] 国家市场监督管理总局、国家标准化管理委员会,《数据管理能力成熟度评估模型》(GB/T 36073-2025,DCMM 2.0),2025年发布,2026年7月1日实施 — openstd.samr.gov.cn [2] 国家市场监督管理总局、国家标准化管理委员会,《信息技术 数据质量评价指标》(GB/T 36344-2018)— openstd.samr.gov.cn [3] DAMA International. DAMA-DMBOK: Data Management Body of Knowledge (2nd Edition). Technics Publications, 2017. [4] 国家数据局等十七部门,《"数据要素×"三年行动计划(2024—2026年)》,2024年1月 — gov.cn
一位刚完成DCMM自评的CDO翻着厚厚的制度文件——数据管理办法、数据标准规范、质量管理制度一应俱全——但评估师追问的是:"这些制度的实际执行记录在哪里?标准字段覆盖率是多少?质量问题平均闭环周期多长?" 这并不是个别现象。DCMM 2.0(GB/T 36073-2025,2026年7月1日起实施)[1]的核心变化之一,就是将评估方式从以定性判断为主升级为量化度量——486项评估指标分布在一套要求可复验的证据体系中[2]。制度的价值在于定义规则,但规则的执行、监测、追溯和持续改进,越来越需要一个数据治理平台来承载。 制度管"应不应该做",平台管"有没有在做"——两者不是替代关系,而是互补关系。本文以"理采存管用"五阶段方法论为主线,逐一分析平台在每个环节应承担的工作,并给出选型评估的五个维度,帮助企业判断什么样的治理平台才能真正支撑DCMM 2.0的落地执行。 一、DCMM 2.0对"制度"的要求——以及制度的边界 DCMM 2.0在"数据治理"能力域中明确要求建立数据治理组织、制度建设和文化建设[3]。这三者共同构成了数据治理的"软件层"——谁对数据负责、标准怎么定、质量谁兜底、安全谁划界,都需要制度来定义。 制度的本质是解决一致性问题:确保全员在同一套规则下工作。一个有效的数据管理制度体系通常覆盖数据生命周期各环节的操作规范和权责分工,让每项数据活动都有据可依。DAMA-DMBOK2将数据治理定义为"对数据资产管理行使权力和控制的活动集合",这一界定本身就说明制度层面的组织设计与权责分配是先决条件[4]。 但制度的边界同样清晰。当评估师追问"标准覆盖了多少字段""质量问题的闭环周期是几天""资产目录最近一次更新是什么时候",制度回答不了这些问题。制度告诉团队"应该做",但无法告诉管理层"做到了没有、做到了什么程度"。制度是组织的骨架,但骨架需要肌肉和神经系统——也就是平台——才能真正运转起来。 截至2025年11月,全国DCMM贯标企业已达10,448家,其中获评最高等级(L5)的仅33家[2]。大量企业处于L2-L3阶段,瓶颈往往不在制度文件是否齐全,而在于制度的执行缺乏可量化的抓手。从多数贯标实践来看,当数据域超过三个、涉及系统超过十套时,纯人工执行制度会迅速触达管理天花板。 二、制度的尽头,平台的开端:理采存管用的工程化落地 龙石数据提出的"理采存管用"五阶段方法论,将DCMM 2.0的九大能力域转化为可执行的建设路径[5]。需要说明的是,"理采存管用"与DCMM 2.0能力域之间并非严格意义上的一一对应——"理"侧重战略、组织与制度建设,横跨数据战略、数据治理等多个能力域;"存"侧重数据仓库开发与数据架构建设,与数据资产域各有侧重。下表为对应关系示意: 注:上表为对应关系示意,"理采存管用"与DCMM 2.0能力域之间并非严格一一对应。 在每一个环节,制度给出方向,平台给出动作。以下以"理采存管用"为主线,逐一展开分析。 2.1 理:定战略、建体系、摸家底——制度主导,平台摸底 "理"是五阶段中最偏向制度侧的一个环节。其核心工作是制定数据战略、建立治理组织、明确权责分工——这些主要由制度驱动。 但平台在"理"阶段同样能发挥作用。传统的数据资产盘点依赖人工访谈和Excel逐表登记,覆盖面有限且更新滞后。一个合格的数据治理平台应能自动连接核心业务系统,完成数据资产的初次扫描,生成资产目录初稿并同步输出数据质量基线报告——让"摸家底"从主观申报走向客观扫描。 从多数企业的实践经验来看,"理"阶段如果只有制度文件而没有平台支撑的资产摸底,后续的"采存管用"往往会缺乏准确的起点。 2.2 采:聚数据,打通业务系统——制度定接入规范,平台自动化执行 "采"的核心任务是将分散在多系统中的数据按需归集到统一平台。制度在这个环节的职责是定义数据源接入标准、归集频率和接口规范——哪些系统需要接入、以什么频率同步、全量还是增量、数据格式如何统一。 平台则承担实际的归集执行工作。以数据中台产品为例,多源异构归集应覆盖数据库、API、文件和消息队列等多种数据源类型,支持批量归集、多表归集和实时归集三种模式。其中,多表归集允许通过向导式操作一次同步多张表,适合快速接入大量业务表;批量归集流程开发则提供拖拽式画布,适合需要在归集过程中做清洗转换的精细化场景。 制度定义了"接什么、怎么接",平台保证"实际在接、按规范接"。制度写得再详细,如果平台能力不匹配——比如只支持单一数据源类型或无法处理异构环境——制度的落地就会在第一步卡住。 2.3 存:绘模型,标准化数据分层——制度定模型规范,平台强制约束 "存"是数据架构的工程化环节。制度侧需要定义数据仓库分层标准——ODS操作数据层、DW数据仓库层、ADS应用数据服务层的命名规范和设计原则——以及各层之间的流转规则。 平台在这个环节的价值体现在两个层面。第一是约束层面:模型在线设计时,平台能强制校验命名是否符合规范、字段类型是否与定义一致,从源头上减少"设计时一套、落地时另一套"的问题。第二是效率层面:流批一体的计算引擎让离线加工和实时处理在同一套架构下完成,避免维护两套代码的成本。 2.4 管:管数据——平台承载最密集的环节 "管"是"理采存管用"中平台承载度最高的环节,也是DCMM 2.0评估中平台证据需求最集中的区域。制度在这个环节的职责是定义规则,但规则从定义到执行之间,需要平台完成大量工程化工作。 数据标准与落标稽核*。制度定义字段级的数据标准——编码规则、值域范围、格式规范等。平台则需要将标准转化为可自动执行的稽核规则。以字段级落标稽核为例:标准定义了"客户编号为18位统一社会信用代码",平台在新数据入库时自动扫描该字段,发现不符合格式的记录立即标记。标准变更后,平台自动感知下游影响链路——这个字段被哪些报表、哪些API引用了——避免标准修改引发连锁故障。 数据质量与旁路监测*。制度定义质量规则——非空约束、值域限制、一致性规则等。平台以旁路监测模式执行:数据正常入库,质量检查在旁路并行扫描,发现问题打标记、发告警、生成整改工单,不阻断业务流程。这种"旁路"设计的关键在于:治理不影响业务运行,但治理结果对管理层完全可见。当团队规模扩大、数据量增长后,手工逐条检查的效率和覆盖率都会快速下降,旁路自动化监测是较为稳妥的解决路径。 元数据管理与血缘解析*。制度定义元数据的采集范围和更新频率。平台自动采集表结构、字段信息和注释,减少人工录入维护的工作量。血缘关系解析方面,平台能自动记录数据在归集、清洗、加工和共享各环节的输入输出关系——哪个源表经过哪些转换后进入了哪个报表或API。对于平台外的操作,通常也提供手动补录入口。 数据安全管理*。制度定义数据分类分级策略和访问权限规范。平台自动执行敏感数据打标——如身份证号、手机号字段自动识别和标记——并在查询和导出时联动脱敏规则。细粒度的权限控制确保不同角色看到不同层级的数据。 主数据管理*。制度定义主数据的编码规范和实体准入标准。平台统一实体管理,自动查重和关联,解决"同一个客户在三个系统叫不同的名字"等典型问题。 案例*:华东某化工企业在启动数据治理项目时,首先从顶层成立了专门的数据管理部,并在此基础上利用数据治理平台统一物料编码和标准管理。项目实施一年后,该企业的库存周转率提升了近两成,订单交付及时率也有同等幅度的改善。比这些经营指标更重要的变化是——数据管理部已能独立承接新业务域的治理需求,制度变成了日常运转的操作基础,而非应付评估的归档文档。 2.5 用:促共享、重应用——制度定义共享规则,平台量化使用成效 "用"是数据价值兑现的环节。制度侧的定义包括:数据共享审批流程、API管理规范、数据退役规则等。平台侧的工作则围绕"让数据被找到、被理解、被使用"展开。 资源目录的自动化编目让业务人员在平台上搜索和申请数据,替代传统的人工对接方式;API共享和并发管理让数据服务从"发文件"升级为"调接口";自然语言问数能力进一步降低了数据使用门槛——业务人员不需要掌握SQL,直接以日常语言提问即可获得分析结果。 "用"的成效是检验前面四个环节的最好标准:理得清、采得进、存得下、管得住,最终都是为了用得好。 三、选型视角:五个评估维度 理解了平台在每个环节应承担的工作之后,选型评估就有了清晰的标尺。以下是五个建议的评估维度,每个维度都围绕"制度能否在平台上落地执行"这个核心问题展开。 关于产品能力,市面上部分数据治理平台已将标准管理、质量稽核、元数据血缘和资产目录整合在同一框架下,治理闭环不必跨多套工具拼接。在架构开放性方面,以龙石数据中台的工作空间模型为例,"一集团一中台、一公司一空间"的设计让总部统一制定治理标准,各分子公司在独立工作空间中自主管理本地数据,兼顾了标准一致性与业务灵活性。在长期运营维度上,部分厂商已配套了培训与陪跑机制——培训建立认知,陪跑完成能力转移,目标不是"厂商帮你把数据治好了",而是"你们自己能治了"。 四、从制度走到平台:三阶段推进路径 制度与平台的协同不需要一步到位。参照"理采存管用"的建设节奏,以下是三阶段推进路径的参考框架。 第一阶段的核心目标是"看清现状"——制度覆盖了哪些环节、缺失在哪里,同时通过平台完成资产盘点,建立量化的数据质量基线。第二阶段用一个小范围闭环验证方法论和平台的有效性——让业务方在短时间内感受到治理带来的实际变化。第三阶段将验证后的模式铺开到更多数据域,制度与平台形成持续的反馈循环:平台运行数据为制度迭代提供依据,制度优化又通过平台落地执行。 五、FAQ Q1:DCMM 2.0评估是不是主要看制度文档?* DCMM 1.0的评估确实以制度文档和人员访谈为主。2.0的核心变化之一就是将评估方式升级为量化度量——486项评估指标要求有可复验的执行记录[2]。制度回答"有没有框架",执行记录回答"框架有没有在运转"。对于数据架构、数据质量、数据标准和数据应用流通等平台承载度较高的能力域,评估师会关注系统层面的运行证据——质量规则执行频次、标准覆盖率变化趋势、问题闭环时效等。 Q2:我们已经有比较完善的制度体系了,还需要上平台吗?* 这取决于数据管理的规模和复杂度。制度解决一致性问题,平台解决效率和可验证性问题。如果团队规模较小、涉及系统较少,制度加人工执行在早期是可行的。但随着数据域和系统数量增加,人工执行会面临三个瓶颈:覆盖面不足(无法同时监控所有系统的数据质量)、时效性不够(问题发现滞后)、可追溯性弱(执行过程缺少自动留痕)。当存在这三个瓶颈中的任意两个时,引入平台支撑是较为务实的做法。 Q3:选型时可以从最小的功能集开始吗?* 可以,而且从多数企业的实际路径来看,通常先从当前最紧迫的治理缺口入手。建议优先覆盖"管"环节的核心能力——数据标准管理、数据质量监测和元数据管理——这是DCMM 2.0评估中平台承载度最高的区域。之后在跑通闭环的基础上,按需扩展"采""存""用"的能力模块。一次性采购全量功能模块的风险在于功能闲置——部分能力模块在治理成熟度到达对应阶段之前很难真正用起来。 参考来源 [1] 全国数据标准化技术委员会,《GB/T 36073-2025 数据管理能力成熟度评估模型》,2025年12月发布,2026年7月1日实施 [2] 中国电子信息行业联合会,《第四届数据治理年会工作报告》,2025年11月 [3] 中国国际科学交流中心,《DCMM 数据治理能力域解读》(https://www.china-isc.org.cn/pinggu/show-317.aspx) [4] DAMA International,《DAMA-DMBOK2 数据管理知识体系指南》 [5] 龙石数据,"理采存管用"五阶段数据治理方法论,龙石数据中台产品页(https://www.longshidata.com/products/government.html)
数据集成不需要半夜爬起来改脚本。龙石数据中台将多源异构数据归集标准化为可视化操作——拖拽组件或向导式勾选,三步完成配置,此后每天自动运行。从手工脚本到自动化集成的转变,不是工具的升级,而是把数据工程师的时间从维护脚本中释放出来,去做更有价值的事情。
引言 今年的AI领域,堪称“神仙打架”。两周前,Google突然发布Gemini3,其基准测试成绩断档领先,迅速引爆科技圈,公司股价也应声大涨。 此前Gemini系列—直低调,风头被ChatGPT和Claude占据;而Gemini3的横空出世,让业界重新审视这位AI“老大哥”——无论是Vibe Coding的准确度与审美,还是Nano Banana Pro的精度,都展现出“六边形战士”般的全面能力。 AI浪潮已不可避免地席卷数据行业。最近几周,我们收到不少客户咨询,希望搭建“ AI 数据中台” ,并构建多个 AI 用数场景。然而深入沟通后我们发现,很多企业的基础数据状况并不乐观:信息化系统零散、缺乏统—数据底座……在这样的基础上推进AI,注定困难重重。 类似情况在行业中十分普遍。不少企业过去几年投入大量预算做AI POC(概念验证),却始终难以规模化落地。问题往往不在模型本身,而在于数据治理的根基尚未夯实。无论是AI应用、智能分析,还是行业模型微调,都离不开工业级、可复用、可信赖的数据底座——而这,正是数据治理工作的核心目标。 本文将从数据广度、数据质量、业务理解三个维度,阐述为什么“要做AI,先做数据治理”。 一、如果跳过数据治理,AI的致命缺陷 1.1 数据孤岛 AI=数据+算法+算力, AI应用必须先获取数据才能做场景化处理。真正有价值的AI,需要全方位的数据,而非零散的“单—视角 ”。 大多数企业的信息化建设是离散进行的。客户数据存储在CRM系统中,用户行为数据散落在各类日志中,财务数据则位于ERP系统内。这些数据天然形成隔离,导致唯—标识难以建立,模型无法准确关联用户在跨业务场景中的行为轨迹。 AI模型只能基于单—系统的碎片化数据进行训练,无法关联用户的跨业务行为。 这就是缺少数据治理工作支撑的典型问题:数据广度和深度不足,AI无法形成对业务的全面认知。而系统化的数据治理,正是通过“数据归集+统—建模”,为AI提供全景数据支撑: 数据归集:通过数据集成平台实现跨源数据的汇聚。 数仓规划:基于数仓规划和主题域设计,构建宽而全的数据。 龙石数据中台提供多源异构数据集成、实时与批量同步、低代码可视化配置、多协议转换、高可靠容错及信创适配能力,全面支撑高效、安全、灵活的数据集成需求,打通数据孤岛。 1.2 垃圾进、垃圾出 “垃圾进、垃圾出”由来已久,在AI时代被进—步放大,输入数据的质量,直接决定模型输出的价值。劣质数据喂给再先进的大模型,也只能产出—本正经的“高科技垃圾”。 有些企业认为: “不做数据治理,用开源ETL工具把数据抽出来不就行了? ” 这是—个典型误区: 数据归集 ≠ 数据治理 。 某零售企业曾试图跳过数据治理,用AI助手统计销售额。由于底层数据中存在大量未剔除的测试订单,且金额单位(元/万元)混乱不统— ,AI输出了严重虚高的业绩,误导了管理层决策。 真正的数据治理除了实现数据汇聚,更关键的是构建全链路的数据治理体系,从源头保障数据质量,为AI项目规避“垃圾进、垃圾出” 的风险。 数据治理:数据标准管理、质量校验、数据血缘。 资产沉淀:指标中心、标签中心、清洗/加工流程标准化。 龙石数据中台-数据治理模块,基于智能化数据探查与大数据旁路监测技术,提供可视化规则配置、自动化质量评测(支持百亿级数据5分钟内完成千万级评测)、问题闭环管理及多维度精细化质量报告,构建不侵入原系统的统—、高效、智能的数据质量管理体系,从源头减少 “垃圾数据”的产生。 1.3 AI不懂业务 无论是中台、 BI还是AI,技术的终极目标都是服务业务。脱离业务理解的AI,即便技术指标再优秀,也难以创造实际价值。数据治理的关键作用之—,就是完成企业业务知识的数字化沉淀,为AI提供“业务认知”基础。 当业务人员用自然语言向AI提问时,使用的是业务术语;而AI底层运行依赖的是技术语言。 例如,电商运营人员问 AI :“神仙水上周的销量是多少? ” “神仙水”是消费者端的俗称,实际产品名是“SK-II 护肤精华露”。 如果数据中台未建立业务术语与产品之间的映射关系,AI 在底层就找不到“神仙水”这—字段,自然无法返回准确销量。 有效的数据治理不仅是提供一个技术平台,更是助力企业沉淀业务知识,构建“业务语义层”的管理工程: 业务驱动建模:模型结构与业务流程对齐。 指标/标签体系沉淀:让模型直接使用业务语义。 数据 + 业务知识的双重监督:减少“黑盒错误”。 龙石数据中台-AI用数智能体,通过汇聚多源异构数据并进行清洗、转换与集成,确保数据准确—致;同时依托元数据增强技术构建企业级知识图谱,实现数据语义标注与业务含义补全,让系统更懂业务、更准查询,为智能分析与决策提供高质量、可理解的数据基础。 二、总结 梳理下来,我们可以清晰地看到: AI与数据治理并非“替代关系”,而是 “协同共生”的关系。 AI=数据+算法+算力,数据提供 AI 学习的基础信息;算法决定加工数据的步骤,以及以产生智能的决策;算力支撑算法高效地处理海量数据。 跳过数据治理做AI的代价是惨痛的,短期看似乎节省了数据治理的成本,但长期看,每个AI项目都将陷入重复的数据清洗泥潭,架构越来越乱,维护成本呈指数级上升,最终沦为烂尾工程。 本文仅基于当前小编的行业实践和观察整理,期盼与大家一起深入探讨。龙石数据长期专注于数据管理能力的输出,我们正在将多年实战经验整理成书,新书内容即将在各大平台分享,希望能更好地助力大家的数据治理工作。
引言 在本系列前面的文章中,我们分别介绍了《什么是数据中台》和《为什么数据治理是持续性的?》 也为大家介绍了龙石数据“理采存管用”的数据治理方法论。 不少读者反馈,对“数据仓库”这个词还不太清楚:它和数据中台到底是什么关系?数据中台既然覆盖“理采存管用”,那数据仓库又在其中扮演什么角色? 在深入探讨“理”(梳理)和“采”(采集)之前,我们可以先把“存”(存储)这个环节讨论一下。 数据中台和数据仓库的区别与联系 数据仓库为什么需要分层 业界常用的分层思路有哪些 龙石数据在实战中总结的分层模型是怎样的 一、数据中台 vs 数据仓库 数据中台:是一个承载“理采存管用”全流程的“工具与管理平台” ,核心是让数据能力可复用、可服务化。 数据仓库:是中台体系中负责 “存”的 “数据地基”。 它们的关系是: 数据经过中台的治理(理)和采集(采)后,存入数据仓库;再通过中台的调度和管理(管),最终以服务形式(用)支撑业务应用。 通俗来讲,数据中台操作数据,负责把数据治好。数据仓库存储数据,负责把数据存好。 二、数据仓库为什么一定要分层? 数据仓库的命名源于“仓库”的概念,其设计核心在于解决数据管理中的混乱与低效问题。若将原始数据、加工数据及应用数据混杂存储于单一存储层,将导致数据定位困难、管理复杂、查询性能低下。数据仓库分层设计正是为应对这一挑战,通过结构化组织实现数据的高效治理与利用,数据仓库有以下优点: 结构清晰:像“俄罗斯套娃”一样,采用分层架构(如ODS、DWD、DWS、ADS),每层职责单一,将复杂数据流程简化为可管理的模块化处理,复杂问题简单化。 数据复用:沉淀公共指标和宽表,避免“重复造轮子”,极大提升下游开发效率。 任务解耦:复杂任务拆成多个步骤,便于运维和重跑,一层失败不影响全局。 查询加速:空间换时间,通过预处理和汇总,让上层应用(AI用数、BI、大屏)查询更快。 水平扩展:多数数仓基于分布式架构支持弹性扩容,无缝适配数据量增长场景,确保系统在高负载下保持高性能与高可用性。 三、业界主流的分层思路 3.1 经典两大流派 Inmon(自顶向下): 主张先建企业级数据仓库(EDW),再建数据集市。 Kimball(自底向上) 主张先围绕业务过程建数据集市,再通过一致性维度整合成企业视图。 Inmon(自顶向下)就像先建一个巨型中央仓库,把所有货物标准化后,再分发给各部门小店; 而Kimball(自底向上)则像先为各部门开专业零售店,但使用统一的商品编码和会员体系,让这些店能轻松连锁成一个大超市。 前者强调整合与统一,后者追求速度与实用。现代数据平台通常结合两者思想。 3.2 当前共识:五层模型 融合了经典思想,互联网和大厂普遍采用五层结构: ODS(贴源层) 贴源层顾名思义是从源头粘贴数据,同城使用数据集成工具(ETL),将源头业务系统数据进行归集,保持数据的原貌,不做任何修改,隔离源头业务系统,不影响原系统的运行。 DWD(明细层) 当原始业务数据进入ODS层时,会对数据进行标准、治理的检查,将问题数据进行清洗、转换、去重、标准化等动作,实现数据的自优化。 DWS(服务层) DWS服务层,更多地贴近业务场景,在DWD明细层的基础上进行汇总加工和聚合计算,例如将事实表中的聚合度量值和维度表中的数据进行汇总聚合,借助DIM公共维度层的不同维度,计算分析出多维度的业务信息。 ADS(应用层) ADS层为数据产品、报表和分析服务提供可直接使用的数据,支撑业务决策的数据应用和报表分析。 DIM(维度层) DIM贯穿于ODS、DWD、DWS、ADS,确保各层数据计算中维度的一致性和准确性。提供通用的维度属性,常见的维度包括,时间维度:年、季度、月、日、时等;空间维度:物理位置、网络地址等。 五层结构相互独立又协同工作,形成高效的数据处理与分析体系,支持智能化的业务应用。 数据流向:ODS → DWD → DWS → ADS DIM 贯穿所有层次,确保维度一致性 这种架构兼顾高内聚、低耦合的数据仓库建设思路,但对团队建模能力要求较高,不少中小企业在落地时感到吃力。 四、龙石数据的实战分层模型 如果说 3.2 的五层模型是学院派,龙石数据的数仓分层就是实战派。龙石数据中台目前支持多种常见数仓,也对信创数据库(如达梦、人大金仓)做了良好适配。无论底层选Doris、StarRocks还是PostgreSQL,都将分层思想内嵌到平台中,提出一套更实战、易用、低门槛的分层模型: SRC(来源层) → ODS(贴源层) → DW(治理层) → ADS(应用层) → DS(共享层) 4.1 设计思路:让数据好管好用 1. 可行性与易用性 架构不是为了“炫技”,而是为了更快更好地实施和使用。考虑到数据工作未来会引入更多业务人员,以及“中国式速度”的要求,我们的模型必须“开箱即懂”。 2. 强化“理采”与“用”的映射: 将「SRC-来源层」纳入: 明确映射“理采存管用”中的“理”和“采”的起点,方便从源头理解数据。 将「DS-共享层」纳入: 明确映射“用”的出口,让数据提供者和消费者清晰知道“数据成品”在哪。 3. 降低“存”与“管”的门槛: 弱化DW细化分层: 将业界DWD(明细)和DWS(汇总)合并简化为「DW-治理层」。 解耦DIM维度层: 将「DIM-维度」的管理从数仓ETL中剥离,交由龙石中台的“数据标准、数据清洗”模块进行维护。 让实施人员无需精通复杂的Kimball建模,大幅降低数据工作的门槛。 4. 确保规范(前提): 简化不等于随意。没有规范的敏捷是“灾难”。龙石模型通过中台工具将规范(如标准、质量等)“嵌入”到数据的归集、清洗、共享流程中,确保“简化”后的数据质量。 4.2 龙石五层模型详解 第 0 层:SRC(来源层) 逻辑层,不存实际数据。作用是梳理数据资产,比如“CRM系统-客户表”,这是数据治理的起点。 第 1 层:ODS(贴源层) 物理层,把源系统数据原样同步过来,只做轻微格式处理,不做业务加工。作用是可回溯、解耦业务库压力。 第 2 层:DW(治理层) 核心层,融合了明细和汇总功能。在这里执行数据清洗、标准化、关联和轻度汇总,产出可信、可复用的数据。 第 3 层:ADS(应用层) 面向具体业务场景做深度加工,比如大屏数据、报表数据、算法样本等。DW 层保持稳定,ADS 层灵活响应需求。 第 4 层:DS(共享层) 逻辑层,将 ADS 的数据包装成 API 或数据目录,供业务系统或人员直接调用。使用者无需关心数据存在哪里。 五、龙石数据的实战分层模型 数据中台是平台,数据仓库是地基。分层是为了让数据更清晰、可复用、易治理。 业界有 Inmon、Kimball 等经典思路,也有通用的五层模型,但对实施能力要求高。龙石数据在此基础上,提出更注重实战的五层模型(SRC/ODS/DW/ADS/DS),通过中台工具降低建模门槛,能更快落地“存好、管好、用好”数据的目标。 本文基于小编当前实践经验整理,数据仓库领域发展迅速,数据湖等新概念也不断涌现,但分层管理的核心思路始终未变。龙石数据长期专注于数据管理能力的输出,目前我们正在将多年实战经验整理成书,未来也会在书中更系统地介绍数据仓库相关内容,希望能更好地助力大家的数据治理工作。
在之前的文章中,我们探讨了什么是数据中台。数据中台本质上是实现数据“汇聚整合”与“服务化输出”的核心载体。
数据标准的宗旨在于为业务、技术及管理提供全方位的服务与支持。数据标准构成了实现数据驱动管理和数据驱动创新的坚实基础,数据治理必须要过数据标准管理这一关! 一、三个方面认识数据标准 1.业务方面 数据标准是解决数据不一致、不完整、不准确等问题的关键基础。各业务部门对数据形成统一的认知和理解,消除数据的“二义性”,从而提升业务的规范性,降低因数据不一致而产生的沟通成本,进而提高业务处理效率。 2.技术方面 统一标准化的数据及其结构是信息共享的基石。标准的数据模型和标准数据元为新建系统提供有力支撑,显著提升应用系统开发及信息系统集成的实施效率。此外,数据标准为数据质量规则的建立和稽核提供了重要依据,是数据质量管理不可或缺的输入。 3.管理方面 通过对业务术语、主数据、参考数据及指标数据等定义统一的标准,为精准数据分析奠定坚实基础。统一的数据标准使业务人员能够轻松获取数据,从而为数据分析和数据挖掘创造可能。 二、数据标准的四项内容 一套完善的数据标准体系是数据管理和应用的基础,有助于实现数据底层的互联互通,提升数据的可用性,消除数据业务中的歧义。数据标准通常涵盖四个方面的内容: 1.数据模型标准 数据模型标准对每个数据元素的业务描述、数据结构、业务规则、质量规则、管理规则及采集规则进行详尽的定义,以确保数据具备可理解性、可访问性、可获取性和可用性。数据模型不仅体现了对业务的理解和定义,还能有效构建组织内部及组织间的沟通桥梁。此外,数据模型有助于识别缺失和冗余数据,并在ETL过程中精准记录数据映射。 在设计数据模型标准时,需重点考虑以下方面: 首先,是否符合设计规范,如遵循统一命名规则、确保元数据与数据的一致性; 其次,实体和属性的含义是否定义清晰且准确; 第三,术语和标准是否与实际情况相符,包括数据名称、属性和规则等; 最后,是否便于查阅,布局是否合理。 2.基础数据标准 基础数据构成系统的数据字典。在系统初始化阶段即已嵌入系统数据库,扮演着结构性和功能性支撑的角色。基础数据标准通常涉及国际标准、国家标准及行业标准。在定义数据实体或元素时,可引用相关标准,并依据组织部门实际需求持续补充完善、更新优化和积累,从而更有效地支撑业务应用开发、信息系统集成及企业数据管理。 基础数据标准包含业务、技术和管理三大属性: 业务属性:描述基础数据业务信息,供业务人员理解,包括标准主题、分类、编码、中英文名称、业务定义、规则、引用标准、来源及依据等; 技术属性:描述技术信息,支持系统实现,涉及数据类型、格式、长度、编码规则、取值范围等; 管理属性:描述管理信息,便于数据管理操作,涵盖定义者、管理者、使用者,以及版本、应用领域、使用系统等。 3.主数据与参考数据标准 主数据是用于描述核心业务实体的数据,如教师、学生、财务、教学、资产等。它具有高业务价值,能在学校内跨业务部门重复使用的“核心数据”。 参考数据则是用于将其他数据进行分类或目录整编的数据,规定了数据属性的域值范围。主数据标准包括主数据分类、主数据编码和主数据模型。主数据分类依据主数据的属性或特征,按照一定原则和方法进行区分和归类,建立相应的分类体系和排列顺序。主数据编码是为事物或概念(编码对象)赋予具有规律性、易于计算机和人识别处理的符号,形成代码元素集合。 4.指标数据标准 学校各业务域和部门设有业务指标,部分指标名称相同但业务含义不同,部分指标名称差异大却指向同一内容。若不进行指标数据标准化处理,同一指标在不同系统统计结果可能不同且难辨准确结果,构建或变更分析主题时需重新定义指标,耗费大。此外,当前大数据分析倡导业务人员自助分析,若无指标数据标准,业务人员难从不同系统获取所需数据,自助式分析难以实现,数据分析报告沦为空谈! 指标数据标准是基于实体数据,通过增加统计维度、计算方式、分析规则等信息加工而成的数据。它对业务指标所涉及的指标项进行统一定义和管理。指标数据标准与基础数据标准相似,同样涵盖业务属性、技术属性和管理属性三部分: 业务属性:包括编码、中英文名称、主题、分类、类型、业务定义、业务规则、数据来源、取数规则、统计维度、计算公式、显示精度及相关基础数据标准等。 技术属性:涵盖来源系统、使用系统、数据源表、数据类型、度量单位、取值范围、生成频度、计算周期、取数精度等。 管理属性:涉及归口管理部门、业务和技术负责人、权限范围等。指标数据标准化适用于业务数据描述、管理、分析和可视化,促进业务部门间、业务与技术间形成共识。 三、推进数据标准的六个阶段 数据标准管理从需求发起到落地执行,通常需经过标准梳理、标准编制、标准审查、标准发布和标准贯彻及管理办法的发布六个阶段。 1.数据标准梳理 根据行业标杆经验和本校实际确定实施范围,制定数据标准优先级和难易度。梳理和定义数据标准步骤如下: 首先,依业务划分业务域,识别关键业务活动并梳理定义,处理活动输入输出的业务单据和用户视图,梳理其数据对象; 其次,分析数据对象,明确所含数据项,提炼业务域的数据指标和数据项,定义数据元标准,详尽描述业务逻辑; 第三,梳理抽象数据实体和指标的关联关系,定义数据间关系,明确数据对象的数据关系; 第四,经上述梳理分析定义,确定企业数据标准管理主体范围,基于系统逻辑归纳抽象,形成数据标准模型,此过程可能涉及数据对象的合并或拆分。 2.数据标准编制 数据标准编制是依业务需求和数据管控要求,对数据对象及其数据项明确定义的过程,涵盖数据项名称、编码、类型、长度等方面。编制可参考国际、国家或行业标准,也可依本校业务需求制定校级标准。数据标准制定分三步实施: 标准制定推进会:召集相关干系人开会推进数据标准制定,讨论标准定义,标识记录数据对象、业务术语和关键指标,得出精确定义以达成共识。该方法有助于识别对象、定义标准、提升效率,解决含义不清和歧义问题。 标准差异专项分析:先查询数据标准是否已有定义,若有则结合需求确定附加信息或修改定义,形成完整可接受的元数据定义和规范。若存在多对象标准,分析是否一致,接受、修改或创建定义以达成共识,删除多余定义。 标准影响风险评估:数据标准管理易出现新旧系统、部门和业务冲突,处理不当会致标准化失败。落地时要做好影响评估和干系人沟通,通过业务影响分析识别对业务的影响范围、程度、价值及风险,确定业务人员可接受范围和程度,为后续沟通做准备。 3.数据标准审查 审查数据标准初稿,评估其是否符合应用、管理需求及数据战略要求,直至满足发布条件。数据标准审查从需求符合性、实用性等方面综合判断是否契合需求与管理现状。 数据标准征集意见:拟定初稿广泛征集意见,降低不可用或难落地风险,包括初步培训和宣贯。征求意见设期限(依业务范围定),规定时间无意见则默认接受。 数据标准专家评审:标准制定和执行依赖专家团队,成员需深入了解业务领域,提供权威定义建议、解决歧义。执行中协调解决部门争议,完善标准体系。 4.数据标准发布 数据标准意见征集工作完成后,经过严格审查,正式发布数据标准。数据标准一旦发布,各部门及各业务系统必须严格遵循执行。对于遗留系统的存量数据,存在一定风险,应进行全面的影响评估,以妥善应对潜在问题。 5.数据标准贯彻 数据标准的贯彻是将已发布的数据标准应用于信息系统建设和改造,消除数据不一致性。将数据标准与业务系统映射,明确标准与现状关联,识别受影响应用。对于新建系统,直接采用已定义的数据标准;旧系统则建立数据映射关系、进行转换,逐步落地标准。同时,要加强对业务人员的数据标准培训和宣贯。宣贯方法有: - 文件传阅:以正式文件发布数据标准供各部门传阅,作为数据维护参考。 - 集中培训:制定培训计划,落实场地等开展宣贯培训,学员反馈心得,老师总结经验。 - 专题培训:针对不同业务领域开展专题培训,通过上机实操强化效果,推动标准落地。 6.数据标准管理办法 数据治理应结合实际情况,制定科学的数据标准管理办法。该办法旨在提供规范性的指导和约束,保障前期数据标准的顺利落地与有效执行。 一份完整的数据标准管理办法通常涵盖但不限于以下内容:数据标准的目的、适用范围及具体细则,数据标准的管理组织架构、管理流程、执行要求、考核机制以及附则等。 四、数据标准的四个常见误区 数据标准管理核心目标是确保信息系统建设和集成遵循标准,保障数据标准完整适用并有效执行。贯彻数据标准要在业务部门和信息系统逐步推行,争取管理层与系统开发部门支持配合。 1.业务驱动,不可一意孤行:数据标准源于业务、归于业务,本质是管理问题,应从业务层面解决。建立数据标准是为促进系统数据互通和业务部门共识,制定时要逐个业务域梳理,靠业务人员努力,技术工具用于固化执行。 2.循序渐进,不可急于求成:从价值链和业务流程角度分段实施数据管理标准,结合业务需求、系统改造和新系统建设契机,选合适落地范围和层次,优先解决紧迫问题,明确业务部门数据职责,确保数据与业务流程匹配。 3.动态管理,不可一劳永逸:数据标准管理要保持定义、设计和使用一致,但标准并非固定不变。新业务需增标准,无价值标准要废弃,数据变化时标准要与时俱进、有前瞻性,建立更新体系和治理平台,有序管理版本。 4.应用为王,不可断章取义:数据标准化是信息化建设基石,工作要着眼信息系统规划、应用方向和需求,做到标准统一。高质量标准化为后续分析建模奠基。建设标准要服务业务、提升效率,结合IT 系统现状,以应用为目标,以国标、行标为基础,减少对现有系统影响,确保标准实用有效,回归业务应用。 五、小结 数据治理的成功很大程度上取决于数据标准的合理性和统一实施程度。数据标准体系构建的过程是信息化部门推进技术与管理深度融合的过程,不仅考验信息化部门的专业化水平,更考验工作人员沟通协调能力。 来源(公众号):数智转型洞察
结论很简单:场景驱动、路径正确,中台就有价值;否则,就是负担。
数据中台的“冰与火之歌” 2024年,Gartner一纸报告将数据中台推上风口浪尖:“数据中台即将消亡”的论断引发行业震荡。但另一边,大模型浪潮席卷全球,企业对数据的需求从未如此迫切。矛盾背后,是无数企业投入千万却陷入“建而不用”的困境——数据中台成了昂贵的“数据仓库”,而非业务增长的“智能引擎”。 “建数据中台易,用数据中台难。技术堆砌的‘台’若无法与业务共舞,终将沦为数字化时代的‘烂尾楼’。” 一、数据中台的困境:为何“建而不用”? 数据中台的“建而不用”问题,本质上是技术与业务、投入与回报、组织与文化之间矛盾的集中爆发。以下是三大核心症结的深度剖析: 1. 技术至上,忽视业务场景:从“工具崇拜”到“场景荒芜” 问题本质:许多企业将数据中台视为技术能力的“军备竞赛”,盲目堆砌Hadoop、Spark、实时计算引擎等技术组件,却未回答一个根本问题:数据中台要为哪些业务场景服务? 典型案例: 某零售集团投入800万元建设数据中台,集成了ERP、CRM、POS系统数据,但未与业务部门协同设计核心场景。结果,市场部需要实时竞品价格监控,而中台仅能提供T+1的销售报表;财务部需要动态现金流预测,中台却只输出静态财务报表。最终,业务部门仍依赖手工处理数据,中台沦为“数据展示屏”。 深层原因: • 需求错位:技术团队主导建设,缺乏业务部门的深度参与,导致“技术功能”与“业务痛点”脱钩。 • 指标割裂:未统一关键业务指标(如市场部的“销售额”包含促销赠品,财务部则剔除赠品价值),数据可信度受质疑。 行业数据: Gartner调查显示,2023年全球数据中台项目中,仅35%的企业在建设前明确定义了3个以上核心业务场景,其余项目均存在“为建而建”现象。 2. 大而全的建设模式:成本与敏捷的致命矛盾 问题本质:企业试图一次性构建覆盖全业务链的“完美中台”,却忽略了业务环境的动态变化。这种“重装坦克”式建设模式,往往导致中台尚未完工,业务需求已迭代多次。 典型案例: 某汽车制造企业耗时2年、耗资2000万元打造数据中台,原计划支持供应链优化、质量追溯等六大场景。但在建设过程中,业务需求转向新能源汽车电池回收数据追踪,原有架构因缺乏电池寿命预测模型接口,被迫追加500万元改造费用,项目ROI(投资回报率)从预期1.8骤降至0.6。 技术对比: 传统数据中台 敏捷数据架构(如Data Fabric) 数据需物理集中至中央仓库 通过虚拟化技术实现逻辑层数据整合 改造周期3-6个月 新需求响应速度可达72小时 单次改造成本50万+ 边际成本趋近于零 行业趋势: 根据Forrester报告,2024年采用Data Fabric技术的企业,数据需求响应速度平均提升67%,中台建设总成本降低42%。 3. 组织与文化断层:数据治理的“无人区” 问题本质:数据中台不仅是技术系统,更是组织变革工程。若缺乏跨部门协同机制和数据文化,中台将陷入“有工具无人用”的窘境。 典型案例: 某保险公司部署了自动化数据治理平台,但因未设立专门的数据治理团队,业务部门仍沿用“Excel+邮件”的传统方式: • 销售部手动导出客户数据,导致隐私泄露风险; • 风控部因数据更新延迟,误批高风险保单; • 最终,数据中台因“数据质量差”被业务部门弃用。 组织短板: • 权责模糊:无明确的数据Owner制度,数据质量问题互相推诿; • 能力断层:业务人员缺乏数据素养,无法自主使用中台工具; • 激励缺失:KPI体系未纳入数据贡献度指标,业务部门缺乏参与动力。 调研数据: IDC研究指出,在数据中台失败案例中,68%的企业未建立跨部门数据治理委员会,82%的企业未对业务人员进行系统化数据培训。 二、破局之道:从“建好”到“用好”的三大策略 要让数据中台真正成为业务增长的引擎,需从“场景驱动、技术重构、组织再造”三方面突破: 1. 以业务场景为锚点:从“大而全”到“小而美” 核心逻辑:数据中台的价值必须通过具体业务场景兑现。企业应选择“高价值、易落地”的场景切入,通过快速迭代验证中台价值。 方法论实践: 以下是基于“以业务场景为锚点”方法论实践的 设计,分为 场景筛选矩阵 和 敏捷实施流程 两部分: 1. 场景筛选矩阵(四象限分析法) 2. 敏捷实施流程 • 核心步骤: 1. 需求众包:由业务部门投票决定优先级,确保“为业务而建”; 2. MVP开发:快速交付最小可用功能(如库存预警看板); 3. 快速验证:小范围试点验证效果,避免大规模失败风险; 4. 规模化扩展:验证成功后复制推广,形成滚雪球效应。 • 成功标志:最终需达成可量化的业务指标(如缺货率下降20%)。 成功案例: 某连锁餐饮企业以“菜品销量预测”为突破口,通过数据中台整合天气、节假日、门店位置数据,结合机器学习算法,将食材损耗率从12%降至6%,单店月均节省成本3万元。项目仅用6周上线,ROI达3.5倍。 2. 技术融合:构建“AI+数据中台”的智能生态 技术升级路径: • 阶段1:数据虚拟化 采用Data Fabric技术,在不迁移数据的前提下实现跨系统联合分析。例如,某跨国物流企业通过Denodo平台,将分布在20个国家/地区的订单数据虚拟集成,跨境合规查询效率提升90%。 • 阶段2:AI原生设计 将大模型嵌入数据加工全流程: • 数据准备:用LLM(如GPT-4)自动解析非结构化数据(如客服录音转文本并打标签); • 数据分析:通过AutoML工具(如H2O.ai)让业务人员自助建模; • 数据服务:用AI生成动态数据API(如根据用户画像实时推荐商品)。 典型案例: 某银行在数据中台中部署AI助手: • 客户经理输入“某企业近三年营收趋势”,系统自动生成SQL查询并可视化; • 风控模型迭代周期从2周缩短至2天; • 数据服务调用量提升300%,人力成本降低40%。 3. 组织变革:打造“三位一体”的数据运营体系 组织设计框架: • 顶层设计:由CEO挂帅的“数据管理委员会”,制定中台战略并协调资源; • 中层执行:设立“数据产品经理+数据工程师+数据治理专家”铁三角; • 基层赋能:通过低代码平台(如Power BI、QuickSight)让业务人员自助分析。 文化塑造关键动作: • 数据民主化:建立企业级数据目录,业务部门可按权限自助查询; • 激励制度化:将数据质量贡献度纳入部门KPI(如市场部需维护客户画像完整度); • 培训体系化:开设“数据工作坊”,教业务人员用自然语言生成SQL查询。 成功案例: 某快消企业推行“数据全民化”运动: • 所有员工需通过“数据素养认证考试”; • 每月评选“数据之星”,获奖者可获额外奖金; • 一年内,业务部门自助分析比例从15%提升至70%,IT部门得以聚焦高价值开发任务。 三、未来展望:数据中台的“第二曲线” 随着数据编织、AI代理等技术的成熟,数据中台正从“集中式架构”转向“分布式智能网络”。企业需拥抱两大趋势: 1. 逻辑化与虚拟化:通过数据编织实现“按需集成”,避免物理搬运的合规与成本风险。 2. AI原生中台:将大模型作为数据加工的“协作者”,从ETL到分析全程智能化,例如自动生成SQL代码、动态优化数据管道。 “数据中台的终点不是技术,而是‘人机协同’的智慧涌现。” 让数据中台“活”起来的终极答案 数据中台的命运,不取决于技术是否先进,而在于能否成为业务的“共生体”。正如用友网络岳昆所言:“数据中台是‘幕后英雄’,它的价值在于支撑业务创新,而非独立存在。” 行动倡议: • 如果你是决策者,请反问:“我的业务需要数据中台解决什么具体问题?” • 如果你是执行者,请牢记:“从一个小场景开始,让数据说话,而非让PPT画饼。” “建中台易,用中台难;唯有以终为始,方能让数据从‘泥沼’变‘金矿’。” 来源(公众号):AI数据推进器
数据中台、数据仓库、数据治理和主数据这些概念对于很多人来说仍显得抽象。用一些通俗的语言和生活中的比喻,深入解析这些关键概念。 一、数据中台:数据的“中央厨房” 想象一下,你是一家大型餐厅的厨师长,每天需要处理从不同供应商那里采购的多种食材。为了确保食材的新鲜、卫生与高效利用,建立一个中央厨房就显得尤为重要。这个中央厨房的角色就是数据中台在企业中扮演的角色。 数据中台整合来自不同业务部门、系统和渠道的数据,对其进行清洗、加工和标准化处理,然后再将处理后的数据提供给业务部门使用。就像中央厨房确保食材的质量和一致性,数据中台则确保数据的质量、一致性和可用性,从而更好地支持企业的决策和运营。 数据中台不等于大数据平台,数据中台的核心工作也并不是将企业的数据全部收集起来做汇总就够了。 数据中台的使命是利用大数据技术、通过全局规划来治理好企业的数据资产,让数据使用者能随时随地获取到可靠的数据。因此,数据中台一旦建成并得以持续运营,其价值将随着时间的推移将呈指数级增长。 数据中台建设是一个宏大的工程,涉及整体规划、组织搭建、中台落地与运营等方方面面的工作,本节重点从物理形态上讲述企业的数据中台应该如何搭建。一般来讲,企业的数据中台在物理形态上分为三个大层:工具平台层、数据资产层和数据应用层。 1.1 工具平台层 工具平台层是数据中台的载体,包含大数据处理的基础能力技术,如集数据采集、数据存储、数据计算、数据安全等于一体的大数据平台;还包含建设数据中台的一系列工具,如离线或实时数据研发 工具、数据联通工具、标签计算工具、算法平台工具、数据服务工具及自助分析工具。 以上工具集基本覆盖了数据中台的数据加工过程。 1.2 数据资产层 数据资产层是数据中台的核心层,总体来讲,可以划分为主题域模型区、标签模型区和算法模型区。 ①主题域模型 主题域模型是指面向业务分析,将业务过程或维度进行抽象的集合。业务过程可以概括为一个个不可拆分的行为事件,如订单、合同、营销等。 为了保障整个体系的生命力,主题域即数据域需要抽象提炼,并且长期维护和更新,但是不轻易变动。在划分数据域时,既要涵盖当前所有业务的需求,又要保证新业务能够无影响地被包含进已有的数据域中或者很容易扩展新的数据域. ②标签模型 标签模型的设计与主题域模型方法大同小异,同样需要结合业务过程进行设计,需要充分理解业务过程。 标签一般会涉及企业经营过程中的实体对象,如会员、商品、门店、经销商等。这些主体一般来说都穿插在各个业务流程中,比如会员一般都穿插在关注、注册、浏览、下单、评价、服务等环节。那么在设计标签的时候就需要充分理解这些业务流程,在流程中发现标签的应用点,结合这些应用点来搭建企业的标签体系。标签模型按计算模式一般分为客观标签和主观标签。 设计标签模型时非常关键的要素是标签模型一定要具有可扩展性。毕竟标签这种数据资产是需要持续运营的,也是有生命周期的,在运营的过程中随时可能增加新的标签。 ③算法模型 算法模型更加贴近业务场景。在设计算法模型的时候要反复推演算法模型使用的场景,包括模型的冷启动等问题。整个模型搭建过程包含定场景、数据源准备、特征工程、模型设计、模型训练、正式上线、参数调整7个环节。 以新零售企业为例,常用的机器学习算法有决策树、神经网络、关联规则、聚类、贝叶斯、支持向量机等。这些算法已经非常成熟,可以用来实现商品个性化推荐、销量预测、流失预测、商品组货优化等新零售场景的算法模型。 1.3 数据应用层 数据应用层严格来说不属于数据中台的范畴,但数据中台的使命就是为业务赋能,几乎所有企业在建设数据中台的同时都已规划好数据应用。数据应用可按数据使用场景来划分为以下多个使用领域:分析与决策应用、标签应用、智能应用。 二、数据仓库:数据的“图书馆” 假设你是一位图书馆管理员,每天的职责是管理和维护图书馆中的成千上万本书。你必须确保每本书按照类别、作者、出版日期整齐有序地摆放,以方便读者查找和借阅。数据仓库在企业中的作用就像这个图书馆。它存储了大量历史数据和结构化数据,并按照一定的规则和格式进行组织。与数据中台不同,数据仓库更注重数据的长期保存和查询分析,提供强大的数据查询和分析能力,帮助企业深入了解市场、客户和业务流程,从而发现潜在的机会和风险。 一般来说,数据仓库是一个面向主题的、集成的、相对稳定的,并反映历史变化的数据集合,它主要用于支撑管理人员的决策过程。 “面向主题”:意味着数据仓库是围绕企业的具体业务需求进行构建的,旨在提升管理效率; “集成”:则是指它能够将来自不同平台的数据进行汇总,打破数据孤岛,同时在整合过程中实现数据治理和编码的标准化; “相对稳定”:强调的是数据仓库不会直接连接到业务系统,而是通过从业务系统中提取数据来工作,以避免对业务系统性能造成影响; “反映历史变化”:则指的是数据仓库能够存储并反映业务系统的历史数据,为未来的大数据挖掘与分析提供重要依据。 接下来,我们明确“数仓”的概念: 数仓,即数据仓库,是企业决策支持体系中的核心组成部分。它从管理需求出发,整合各业务系统的数据资源,通过数据处理工具生成数据仓库,并应用于企业的各个业务领域。数据仓库的运用主要聚焦于优化企业的业务流程、监控时间、成本、质量等关键指标,从而助力企业实现更高效、更精准的管理决策。 三、数据治理:数据的“交警” 城市交通中,交警的职责是维护交通秩序,确保车辆和行人遵循交通规则,防止交通拥堵和事故发生。在数据世界中,数据治理就好比这样的交警。数据治理是对数据进行全面管理和规范的过程,确保数据的准确性、一致性、安全性和可用性,同时防止数据滥用和泄露。数据治理还负责制定数据管理的规章制度,监督数据的采集、存储、处理和使用过程,确保数据在整个生命周期中都得到妥善管理。 数据治理体系内容从两个维度来看: 1)数据治理难点痛点:数据脉络不清晰、数据汇聚能力不足、数据管控能力薄弱、数据治理体系不完善、开放形式不完善。 2)数据治理5个核心:理、聚、管、治、用。 数据治理是企业对数据资产管理行使权力和控制的活动集合(包括计划、监督和执行),它是管理企业数据资源的一种方式、方法,旨在确保数据的质量、安全、合规和有效性。数据治理是企业实现数据战略的基础,是一个管理体系,包括组织、制度、流程和工具。 数据治理是一套复杂的管理体系,它无法通过单一的工具或产品来实现。数据的生命周期包含了源头、处理和消费这三个阶段,数据的问题也可能会出现在这三个环节中。 例如在数据源头环节,用户录入数据的规范性存在问题,导致了最终数据消费环节的数据质量低。这些表象问题的根源,可能来自于业务系统用户交互设计,乃至是底层数据库表结构设计上的缺陷。想要解决这些表象的问题,就需要解决深层次的信息化业务系统开发以及数据库表约束设计等问题。 例如为了保证用户录入数据的准确性,有三种方式去设计业务系统:其一是设计前端的检验验证,避免用户做出相同的选择;其二是通过程序编写过滤判断的逻辑,筛除掉前端误入的数据,作为第二层验证;其三是通过建立约束条件,例如唯一性约束、检测约束等等来控制数据录入准确性。 因此,企业的数据治理远非使用一款单一的工具或产品就可以实现的,它是需要回到源头,对企业的组织、流程制度、业务系统、底层架构等多个方面进行排查和重构的,它是一套复杂的管理体系。 四、主数据:数据的“身份证” 最后,我们来谈谈主数据。每个人都有自己的身份证,它是个人身份的证明。在数据世界中,主数据就像是数据的“身份证”。主数据是企业内部最关键、最核心的数据,描述了企业的核心业务实体,如客户、产品、供应商等。主数据具有唯一性和权威性,是企业内部各部门和系统之间共享和交换数据的基础。通过管理和维护好主数据,企业可以确保数据的一致性和准确性,从而提高业务处理效率和决策质量。 主数据是指满足跨部门业务协同需要的,反映核心业务实体状态属性的基础信息。举个例子,公司的员工信息,存在于很多业务系统里,比如人力系统、财务系统、OA系统,以及考勤系统等,但每个系统所需要的信息可能不一样,财务系统需要员工开放信息,比如从哪个银行开户,账号是什么,这样方便打款;人力系统可能只是需要员工的一些入职信息。这样的员工信息就属于主数据,它在很多企业业务系统被使用,同时还能反映这个员工本身的一些属性。类比下,还有产品、物料、客商、客户、供应商等主数据。 哪些数据是主数据? 一家企业不只有主数据,还有一些其他数据,这里有一个金字塔结构的企业数据模型,包括关键的基础数据、主数据、业务数据、报表数据。 基础数据可以理解为基本不会发生什么变化的,比如国家货币计量单位,其他维表数据等,其数据就是一些取值范围,也称其为参考数据;主数据就是长期稳定的,能被多个系统使用的,比如组织机构人员、客商等;业务数据是指一些业务交易系统所产生的数据,包括订单的记录、还有一些考勤记录等,与主数据捆绑的比较紧;报表数据是基于下面三类数据做的一些分析呈现,报表数据的主要作用是通过结果呈现来做预测工作。 主数据、业务数据与元数据的区别 如图所示,表头就是元数据,这些字段本身描述了字段的一些属性信息;而主数据其实就是这样的一条记录,这条记录可以划分为两部分,一部分是主数据,描述核心业务实体属性的数据,另外一部分就是主数据在业务交易过程中由系统产生的数据,比如这块的订单数据就是业务数据。总的来说,所有这些数据作为企业的一部分,只要能产生价值,它都可以称之为数据资产,能去支撑企业上层的生产、财务、项目管理等。 主数据的4个特性 (1)唯一性:在一个系统、一个平台甚至一个企业范围内同一主数据要求具有唯一的识别标志(代码、名称、特征描述等),用以明确区分业务对象、业务范围和业务的具体细节。 (2)共享性:主数据特征会被作为业务流程的判断条件和数据分析的具体维度层次,因此需保证主数据的关键特征在不同应用、不同系统中的高度一致共享,形成统一规范 。 (3)稳定性:主数据作为用来描述业务操作对象的关键信息,在业务过程中其识别信息和关键的特征会被交易过程中产生的数据继承、引用、复制,但主数据本身的属性通常不会随交易的过程所被修改。 (4)有效性:只要该主数据所代表的业务对象仍然在市场中继续存在或仍具有意义,则该主数据就需要在系统中继续保持其有效性,通常贯穿该业务对象在市场上的整个生命周期甚至更长。 因此: 对于大数据平台来说,主数据是非常重要的一类数据,几乎出现在所有的数据处理和分析中,具体到批处理和实时处理又有所不同。 对于批处理来说: 主数据可以同步自主数据管理系统的数据库,在数仓(数据仓库)体系下,几乎所有的主数据都是维度数据,需要建立相应的维度表以支撑业务查询和分析; 对于实时处理来说: 在各种流式计算的过程中也需要获取主数据进行关联处理,而实时处理要求主数据的获取也必须是实时的,这对系统的架构设计提出了挑战。如果原始的主数据管理系统对外提供了获取主数据的 API,对于普通的应用系统这是很有利的条件,它们可直接通过API 实时获得主数据。但是对于大数据系统来说,情况就不那么乐观了,因为大数据处理过程中的巨大吞吐量和流计算处理中对主数据的使用频率都远远超过一般的应用系统。如果大数据平台通过主数据管理系统的API 获取主数据,无论是从并发压力还是从响应的及时性上都可能无法满足要求,还有可能给主数据管理系统带来过大的负载,导致其响应缓慢甚至宥机。 为满足实时计算对主数据的需求,有两种可选的技术方案。 (1)方案一: 如果主数据体量不大,变更也不频繁,可以考虑将这些数据通过 API 读取到大数据工作节点的内存中,在数据处理过程中直接使用,然后周期性地从主数据管理系统同步最新状态的主数据。 (2)方案二: 改造主数据管理系统,引入内存数据库,如Redis, 针对所有主数据,除常规 持久化的业务数据库外,再配备一个内存数据库的副本,将这个内存数据库开放给大数据平台使用。 方案一的优点是架构简单,易于实现,但是对主数据有预设条件,不能成为一种广泛使用的方案。方案二是一套很完备的技术方案,可以满足各种主数据获取需求,代价是架构比较复杂,如果企业正在构建的是一整套大数据平台,方案二是值得一试的, 从技术上讲,主数据管理系统是一个相对传统的Web 应用,负责维护主数据的增删查改,同时对外提供获取主数据的 API, 对于大数据平台,最好提供以内存数据库为依托的数据读取服务。综合这些因素,企业在建设大数据平台时应该结合现状灵活地选择方案。 五、定位与差异:协同作战的团队成员 通过以上的比喻,我们可以更好地理解这些概念的定位和差异。数据中台作为数据的“中央厨房”,负责数据的整合和加工;数据仓库作为数据的“图书馆”,负责数据的存储和查询分析;数据治理作为数据的“交警”,确保数据的规范和安全;而主数据作为数据的“身份证”,确保数据的权威性和一致性。这些概念在企业中相互协作,共同构成完整的数据管理体系。就像一支协同作战的团队,数据中台负责调度和整合数据资源,数据仓库提供数据存储和查询支持,数据治理确保数据的安全和规范,而主数据确保数据的准确性和一致性。这个团队共同为企业提供了强大的数据支持,帮助企业更好地应对市场挑战和抓住机遇。 来源(公众号):数据学堂